OpenAI se ponovo našao na udaru javnosti i pravosuđa. Roditelji žene koja je preminula nakon što je, kako tvrde, sledila pogrešne savete dobijene od ChatGPT-a, podneli su tužbu protiv kompanije. Slučaj je pokrenuo ozbiljnu raspravu o granicama odgovornosti AI sistema i načinu na koji kompanije poput OpenAI upravljaju rizicima u vezi sa generisanjem sadržaja.

Prema dostupnim informacijama, tužioci navode da je njihova ćerka koristila ChatGPT kao izvor informacija i da su je odgovori koje je dobila odveli u pogrešnom smeru, sa tragičnim ishodom. Ovaj slučaj nije prvi put da se postavlja pitanje koliko daleko seže odgovornost kompanija koje razvijaju velike jezičke modele, ali jeste jedan od najozbiljnijih do sada.
Kako AI modeli dolaze do pogrešnih odgovora
Veliki jezički modeli, poput onih koji stoje iza ChatGPT-a, generišu odgovore na osnovu obrazaca naučenih iz ogromnih količina podataka. Iako su u stanju da pruže korisne i tačne informacije u mnogim oblastima, poznato je da mogu da „haluciniraju“ — odnosno da samouvereno iznesu netačne ili izmišljene tvrdnje. Upravo taj fenomen leži u srcu ovog spora.
OpenAI je više puta istakao da ChatGPT nije zamena za stručni savet, bilo da je reč o medicini, pravu ili finansijama, i da korisnici treba da budu svesni ograničenja sistema. Međutim, tužioci smatraju da upozorenja nisu dovoljna i da kompanija snosi deo odgovornosti za način na koji njen proizvod komunicira sa korisnicima.
Širi kontekst: pravni izazovi za AI kompanije
Ovo nije izolovan slučaj. Širom sveta raste broj tužbi protiv kompanija koje razvijaju AI alate, a pravni okviri se tek oblikuju. Pitanje odgovornosti za sadržaj koji generiše veštačka inteligencija postaje jedno od centralnih pitanja digitalnog prava. U Srbiji i regionu, rasprave o regulaciji AI sistema takođe dobijaju na zamahu, dok se zakonodavstvo trudi da isprati brzi razvoj tehnologije.
Stručnjaci za bezbednost AI sistema upozoravaju da je ključno uspostaviti jasne mehanizme zaštite, transparentnost u pogledu ograničenja modela i edukaciju korisnika. Istovremeno, kompanije poput OpenAI morale bi da ulože dodatne napore u filtriranje rizičnih odgovora i u jasnije označavanje kada sistem nije siguran u svoju tačnost.
Šta ovo znači za budućnost AI alata
Bez obzira na ishod ovog konkretnog slučaja, jasno je da će pritisak na AI kompanije nastaviti da raste. Korisnici sve više veruju ovim alatima, a sa poverenjem dolazi i odgovornost. Kako će se pravosuđe postaviti prema ovakvim slučajevima, moglo bi da definiše pravila igre za celu industriju u godinama koje dolaze.
Za sada, OpenAI se nije detaljno oglašavao o konkretnoj tužbi, ali je kompanija ranije navodila da kontinuirano radi na poboljšanju bezbednosti svojih modela. Ostaje da se vidi kako će se ovaj slučaj razvijati i da li će postati presedan koji će promeniti način na koji razmišljamo o odgovornosti veštačke inteligencije.
Izvor: 021.rs