Federalna trgovinska komisija SAD (FTC) pokrenula je zvaničnu istragu protiv dve najveće kompanije u svetu veštačke inteligencije — OpenAI i Anthropic. Kako prenosi Press.rs, sudski pozivi su izdati zbog sumnji na propuste u bezbednosti AI sistema.

Šta FTC zapravo traži?
Istraga se ne fokusira na to kako modeli rade u laboratorijskim uslovima, već na ono što se dešava u realnom svetu. Regulatora zanima kako kompanije upravljaju rizicima od halucinacija, pristrasnosti u odgovorima, kao i mogućnosti da modeli budu zloupotrebljeni za širenje dezinformacija ili generisanje štetnog sadržaja.
Posebno osetljivo pitanje je način na koji OpenAI i Anthropic dokumentuju bezbednosne procedure i da li korisnici i javnost imaju uvid u to kako se donose odluke o tome šta model sme, a šta ne sme da kaže.
Zašto je ovo važno za celu industriju?
FTC ovim potezom šalje jasan signal: generativna veštačka inteligencija više nije u fazi „divljeg zapada”. Iako su i OpenAI i Anthropic do sada javno govorili o bezbednosti kao prioritetu, regulator sada traži konkretne dokaze, a ne marketinške izjave. Ukoliko se pokaže da su bezbednosne procedure nedovoljne, posledice bi mogle da uključe nove obaveze, revizije modela ili čak kazne.
Ovo nije prvi put da se velike AI kompanije nađu pod lupom — ali jeste jedan od najozbiljnijih koraka ka formalnom regulisanju načina na koji se AI sistemi razvijaju i puštaju u upotrebu.
Šta to znači za korisnike?
Kratkoročno — verovatno ništa dramatično. Dugoročno, ishod ove istrage mogao bi da promeni pravila igre: od transparentnosti u vezi sa treniranjem modela, preko obaveznih bezbednosnih testova, do jasnijih uputstava šta korisnici mogu da očekuju kada razgovaraju sa AI asistentom.
Za sada ostaje da vidimo kako će OpenAI i Anthropic odgovoriti na zahteve FTC-a — i da li će ova istraga postati model za slične postupke u Evropskoj uniji i drugim delovima sveta.