OpenAI se ponovo našao na udaru regulatora. Ovoga puta meta je namenjena najmlađima — verzija ChatGPT-a za tinejdžere, koju jedno nadzorno telo ocenjuje kao “neprihvatljiv rizik” po bezbednost mladih korisnika.
Vest dolazi u trenutku kada se cela industrija veštačke inteligencije bori sa pitanjem kako uskladiti brz razvoj proizvoda sa zaštitom dece i maloletnika. Prema navodima nadzornog tela, sam koncept chatbota namenjenog tinejdžerima otvara niz problema — od izloženosti neprikladnom sadržaju, preko zavisnosti od ekrana, pa do pitanja kako algoritam gradi odnos poverenja sa osobom koja još nije punoletna.
Zašto je “neprihvatljiv rizik” ozbiljna oznaka
Kada regulator neki proizvod označi kao “neprihvatljiv rizik”, to nije samo marketinška kritika. U evropskom regulatornom okviru takva formulacija obično znači da proizvod ili usluga ne bi smeli da se nađu na tržištu bez korenitih izmena. Drugim rečima, poruka je jasna: ovako kako je zamišljeno, rešenje ne prolazi.
Ovo nije prvi put da se AI alati nađu pod lupom zbog uticaja na mlade. Ranije su slične rasprave vođene oko društvenih mreža i algoritamskih preporuka, a sada se isti argumenti prenose na generativnu inteligenciju, koja je interaktivnija i time potencijalno uverljivija za tinejdžere.
Šta to znači za OpenAI i konkurenciju
OpenAI se već duže vreme trudi da pozicionira ChatGPT kao alat koji može da pomogne u učenju, pisanju domaćih zadataka i razvoju kreativnosti. Ali što je proizvod bliži deci, to su zahtevi regulatora stroži. Očekuje se da će kompanija morati da uvede dodatne roditeljske kontrole, ograničenja tema i jasnije označavanje da korisnik razgovara sa mašinom, a ne sa osobom.
Isti pritisak osećaju i konkurenti — od Google-a sa svojim Gemini modelom do manjih startapa koji razvijaju AI tutore i asistentе za škole. Pitanje bezbednosti dece na internetu polako postaje jedno od centralnih pitanja cele AI industrije, a ne samo etička fusnota.
Šire slike: deca, AI i nova pravila igre
Regulatori širom sveta, uključujući i Evropu kroz AI Act, sve glasnije traže da proizvodi koji ciljaju ranjive grupe — a deca to svakako jesu — prolaze kroz posebne procene rizika. To znači više dokumentacije, više testiranja i sporije lansiranje proizvoda. Za kompanije koje žive od brzine, to je neugodna promena tempa.
Sa druge strane, roditelji i škole ostaju u nezavidnoj poziciji: tehnologija je već tu, deca je koriste, a pravila se tek pišu. Verzija ChatGPT-a “za tinejdžere” trebalo je da bude odgovor na taj problem — sigurniji prostor u kojem mladi mogu da uče uz pomoć AI-ja. Umesto toga, dobili smo još jedan primer koliko je teško napraviti AI proizvod koji je istovremeno koristan i bezbedan.
Ostaje da se vidi da li će OpenAI uvažiti primedbe i prilagoditi proizvod, ili će regulatorni pritisak naterati kompaniju da odustane od ideje posebne verzije za tinejdžere. U svakom slučaju, rasprava o deci i veštačkoj inteligenciji tek počinje — i biće jedna od najvažnijih tech tema narednih godina.
Izvor: TRT Balkan BHSC