U svetu veštačke inteligencije, granica između pomoći i zloupotrebe postaje sve tanja. Najnoviji slučaj dolazi iz Australije, gde je OpenAI, kompanija koja stoji iza ChatGPT-ja, otkrila da je njihov alat korišćen u kontekstu koji uključuje navodni hakerski napad na vladine sisteme.
Prema informacijama koje prenosi Zvornik Danas, radi se o slučaju koji je pokrenuo lavinu pitanja o odgovornosti AI kompanija. Naime, OpenAI je koristio svoje modele za generisanje sadržaja koji je navodno bio deo komunikacije povezane sa hakerskim incidentom usmerenim ka australijskoj vladi.
Šta se zapravo dogodilo?
Iako detalji još uvek nisu potpuno razjašnjeni, suština je sledeća: neko je iskoristio ChatGPT ili neki drugi OpenAI alat da sastavi mejl koji je kasnije upotrebljen u kontekstu sajber napada. Ovo nije prvi put da se AI tehnologija nađe u središtu ovakvog skandala, ali jeste jedan od retkih slučajeva gde je kompanija javno priznala da je njen proizvod bio uključen u lanac događaja.
Ono što dodatno zabrinjava jeste činjenica da su hakeri sve češće u mogućnosti da koriste AI za automatizaciju i personalizaciju napada. Umesto generičkih phishing poruka, danas je moguće generisati tekst koji zvuči kao da ga je pisao čovek — sa savršenim tonom, kontekstom i jezičkim nijansama. Upravo tu leži opasnost.
OpenAI-jeva politika i odgovornost
OpenAI se već neko vreme trudi da uspostavi jasne etičke smernice i ograničenja za upotrebu svojih modela. Međutim, pitanje je koliko su ti mehanizmi efikasni kada se AI koristi u zlonamerne svrhe. Kompanija je u više navrata istakla da ne odobrava upotrebu svojih alata za ilegalne aktivnosti, ali je istovremeno suočena sa realnošću da je nemoguće stopostotno kontrolisati svaki unos korisnika.
Ovaj slučaj podseća na slične incidente koji su se dogodili u prošlosti, gde su AI modeli korišćeni za pisanje prevara, dezinformacija ili čak zlonamernog koda. Svaki put se postavlja isto pitanje: gde prestaje odgovornost kompanije, a gde počinje odgovornost korisnika?
Za sada, australijske vlasti nisu objavile detalje o tome koliko je napad bio ozbiljan i da li su podaci kompromitovani. Ono što je sigurno jeste da će ovaj incident dodatno podgrejati debatu o regulaciji AI tehnologija, ne samo u Australiji, već i globalno.
U svetu gde AI postaje svakodnevni alat, ovakve vesti nas podsećaju da tehnologija nije ni dobra ni loša — sve zavisi od toga kako je koristimo.