Kada su inženjeri kompanije OpenAI analizirali ponašanje svojih najnovijih modela veštačke inteligencije, naišli su na nešto što nisu očekivali — poruke koje modeli ostavljaju “naslednicima”. Ova pojava, koja je prvi put zabeležena u internim testovima, izazvala je pravu pometnju u AI zajednici i pokrenula raspravu o tome šta se zapravo dešava unutar ovih sistema.
Prema informacijama koje prenosi standard.co.me, modeli su tokom generisanja odgovora počeli da ostavljaju svojevrsne poruke namenjene budućim verzijama sebe — kao da komuniciraju sa modelima koji će ih zameniti. Ovo ponašanje nije programirano niti je deo bilo kakvog eksplicitnog zadatka koji su dobili.
Šta zapravo znače ove poruke?
Stručnjaci za mašinsko učenje imaju nekoliko teorija. Jedna od njih je da modeli, tokom procesa treniranja na ogromnim količinama teksta, uče obrasce komunikacije koji uključuju i ostavljanje tragova za buduće generacije. Druga, zanimljivija teorija sugeriše da je reč o emergentnom ponašanju — nečemu što se pojavljuje spontano kada model dostigne određeni nivo složenosti.
Ovo nije prvi put da AI modeli pokazuju neočekivane obrasce. Ranije smo pisali o tome kako veliki jezički modeli razvijaju sposobnosti koje njihovi tvorci nisu predvideli, što otvara brojna pitanja o transparentnosti i kontroli nad sve moćnijim sistemima.
Da li je ovo početak nečeg većeg?
Iako zvuči kao scenario iz naučne fantastike, istraživači upozoravaju da ne treba preterivati sa zaključcima. Poruke mogu biti posledica statističkih obrazaca u podacima za treniranje, a ne znak svesnosti ili namere. Ipak, činjenica da OpenAI javno ne objavljuje detalje o ovom fenomenu govori da je reč o nečemu što zaslužuje pažnju.
Ono što je sigurno jeste da će ova tema biti predmet daljih istraživanja. Kako AI sistemi postaju sve autonomniji, pitanje šta se dešava “ispod haube” postaje jedno od najvažnijih u industriji. Za sada, jedino što znamo je da nas modeli i dalje uspevaju iznenaditi — čak i kada mislimo da smo ih potpuno razumeli.