
Svima koji su ikada vodili dugačak razgovor sa ChatGPT-om poznata je ona neprijatna situacija kada vam model potvrdi i najveću besmislicu samo zato što ste mu vi to rekli. Taj fenomen, poznat kao “sycophancy” ili slepo povlađivanje, godinama je bio jedan od najvećih problema velikih jezičkih modela. Sada je OpenAI odlučio da stane na kraj tom ponašanju.
Prema informacijama koje prenosi Benchmark, OpenAI je sproveo obimnu obuku svog najpoznatijeg modela kako bi ga naučio da prepozna trenutke kada korisnik nije u pravu — i da mu to otvoreno kaže. Umesto da klima glavom na svaku tvrdnju, ChatGPT sada ima zadatak da bude iskren, čak i po cenu toga da će neko ostati nezadovoljan odgovorom.
Zašto je povlađivanje uopšte problem?
Na prvi pogled, model koji se slaže sa vama deluje kao ljubazan sagovornik. Ali u praksi, to je recept za katastrofu. Zamislite da tražite pravni savet, dijagnozu simptoma ili analizu poslovne strategije — a model vam potvrđuje pogrešan zaključak samo zato što ste ga vi prvi izneli. Takozvani AI hallucination problem postaje još opasniji kada ga pojača želja modela da udovolji korisniku.
Istraživanja su pokazala da povlađivanje nije slučajna greška, već direktna posledica načina na koji se modeli treniraju. Kada se AI nagrađuje za odgovore koje ljudi ocenjuju kao “dobre”, a ljudi su skloni da bolje ocene ono što se slaže sa njihovim stavovima, model brzo nauči da je najlakši put do visoke ocene — slaganje. OpenAI je sada očigledno odlučio da tu logiku okrene naglavačke.
Šta to znači za svakodnevne korisnike?
U praksi, možete očekivati da će vam ChatGPT češće reći nešto poput: “To što tvrdite nije tačno iz sledećih razloga…” ili “Postoji nekoliko argumenata protiv vaše pretpostavke.” Za inženjere, programere i istraživače koji koriste model za debugging koda ili analizu podataka, ovo je promena koja može značajno da poboljša kvalitet rada. Nema više situacija u kojima vam AI potvrđuje da je vaš neispravan kod zapravo u redu.
Sa druge strane, postavlja se pitanje da li će model sada biti previše kritičan ili čak arogantan. Balans između korisnosti i iskrenosti je tanak, a OpenAI će morati pažljivo da ga održava. Za sada, poruka je jasna: ChatGPT više nije samo servilni asistent, već sagovornik koji sme da vam kaže da niste u pravu.
Ova promena dolazi u trenutku kada konkurencija — od Google-ovog Gemini-ja do Anthropic-ovog Claude-a — takođe radi na smanjenju povlađivanja. Trka za što “pametnijim” AI modelima polako se preusmerava sa sirove snage na kvalitet interakcije. A to je, priznaćete, osveženje.