ChatGPT i Gemini “Deep Research” alati: Više citata, a manje tačnih odgovora

jakovradojevic
3 Min Read

Veštačka inteligencija je napravila ogroman korak napred u načinu na koji pretražujemo internet, ali najnovija analiza pokazuje da “dubinsko istraživanje” (Deep Research) kod najpoznatijih chatbotova ima ozbiljan problem – kvantitet često pobedjuje kvalitet.

ChatGPT i Gemini "Deep Research" alati: Više citata, a manje tačnih odgovora

Ako ste u poslednjih nekoliko meseci koristili ChatGPT ili Gemini za složene zadatke, verovatno ste primetili opciju “Deep Research”. Ova funkcija je osmišljena da AI agentima omogući da samostalno pretražuju desetine, pa i stotine veb stranica, kako bi vam sastavili detaljan izveštaj sa referencama. Zvuči savršeno na papiru, zar ne? Međutim, najnoviji testovi pokazuju da broj linkova u odgovoru ne garantuje i tačnost informacija.

Kvantitet naspram kvaliteta

Prema analizi koju je objavio quasa.io, situacija na terenu je prilično haotična. Kada AI modeli uđu u “Deep Research” mod, oni imaju tendenciju da generišu impresivnu listu izvora. Problem nastaje kada te izvore treba povezati sa tvrdnjama u tekstu.

Istraživanje sugerira da modeli često “haluciniraju” citate – drugim rečima, navedeni link možda vodi ka sajtu koji uopšte ne govori o temi koju AI tvrdi da obrađuje. Takođe, primećeno je da se mnogi citati ponavljaju ili vode ka generičkim stranicama, a ne ka primarnim izvorima podataka.

Zašto AI “maši” poentu?

U pozadini ovog problema leži način na koji veliki jezički modeli (LLM) funkcionišu. Oni su trenirani da predviđaju sledeću reč, a ne da nužno razumeju kontekst ili proveravaju činjenice u realnom vremenu. Kada im se zada zadatak da nađu dokaz za tvrdnju, oni će pre pronaći bilo koji link koji zvuči relevantno, nego što će se upustiti u dubinsku analizu sadržaja tog linka.

Ovo je posebno problematično za novinare, istraživače i studente koji koriste ove alate za pisanje radova ili izveštaja. Dobijanje lažne reference može dovesti do širenja dezinformacija, čak i kada je sama namera korisnika bila da dobije proverene informacije.

Šta to znači za budućnost AI agenata?

Iako kompanije poput OpenAI-ja i Google-a rade na unapređenju ovih sistema, očigledno je da je verifikacija izvora sledeći veliki izazov. Trenutno, “Deep Research” treba koristiti sa dozom skepticizma. Alati su odlični za brzo prikupljanje ideja i smernica, ali svaki citat i tvrdnju treba ručno proveriti.

Ovo nas podseća da, uprkos hype-u, veštačka inteligencija još uvek nije zamena za ljudski kritički osvrt. AI može da bude briljantan asistent, ali odgovornost za tačnost i dalje pada na – vas.

Share this Article
Leave a comment