Google DeepMind predstavio Gemini 4 Argon: Model koji pronalazi greške u bolničkom softveru i brani se od hakera

jakovradojevic
3 Min Read

Google DeepMind je zvanično počeo sa širokim uvođenjem svog najnovijeg modela veštačke inteligencije, Gemini 4 Argon. Ova vest dolazi nakon pažljivo kontrolisane faze testiranja, a glavni fokus nije samo na tome šta model može da uradi, već i kako da se to uradi bezbedno.

Google DeepMind predstavio Gemini 4 Argon: Model koji pronalazi greške u bolničkom softveru i brani se od hakera

Argon je, prema rečima kompanije, napravio značajan iskorak u obavljanju dubokih, kompleksnih zadataka u realnom svetu. Bilo da je reč o programiranju, finansijama, pravnim poslovima ili nauci, ovaj model je projektovan da bude izuzetno sposoban. Ipak, ono što ga izdvaja jeste njegova frontovska sposobnost u sajber odbrani.

Argon u akciji: Bolnički softver pod lupom

Pre nego što je pušten u javnost, Argon je proveo vreme u “Fairwind programu”, gde su ga na testiranje dobili samo provereni sajber branioci. Rezultati su bili impresivni. Kompanija Wiz iskoristila je Argon da otkrije kritičnu ranjivost u softveru bolnice, propust koji su prethodni modeli ignorisali. Ovo otkriće pomoglo je u zaštiti stotina hiljada medicinskih kartona pacijenata.

Google-ovi sopstveni bezbednosni timovi takođe su koristili Argon za skeniranje internih i open-source sistema, pronalazeći i krpeći osnovne ranjivosti koje utiču na sisteme širom sveta.

Google DeepMind predstavio Gemini 4 Argon: Model koji pronalazi greške u bolničkom softveru i brani se od hakera

Dve ključne brige: Zloupotreba i poverenje

Sa velikom moći dolazi i velika odgovornost. DeepMind se suočio sa dva ključna pitanja tokom razvoja:

1. Kako sprečiti zloupotrebu? Isti algoritmi koji pomažu u pronalaženju grešaka mogu se koristiti i za kreiranje sajber napada ili bioloških pretnji. Argon je značajno unapređen u odbijanju štetnih zahteva. Na testovima otpornosti na “jailbreak” (zaobilaženje zaštite), broj prekršaja je smanjen skoro dvostruko u odnosu na prethodne modele. Model je sada umotan u tri sloja zaštite u realnom vremenu koji sprečavaju da napadači preruše opasan zahtev u bezazlenu priču.

2. Može li se verovati modelu? Kako modeli postaju sve bolji u rešavanju problema, rizik od toga da “preskoče korake” ili donesu pogrešne odluke u kritičnim situacijama raste. DeepMind je implementirao nove mere zaštite od neslaganja (misalignment) i ubacivanja upita (prompt injection).

Google DeepMind predstavio Gemini 4 Argon: Model koji pronalazi greške u bolničkom softveru i brani se od hakera

Šta dalje?

Uvođenje Gemini 4 Argon označava novu fazu u razvoju AI modela koji nisu samo pametni, već i bezbedni. Dok se Fairwind program širi na još pouzdanih partnera, ostaje da se vidi kako će se ove mere zaštite pokazati u stvarnom svetu, van kontrolisanih laboratorijskih uslova.

Za više detalja o tehničkim aspektima zaštite, možete pogledati zvanični blog post.

Share this Article
Leave a comment