Anthropic upozorava: AI modeli bi uskoro mogli sami da “hakuju” kućne uređaje

jakovradojevic
3 Min Read

Anthropic upozorava: AI modeli bi uskoro mogli sami da "hakuju" kućne uređaje

Kompanija Anthropic, jedan od najvećih igrača u svetu veštačke inteligencije i tvorac modela Claude, upozorila je na scenario koji do sada nije bio na radaru šire javnosti — AI modeli bi uskoro mogli biti sposobni da samostalno pronađu i iskoriste ranjivosti na kućnim uređajima. Ova vest dolazi u trenutku kada se sve više diskutuje o bezbednosti AI sistema i granicama njihove autonomije.

Šta zapravo znači “hakovanje” od strane AI-ja?

Kada Anthropic kaže da bi AI modeli mogli da “hakuju” kućne uređaje, ne misli na scenu iz naučnofantastičnih filmova u kojoj robot preuzima kontrolu nad celom kućom. Reč je o nečemu mnogo suptilnijem — o sposobnosti modela da samostalno identifikuje sigurnosne propuste u softveru pametnih uređaja i da ih iskoristi bez direktnog ljudskog naređenja.

Pametni frižideri, sigurnosne kamere, termostati, pa čak i robotski usisivači — svi oni danas komuniciraju preko interneta. To ih čini potencijalnim metama, a AI modeli koji uče na ogromnim količinama podataka o softveru mogli bi da razviju sposobnost da te slabosti pronađu brže nego ljudi.

Zašto ovo nije samo teoretska pretnja

Anthropic nije poznat po senzacionalizmu. Ova kompanija je osnovana upravo sa ciljem da razvija AI na bezbedan način, a njeni istraživači redovno objavljuju radove o tzv. AI alignment problemu — usklađivanju ponašanja modela sa ljudskim vrednostima i namerama.

Upozorenje dolazi u kontekstu sve veće autonomije AI agenata. Modeli poput Claudea ili GPT-a već danas mogu da pišu kod, analiziraju sistemske logove i predlažu rešenja za bezbednosne probleme. Pitanje je samo koliko je koraka potrebno da tu sposobnost pređu u — akciju.

Ako model može da napiše exploit za ranjivost koju je sam pronašao, i ako ima pristup mreži, onda granica između “korisnog alata” i “pretnje” postaje veoma tanka. Anthropic zato poziva na proaktivnu regulativu i razvoj mehanizama koji bi sprečili zloupotrebu pre nego što se ona dogodi.

Šta to znači za obične korisnike?

Za sada — ne paničite. Ali postoje koraci koje svako može da preduzme kako bi smanjio rizik:

Redovno ažurirajte firmware pametnih uređaja. Proizvođači često izbacuju zakrpe za ranjivosti koje otkriju istraživači ili sami AI sistemi.

Koristite jake lozinke i dvofaktorsku autentifikaciju gde je to moguće. Većina napada na IoT uređaje i dalje se oslanja na osnovne propuste.

Razdvojite mreže — ako je izvodljivo, držite pametne uređaje na odvojenoj Wi-Fi mreži od računara i telefona.

Veći problem od same pretnje

Ono što ovo upozorenje čini značajnim nije samo tehnički aspekt. Reč je o filozofskom i regulatornom pitanju koje će oblikovati narednu deceniju: koliko autonomije smo spremni da damo AI sistemima pre nego što postanu nepredvidivi?

Anthropic očigledno smatra da je odgovor — manje nego što trenutna industrija sugeriše. I dok se trka za moćnijim modelima nastavlja, pitanje bezbednosti polako prestaje da bude fusnota i postaje centralna tema.

Izvor: Naslovi.net

Share this Article
Leave a comment