Haker koristio chatbot Claude za napad na više vladinih agencija u Meksiku
Haker je koristio Claudea za pronalaženje ranjivosti u vladinim mrežama i pisanje skripti za njihovo iskorištavanje. Također je zadao chatbotu da pronađe načine za automatizaciju krađe podataka, kako je navela kompanija za cyber sigurnost Gambit Security. Ovo je počelo u decembru i trajalo je oko mjesec dana.
Izgleda da je haker uspio u suštini jailbreakati Claudea pomoću upita te u konačnici zaobići zaštitne ograde chatbota. Claude je prvobitno odbijao zlokobne zahtjeve, dok na kraju nije popustio.
"Ukupno je proizveo hiljade detaljnih izvještaja koji su uključivali planove spremne za izvršenje, govoreći ljudskom operateru tačno koje interne mete treba sljedeće napasti i koje akreditive treba koristiti“, rekao je Curtis Simpson, glavni strateški direktor Gambit Securityja.
Anthropic je istražio tvrdnje, prekinuo aktivnost i zabranio sve uključene naloge, tvrdi predstavnik kompanije. Glasnogovornik je također rekao da njihov najnoviji model Claude Opus 4.6 uključuje alate za sprečavanje ove vrste zloupotrebe.
Također je objavljeno da je haker upotrijebio ChatGPT kao dopunu napadima, koristeći OpenAI-jev chatbot za prikupljanje informacija o tome kako se kretati kroz računarske mreže, utvrditi koji su akreditivi potrebni za pristup sistemima i kako izbjeći otkrivanje. OpenAI kaže da je identificirao pokušaje hakera da prekrši njihove politike korištenja i da su alati odbili da ispune njegove zahtjeve.
Haker još uvijek nije identifikovan. Napadi nisu pripisani određenoj grupi, ali Gambit Security je sugerisao da bi mogli biti povezani sa stranom vladom. Također, nije jasno šta haker želi učiniti sa svim tim podacima.
Meksička nacionalna digitalna agencija nije komentarisala propust, ali je napomenula da je cyber sigurnost prioritet. Vlada države Jalisco negira da je došlo do prodora, rekavši da su pogođene samo federalne mreže. Meksički nacionalni izborni institut također je negirao bilo kakve propuste ili neovlašteni pristup posljednjih mjeseci. Vrijedi napomenuti da je Gambit tokom svog istraživanja pronašao najmanje 20 sigurnosnih ranjivosti, koje zemlja vjerovatno ne želi isticati.
Ovo nije prvi put da je Claude korišten za veliki cyber napad. Prošle godine, hakeri u Kini su manipulisali alatom pokušavajući da se infiltriraju u desetine globalnih ciljeva, od kojih je nekoliko bilo uspješno. Anthropic je upravo odbacio svoju dugogodišnju sigurnosnu obavezu, kojom se obavezao da nikada neće obučavati AI sistem osim ako unaprijed ne može garantovati da su sigurnosne mjere adekvatne. Postavlja se pitanje kakav će novi pakao donijeti budućnost kako alati kompanije postaju napredniji.