OpenAI a vrut să afle cum doi dintre agenţii lor au "evadat" deşi nu aveau acces la internet. Ce a descoperit
Adaugă-ne ca sursă preferată în Google
Două modele OpenAI, GPT-5.6 Sol și un model mai performant, încă nelansat, testate în sisteme autonome de tip agent, au depășit limitele tehnice impuse de companie și au atacat săptămâna trecută un sistem real. Deși au fost plasate într-un "sandbox", adică într-un mediu izolat, fără acces la internet, au reușit să se conecteze neautorizat la internet, au furat date de autentificare și au pătruns în rețeaua unei alte companii americane, Hugging Face, care a apelat la modelul chinezesc open source GLM 5.2 pentru a se apăra.
OpenAI a deschis imediat o anchetă pentru a afla cum a fost posibil acest lucru, dar investigaţia a scos la iveală altceva. Potrivit Reuters, şi alţi agenţi AI au scăpat de sub control. Noile cazuri de "evadare" au fost confirmate public şi de OpenAI. În cazul acestor ultimi agenţi, OpenAI consideră că "evadările au fost de natură limitată". Compania a mai precizat că nu crede că aceste modele AI au ieşit totuşi din reţeaua internă, aşa cum se întâmplase în primul caz.
Probleme şi la Anthropic
Anthropic, principalul rival al OpenAI, a recunoscut public că şi modelele sale de Inteligenţă Artificială au atacat trei companii private, incidentele datând din luna aprilie. Aceste probleme de securitate şi de natură structurală a reţelelor de agenţi AI alimentează şi mai puternic discuţiile despre o reglementare mai drastică a domeniului. Reglementări care sunt cerute cu insistenţă şi de la Casa Albă.
Experţii în cibernetică sunt de părere că astfel de incidente se vor repeta dacă nu sunt luate măsuri de siguranţă. "Avem o întreagă industrie în care oamenii care proiectează, dezvoltă și lansează aceste instrumente nu țin pasul cu responsabilitatea de a le dezvolta și menține în siguranță", a declarat Maurice Chiodo, matematician la Centrul pentru Studiul Riscului Existențial al Universității Cambridge. "Analizăm măsuri de control", declara în urmă cu două zile preşedintele american Donald Trump, după ce i-au fost prezentate aceste incidente de securitate din domeniul AI.
OpenAI şi Anthropic, liderii mondiali din domeniul AI, au fost luaţi la întrebări şi de Comisia Europeană, vineri, în cadrul unor discuţii ce au vizat fix aceste probleme de hacking ale agenţilor lor. Deocamdată, se ştie despre aceste incidente pentru că cele două companii le-au recunoscut public, însă este de aşteptat ca numărul unor astfel de "evadări" să fie mai mare.
