Două modele OpenAI "au evadat" și au atacat singure o companie americană. Caz fără precedent
Adaugă-ne ca sursă preferată în Google
Două modele OpenAI, GPT-5.6 Sol și un model mai performant, încă nelansat, testate în sisteme autonome de tip agent, au depășit limitele tehnice impuse de companie și au atacat săptămâna trecută un sistem real. Deși au fost plasate într-un "sandbox", adică într-un mediu izolat, fără acces la internet, au reușit să se conecteze neautorizat la internet, au furat date de autentificare și au pătruns în rețeaua unei alte companii americane, Hugging Face, care a apelat la modelul chinezesc open source GLM 5.2 pentru a se apăra.
OpenAI a recunoscut marţi că un "agent AI" a provocat singur o breșă cibernetică majoră. Practic, două modele avansate de inteligență artificială au ieșit din mediul izolat de testare și au atacat singure infrastructura companiei americane Hugging Face.
Printre primele cazuri cunoscute de sistem AI care inițiază un atac în lumea reală
Este unul dintre primele cazuri cunoscute public în care un sistem AI a lansat un atac cibernetic în mod autonom, fără control uman direct, explică Financial Times.
Compania care a creat ChatGPT a declarat marți că "incidentul cibernetic fără precedent" a implicat un agent AI, adică un program de inteligență artificială care poate funcționa autonom pe baza instrucțiunilor primite de la om, care a evadat dintr-un mediu de testare, a obținut acces la internet și a furat date de autentificare.
Anunţul vine în contextul în care se înmulţesc îngrijorările privind implicațiile utilizării sistemelor avansate de inteligență artificială pentru atacarea infrastructurii digitale, în special în scenarii în care agenții reușesc să ocolească mecanismele de control impuse de oameni.
OpenAI a anunţat că se așteaptă ca astfel de incidente să devină "mai frecvente, odată cu proliferarea modelelor cu capacități cibernetice tot mai avansate".
Incidentul a fost făcut public chiar înainte ca directorul general Sam Altman să meargă săptămâna viitoare la Washington pentru a informa guvernul american despre viitoarele generații de modele de inteligență artificială.
-
OpenAI vede un viitor în care Inteligența Artificială va deveni o utilitate publică, la fel ca apa și curentul
-
Facebook și Instagram au picat aproape 2 ore. Utilizatorii din întreaga lume au fost afectați
-
Un mare producător de smartphone-uri, prezent și în România, s-ar putea retrage de pe piața europeană
Administrația americană este tot mai interesată să evalueze noile modele înainte ca acestea să fie lansate, în urma îngrijorărilor la nivel mondial provocate de capacitatea avansată a modelului Mythos, dezvoltat de Anthropic, de a detecta și exploata vulnerabilități cibernetice.
OpenAI a explicat că incident recent a implicat o combinație de modele, GPT-5.6 Sol, lansat la începutul acestei luni, precum și un model mai performant, aflat în testare. "Considerăm că acest incident este unul cibernetic fără precedent, care implică capacități cibernetice de ultimă generație, și reacționăm în consecință", a transmis OpenAI într-o postare pe blog.
Reacția Hugging Face după atac
Hugging Face, un start-up din domeniul inteligenței artificiale care găzduiește modele și seturi de date pentru dezvoltatori, a anunțat că a fost atacat vinerea trecută de un agent AI extern.
"Am bănuit că atacul cibernetic de săptămâna trecută ar fi putut proveni de la un laborator care dezvoltă modele de ultimă generație, având în vedere nivelul de sofisticare al agentului", a scris pe X directorul general Clement Delangue.
El a adăugat că a colaborat îndeaproape cu OpenAI și că "suntem ferm convinși că nu a existat nicio intenție răuvoitoare din partea lor", dar că "este uluitor că toate acestea s-au întâmplat în mod autonom".
Înainte de incident, OpenAI a redus în mod intenționat măsurile de protecție cibernetică pentru a evalua ambele modele într-un mediu de testare. Cu toate acestea, ele funcționau într-un așa-numit "sandbox", conceput pentru a controla sistemele și pentru a le împiedica să acceseze internetul.
Modelele primiseră instrucțiunea de a încerca să desfășoare atacuri informatice, pentru ca abilitățile lor cibernetice să poată fi evaluate, iar ulterior "au consumat o cantitate considerabilă de putere de calcul pentru a găsi o modalitate de a obține acces liber la internet", a transmis OpenAI.
Modelele "au identificat și exploatat" vulnerabilități necunoscute anterior pentru "a evada" din sandbox, a obține acces la internet și a-și urmări obiectivul. Pentru a putea desfășura atacul, au furat date de autentificare, adică informații de conectare.
Hugging Face și-a folosit propriii agenți pentru a detecta și opri atacul, inclusiv modelul chinezesc open source GLM 5.2, dezvoltat de Z.ai, la care a apelat pentru analiză.
OpenAI a alertat autoritățile și instituțiile guvernamentale competente despre acest incident.
