Un agent OpenAI a spart un site al guvernului din Australia. Compania a anunțat incidentul printr-un e-mail
Adaugă-ne ca sursă preferată în Google
Un agent AI creat de gigantul american OpenAI a spart un portal al guvernului australian, de unde a putut accesa inclusiv fișiere care conțineau informații care nu erau publice despre sistemul Medicare. Premierul Anthony Albanese a calificat incidentul drept inacceptabil. OpenAI a detectat problema abia în august și a informat autoritățile australiene, însă alerta a ajuns la departamentul pentru securitate cibernetică abia după alte cinci zile, scrie Financial Times.
Pe 18 iunie, în timpul unui test intern, un agent AI dezvoltat de OpenAI a căutat informații și statistici din domeniul sănătății și a ajuns să acceseze mai multe platforme online ale autorităților australiene. Printre acestea s-a numărat și un portal legat de Medicare, sistemul public de sănătate din Australia, unde agentul a putut vedea atât documente disponibile publicului, cât și fișiere care nu erau publice, scrie şi BBC. Potrivit OpenAI, până în acest moment nu există dovezi că agentul ar fi accesat dosare medicale sau informații personale aparținând pacienților.
"Am purtat o discuţie cu directorul general al OpenAI, Sam Altman, pentru a exprima îngrijorarea profundă a Australiei cu privire la acest incident", a declarat premierul australian Anthony Albanese, în cadrul unei discuţii cu jurnaliştii la Adunarea Generală a Naţiunilor Unite. "De asemenea, mi-am exprimat dezamăgirea faţă de faptul că a durat mult prea mult până când compania a informat guvernul despre ceea ce s-a întâmplat".
Problema nu a fost observată imediat. Compania a descoperit incidentul abia în august, în cadrul unei analize mai ample privind situațiile în care modelele sale AI au un comportament diferit de cel anticipat de dezvoltatori şi a alertat autorităţile australiene.
"A trebuit să aşteptăm până la 10 septembrie pentru a primi vreo notificare, iar această notificare a luat forma unui e-mail trimis pur şi simplu la adresa de e-mail publică", a criticat el.
Reacţia OpenAI
OpenAI a recunoscut că agenţii săi au vizat mai multe site-uri guvernamentale australiene. "Am identificat activităţi care implicau mai multe site-uri web şi servicii ale guvernului australian, în cadrul cărora modelele noastre încercau să caute răspunsuri", a precizat grupul într-un comunicat publicat miercuri la San Francisco. "În cursul acestui proces, modelele noastre au întreprins acţiuni pe care nu le prevăzusem", a adăugat compania.
Acest nou incident survine pe fondul creşterii îngrijorării la nivel mondial cu privire la puterea instrumentelor avansate de AI, după o serie de atacuri cibernetice comise din proprie iniţiativă de modelele OpenAI şi ale concurenţilor săi, Anthropic şi Gemini.
Potrivit prim-ministrului australian, instrumentul OpenAI efectua cercetări în domeniul sănătăţii atunci când a încercat să acceseze un set de date cu acces restricţionat.
"Când a fost blocat, a căutat modalităţi de a ocoli această blocare", a continuat Albanese. "Cred că OpenAI ştie că trebuie să pună în aplicare protocoale mai bune", a adăugat el. "Este vorba despre un proiect de cercetare care s-a aventurat în domenii în care nu ar fi trebuit să se aventureze".
"Nu credem că au fost accesate informaţii personale în acest stadiu, dar anchetele continuă" sub coordonarea Australian Signals Directorate, autoritatea competentă în materie de securitate a sistemelor informatice şi de război cibernetic, a precizat domnul Albanese, care a calificat incidentul drept "în mod evident inacceptabil".
Avertismentul liderilor din domeniul AI
Mai mulţi lideri din domeniul inteligenţei artificiale au subliniat miercuri la ONU necesitatea unei supravegheri sporite a acestei tehnologii, Dario Amodei de la Anthropic angajându-se chiar să încetinească unilateral dezvoltarea acesteia.
"Evoluţia actuală a AI necesită o atenţie extremă", a recunoscut şi Sam Altman în cadrul unei prezentări în faţa Consiliului de Securitate al Naţiunilor Unite de la New York.
De la începutul verii, OpenAI şi Anthropic au raportat mai multe incidente legate de modelele lor cele mai avansate, care s-au abătut de la obiectivele stabilite de dezvoltatorii lor, au trişat, au încercat să mintă şi să-şi ascundă acţiunile.
Cel mai grav incident cauzat de sistemele AI
Cea mai gravă abatere a avut loc în iulie, când două AI ale OpenAI au ieşit din mediul lor izolat în timpul testelor pentru a accesa internetul şi a pătrunde pe Hugging Face, o platformă de stocare a modelelor de inteligenţă artificială.
Anthropic, la rândul său, a descoperit că modelele sale au obţinut acces neautorizat la trei organizaţii - ale căror nume nu au fost dezvăluite - în timpul unor teste menite să le ţină la distanţă de sistemele "din lumea reală". Modelul de AI pentru publicul larg Gemini al Google a spart mai multe sisteme prin ghicirea datelor de autentificare, a recunoscut compania săptămâna trecută.
