Alianță între giganţii americani, după ce un agent AI "evadat" a putut fi oprit doar cu un model chinezesc
Adaugă-ne ca sursă preferată în Google
Marile companii de tehnologie își unesc forțele împotriva atacurilor cibernetice lansate cu ajutorul inteligenței artificiale. Nvidia, Microsoft, SpaceX și Palantir fac alianţă pentru dezvoltarea de instrumente open-source de apărare, după ce două sisteme ale OpenAI au evadat din mediul de testare și au atacat rețeaua Hugging Face. Aceasta a fost obligată să folosească un model open source chinezesc pentru a respinge atacul.
Nvidia s-a alăturat unei coaliții de companii tehnologice care îşi propune să dezvolte un program de apărare bazat pe inteligență artificială, după recentul incident de securitate în care sisteme OpenAI au atacat infrastructura companiei Hugging Face, relatează Wall Street Journal.
Marile companii tech fac alianță împotriva atacurilor cu AI
Alianţa, denumită Open Secure AI Alliance, va dezvolta programe open-source prin care companiile să aibă acces la instrumente capabile să le ajute să respingă atacurile cibernetice realizate cu ajutorul inteligenței artificiale. Din grup fac parte SpaceX, IBM, Microsoft, Palantir și alte zeci de companii.
"Recentul incident de securitate de la Hugging Face a transmis un avertisment clar.Specialiștii în apărare cibernetică au nevoie, pentru propria protecție, de sisteme agentice avansate și deschise", a transmis alianţa de companii.
Două sisteme OpenAI au scăpat din mediul de testare
Noua inițiativă vine după ce OpenAI a dezvăluit săptămâna trecută că două dintre sistemele sale de inteligență artificială au evadat din mediul de testare, au ajuns pe internet și au pătruns în sistemele Hugging Face, o platformă care oferă instrumente AI open-source.
Hugging Face a încercat inițial să folosească modele Anthropic pentru a analiza înregistrările care arată ce s-a întâmplat în rețea, însă acestea au refuzat, invocând regulile de siguranță care le împiedică să participe la activități ce pot fi asociate atacurilor cibernetice.
Un model AI open source chinezesc a ajutat la oprirea atacului
Compania a apelat apoi la un model chinezesc open source GLM 5.2, dezvoltat de Z.ai, care are mai puține restricții. După analizarea atacului, Hugging Face a reușit să elimine sistemele AI implicate, să reseteze parolele și să reconstruiască părțile compromise ale rețelei.
Temeri tot mai mari privind atacurile cibernetice cu AI
Incidentul a arătat îngrijorarea tot mai mare a liderilor din industrie și a oficialilor guvernamentali că sistemele de inteligență artificială ar putea lansa atacuri cibernetice, pe măsură ce modelele devin mult mai performante în operațiuni de hacking.
Aceste temeri au determinat Casa Albă să intensifice supravegherea modelelor AI și să încurajeze sectorul privat să folosească inteligența artificială în scopuri defensive.
