Anthropic spune că AI-ul său a fost folosit pentru arme, rachete și spionaj. Compania a dejucat tentativele
Anthropic susține că a dejucat mai multe tentative de folosire abuzivă a modelelor sale de inteligență artificială, inclusiv pentru activități legate de proiectarea armelor, ghidarea rachetelor, spionaj cibernetic și supraveghere. Compania avertizează că AI-ul este folosit tot mai mult pentru a executa direct operațiuni periculoase, oamenii limitându-se în unele cazuri la supravegherea acestora, potrivit Reuters.
Infractorii cibernetici și hackerii susținuți de state folosesc tot mai mult inteligența artificială nu doar pentru a-i ajuta în anumite sarcini, ci și pentru a coordona și executa părți importante ale atacurilor cibernetice, a transmis Anthropic în cel mai recent raport al său privind amenințările. Compania a precizat că oamenii ajung adesea să aibă mai degrabă rolul de supraveghetori decât pe cel de operatori implicați direct.
"Utilizarea AI a depășit simplele întrebări și răspunsuri oferite de un chatbot și a implicat folosirea unor sisteme cu mai mulți agenți care execută sarcini", a transmis Anthropic.
Compania susține că, în perioada analizată, a oprit atacuri provenite de la șapte laboratoare din China. Printre acestea, Anthropic a nominalizat gigantul tehnologic Alibaba, precum și Moonshot, DeepSeek și Xiaomi.
Companii chineze, acuzate că au încercat să copieze capabilitățile Claude
Operatori pe care Anthropic îi asociază cu Alibaba ar fi desfășurat ceea ce compania americană descrie drept cel mai amplu atac de “distilare ilicită”. Scopul ar fi fost extragerea capabilităților modelelor Claude și folosirea lor pentru îmbunătățirea modelelor Qwen ale companiei chineze. Alibaba nu a răspuns imediat solicitării de a comenta acuzațiile.
Anthropic susține că, între mai și iulie 2026, a identificat peste 151 de milioane de interacțiuni pe care le atribuie Alibaba. La apogeul activității, au fost înregistrate aproape trei milioane de interacțiuni pe zi, provenite de la peste 3.500 de conturi descrise de companie drept frauduloase.
“Distilarea” este procesul prin care modele AI mai mici sunt antrenate folosind rezultatele generate de modele mai mari și mai costisitoare, cu scopul de a reduce costurile necesare dezvoltării unui nou instrument de inteligență artificială.
În loc să trimită volume mari de solicitări, Moonshot, compania care a creat chatbotul Kimi, și DeepSeek ar fi direcționat prin Claude conversații reale ale clienților, care uneori conțineau informații sensibile. Răspunsurile generate de Claude ar fi fost apoi folosite ca date de antrenament, susține Anthropic.
Cum ar fi folosit hackerii ruși AI-ul în operațiuni de spionaj
Un grup de hackeri ale cărui metode de operare corespund celor atribuite grupării Midnight Blizzard, asociată Rusiei, ar fi desfășurat operațiuni de phishing, compromitere a rețelelor Wi-Fi din hoteluri și preluare a conturilor de WhatsApp. Țintele s-ar fi aflat în cadrul guvernului, armatei și sectorului diplomatic din Ucraina, iar inteligența artificială ar fi fost utilizată în aproape fiecare etapă a operațiunilor, potrivit Anthropic.
Guvernul Statelor Unite a asociat anterior Midnight Blizzard, denumire atribuită grupării de Microsoft, cu serviciul rus de informații externe SVR. Ambasada Rusiei la Washington nu a răspuns imediat unei solicitări de comentarii.
Gruparea ar fi folosit inteligența artificială inclusiv pentru a construi un sistem capabil să detecteze automat momentul în care programele sale malware erau identificate de soluțiile de securitate și să rescrie codul până când acesta reușea din nou să evite detectarea.
Claude, folosit pentru software destinat armelor și sistemelor de țintire
Anthropic susține că a identificat și “noi categorii de actori ostili” care folosesc abuziv Claude. Printre aceștia se numără persoane sau grupări care ar fi utilizat platforma pentru “dezvoltarea de software pentru arme convenționale, inclusiv arme de foc, rachete, drone înarmate, bombe și alte tipuri de muniție, precum și pentru sistemele de țintire și control care le operează”.
Raportul descrie cazuri în care operatori din China, Rusia și Yemen ar fi folosit Claude pentru dezvoltarea de software destinat proiectării și dezvoltării armelor sau pentru activități de obținere de informații și achiziții legate de programe de înarmare.
Compania a mai anunțat că a detectat și oprit activități asociate unor afiliați ai grupării de criminalitate cibernetică ShinyHunters, una dintre cele mai active astfel de organizații din ultimele luni, asociată cu atacuri asupra unor mari companii din întreaga lume.
Jacob Klein, șeful departamentului de informații privind amenințările din cadrul Anthropic, a declarat că modelele AI au devenit mult mai performante în ultimul an, ceea ce generează noi riscuri.
“Acum un an, să spunem că voiai să optimizezi o dronă sau software-ul unei rachete, modelele pur și simplu nu erau la fel de bune la această sarcină cum sunt acum”, a declarat Klein.
