"Așa ne omoară AI-ul pe toți". De ce spun specialiștii că marele pericol nu este AI în sine, ci utilizatorul
Adaugă-ne ca sursă preferată în Google
Un avertisment lansat de cercetătorul Jacob Coxon, fost angajat al Anthropic, a readus în centrul dezbaterii una dintre cele mai grave întrebări legate de dezvoltarea inteligenței articiale. Nu se mai pune problema dacă sistemel avansate ar putea deveni periculoase, ci modul îmn care acestea ar putea acționa. O analiză publicată de prestigiosul Boston Globe arată de ce trebuie să ne îngrijoreze intersecția dintre AI și armele biologice.
Ideea centrală este mai simplă decât scenariile în care o inteligentă artificială ar crea un robot precum în filmul Terminator sau ar construi de la zero un agent patogen necunoscut.
Nu este nevoie ca AI să inventeze un virus nou
Există deja în natură numeroși agenți biologici capabili să provoace boli grave. Problema ar putea fi reprezentată de capacitatea AI de a reduce distanța dintre o idee și posibilitatea de a o pune în practică.
Sistemele AI pot analiza cantități uriașe de literatură științifică, pot conecta informații din domenii diferite și pot ajuta cercetătorii să interpreteze rezultate sau să identifice cauzele unui experiment nereușit.
În acest sens, AI ar putea funcționa ca un "multiplicator de expertiză". Pentru un individ rău intenționat, tehnologia nu ar trebui neapărat să facă posibil imposibilul. Ar fi suficient să facă mult mai ușor ce este în prezent dificil.
Cazul Aafia Siddiqui, un exemplu din perioada de dinaintea AI
Articolul pornește de la cazul Aafiei Siddiqui, cercetătoare pakistaneză educată în SUA, care a fost condamnată la 86 de ani de închisoare cu tentativa de a ucide personal american în Afganistan.
Potrivit documentelor Departamentului american de Justiție, anchetatorii au găsit asupra ei materiale referitoare la un presupus plan de atac cu victime numeroase, inclusiv folosirea unor arme biologice.
-
Vânzările Nvidia vor exploda, în contextul dezvoltării AI. Va vinde de două ori mai multe cipuri anul viitor
-
Ce ascunde apelul la frânarea AI-ului: "Vor să scrie regulile pentru toți și să-și păstreze avansul"
-
Trump ignoră apelurile pentru încetinirea cursei AI: "Suntem înaintea Chinei. Aș vrea să rămânem așa"
David Relman, microbiolog și expert în biosecuritate la Stanford, spune că a analizat documentele asociate cazului pentru comunitatea americană de informații. Acesta afirmă că pe dispozitivul aflat în posesia Aafiei Siddiqui existau mii de pagini de materiale.
Jim Lawler, fost șef al diviziei de contraprofiliferare a CIA, a descris planul drept o încercare de a concepe un agent biologic "hibrid", combinând caracteristici asociate unor agenți patogeni diferiți.
Important este însă ceea ce cazul demonstrează despre diferența dintre o idee și execuția ei.
Expertiza științifică nu înseamnă că poți face o armă. Dar AI poate face diferența!
Siddiqui avea pregătire academică în domeniul științelor, inclusiv studii la MIT. Însă conceperea unui agent biologic periculos necesită mai mult de atât.
Este nevoie de competențe experimentale, acces la laboratoare și mai ales la materiale, precum și capacitatea de a interpreta rezultatele și de a rezolva problemele apărute în timpul procesului.
Aici apare schimbarea pe care ar putea să o aducă sistemele AI avansate.
Un astfel de sistem poate funiza rapid informații din domenii multiple și poate ajuta un utilizator să navigheze într-un volum de cunoștințe care ar fi necesitat, în trecut, ani întregi de pregătire și colaborare cu alți specialiști.
Există și o problemă care depășește însăși producerea unei arme biologice. Un focar provocat intenționat poate arăta inițial asemenea unei epidemii naturale.
Ce se întâmplă la NBACC de la Fort Detrick
La Fort Detrick, în Maryland, SUA, funcționează National Biodefence Analysis and Countermeasures Center, un laborator federal dedicat analizei amenințărilor biologice.
Spre deosebire de instituțiile care se concentrează în principal pe protejarea militarilor și pe dezvoltarea de diagnostice sau tratamente, NBACC analizează și modul în care un adversar ar putea utiliza un agent biologic.
Potrivit articolului din Boston Globe, cercetătorii de aici au început deja să analizeze scenarii diferite bazate pe presupunerea că un actor rău intenționat ar putea "colabora" cu un agent AI.
AI și biologia se interesectează deja
Avertismentul lui Jacob Coxon potrivit căruia dezvoltarea AI ar putea ajunge să reprezinte un risc existențiale pentru oameni a provocat reacții puternice.
În timp ce unii oameni din industria tehnologică au respins ideea sau au pus-o sub semnul întrebării, alți specialiști care au vorbit cu jurnaliștii Boston Globe au mutat discuția de la scenariu abstract la cel concret.
Riscul nu presupune, potrivit acestora, neapărat ca AI să capate intenții proprii sau să inventeze un agent patogen, mai ales că acesta a început deja să "fie încărcat" cu date despre biologie. Scenariul mai plauzibil din perspectiva biosecurității este ca un grup criminal să folosească AI pentru a-și amplifica propriile capacități.
În această perspectivă, AI și biotehnlogia nu mai reprezintă două revoluții tehnologice independente. Ele încep să se întâlnească într-un domeniu în care erorile sau utilizarea malițioasă pot avea consecințe extrem de grave.
Iar întreabarea pe care o ridică analiza nu este doar dacă AI poate deveni periculoasă, ci cum ar trebui pregătite instituțiile și sistemele de biosecuritate pentru o lume în care accesul la expertiză științifică poate fi amplificat radical de sistemele AI.
