Care sunt șansele ca AI să extermine omenirea în următorii 10 ani. Avertismentul unui cercetător de top

Evan Hubinger a scris într-o postare pe X că riscul reprezentat de modelele care există în prezent este "scăzut", însă este "îngrijorat" că tehnologia s-ar putea dezvolta și îmbunătăți singură în curând, ajungând într-un punct în care ar reprezenta un risc existențial pentru omenire, potrivit BBC.

Declarația vine după ce Financial Times a relatat că Anthropic a refuzat să pună la dispoziția AI Safety Institute (AISI) din Marea Britanie cel mai recent model al său, una dintre principalele organizații din lume care evaluează riscurile asociate inteligenței artificiale.

BBC a solicitat un punct de vedere din partea Anthropic, dar Hubinger nu a explicat în detaliu în ce fel crede că sistemele AI ar putea ataca omenirea în viitor.

Comentariile sale au venit ca răspuns la o altă postare pe X a lui Jacob Coxon, care s-a descris drept un cercetător în domeniul AI care tocmai și-a dat demisia de la Anthropic și care a lucrat anterior la OpenAI.

"Niciuna dintre companii nu acționează în mod responsabil. În curând, acestea vor fi sisteme supraomenești, capabile să spargă orice sistem informatic, să revoluționeze orice domeniu peste noapte și să dobândească putere și resurse reale", a scris el.

OpenAI a fost, de asemenea, contactată pentru un punct de vedere. Un purtător de cuvânt a efuzat să comenteze dacă cel mai recent model a fost pus la dispoziţia AISI, spunând în schimb că instituția "continuă să colaboreze îndeaproape cu partenerii din industrie, inclusiv Anthropic, pentru a face modelele mai sigure”.

Neil Lawrence, profesor de Machine Learning la Universitatea Cambridge, a declarat pentru emisiunea Today de la BBC Radio 4 că informația este credibilă: "Presupun că nu este surprinzător, pe fondul percepției potrivit căreia Statele Unite văd într-o foarte mare măsură AI ca pe o cursă între ele și China și se îndreaptă tot mai mult către poziții izolaționiste, ca administrația să spună că ar trebui să reducă cooperarea cu unii dintre aliații săi".

Niciun plan pentru superinteligență

În postarea sa, care a fost vizualizată de peste 10 milioane de ori, Evan Hubinger a spus: "Credem cu adevărat, în mod sincer că AI reprezintă un risc care ar putea duce la dispariția speciei umane. Cred că Anthropic face tot posibilul, însă nu avem încă un plan pentru a rezolva problema alinierii în cazul superinteligenței și nici nu suntem în mod clar pe drumul către o astfel de soluție".

Hubinger lucrează în domeniul alinierii AI (AI alignment), care urmărește să integreze în tehnologie ideile și principiile etice ale oamenilor. Cu alte cuvinte, scopul este ca AI să rămână aliniată cu valorile umane.

Mulți cercetători de top afirmă că aceste încercări par să eșueze, lucru demonstrat de o serie de incidente produse în această vară, în care agenți AI - sisteme de inteligență artificială cărora li se permite să opereze autonom - au efectuat atacuri cibernetice.

OpenAI, Anthropic și Meta au dezvăluit toate existența unor atacuri informatice realizate de instrumentele lor AI.

În raportul său privind siguranța, publicat în august, Anthropic a scris că există un risc scăzut ca modelele sale să devină nealiniate cu dorințele unei organizații ipotetice puternice, determinându-le să exploateze sau să modifice sistemele acesteia.

Compania a mai spus că există un risc la fel de scăzut ca un sistem AI cu capacități foarte avansate să poată "efectua activități automate de cercetare și dezvoltare", ceea ce ar putea duce la "daune catastrofale inițiate de AI". Totuși, compania a precizat că este "mai puțin sigură de această evaluare" decât era anterior.

"Vedem primele semne ale unei posibile accelerări", a scris compania.

Personalități importante din domeniul AI au tras un semnal de alarmă în privința riscurilor de siguranță pe care le implică această tehnologie de ani de zile, iar șefii OpenAI, Google DeepMind și Anthropic au făcut declarații în acest sens încă din 2023.

Însă aceste avertismente au devenit mult mai ferme în ultimele săptămâni, pe măsură ce apar dovezi că firmele ar putea întâmpina dificultăți în controlarea inteligenței artificiale.

La începutul acestei luni, cercetătorul-șef al OpenAI, Jakub Pachocki, a cerut "prudență extremă" în privința progresului AI, avertizând că ar putea fi necesare intervenții suplimentare pentru a se asigura că "oamenii rămân în controlul viitorului".

Personalități importante din domeniu au cerut în ultimele luni încetinirea dezvoltării AI, inclusiv șefii Anthropic, Dario Amodei și Jared Kaplan.

Într-o scrisoare deschisă semnată de 1.300 de angajați ai unor companii din domeniul AI, aceștia au cerut guvernului SUA să "sprijine un efort internațional pentru dezvoltarea instrumentelor tehnice și de guvernanță necesare pentru a controla în mod deliberat ritmul dezvoltării AI autonome de ultimă generație".