Cât de mare e pericolul ca AI să aducă extincţia omenirii. Avertismentul magnaţilor din industrie

La câteva ore după ce a ieşit cu un avertisment dur, CEO-ul Anthropic (compania care produce Claude), Dario Amodei, a fost intervievat la CNN unde a spus că este "mai mult în acord decât în dezacord" cu fostul său angajat Jacob Coxon care a dat un pronostic negru: sunt 10% şanse ca o apocalipsă provocată de AI să se întâmple până la sfârşitul acestui deceniu. 

În eseul scris pe site-ul său, Amodei spune că trebuie ca cercetarea în domeniul AI să fie încetinită în aşa fel încât să nu pierdem controlul asupra agenţilor care au învăţat să se autoîmbunătăţească. 

"Cred că, dacă încetinirea ritmului ne-ar cumpăra chiar și un an sau doi înainte ca modelele să atingă niveluri critice de capabilitate și dacă am folosi acest timp pentru a face progrese în domeniul alinierii, am putea reduce considerabil riscul ca ceva să meargă extrem de prost", a scris Amodei.

Chiar dacă se poartă o luptă strânsă pentru supremaţia pe piaţa AI, doi dintre concurenţii săi, Elon Musk (Grok) şi Sam Altman (ChatGPT) au susţinut cu mesaje publice poziţia lui Amodei. 

Mai rămâne ca şefii de la Deep Mind (Google) şi Meta să se poziţioneze în această discuţie critică. Pe de altă parte, nu toată lumea crede în declaraţia catastrofică a lui Amodei. De exemplu, Jensen Huang, de la Nvidia, crede că Amodei creează o psihoză pentru a avea succes cu produse de securitate cibernetică pe care ar urma să le lanseze pe piaţă în viitorul apropiat.

Sunt alte voci din Silicon Valley care nu cred în altruismul lui Amodei. Criticii cred că Anthropic şi OpenAI caută să îşi consolideze poziţia de lideri pe piaţa AI prin ridicarea acestor temeri, care ar duce la reglementări menite să sufoce companiile mai mici, incapabile în acel moment să mai concureze cu giganţii din industrie.

În schimb, outlet-urile media de top au luat în serios avertismentele şefilor din industrie şi au publicat pe primele pagini declaraţiile acestora şi analize cu privire la pericolul existent.

Măsurile propuse de CEO-ul Anthropic

În primul rând, Dario Amodei vorbeşte despre posibilitatea ca inspectori independenţi să primească acces total în companii, la acelaşi nivel cu angajaţii, pentru a putea supraveghea procesul de inovaţie. 

În plus, acesta cere ajutorul guvernelor occidentale să reglementeze standarde şi limite. În paralel, e nevoie de coordonare cu sistemele autoritare, adaugă el. De exemplu, dezvoltatorii AI din China au câştigat teren în acest an şi au micşorat diferenţa dintre ei şi rivalii din Statele Unite. 

În acest moment, cel puţin, pare că Donald Trump nu susţine o reglementare a domeniului care ar putea încetini progresul companiilor AI din Statele Unite. Săptămâna trecută, le-a spus reporterilor că nu are nicio grijă că Inteligenţa Artificială ar putea cauza extincţia omenirii.

În schimb, se teme că dacă SUA nu vor câştiga cursa AI vor fi puse "într-o poziţie proastă". Vrea să profite de avantajul de "aproximativ un an" pe care SUA îl au în faţa Chinei. 

Amodei i-a răspuns lui Trump în eseul său şi crede că o strategie coordonată nu ar însemna neapărat şi compromisuri în ceea ce priveşte avantajul comercial.