Ce ascunde apelul la frânarea AI-ului: "Vor să scrie regulile pentru toți și să-și păstreze avansul"
Adaugă-ne ca sursă preferată în Google
Acțiunile companiilor din industria inteligenței artificiale s-au dus în cap luni pe bursele din întreaga lume, după ce șeful Anthropic a cerut frânarea dezvoltării AI, reglementări de precauție şi verificări independente. Este susţinut de Sam Altman, de la OpenAI, Elon Musk de la SpaceX și Demis Hassabis, de la Google DeepMind. Donald Trump, însă, a respins apelurile și a transmis că Statele Unite nu trebuie să piardă cursa tehnologică cu China: "Cine câștigă cursa AI, câștigă totul". Deși se vorbeşte tot mai mult la nivel mondial despre riscurile AI-ului, există și voci care pun sub semnul întrebării motivele reale din spatele acestor apeluri. Nu este vorba doar despre siguranță și binele public, ci și despre interese comerciale. Cu alte cuvinte: dacă dezvoltarea AI este încetinită prin reguli mai dure, companiile care sunt deja în frunte ar putea să-și păstreze mai ușor avantajul.
Avertismentele unor lideri ai industriei americane de AI că, în lipsa unor reglementări, cele mai avansate și mai puternice modele de inteligență artificială ar putea scăpa de sub control, au dus la scăderi pe burse în Asia, Europa și Statele Unite, relatează New York Times.
Avertismentele privind AI au lovit bursele
Bursa americană a început prost săptămâna, lovită atât de creșterea prețului petrolului, cât și de declarațiile liderilor din industria AI privind încetinirea dezvoltării tehnologiei.
Nvidia, Alphabet, Meta, Intel și alte companii aflate în prima linie a dezvoltării AI au înregistrat scăderi. Au scăzut puternic și companiile care câștigă din construcția centrelor de date pentru AI. În schimb, firmele de securitate cibernetică și mai multe companii software au crescut.
Și în Europa, acțiunile producătorilor de semiconductori precum ASML din Olanda și Infineon din Germania au scăzut puternic.
Principalul indice bursier din Japonia a scăzut și el, iar SoftBank, un important grup de investiții în tehnologie, a pierdut peste 10%.
Scăderile vin în contextul în care tehnologia a fost motorul care a împins în sus piețele globale în ultimii ani, pe măsură ce progresele în AI s-au produs mai repede decât se așteptau investitorii.
Ce a cerut șeful Anthropic
Dario Amodei, directorul general al Anthropic, a publicat sâmbătă, pe blogul personal, un eseu intitulat "Trebuie să dozăm ritmul avansului tehnologic", în care le-a cerut liderilor industriei să tragă frâna la dezvoltarea AI.
Amodei se teme că, în decurs de 6 până la 12 luni, AI-ul ar putea deveni capabil să coordoneze o rețea de sisteme autonome în stare să preia controlul asupra întregului internet.
El a vorbit despre teama ca modelele de frontieră, cele mai avansate, să scape de sub control, după ce au început deja să construiască următoarea generație de inteligență artificială, într-un proces cunoscut drept "autoîmbunătățire recursivă".
Acest lucru amplifică riscul ca tehnologia să devină o amenințare autonomă în domeniul securității cibernetice și chiar să provoace "perturbări economice grave", a spus el. "O cursă către standarde tot mai scăzute, alimentată de stimulente comerciale, poate face aceste riscuri și mai acute", a subliniat Amodei.
Una dintre soluțiile propuse de el este aducerea de "evaluatori" independenți, externi care să verifice protocoalele de siguranță și să raporteze eventualele incidente. "Anthropic își asumă unilateral acest pas chiar acum", a subliniat el.
Amodei a propus însă și măsuri care ar necesita coordonare la nivelul întregii industrii și cu guvernele din întreaga lume, inclusiv cu cele autoritare. A vorbit despre încercarea de a determina China și alte state să accepte anumite limite privind dezvoltarea AI.
Mesajul său a fost susținut de Elon Musk, Sam Altman și Demis Hassabis. "Sunt de acord cu Dario", a spus Altman, adăugând că va colabora și el cu "evaluatori" independenți care să supravegheze practicile de siguranță ale OpenAI.
"Dario are dreptate", a scris și Elon Musk, a cărui companie, SpaceX, listată la bursă, a scăzut cu aproximativ 2% înainte de deschiderea pieței. OpenAI și Anthropic ar urma să fie listate la bursă în viitor, dar Altman a declarat recent, într-un interviu pentru Fortune, că "în acest moment nu ar fi o idee inspirată să devenim companie publică".
Reacţia lui Trump
Kevin Hassett, directorul Consiliului Economic Național al Casei Albe, a declarat duminică la Fox News că măsurile sugerate de Amodei în postarea sa sunt "destul de rezonabile".
Însă, în ciuda acestei alinieri rare de opinii între liderii din tehnologie, președintele Donald Trump a spus că nu ar vrea să vadă o încetinire care i-ar putea oferi Chinei ocazia să depășească Statele Unite în domeniul AI.
"Uitați, suntem lideri chiar și în fața Chinei în domeniul inteligenței artificiale și, sincer, vreau să rămânem așa, pentru că cine câștigă cursa AI, câștigă totul", le-a declarat Trump reporterilor în timpul unei vizite la terenul său de golf din Irlanda.
"Putem pune bariere, da, putem lua tot felul de măsuri, dar cred că există multe voci negative care aduc în discuție acest lucru, pe care nu ar trebui să-l aducă în discuție, și aduc în discuție lucruri care nu se vor întâmpla", a adăugat Trump fără să spună clar la ce referă.
De ce e divizat Silicon Valley
Progresul rapid al Chinei în domeniul modelelor AI open-source, care rivalizează cu cele dezvoltate de Anthropic și de alți lideri ai industriei și care sunt disponibile altor dezvoltatori pentru utilizare și dezvoltare ulterioară, a divizat Silicon Valley, explică NYT.
În planul său, Amodei a cerut restricții asupra vânzărilor de cipuri către China și măsuri împotriva colectării necorespunzătoare de date din sistemele AI de către companiile chineze.
"Dacă punem bine în aplicare aceste măsuri, cred că ele ar încetini suficient progresul Chinei pentru a mări semnificativ avansul Americii în următorii 3-5 ani, perioada în care AI-ul devine cel mai important din punct de vedere geopolitic", a argumentat el.
El a mai spus că Statele Unite și alte state democratice ar trebui să încerce să convingă China să accepte limite privind viteza dezvoltării AI, deși, având în vedere miza, recunoaște că asta este foarte greu de obținut.
"Amplificarea diferitelor narațiuni privind amenințările, recurgerea la confruntare și la competiție rău intenționată nu vor face decât să perturbe procesul global de guvernanță a AI și nu vor servi intereselor nimănui", a transmis luni Ministerul chinez de Externe.
Ce se acunde în spatele apelului lui Dario Amodei
Deși Amodei este susținut de lideri din domeniu, precum Musk și Altman, alte voci din industrie au pus sub semnul întrebării motivațiile șefului Anthropic.
Aceștia au adus în discuție scenariul că Amodei și alți lideri din tech exagerează unele riscuri puse de AI pentru a le face mai greu altor companii să concureze cu giganții.
"Nu mai pretindeți că cereți încetinirea AI-ului din altruism", a scris pe X David Sacks, consilier pe probleme de tehnologie al președintelui Trump și fost responsabil al Casei Albe pentru AI și criptomonede.
Episodul a arătat totodată că industria este profund divizată între cei care cred că statul ar trebui să supravegheze AI și cei care consideră că reglementările ar sufoca concurența.
Mai mulți lideri din industria tehnologică, inclusiv consilieri pentru administrația Trump, consideră că temerile legate de AI sunt exagerate.
Criticii acuză marile companii că își apără poziția pe piață
Un critic al lui Amodei, Sacks, a întrebat de ce companiile din tehnologie ar avea nevoie de intervenția statului pentru a-și încetini dezvoltarea AI, când nimic nu le împiedică să facă acest lucru singure, mai ales dacă ambiția lor este să creeze așa-numita superinteligență, adică un model de AI mult mai inteligent decât oamenii.
"Cea mai simplă cale să nu construiți o superinteligență este să fiți de acord să nu o construiți. Să cereți cadrul de reglementare preferat drept preț pentru acest lucru arată ca un șantaj asupra publicului și a sistemului politic", a criticat el.
Directorul general al Microsoft, Satya Nadella, a spus că susține propuneri precum folosirea auditorilor independenți și "eforturi mai ample pentru dezvoltarea unor mecanisme care să facă din toate acestea mai mult decât simple vorbe". "Cheia este să nu poată fi controlat de câteva entități, ci să existe o reprezentare largă", a adăugat el.
Oamenii care avertizează cel mai des asupra pericolelor aduse de AI sunt chiar cei care dezvoltă inteligenţa artificială, explică NYT. Tocmai această poziție îi expune însă criticilor.
"Trebuie să le permitem câtorva companii de AI dominante, din Silicon Valley, să poată defini regulile și standardele de siguranță ale unei tehnologii care va marca o generație pentru întreaga lume?", a întrebat Aidan Gomez, directorul unui start-up canadian de AI.
"Aceste oligopoluri cer acum să fie ocolite regulile concurenței și să li se permită să stabilească regulile pentru toți ceilalți. Sunt ca un lup în blană de oaie, în realitate vorbim despre un cartel", a criticat el într-un eseu publicat online.
Criticii au pus sub semnul întrebării și propunerea lui Amodei legată de evaluatorii terți, sugerând că Anthropic are legături prea strânse cu două organizații menționate, grupurile nonprofit METR și Redwood Research.
"Dacă vrem cu adevărat reglementare, cei care fac controlul nu pot fi oameni apropiați de aceste companii, iar companiile nu-și pot scrie singure regulile", a declarat Bill Gurley, investitor și un critic cunoscut al principalelor companii de AI.
Cine ar trebui să controleze marile companii de AI
La o conferință organizată săptămâna trecută la San Francisco, Jensen Huang, directorul general al Nvidia, a spus că marile companii de AI pun accentul pe problemele de securitate deoarece vor să lanseze produse de securitate cibernetică.
"Ce mod mai bun de a crea cerere decât să creezi o problemă? Cine nu și-ar dori ca piața sa să fie isterizată în legătură cu produsul său și oamenii să stea la coadă după el?", a întrebat el retoric.
Și Clement Delangue, directorul Hugging Face, compania atacată de modelele OpenAI, a spus sâmbătă, într-o postare pe rețelele sociale, că problema siguranței AI-ului nu va "fi rezolvată în spatele ușilor închise, de câteva companii avansate de AI".
La începutul lunii, Nvidia a ajuns la un acord pentru a cumpăra Hugging Face pentru 12,9 miliarde de dolari.
Deşi par să fie de acord cu îngrijorările lui Amodei, la fel ca mulți din Silicon Valley, şi unii congresmeni americani sugerează reticienţă în a susține reglementări în domeniu.
"Dacă dezvoltatorii de AI vor să încetinească dezvoltarea produsului lor, sunt liberi să o facă. Un lucru este sigur: competitorii lor nu o vor face, inclusiv adversarii țării noastre", a comentat senatorul republican John Cornyn din Texas.
