Meta şi Nvidia fac front comun şi resping apelurile de încetinire a dezvoltării AI

Cei doi au făcut declarații separate, subliniind că fiecare companie trebuie să se asigure că dezvoltarea inteligenței artificiale nu scapă de sub control și nu ajunge să reprezinte o amenințare pentru oameni.

"Oamenii nu vor dori să folosească agenţi care nu sunt aliniaţi propriilor interese şi care nu fac ceea ce le cer. Prin urmare, laboratoarele au un puternic stimulent natural să facă în aşa fel încât să-şi alinieze mai mult modelele în faţa cerinţelor", a scris Zuckerberg pe reţeaua de socializare X.

Conceptul de "aliniere" se referă la eforturile de a face modelele de IA să se comporte aşa cum doresc oamenii. "Orice laborator care nu se concentrează pe aliniere va rămâne în urmă", anticipează şeful companiei Meta.

Îngrijorările din jurul IA au crescut în ultimele săptămâni, după mai multe incidente de securitate şi a unei noi capacităţi a modelelor de IA de a se perfecţiona singure, fără intervenţie umană.

Dezbaterea are la ora actuală în vedere şi capacitatea sectorului de se auto-reglementa. Societăţi precum OpenAI, Anthropic şi Google studiază crearea unui organism comun de elaborare a unor standarde.

Mai mulţi reprezentanţi influenţi din sector, conduşi de directorul general al Anthropic, Dario Amodei, pledează pentru o încetinire a dezvoltării IA.

În schimb, Zuckerberg consideră că ameninţarea cu acţiuni legale obligă deja laboratoarele să acţioneze în mod responsabil. El dă ca exemplu în acest sens decizia Meta de a amâna cu mai multe luni lansarea sistemului său Muse AI, prevăzut cu agenţi personalizaţi, pentru a-şi consolida mai întâi măsurile de securitate şi siguranţă.

De asemenea, Mark Zuckerberg s-a pronunţat în favoarea evaluărilor independente ale sistemelor de IA, subliniind că Meta Superintelligence Labs, divizia de Inteligenţă Artificială a companiei Meta, foloseşte deja experţi externi.

El a cerut crearea unui "ecosistem mai vast şi mai diversificat de evaluatori" pe ansamblul sectorului, o critică voalată la adresa Anthropic, companie căreia unii îi reproşează că favorizează evaluatorii cu care menţine legături strânse.

Compania Meta, care anul acesta va investi până la 145 de miliarde de dolari în infrastructura sa de IA, se pronunţă împotriva oricărei reglementări susceptibile să încetinească dezvoltarea domeniului. Nicio regulă nu ar trebui să întârzie lansarea modelelor americane, "nici măcar cu o lună", a indicat deja fondatorul său la începutul lunii august.

Opinia lui Mark Zuckerberg a fost salutată de mai multe personalităţi din Silicon Valley apropiate Casei Albe, care contestă la rândul lor creşterea atenţionărilor privind pericolele potenţiale pe care le implică Inteligenţa Artificială şi apelurile de încetinire a dezvoltării acesteia.

Huang, care s-a arătat în trecut sceptic față de avertismentele privind existențiale legate de AI, a mers chiar mai departe. El a susținut că Statele Unite nu au nevoie de noi legi sau reglementări privind siguranța inteligenței artificiale și a avertizat companiile să nu cadă într-o „falsă alegere” între ritmul rapid al inovației și dezvoltarea unor produse sigure.

Declarațiile celor doi vin după ce Dario Amodei, CEO-ul Anthropic, Sam Altman, CEO-ul OpenAI, și Elon Musk au cerut public, în weekend, o încetinire coordonată a cercetării în domeniul AI, pentru ca industria să poată gestiona mai bine riscurile asociate dezvoltării acestei tehnologii.

Apelul reprezintă un moment neobișnuit de apropiere între cei trei rivali, pe fondul creșterii preocupărilor publice și al avertismentelor venite din partea unor cercetători. Aceștia susțin că o cursă fără limite pentru dezvoltarea AI ar putea duce, în scenarii extreme, la pierderea controlului uman asupra tehnologiei și la consecințe grave.