"Se joacă cu viețile noastre". Avertismentul unui expert de 27 de ani după ce a lucrat la doi giganți AI
Adaugă-ne ca sursă preferată în Google
Jacob Coxon, un specialist britanic în vârstă de 27 de ani, a anunțat pe platforma X că pleacă de la Anthropic și renunță la industria inteligenței artificiale. Acesta susține că, în lipsa intervenției statelor, companiile nu mai pot dezvolta în mod responsabil astfel de sisteme.
Expert şi-a anunţat decizia prin mai multe mesaje publicate pe X. Motivul se rezumă la o singură frază: "Niciuna dintre cele două companii nu acţionează în mod responsabil. Se îndreaptă cu viteză spre o superinteligenţă capabilă să se perfecţioneze singură şi se joace cu vieţile noastre". Cele două companii în cauză nu sunt altele decât OpenAI şi Anthropic, cei doi foşti angajatori ai săi.
"Lucrurile ar putea scăpa de sub control" până la sfârșitul anului viitor
Matematicianul a lucrat la antrenarea unor noi modele de inteligenţă artificială (IA) pe baza unor cantităţi imense de date. Se afla, aşadar, în inima procesului. Colegii săi folosesc acum cuvinte precum "crunchtime" (momentul decisiv) şi "endgame" (faza finală) pentru a descrie direcţia în care se îndreaptă sectorul IA, a povestit Coxon cotidianului The Wall Street Journal, potrivit News.ro. "Ne îndreptăm spre cele mai extreme scenarii, în care, până la sfârşitul anului viitor, lucrurile ar putea scăpa deja de sub control", avertizează el în interviul acordat cotidianului american. Cu atât mai mult cu cât, în viziunea sa, cursa dintre laboratoarele americane şi cele chineze face să fie inevitabile compromisurile în materie de securitate.
Pe X, tânărul merge şi mai departe. "Nu subestimaţi puterea acestei tehnologii. Aceste sisteme vor deveni în curând supraomeneşti, capabile să pirateze orice, să revoluţioneze orice domeniu de la o zi la alta şi să dobândească putere şi resurse reale", spune el într-un tweet. Mai rău, "oamenii care dezvoltă IA cred sincer că aceasta ne-ar putea ucide pe toţi până la sfârşitul deceniului. Nu este o strategie de marketing", continuă avertismentul tânărului matematician.
În faţa presei, liderii şi cercetătorii experimentaţi îşi aleg cu grijă cuvintele "pentru a părea rezonabili". Însă, în privat, asigură el, aceleaşi persoane "îşi exprimă frica", susţine el. "Dacă cred cu adevărat asta, atunci de ce continuă să o construiască?", se întreabă Coxon, care îşi împărtăşeşte perspectiva: "La OpenAI, mulţi nu au înţeles pe deplin mizele civilizaţionale. La Anthropic, mizele sunt bine înţelese, dar sunt angajaţi într-o cursă pentru a ajunge primii - consideră că nimeni altcineva nu va acţiona în mod responsabil, aşa că trebuie să o facă ei înşişi, în ciuda riscului", relatează "Le Figaro", potrivit News.ro.
De ce crede expertul că nicio companie nu poate dezvolta singură AI în mod responsabil
La începutul acestui an, Coxon a părăsit OpenAI pentru a se alătura Anthropic, tocmai datorită reputaţiei acesteia în materie de siguranţă a modelelor. Deşi consideră că eforturile Anthropic în acest domeniu sunt sincere, el estimează acum că nicio companie nu poate dezvolta în mod responsabil o inteligenţă artificială capabilă să depăşească capacităţile umane într-o serie întreagă de sarcini (ceea ce se numeşte uneori inteligenţă artificială generală sau AGI) fără intervenţia statelor sau o încetinire coordonată.
Potrivit Wall Street Journal, această plecare se numără printre primele cazuri în care un angajat al Anthropic părăseşte compania din cauza temerilor legate de siguranţa IA. Anterior, un cercetător specializat în aceste chestiuni demisionase deja pentru a se dedica studiului poeziei. Avertismentul său? "Lumea este în pericol".
