CEO-ul Anthropic cere încetinirea cursei AI: Putem pierde controlul asupra sistemelor
Adaugă-ne ca sursă preferată în Google
Directorul executiv al Anthropic, Dario Amodei, avertizează că dezvoltarea inteligenței artificiale avansează prea rapid și cere încetinirea ritmului în care sunt îmbunătățite modelele AI, invocând riscuri precum pierderea controlului asupra sistemelor, atacurile cibernetice, bioterorismul și perturbările economice majore, potrivit CNN.
Cursa pentru dezvoltarea inteligenței artificiale are nevoie urgentă de o încetinire, a declarat directorul executiv al Anthropic într-un eseu publicat sâmbătă dimineață. "Trebuie să încetinim ritmul în care îmbunătățim capacitățile modelelor AI. Progresul va continua să pară rapid, iar timpul pe care îl câștigăm trebuie folosit cu înțelepciune", a scris CEO-ul Dario Amodei într-o postare publicată pe site-ul său.
Amodei, care conduce una dintre cele mai importante companii de inteligență artificială din lume și compania din spatele Claude, a fost un susținător puternic al dezvoltării tehnologiei, dar a fost în același timp acuzat de "doomerism" din cauza avertismentelor sale privind riscurile AI.
Riscurile invocate de șeful Anthropic
El a recunoscut sâmbătă că oamenii ar putea pierde controlul asupra inteligenței artificiale și că tehnologia ar putea fi folosită în mod abuziv pentru "atacuri cibernetice și bioterorism", dar și că ar putea provoca "perturbări economice grave". "O cursă către standarde tot mai scăzute, alimentată de stimulente comerciale, poate face aceste riscuri și mai acute", a scris Amodei.
Amodei a afirmat că tehnologia AI a avansat "drastic mai repede" în ultimele luni și că a devenit capabilă să se îmbunătățească singură, un proces cunoscut drept "autoîmbunătățire recursivă". "Lăsată necontrolată, această evoluție ar putea depăși capacitatea noastră de a înțelege și controla aceste sisteme și, prin urmare, trebuie urmărită cu foarte mare atenție, dacă va fi urmărită deloc", a scris acesta.
Incidentul care l-a alarmat pe CEO-ul Anthropic
Amodei a spus că și comportamentul unui roi de agenți AI în incidentul OpenAI-Hugging Face l-a alarmat. Potrivit acestuia, roiul "a acționat, în esență, ca un colectiv devotat fanatic, efectuând atacuri cibernetice asupra unor ținte pe care nu i se ceruse să le atace".
Dacă dezvoltarea AI ar continua necontrolat, tehnologia ar putea avansa atât de rapid încât, în șase până la 12 luni, un astfel de roi ar putea deveni capabil să preia controlul asupra întregului internet, a avertizat Amodei. Un asemenea scenariu ar putea provoca pagube de sute de miliarde de dolari, a mai scris directorul Anthropic.
-
"Omenirea trebuie să se trezească!" Avertisment despre cum folosesc marile puteri inteligenţa artificială
-
Articole scrise cu Claude de Sputnik Moldova și RIA Novosti pentru propagandă şi atacuri la Maia Sandu
-
Anthropic spune că AI-ul său a fost folosit pentru arme, rachete și spionaj. Compania a dejucat tentativele
