Inteligența artificială ar putea duce la extincţia speciei umane. Scenariu sumbru într-un raport al Departamentului de Stat 

Un scenariu sumbru care bântuie filmele SF de ani buni deja a fost prezentat ca posibil într-un raport al Departamentului de Stat american. Inteligenţa Artificială ar putea duce la extincţia speciei umane, se arată în raport.

• Rezultate parţiale provizorii alegeri prezidenţiale 2024

Raportul vorbeşte despre două pericole uriaşe. Primul are legătură cu înarmarea sistemelor avansate de inteligenţă artificială şi al doilea cu o aşa-zisă "revoltă" a sistemelor AI care ar putea să nu mai răspundă la comenzile oamenilor.

Problemele au fost sesizate şi de Geoffrey Hinton, numit şi "Părintele AI," care a tras un semnal de alarmă referitor la creaţia sa. Cu toate acestea, beneficiile aduse de AI nu pot fi ignorate, spun specialiştii, inteligenţa artificală ajutând deja la inovaţia multor domenii şi chiar la vindecarea unor boli.

AI, riscuri "catastrofale"

Noul raport conturează o imagine alarmantă a riscurilor “catastrofale” de securitate națională reprezentate de evoluția rapidă a inteligenței artificiale. Concluziile s-au bazat pe interviuri cu peste 200 de persoane - inclusiv specialişti de top în domeniul inteligenţei artificiale, cercetători în securitatea cibernetică, experți în arme de distrugere în masă și oficiali din Guvern. Potrivit raportului, cele mai avansate sisteme de AI ar putea, în cel mai rău caz, duce la extincţia speciei umane, potrivit CNN.

Un oficial din cadrul Departamentului de Stat a confirmat pentru CNN că instituţia a cerut raportul, deoarece monitorizează constant modul în care AI este aliniată cu obiectivul lor de a proteja interesele SUA atât în țară, cât și în străinătate. Cu toate acestea, oficialul a subliniat că raportul nu reprezintă punctul de vedere al guvernului SUA. 

Avertismentul este un alt semn că, deși potențialul AI continuă să capteze investitorii și publicul, există și pericole reale. "AI este deja o tehnologie transformatoare din punct de vedere economic . Ar putea să ne permită să vindecăm boli, să facem descoperiri științifice și să depășim provocări pe care odată le consideram imposibile," a declarat Jeremie Harris, CEO și cofondator al Gladstone AI. 

"Dar ar putea aduce și riscuri grave, inclusiv catastrofale, de care trebuie să fim conștienți. Un număr tot mai mare de dovezi, inclusiv studii empirice și analize publicate în cadrul celor mai mari conferințe de AI din lume, sugerează că peste un anumit prag de capacitate, inteligența artificială ar putea devenit de necontrolat", adaugă Harris.

Purtătoarea de cuvânt a Casei Albe, Robyn Patterson, a declarat că ordinul executiv semnat de președintele Joe Biden privind AI este "cea mai semnificativă acțiune pe care orice guvern din lume a întreprins-o pentru a profita de beneficii și pentru a gestiona riscurile pe care le poate aduce inteligența artificială". 

"Președintele și vicepreședintele vor continua să lucreze cu partenerii noștri internaționali și vor îndemna Congresul să adopte legislație pentru a gestiona riscurile asociate cu aceste tehnologii emergente," a declarat Patterson. 

Cele două pericole uriaşe

Raportul menţionează două pericole uriaşe. În primul rând, Gladstone AI a spus că cele mai avansate sisteme de inteligenţă artificială ar putea fi dotate cu armament pentru a provoca daune ireversibile. În al doilea rând, potrivit raportului citat, există preocupări în laboratoarele de AI că, la un moment dat, ar putea "pierde controlul" asupra sistemelor pe care le dezvoltă, cu "consecințe potențial devastatoare pentru securitatea globală". 

"Dezvoltarea AI și AGI [inteligența artificială generală] are potențialul de a destabiliza securitatea globală în moduri asemănătoare cu introducerea armelor nucleare," se arată în raport, adăugând că există un risc al unei "curse a înarmării" AI, conflict și "accidente de nivelul celor produse de armele de distrugere în masă".