Elon Musk și alți 1.000 de experți cer oprirea dezvoltării sistemelor AI mai puternice decât GPT-4, invocând riscuri pentru umanitate

Elon Musk și un grup de experți în tehnologia AI, directori de companii, profesori universitari sau chiar istorici și filozofi cer oprirea pentru șase luni a dezvoltării sistemelor de inteligență artificială mai puternice decât cel dezvoltat de OpenAI, GPT-4, într-o scrisoare deschisă publicată pe site-ul organizației non-profit Future of Life Institute. Cei peste 1.000 de semnatari invocă posibile riscuri la adresa societăților și a umanității.

• Robert Fico poate vorbi, dar starea sa rămâne gravă. Medicii i-au amânat cea de-a doua operaţie

Printre semnatarii scrisorii se numără Elon Musk, directorul companiei Stability AI - Emad Mostaque, cofondatorul Apple - Steve Wozniak, cercetători de la Alphabet, istoricul și filozoful Yuval Noah Harari, precum și jucători mari din tehnologia AI precum Yoshua Bengio sau Stuart Russell. Cu toții au cerut o pauză în dezvoltarea acestor sisteme de ultimă generație până la implementarea unor protocoale de securitate care să fie gândite și monitorizate de experți independenți.

"Sistemele performante de inteligență artificială ar trebui dezvoltate doar după ce suntem încrezători că efectele lor vor fi pozitive, iar riscurile ușor de gestionat", se arată în scrisoarea deschisă, citată de Reuters.

În scrisoare se detaliază posibile riscuri la adresa societăților și a umanității, teama fiind că în viitorul apropiat s-ar putea produce schimbări majore la nivel economic și politic. Semanarii cer dezvoltatorilor AI să colaboreze cu formatorii de politici publice și autoritățile responsabile de reglementare.

Scrisoarea vine după ce Uniunea Europeană și-a exprimat îngrijorarea cu privire la sistemele AI ar putea fi folosite pentru tentative de phishing, dezinformare și criminalitate cibernetică. Sindicatul Poliţiştilor Europeni a avertizat că programele care folosesc inteligenţa artificială facilitează munca infractorilor de a-şi găsi victimele. Abilitatea acestor sisteme software de a realiza conținut audio foarte asemănător cu unul original poate duce, de asemenea, la propagandă si dezinformare.

ChatGPT, operat de OpenAI, o companie susținută de Microsoft, a provocat o undă de șoc în lumea dezvoltatorilor AI, care acum încearcă să țină pasul și să grăbească dezvoltarea sistemelor AI și integrarea lor în modelele de business. Sam Altman, CEO al OpenAI, nu a semnat scrisoarea. "Nu e perfectă, dar spiritul e bun: trebuie să încetinim până când vom înțelege mai bine ramificațiile", a fost de părere Gary Marcus, profesor-emerit la Universitatea din New York.

Ce este ChatGPT și de ce ar putea lăsa sute de milioane de oameni fără un loc de munca

ChatGPT este o aplicaţie lansată în noiembrie anul trecut de cptre OpenAI și care a făcut senzație în special graţie versatilităţii. Gândit inițial ca un produs care să susțină o conversație minimă, ChatGPT a ajuns să aibă calitățile necesare pentru a crea de la software și până la muzică sau poezie.

ChatGPT a beneficiat de review-uri pozitive, încă de la lansare, iar OpenAI, compania care stă în spatele acestui produs, a ajuns să fie evaluată la zeci de miliarde de dolari.

Au existat, însă, și review-uri negative care vorbesc în special despre pericolul pe care îl poate reprezenta trecerea în prim plan a inteligenței artificale. De asemenea, s-a vorbit și despre numeroasele rateuri date de ChatGPT, care ar avea tendința să improvizeze în loc să ofere răspunsuri complete.

Specialiștii vorbesc despre posibilitatea ca ChatGPT și alte aplicații sau programe bazate pe inteligență artificială să poată lăsa mulți oameni fără locul de muncă - experți financiari, publiciști, translatori, graficieni sau chiar terapeuți ori specialiști în sănătate.

În plus, o mulțime de industrii au devenit vulnerabile în fața dezvoltării inteligenței artificiale, mai ales în condițiile în care există companii de specialitate care au decis să renunțe la mii de angajați pentru a obține resursele necesare care să permită investiția a miliarde de dolari în dezvoltarea inteligenței artificiale.