Interviu Care sunt șansele ca o super-inteligență artificială să ne omoare pe toți? Dragoș Stanca, la Observator 360°
Adaugă-ne ca sursă preferată în Google
Accelerarea dezvoltării agenților AI poate avea efecte minune sau efecte catastrofale. Nu mai departe de ieri, un fost angajat al companiei Anthropic, proaspăt demisionar, a spus că a recurs la acest gest pentru că nu este dispus să își asume consecințele dezvoltării unui instrument care poate duce la extincția speciei. El a declarat că riscul ca AI-ul să devină independent și să producă catastrofe poate ajunge și la 10%.
Dragoș Stanca, antreprenor în domeniul tehnologiei, a fost invitatul Teodorei Tompea la Podcastul Observator 360°. Stanca a vorbit despre scenariile care ar putea urma dezvoltării unei super-inteligențe artificiale, dar și despre motivul pentru care unii oameni sunt deja ușor de păcălit cu materiale produse cu ajutorul AI.
Dragoș Stanca, la Podcastul Observator 360°: "Întrebarea este dacă iubim mai mult riscul sau iubim mai mult viața"
"Există două curente de opinie: cel al superoptimiștilor care spun că merită riscurile pentru că beneficiile vor fi extraordinare. Pornind de la medicină până la soluții la conflictele care macină lumea. Și că există un risc între 5% și 20% care să amenințe existența speciei merită dacă miza este un leac care ar vindeca unele dintre cele mai grave boli sau dacă am descoperi soluția ridicării nivelului de trai al întregii planete. Pe de altă parte, evident, există școala de gândire pesimistă care spune că și dacă vorbim despre un risc de 5% - agreat de astfel în multe medii - acesta este prea mare. Atenție, 20% este mai mare decât șansa să găsești glonț pe țeavă la ruleta rusească. Probabilitatea este de 16% la ruleta rusească cu un revolver cu 6 gloanțe. Astfel, pesimiștii pun această întrebare: iubim mai mult riscul decât viața?", a spus Dragoș Stanca.
Dragoș Stanca: "E o diferență majoră între o unealtă precum toporul și una precum AI-ul"
"Optimiștii spun că vom găsi calea să nu ne sinucidem în acest proces.
Diferența majoră pe care o aduc pesimiștii este că - spre deosebire de descoperirea bombei nucleare de exemplu, care a dus apoi la energia nucleară - ei bine inteligența artificială poate căpăta puterea de a se dezvolta de una singură și de a lua decizii pe pilot automat. Sunt discuții în comunitatea științifică despre asta.
Diferența majoră dintre o uneală precum un topor cu care poți construi o casă sau cu care să omori pe cineva și inteligența artificială este aceea că toporul îl ține în mână un om. Inteligența artificială, de la un anumit punct, nu mai este în mâinile oamenilor.
Dacă i se fixează unui astfel de agent AI un obiectiv care poate părea legitim la un moment dat, ca de exemplu să consume mai puțină energie, el poate ajunge să considere că poate consuma mai puțină energie în lipsa oxigenului. Și atunci ar putea căuta o soluție ca pe o suprafață mare a Pământului să nu mai existe oxigen. Din punct de vedere tehnic, ar lua o decizie corectă la o sarcină - atenție - trasată de un om. Dar consecința ar fi catastrofală din punct de vedere uman.
În SUA și în UE există în momentul acesta mai multe direcții și discuții. Există această amenințare că dacă lumea Occidentală oprește această cursă, atunci alte puteri globale vor accelera și vom ajunge să ne confruntăm cu situații distopice ca de exemplu că o armată de roboți "made in China" ar putea veni peste noi. Dar există și o parte a oamenilor care spun că această cursă trebuie încetinită inclusiv prin discuții cu China și alte puteri.
Există și o viziune de stânga care spun că astfel de instrumente nu ar trebui operate de companii private.
Discuția este complexă și ține în principal de riscuri. De aceea americanii discută despre acest buton de tip "kill switch" care să oprească totul dacă oamenii decid asta", a adăugat el.
Dragoș Stanca: "Chiar și liderii acestor companii spun că e nevoie de controlul guvernelor"
"Ce este interesant este că liderii acestor companii, Sam Altman, Mark Zuckerberg și alții, au venit cu idei despre cum AI ar putea fi ținut sub control. Chiar aceste companii cer intervenția guvernelor pentru că își dau seama că altminteri ar putea deveni responsabile pentru consecințe greu de imaginat acum.
Scenariul pesimist nu este neapărat din cybersecurity, ci mai degrabă biosecurity. AI poate ajunge să facă viruși de exemplu. Sunt scenarii distopice, dar sunt tehnic posibile și este normal să discutăm despre ele. E normal ca această discuție publică să devină și mai publică", a mai spus el.
Dragoș Stanca: "Ce s-a întâmplat cu festivalul fake de la Jurilova ține de Educație"
"Nu sună foarte flatant pentru noi, dar totul vine de la Educație. Cifrele arată că suntem pe ultimele locuri în Europa când vorbim despre analfabetismul funcțional. Aș vrea să fiu mai diplomat, dar toate aceste date ne arată că mergem către disoluție. Sunt multe elemente care ar trebuie să ne dea de gândit cu privire la perspectivele noastre ca nație. Unde vreau să ajung totuși...aceste lucruri fac ca oamenii să fie ușor de păcălit. Să cadă victime fraudelor sau chiar mai rău. Ține de educație. Așa cum securitatea noastră fizică ține de noi, la fel este și cu securitatea noastră internațională. Prin urmare, nu credeți un singur răspuns de la un singur model de tip LLM. Și dacă sunteți obligați să folosiți un singur model, măcar întrebați de mai multe ori. Prima setare tehnică a unui astfel de model este să adreseze informații pe care deja le are. Doar dacă îi cerem de mai multe ori accesează și informații la zi.
În scenariul optimist, așa cum astăzi avem un laptop sau un telefon care ne ajută, putem ajunge să avem un robot care ne ajută. Teoreticienii spun că tindem către o eră de aur a omenirii. Întrebarea este dacă până acolo vom trece printr-o etapă de reașezare. Mesajul general este că ar trebui să fie spre bine", a conchis Dragoș Stanca.
