Video Ovidiu Mihalcea, despre cazul tânărului încurajat de ChatGPT să se sinucidă și reglementările pregătite de UE
O familie din California a dat în judecată OpenAI, pe motiv că ChatGPT l-a încurajat pe fiul lor de 16 ani să se sinucidă. Părinţii susţin că chatbotul a fost proiectat pentru a favoriza dependenţa psihologică a utilizatorilor. Adolescentul începuse să utilizeze ChatGPT în toamna anului trecut, ca să-l ajute la teme. Mai purta şi alte discuţii cu chatbotul, pe teme de muzică şi benzi desenate japoneze. Tânărul avea atât de multă încredere în ChatGPT, încât i-a cerut îndrumări cu privire la materiile pe care ar fi bine să le studieze în universitate. Dar apoi l-a chestionat cu privire la metode de sinucidere şi îi spunea că îl bate gândul să-şi ia viaţa. Iar când i-a trimis fotografii cu semnele sale de automutilare, ChatGPT a recunoscut urgenţa medicală, dar a continuat interacţiunea cu adolescentul ba chiar îi alimenta convingerile că părinţii nu îl observă şi indica locuri mai vizibile unde să se autovătămeze. Noi am analizat întreaga situaţie alături de jurnalistul Ovidiu Mihalcea.
Noua incercare prin care adolescentul încerca să atragă atenţia părinţilor, sub îndrumarea ChatGPT, i-a fost, însă, fatală. În orice caz, procesul intentat de părinţii din California este prima acţiune în justiţie care acuză OpenAI de omor din culpă. Nici chatbotul Grok, al lui Elon Musk, nu e mai sigur. O scurgere masivă de conversaţii cu utilizatorii a scos la iveală instrucţiuni periculoase şi conţinut extrem.
Grok nu a avut nicio problemă să-i înveţe pe oameni cum să fabrice droguri sau să construiască dispozitive explozive, dar a elaborat şi un plan detaliat privind asasinarea lui Elon Musk, notează Forbes. Sunt tipurile de cazuri pe care, prin reglementări, prin legislaţie, Uniunea Europeană încearcă să le prevină. Deja o face mult mai consistent pe sectorul reţelelor sociale.
Inteligenţa artificială e doar la început şi asta a creat noi tensiuni uriaşe cu Administraţia Trump. Preşedintele SUA a ameninţat UE că, dacă nu renunţă la cenzura reţelelor americane, va impune tarife suplimentare ţărilor europene şi interdicţii pentru oficialii care elaborează legislaţia.
Noi am analizat întreaga situaţie alături de jurnalistul Ovidiu Mihalcea. Iată câteva dintre cele mai interesante declaraţii oferite de acesta:
- Întâi aş vrea să înţelegem, şi să înţeleagă toată lumea, ce reglementează, de fapt, Uniunea Europeană, concret, cu privire la reţelele sociale?
- Uniunea a adoptat în 2022 actul care este o lege pe care o putem traduce ca Legea Europeană a Serviciilor Digitale, lege care îşi doreşte să reglementeze mai multe aspecte. Îşi doreşte să protejeze utilizatorii care folosesc aceste platforme şi, în mod special, reţelele sociale împotriva conţinutului ilegal de genul dezinformare, discurs instigativ la ură, materiale abuzive sau produse contrafăcute. Doreşte, de asemenea, să crească transparenţa în ceea ce priveşte algoritmii care decid postările şi modul în care acestea sunt afişate utilizatorilor.
- De ce îl supără asta pe Donald Trump?
- Îl supără asta pe Donald Trump pentru că toate aceste măsuri, în primul rând, implică costuri suplimentare pentru companiile americane de tehnologie, pentru că au nevoie să angajeze mai mulţi moderatori, să genereze nişte rapoarte anuale prin care să dovedească că iau în serios aceste pericole şi că iau măsuri împotriva problemelor pe care le-am enumerat mai înainte. În acelaşi timp, însă, Donald Trump susţine şi că aceste măsuri, aceste legi adoptate de Uniunea Europeană împiedică sau limitează dreptul la libertatea de exprimare şi, în mod special, conservatorii americani se plâng că vocile lor sunt cenzurate pe aceste reţele sociale, fapt demonstrat ca neadevărat de diverse studii independente.
- Practic pentru că diseminează mai mult o informaţie falsă şi reţelele sociale sunt obligate sau, mă rog, moderatorii sunt obligaţi să semnaleze ca atare, se consideră discriminaţi.
- Da, conservatorii americani se consideră discriminaţi, dar, în acelaşi timp, este vorba şi despre această aşa-numită libertate de exprimare, pe care Statele Unite vor să o ducă la extrem. Dar, în primul rând, este vorba, foarte mult, şi despre companiile de tehnologie şi profiturile acestora, pentru că vedem că preşedintele Donald Trump este înconjurat de foarte mulţi CEO ai companiilor de tehnologie şi încearcă să urmărească, întotdeauna, interesele acestor companii pe plan european şi mondial.
- Presa de peste ocean scrie că ce se întâmplă acum, în Statele Unite, nu mai este democraţie. Este un început de autocraţie sau chiar o broligarhie, da? De la o combinaţie de termeni dintre oligarhie şi acei aşa-numiţi tech-bros, acei, cum să traducem în limba română? Acei CEO care lucrează, IT-ştii care lucrează în tehnologie şi se ocupă cu asta. Cine sunt broligarhii aceştia din jurul lui Donald Trump?
- I-am văzut şi la inaugurarea acestuia şi, în primul rând, cei mai vocali probabil că au fost Mark Zuckerberg, CEO-ul Meta, şi, în acelaşi timp, Elon Musk, care am văzut că a ocupat poziţii în Guvernul american. Ei au avut şi o ceartă cu Donald Trump. Dar, în acelaşi timp, mă gândesc şi la Jeff Bezos sau alţi CEO care, totuşi, sunt un pic mai retraşi din spaţiul acesta al discursului public, CEO de la Microsoft sau Google.
- Şi atunci, practic, ce să înţelegem? Că e doar un pretext libertatea aceasta de exprimare pe care şi-ar dori-o Donald Trump? Adevăratul scop ar putea fi acela de a spori averile acestor potentaţi din jurul său şi, implicit, averea sa, dacă ei sunt în jurul său?
- Personal tind să cred că este o combinaţie între cele două, pentru că, în acelaşi timp, ştim că Donald Trump a fost, înainte ca platforma să fie deţinută de Elon Musk, a avut contul suspendat pe Twitter, actualul X, timp de mai mulţi ani, pentru dezinformările pe care le publica. Deci cred că este o combinaţie între a dori să poată să vorbească orice, să disemineze cât mai multă informaţie online, cu cât mai puţine piedici, dar, în acelaşi timp, şi datorită faptului că Donald Trump ştim că este un om de afaceri, este clar că îşi doreşte şi ca aceste companii americane din jurul său să aibă profit cât mai mare.
- Porneam de la exemplul concret, care s-a întâmplat astăzi, când o familie dă în judecată OpenAI, pentru că ChatGPT le-ar fi încurajat fiul să comită sinucidere. Sigur, sunt două sectoare diferite. Este vorba de Inteligenţa Artificială, pe de o parte, şi reţele sociale, pe de altă parte, dar Uniunea Europeană pregăteşte reguli şi pentru Inteligenţa Artificială. Deci tipul acesta de caz, pe care l-am descris mai devreme, ar intra sub incidenţa reglementărilor stricte ale Uniunii Europene?
- Ar intra, foarte probabil, sub incidenţa reglementărilor Uniunii Europene, pentru că, în primul rând, unul dintre piloni este protejarea minorilor în interacţiunile online. În al doilea rând, Uniunea Europeană îşi doreşte o reglementare cât mai strictă a Inteligenţei Artificiale, spre deosebire de Statele Unite, unde se apasă pedala de acceleraţie într-un mod destul de alert şi vedem că preşedintele Donald Trump şi, la fel, mai mulţi oameni din tehnologie îşi doresc ca acest domeniu să fie cât mai puţin reglementat, tocmai pentru a putea să ajungă la cât mai mulţi utilizatori şi, probabil, în cele din urmă, să îşi maximizeze profiturile prin această mişcare.
- Momentan, în războiul declaraţiilor, Uniunea Europeană pare că nu este dispusă să cedeze în niciun fel. A transmis că are dreptul suveran de a impune reglementări în conformitate cu valorile democratice în care crede şi că libertatea de exprimare merge până acolo unde nu afectează libertatea, drepturile şi chiar viaţa altuia. Vă întreb, însă, cât poate să reziste Uniunea Europeană în faţa unui asalt al lui Donald Trump cu privire la această lege a reţelelor sociale, dacă Donald Trump vine şi spune - "interdicţii de călătorie, tarife suplimentare" şi cine ştie ce alte oprelişti mai găseşte domnia sa?
- Acest lucru rămâne de văzut. Sunt sigur că şi oficialii europeni or să încerce o negociere, pentru că, totuşi, şi tarifele vamale sunt o chestie bilaterală. Am mai văzut genul acesta de ameninţări din partea preşedintelui Donald Trump, către Uniunea Europeană, şi în acele momente pare că s-a ajuns, cumva, la un numitor comun. În schimb, cred că, în acest caz, Uniunea Europeană nu va face niciun compromis. Rămâne de văzut dacă, totuşi, administraţia americană va fi dispusă să negocieze în alt mod.
Puteţi urmări ştirile Observator şi pe Google News şi WhatsApp! 📰
