Pericolul alimentat de algoritmi: "Fiecare părinte va verifica telefonul copilului după aceste imagini"

În ultimele șase luni din viața lui Molly Russell, au fost doar douăsprezece zile în care nu a văzut conținut despre sinucidere sau autovătămare prezentat de algoritmul Instagram. Asta înseamnă 2.100 de imagini care promovau sinuciderea. 

Molly Russell a fost o adolescentă britanică din Harrow, Londra, care s-a sinucis tragic în noiembrie 2017, la vârsta de 14 ani. Moartea ei a fost relatată pe scară largă în mass-media după ce familia ei a descoperit că vizionase conținut legat de depresie, autovătămare și sinucidere pe platformele de socializare, în special pe Instagram.

Pe 21 noiembrie 2017, familia Russell s-a uitat la televizor, ca de obicei, apoi și-a spus noapte bună înainte de a merge la culcare. Ian Russell își amintea: "[Molly] s-a uitat la mine și a spus: -Noapte bună, tată. Ne vedem mâine dimineață-. Nu știam atunci, dar, bineînțeles, aceea a fost ultima noastră conversație."

Ian a adăugat: "Când îi spui noapte bună copilului tău și închizi ușa, acesta este în siguranță în dormitorul său. Și stingi luminile și te-ai asigurat că ușa din față a casei tale este încuiată. Ai luat măsuri, așa cum faci în fiecare seară fără să te gândești, pentru a-l proteja. Și ceea ce nu eram suficient de conștient, și nu cred că mulți părinți sunt, este că, dacă acel copil are un smartphone cu el, există o fereastră care îi permite să se conecteze la lumea exterioară. Îmi amintesc că am înțeles instantaneu că o parte din mine murise odată cu ea. Acea viață s-a oprit și a început în acel moment... Viața mea nu este întreagă. E fracturată în două", a spus tatăl lui Molly, relatează Mirror.

Conform anchetei, căutările online ale lui Molly au fost legate de mâncare, celebrități, vedete pop, haine și muzică. Iar cele mai recente căutări au fost în jurul site-urilor din lumea Harry Potter, în special despre cum au murit personajele Fred și George Weasley.

Într-un moment tulburător, un anchetator special a declarat instanței că datele de pe telefonul lui Molly arătau o amprentă digitală a ultimelor sale momente. Acesta a spus: "La ora 00:45, pe 21 noiembrie 2017, jurnalul arată că telefonul s-a mișcat ultima dată pe 21 noiembrie 2017, între orele 00:21 și 00:27, unde s-au făcut opt ​​pași, acoperind 3,85 metri."

Instanței i se arată apoi videoclipurile și imaginile finale pe care algoritmul Instagram i le-ar fi arătat lui Molly. Repetându-se, legistul avertizează: "Fiecare părinte în această seară, când va vedea aceste imagini, va verifica telefonul copilului său."

Totuși, algoritmul, după cum spunea Ian Russell, "o conducea spre moarte". El a explicat: "Nu a existat nicio descurajare pentru a nu se mai autovătăma. Nicio descurajare pentru a nu se mai gândi la sinucidere. De fapt, chiar opusul. A existat încurajare pentru a continua să aparțină clubului."

Documentarul prezintă apoi o conversație internă prin e-mailuri Meta despre conținutul sinucigaș. În e-mailuri, Sir Nick Clegg (pe atunci președinte al departamentului de afaceri globale la Meta) descrie imaginile despre autovătămare și sinucidere ca fiind "cu adevărat oribile". Răspunsul pe care l-a primit de la Sheryl Sandberg, directorul de operațiuni de atunci al Meta Platforms: "După cum știți, avem probleme generale cu bugetul, așa că nu există promisiuni cu privire la ce se va întâmpla."

Ian Russell a avertizat: "Dacă i se poate întâmpla familiei noastre, atunci i se poate întâmpla oricui."

Astăzi, la ani distanţă, Instagram a anunțat că va începe să alerteze părinții dacă ai lor copii caută în mod repetat termeni clar asociați cu sinuciderea sau automutilarea. Alertele vor fi trimise doar părinților care sunt înscriși în programul de supraveghere parentală al Instagram.

Instagram afirmă că deja blochează afișarea acestui tip de conținut în rezultatele căutărilor din conturile adolescenților și redirecționează utilizatorii către linii de asistență telefonică, potrivit AP.

Anunțul vine în contextul în care Meta se află în mijlocul a două procese privind prejudiciile aduse copiilor.

Un proces în curs de desfășurare în Los Angeles pune sub semnul întrebării dacă platformele Meta creează în mod deliberat dependență și dăunează minorilor.

Un alt proces, în New Mexico, încearcă să determine dacă Meta a eșuat în protejarea copiilor de exploatarea sexuală pe platformele sale.

Mii de familii, împreună cu districtele școlare și entitățile guvernamentale, au dat în judecată Meta și alte companii de social media, susținând că acestea își proiectează în mod deliberat platformele pentru a crea dependență și nu protejează copiii de conținutul care poate duce la depresie, tulburări alimentare și sinucidere.

Conducerea Meta, inclusiv CEO-ul Mark Zuckerberg, a contestat faptul că platformele provoacă dependență.

În timpul interogatoriului avocatului reclamantului, în Los Angeles, Zuckerberg a declarat că este în continuare de acord cu o declarație anterioară pe care a făcut-o, potrivit căreia lucrările științifice existente nu au dovedit că rețelele sociale provoacă daune sănătății mintale.

Alerte vor fi trimise prin e-mail, SMS sau WhatsApp, în funcție de informațiile de contact disponibile ale părintelui, precum și o notificare prin contul de Instagram al părintelui.

"Scopul nostru este de a le oferi părinților posibilitatea de a interveni dacă căutările adolescentului lor sugerează că ar putea avea nevoie de sprijin. De asemenea, vrem să evităm trimiterea inutilă a acestor notificări, care, dacă sunt trimise prea des, ar putea reduce utilitatea lor în general", a transmis Meta.

Meta a precizat că lucrează și la notificări similare pentru părinți cu privire la interacțiunile copiilor cu inteligența artificială.

"Acestea vor notifica părinții dacă un adolescent încearcă să se angajeze în anumite tipuri de conversații legate de sinucidere sau automutilare cu AI-ul nostru", a declarat Meta.

"Este o muncă importantă și vom avea mai multe informații de împărtășit în lunile următoare".

Înapoi la Homepage

Puteţi urmări ştirile Observator şi pe Google News şi WhatsApp! 📰