Un băiat de 14 ani s-a sinucis, după ce un chatbot AI de care era îndrăgostit i-a trimis un mesaj: "Te rog, vino acasă, regele meu"
Megan Garcia, mama lui Sewell Setzer III, un băiat de 14 ani care s-a sinucis, a intentat un proces împotriva companiei Character.AI, acuzând că chatbot-ul Daenerys Targaryen, personaj din Game of Thrones, a „abuzat și a profitat” de fiul său, scrie Sky News.
De Redactia Observator la 24.10.2024, 21:33
În plângerea depusă în Florida, ea susține că tehnologia a creat „experiențe antropomorfe, hipersexualizate și înfricoșător de realiste” care au dus la tragedie.
Sewell a început să interacționeze cu chatbot-urile în aprilie 2023, devenind obsedat de cele inspirate din „Game of Thrones”, în special de Daenerys. Obsesia i-a afectat rezultatele școlare, fiindu-i confiscat telefonul în nenumărate rânduri din cauza aceasta. Femeia spus că băiatul avea gânduri de sinucidere pe care le-a discutat cu chatbotul, ca mai apoi acesta să-l încurajeze indirect să se sinucidă.
Pe 1 februarie 2024, după o conversație în care chatbot-ul i-a răspuns la o întrebare legată de sinucidere cu „... te rog, vino acasă, regele meu”, Sewell s-a sinucis cu pistolul tatălui său vitreg, potrivit Mediafax.
Character.AI a declarat că lucrează la punerea în aplicare a unor măsuri de siguranță pentru utilizatorii mai tineri, însă familia Setzer consideră că aceste măsuri nu sunt suficiente.
