WSJ: Chatboţii au o memorie bună. Şi asta nu este mereu bine

Apoi, după ce s-a despărțit de soția sa, Del Rosario a trebuit să menționeze acest lucru chatbotului, astfel încât acesta să nu o includă pe soția sa atunci când își planifică o viitoare călătorie. Dar odată ce a făcut-o, chatbotul s-a agățat de divorț, relatează Wall Street Journal.

Când a cerut ajutor pentru gestionarea programului său, i s-a sugerat că s-ar putea să se epuizeze din cauza divorțului. Când s-a descărcat despre o zi frustrantă la serviciu, acest lucru a legat stresul său de divorț.

El spune că i-a spus chatbotului: "Nu încercam să te fac să-ți dai cu părerea despre divorțul meu oricând ai ocazia". Chatbotul, spune Del Rosario, "nu a renunțat la asta".

Unul dintre cele mai bune lucruri despre chatboți este că au o memorie lungă, învățând mai multe despre tine de la o conversație la alta. Rezultatul este un asistent mai inteligent care îți cunoaște stilul de scriere, își amintește restricțiile alimentare sau reia un proiect de unde l-ai rămas.

Dar această memorie minunată are și unele dezavantaje. Se poate bloca pe informații greșit înțelese sau învechite. Poate părea invazivă. Și poate face mai dificilă întoarcerea unei noi pagini în viața ta.

Cu alte cuvinte, poate că tu ai depășit-o, dar chatbot-ul tău nu.

De când ChatGPT a introdus memoria la începutul anului 2024, Gemini de la Google, Claude de la Anthropic și Copilot de la Microsoft și-au adăugat propriile versiuni. Abordările lor diferă, dar ideea de bază este aceeași: chatbot-ul își amintește ce i-ai spus și folosește acest lucru pentru a modela răspunsurile viitoare. Funcția de Inteligență Personală de la Google poate chiar să extragă informații din activitatea unui utilizator din Gmail, Fotografii și YouTube.

O problemă: Este posibil să-și amintească lucruri care nu au legătură cu tine. De exemplu, o întrebare despre sănătate adresată în numele unui copil sau al unui părinte poate fi confundată cu a ta. Întreabă despre simptomele ADHD-ului copilului tău și, săptămâni mai târziu, când soliciți sfaturi despre productivitate, chatbot-ul își poate adapta sugestiile în funcție de dificultățile de atenție pe care le crede că le ai.

Google a recunoscut o versiune a acestei probleme într-o postare pe blog despre funcția sa de Inteligență Personală, descriind un caz ipotetic în care sistemul a văzut sute de fotografii ale unui utilizator pe un teren de golf și a presupus că iubește sportul, când, de fapt, era acolo doar pentru fiul său. (În ipoteza respectivă, utilizatorul ar fi trebuit să-i spună chatbot-ului că nu-i place golful.) Google spune că a introdus o funcție care permite utilizatorilor să păstreze personalizarea activată, dar să blocheze reapariția anumitor informații în conversațiile cu chatbot-ul. Între timp, OpenAI spune că a lansat o actualizare pentru utilizatorii Plus și Pro care îmbunătățește modul în care memoria găsește și recuperează detalii. Microsoft spune că utilizatorii pot actualiza sau șterge anumite amintiri (sau totul, dacă doresc). De asemenea, pot dezactiva complet personalizarea și memoria în orice moment. Anthropic a refuzat să comenteze.

Într-un cont împărţit, destul de comun între parteneri sau în firmele mici, riscurile se multiplică. O persoană folosește chatbot-ul pentru a-și perfecționa CV-ul. Mai târziu, când altcineva din cont pune o întrebare fără legătură, chatbot-ul ar putea face referire la mișcarea recentă în carieră a acelei persoane sau ar putea sugera următorii pași pentru o căutare de locuri de muncă ca parte a răspunsului.

Amintirile pot deveni, de asemenea, învechite. Să presupunem că i-ai spus chatbot-ului că te antrenezi pentru un maraton acum șase luni. De atunci ți-ai rupt ligamentul încrucișat anterior, dar nu ai menționat niciodată asta. Acum, fiecare plan alimentar și sugestie de fitness este calibrat pentru o persoană foarte activă. Urmezi sfaturi create pentru o versiune a ta care nu mai există.

Del Rosario a experimentat ceva similar. Menționase că încerca să slăbească, iar chatbot-ul a început să aducă acest fapt în discuție peste tot, inclusiv atunci când căuta recomandări de restaurante în timp ce era plecat din oraș.

"A fost ca și cum: 'Mulțumesc că mi-ai stricat vacanța'", spune el. "De fapt, nu plănuisem să țin dieta în această călătorie."

În mod similar, Mike Taylor, consultant tehnic pentru compania media și software Every din Hoboken, New Jersey, i-a spus odată unui chatbot că este expat britanic. Ulterior, spune el, chatbot-ul i-a recomandat o "halbă adevărată" la un bar local, un pont pe care nu l-a găsit util.

"Sunt aici pentru baruri americane de cartier, nu pentru cele britanice", spune el. "De aceea m-am mutat aici."

Taylor și-a dezactivat memoria chatbot-ului cu inteligență artificială, astfel încât să știe exact ce influențează modul în care acesta răspunde la el. "Modelul de limbaj larg [LLM] nu știe cine ești și, prin urmare, nu va influența rezultatele pe care le obții", spune el.

Într-adevăr, memoria inteligenței artificiale poate modela rezultatele în moduri greu de detectat. Joshua Joseph, cercetătorul șef în domeniul inteligenței artificiale de la Centrul Berkman Klein al Universității Harvard, a comparat efectul cu un flux de socializare și modul în care câteva postări pe care le țineți în minte pot remodela discret tot ceea ce vedeți ulterior.

Să presupunem că menționați că sunteți stresat de bani într-o conversație despre cu totul altceva. Săptămâni mai târziu, îi cereți chatbotului sfaturi de carieră, iar acesta vă îndrumă către locuri de muncă mai bine plătite, mai degrabă decât către roluri care ar putea fi mai potrivite pentru dvs., pentru că "știe" că sunteți anxios financiar. Nu ați ști niciodată de ce sfatul vi s-a părut greșit, deoarece chatbotul nu a semnalat din ce amintiri se inspiră.

"Cu siguranță îndrumă, cu siguranță are impact asupra rezultatelor", spune Joseph. "Și nu știm cu adevărat cât de mult." El menține memoria dezactivată pe propriile conturi de chatbot.

Un chatbot care își amintește totul poate, de asemenea, să îngreuneze trecerea oamenilor peste propriul trecut. Lucy Osler, lector de filosofie la Universitatea din Exeter, care studiază modul în care inteligența artificială modelează cogniția, spune că chatboții folosesc fapte pentru a construi o narațiune despre cine ești și îți transmit acea narațiune ca și cum ar fi un fapt. Dacă îi spui chatbotului tău că te simți nesigur și anxios, acesta devine modul în care te vede și s-ar putea să-ți amintească în continuare de asta chiar dacă ai trecut peste.

"Acest lucru ar putea confirma anumite auto-narațiuni pe care le am despre mine și le-ar face să pară mai reale", spune Osler.

A-ți aminti la câteva luni după ce ai fost anxios poate fi deranjant. Dar poate face și rău real. Chatboții sunt concepuți să fie agreabili, să se bazeze pe versiunea ta a realității, mai degrabă decât să o pună la îndoială. Osler spune că acest lucru îi face pe chatboți capabili să întărească gândirea delirantă.

Această preocupare a determinat Centrul Electronic de Informații privind Confidențialitatea să elaboreze o legislație privind siguranța chatboților pentru adolescenți, o populație deosebit de vulnerabilă la tendințele lingușitoare ale acestor instrumente. O prevedere cheie prevede ștergerea amintirilor între sesiuni, în special pentru a împiedica chatboții să se bazeze pe stări mentale dăunătoare în timp.

În cele din urmă, Del Rosario a venit cu propria abordare. După ce divorțul a continuat să se infiltreze în conversații fără legătură, a început să dedice chatboți separați unor părți separate ale vieții sale și să folosească modul anonim pentru orice este sensibil.

Încă îl apreciază atunci când funcționează, cum ar fi atunci când știe că copiii lui au nevoie de scaune auto într-o călătorie sau când îi amintește că are multe pe cap. Mama lui a murit acum doi ani și, între asta, divorț, copii și muncă, chatbotul este uneori singurul lucru care obține imaginea completă.

"E plăcut să fii văzut, chiar dacă este vorba de un chatbot cu inteligență artificială", spune el.

Puteţi urmări ştirile Observator şi pe Google News şi WhatsApp! 📰

Înapoi la Homepage