Agenți AI, blocați de marile bănci americane. Ce riscă cei care le dau acces la conturile lor
Urmărește ObservatorNews pe Discover
Alertă în rândul marilor bănci americane. Au început să blocheze accesul aplicaţiilor cu inteligenţă artificială la conturile clienților, de teamă că aceștia ar putea face tranzacții fără acordul lor, deşi chiar posesorii conturilor au furnizat agenţilor AI datele de logare, adică username şi parola. Aparent, băncile au dificultăți în a distinge între operațiunile inițiate direct de clienți și cele inițiate de agenți AI, dar și în a stabili dacă aceștia acționează cu acordul clienţilor.
Alerta din sistemul bancar american a fost declanșată după ce au apărut informații că unii agenți AI dezvoltați de diverse companii au încercat să facă tranzacții aparent din proprie inițiativă, fără instrucțiuni din partea utilizatorilor. Banca Morgan Stanley și firma de brokeraj Charles Schwab au luat deja măsuri pentru a împiedica accesul acestor programe la platformele lor.
AI, operaţiuni independente de instrucțiunile utilizatorilor, deşi au primit acces la parole
Vestea vine după ce unii agenți AI ar fi încercat să efectueze operațiuni aparent fără să primească comenzi din partea utilizatorilor, potrivit unei dezvăluiri publicate joi de site-ul Axios.
Au fost cazuri în care clienții băncilor le-au furnizat unor agenți AI numele de utilizator și parola, iar băncile au identificat și blocat tranzacțiile respective, a declarat pentru Reuters o persoană din sectorul bancar.
Astfel de tranzacții nu pot fi considerate neautorizate
Îngrijorător este că astfel de tranzacții nu pot fi considerate neautorizate dacă datele de autentificare au fost furnizate chiar de client.
Reuters scrie că Morgan Stanley nu a identificat cazuri de agenți AI neautorizați sau care au acționat necontrolat, dar a blocat accesul acestora la platformele sale.
Îngrijorări în sectorul bancar
La începutul acestei luni, directorii celor mai importante bănci au discutat despre riscurile asociate agenților AI care acționează în numele clienților. Unii dintre ei au avertizat că tehnologia vine cu riscuri semnificative atât pentru clienți, cât și pentru bănci.
-
Pensionară din Blaj, păcălită cu AI să dea 250.000 de lei unui băcăuan. Bărbatul voia să cumpere criptomonede
-
Mii de site-uri din toată lumea, oprite. Alertă și în România. Ce e PHP și de ce a declanșat o criză globală
-
O serie de comenzi neobișnuite ridică semne de întrebare: zeci de mii de cărţi, cerute de cumpărători anonimi
Jamie Dimon, directorul celei mai mari bănci americane, a declarat la începutul acestei luni că JPMorgan Chase dezvoltă instrumente pentru a gestiona riscurile asociate agenților AI care îndeplinesc sarcini în mod autonom.
"Nu vom permite oricărui agent extern să pătrundă în sistemele companiei, pentru că acest lucru este pur și simplu prea riscant pentru clienți și pentru JPMorgan", a declarat el atunci.
Măsuri similare au fost anunțate și de Richard Wurster, directorul general al Charles Schwab, care spune totuși că aceste cazuri sunt rare.
"Primesc zilnic un raport care arată de câte ori a trebuit să blocăm un agent AI și nu sunt multe astfel de cazuri, pentru că eu cred că oamenii nu folosesc încă această tehnologie în acest mod în viața lor financiară. Îi blocăm pentru că vrem să păstrăm controlul asupra autentificării și asupra experienței utilizatorilor", a declarat el.
