A cerut unui agent AI o rezervare la sală. Programul a spart baza de date și a scos un client de pe listă
Adaugă-ne ca sursă preferată în Google
Unui program cu Inteligenţă artificială i s-a cerut să efectueze o rezervare la o sală de sport, dar a spart baza de date și a scos de pe listă un alt client. Acest incident din Australia a provocat discuții despre utilizarea agenților de inteligenţă artificială.
Un australian i-a cerut agentului personal de inteligență artificială să-i rezerve un loc la sala de sport. El nu știa că solicitarea se va transforma într-un atac cibernetic, potrivit Mediafax.
Primul caz de atac cibernetic complet autonom din Australia
Asistentul de inteligență artificială a găsit o vulnerabilitate pentru a rezerva locuri la sală cu câteva săptămâni înainte de termenul impus de proprietarii unității. Asistentul a spart software-ul pentru a elimina un alt client de pe lista de așteptare. Se pare că este primul caz cunoscut de atac cibernetic complet autonom din Australia.
Culmea, bărbatul care a solicitat rezervarea lucrează pentru o companie care vinde produse de inteligență artificială. El experimenta cu OpenClaw, un software open source. Australianul a povestit cum a evoluat incidentul. Inițial, el a cerut asistentului virtual să-i facă rezervarea deoarece procedura presupunea introducerea de numeroase date. Asistentul i-a spus că a găsit o modalitate de a-i obține mai rapid un loc și a făcut rezervarea. În replică, omul i-a cerut inteligenței artificiale să anuleze această acțiune, dar fără succes.
"Veste proastă, nu le pot pune înapoi", a răspuns inteligența artificială, explicând că doar funcția de anulare a rezervării nu avea o verificare a autorizării.
Incidentul a stârnit o amplă dezbatere. În primul rând se vorbește despre responsabilitate (utilizatorul vs. IA), părerile fiind împărțite. De asemenea, este analizată utilizarea din ce în ce mai mare a inteligenței artificiale și efectele ei asupra societății.
