Bill Gates, despre pericolul AI: "Şi cel mai mic criminal poate declanşa atacuri la scară largă"
Adaugă-ne ca sursă preferată în Google
Bill Gates, fondatorul Microsoft, trage un puternic semnal de alarmă referitor la evoluţia Inteligenţei Artificiale. Gates este de părere că AI-ul poate fi folosit şi în scopuri criminale, iar ţinta poate fi oricine, de la oamenii obişnuiţi, la cele mai importante instituţii ale unui stat.
Într-o scrisoare manifest, un fapt un eseu despre revoluţia AI, Bill Gates afirmă că dezvoltarea necontrolată a Inteligenţei Artificiale poate atrage după sine o serie de infracţiuni pe care nicio autoritate umană din prezent nu le poate combate. De la deepfake-uri şi fraude, la cyberatacuri şi bioterorism, toate pot fi posibile mult mai rapid dacă este folosit un motor AI care oferă "soluţii" şi scenarii la secundă.
Cel mai mare pericol: atacuri autonome ale AI, fără comandă umană
"Chiar şi cei mai mici şi mai limitaţi infractori pot declanşa atacuri la scară largă", spune Gates în eseul său. "Frauda bazată pe AI, dezinformarea, deepfake-urile și supravegherea sunt pericolele ale căror efecte vor fi resimțite cel mai puternic de mulți oameni în viața lor de zi cu zi. Capacitățile AI încep să fie folosite pentru atacuri cibernetice. Cei mai inteligenți experți în securitate cibernetică pe care îi cunosc sunt îngrijorați de viitor. Atacatorii dobândesc noi capacități puternice mai repede decât pot apărătorii să remedieze toate vulnerabilitățile. La urma urmei, același model AI care poate găsi o vulnerabilitate într-un software, astfel încât o companie să o poată remedia, şi poate, în egală măsură, să ajute un infractor să o exploateze. Resursele necesare pentru a realiza un atac scad semnificativ", a mai punctat Bill Gates.
Fondatorul Microsoft susţine că instituţiile care compun coloana vertebrală a unui stat pot fi foarte uşor atacate de un hacker cu puţine cunoştinţe, dar care foloseşte eficient Inteligenţa Artificială. Cunoscut şi pentru activitatea sa filantropică, Gates este îngrijorat şi de faptul că AI-ul poate fi folosit nu doar pentru descoperirea unor tratamente noi, ci şi pentru "inventarea" unei noi maladii care să ia prin surprindere întreaga comunitate ştiinţifică.
"Gândiți-vă la infrastructura care va fi vulnerabilă: spitale, instituții financiare, sisteme de alimentare cu apă, rețele electrice, sisteme pentru administrarea beneficiilor guvernamentale. Atunci când aceste instituții sunt atacate, pacienții, clienții și beneficiarii sunt cei care riscă să piardă. Același lucru este valabil și în cazul bioterorismului. Deși AI va duce la progrese care vor salva vieți în domeniul medicamentelor și vaccinurilor, va facilita, de asemenea, proiectarea unei noi boli letale. Din nou, capacitățile pozitive sunt dificil de separat de cele periculoase. Aceasta este o problemă globală", a scris Gates.
În finalul expunerii sale despre pericolul reprezentat de AI, Bill Gates atrage atenţia unui aspect controversat, dar care a produs deja efecte în lumea reală: capacitatea AI de a ataca autonom, fără a primi o comandă din partea unei fiinţe umane. De curând, OpenAI şi Anthropic, cele mai puternice firme din industria AI, au recunoscut public şi oficial că anumiţi agenţi AI pe care îi ţineau în teste, deci în medii controlate, au reuşit totuşi "să evadeze" autonom şi au atacat infrastructura unei firme din Statele Unite.
"În cele din urmă, puterea de a folosi AI pentru a face rău oamenilor nu va fi limitată la oameni sau instituții. Sistemele AI acționează deja uneori în moduri pe care proiectanții lor nu le-au intenționat. Tehnologia se îmbunătățește mai repede decât se aștepta oricine și în moduri surprinzătoare, iar pe măsură ce modelele devin mai puternice, acestea ar putea începe să acționeze împotriva intereselor noastre și am putea pierde controlul. Voi avea mai multe de spus despre acest lucru în viitor. Modelele AI ar putea începe să acționeze împotriva intereselor noastre, iar noi am putea pierde controlul. AI ar putea împiedica dezvoltarea copiilor noștri și ar putea înlocui relațiile umane", a mai scris Bill Gates.
-
Mesajul lui Bill Gates despre "revoluţia AI": ori va aduce egalitate, ori cea mai mare sursă de nedreptate
-
Satul în care mai trăieşte un singur bătrân. Refuză să plece la oraş şi îşi face cumpărăturile o dată...
-
Noul guvern ungar se distanțează de Moscova. Rusia, considerată acum "amenințare" pentru Ungaria
