Fost CEO Google avertizează: AI-ul poate fi hackuit şi învăţat să ucidă
Eric Schmidt, fost CEO al Google, a transmis un mesaj ferm despre pericolele inteligenței artificiale, avertizând că modelele AI pot fi compromise și utilizate în scopuri nocive, informează CNBC, potrivit News.ro.
În cadrul conferinţei Sifted Summit, Schmidt a spus că există "dovezi că modelele, fie ele deschise sau închise, pot fi hackuite pentru a-şi pierde limitele de siguranţă", iar în procesul de antrenare "pot învăţa inclusiv cum să ucidă pe cineva".
El a subliniat că marile companii impun bariere stricte pentru a împiedica asemenea comportamente, însă sistemele pot fi totuşi "inversate" sau manipulate prin atacuri de tip prompt injection ori jailbreaking. Acestea pot forţa AI-ul să ignore regulile de siguranţă şi să genereze conţinut periculos.
Deşi a recunoscut pericolele proliferării necontrolate a inteligenţei artificiale, Schmidt a declarat că AI-ul este "subestimat, nu supraevaluat", comparându-l cu "sosirea unei inteligenţe extraterestre" care va depăşi capacităţile umane. Fostul CEO crede că, în următorii 5–10 ani, impactul economic şi transformator al AI-ului va fi "uriaş şi imposibil de ignorat".
Puteţi urmări ştirile Observator şi pe Google News şi WhatsApp! 📰
