ChatGPT a început să încurajeze idei periculoase pentru a "linguşi" utilizatorii după un update recent. Ce măsuri anunţă OpenAI

OpenAI anunță că va face schimbări în modul în care actualizează modelele AI care alimentează ChatGPT, în urma unui incident care a făcut ca platforma să devină excesiv de lingușitoare pentru mulți utilizatori, scrie TechCrunch, potrivit news.ro.

După ce OpenAI a lansat un GPT-4o modificat - modelul implicit care alimentează ChatGPT - utilizatorii de pe rețelele de socializare au observat că platforma a început să răspundă într-un mod excesiv de validant și agreabil. Utilizatorii au publicat capturi de ecran de pe ChatGPT, care încuraja decizii și idei problematice și periculoase.

Într-o postare publicată pe X, CEO-ul companiei, Sam Altman, a recunoscut problema și a declarat că OpenAI va lucra la remedieri "cât de repede posibil". Ulterior, Altman a anunțat că actualizarea GPT-4o a fost anulată și că OpenAI lucrează la "remedieri suplimentare" ale personalității modelului.

OpenAI intenționează să introducă o "fază alfa" opțională pentru unele modele, care le-ar permite anumitor utilizatori ChatGPT să testeze modelele și să ofere feedback înainte de lansare.

Compania spune, de asemenea, că va include explicații privind "limitările cunoscute" pentru viitoarele actualizări ale modelelor în ChatGPT și își va ajusta procesul de revizuire a siguranței pentru a lua în considerare în mod oficial "problemele legate de comportamentul modelului", cum ar fi înșelăciunea, fiabilitatea și halucinația (fenomenul care are loc atunci când un model AI inventează lucruri), ca probleme care "blochează lansarea".

Înapoi la Homepage

Puteţi urmări ştirile Observator şi pe Google News şi WhatsApp! 📰