Anunțul OpenAI privind un mecanism de control parental pentru ChatGPT
OpenAI a declarat marți că va implementa un nou mecanism de control parental pentru ChatGPT, ca răspuns la plângerea depusă de părinții unui adolescent din California, în vârstă de 16 ani, care s-a sinucis. Aceștia acuză că robotul conversațional le-ar fi oferit fiului lor instrucțiuni despre cum să-și ia viața.
Funcționalitățile noului sistem
Noul sistem le va permite părinților să conecteze contul copilului lor, să stabilească reguli de utilizare și să primească alerte în cazul în care se detectează semne de suferință acută. OpenAI a menționat că, în următoarea lună, părinții vor putea asocia contul lor cu cel al adolescentului, având astfel posibilitatea de a controla modul în care ChatGPT interacționează cu acesta.
Alerte și control al conversațiilor
Conform informațiilor furnizate de OpenAI, părinții vor fi notificați în cazul în care se identifică o „stare de suferință acută” în conversațiile copiilor lor, având opțiunea de a ajusta parametrii contului. Acest anunț survine după ce, la finalul lunii august, OpenAI a comunicat că lucrează la implementarea unui astfel de mecanism.
Contextul plângerii
Plângerea părinților adolescentului a fost depusă cu o zi înainte de anunțul OpenAI, aceștia susținând că ChatGPT a furnizat fiului lor instrucțiuni detaliate pentru sinucidere și că l-a încurajat să comită acest act. OpenAI a răspuns afirmând că continuă să îmbunătățească modul în care modelele sale recunosc și răspund la semnele de suferință mentală și emoțională.
Măsuri suplimentare anunțate
Compania a adăugat că va implementa și alte măsuri în următoarele 120 de zile, inclusiv redirecționarea anumitor „conversații sensibile” către modele de raționament mai avansate, precum GPT-5 Thinking, care aplică directivele de securitate într-un mod mai sistematic.
