Estimările OpenAI privind utilizatorii ChatGPT și gândurile suicidare
Compania californiană de inteligență artificială OpenAI a realizat o estimare alarmantă, indicând că peste un milion de utilizatori ai ChatGPT au avut conversații care includ semne clare de planificare sau intenție suicidară. Această proporție reprezintă aproximativ 0,15% din totalul utilizatorilor serviciului, conform unui articol publicat de companie.
OpenAI raportează un număr de 800 de milioane de utilizatori săptămânal, ceea ce sugerează că aproximativ 1,2 milioane de persoane abordează subiecte legate de sinucidere în interacțiunile lor cu asistentul AI. De asemenea, compania a estimat că în jur de 0,07% dintre utilizatorii săptămânali activi pot prezenta semne de urgențe de sănătate mintală, cum ar fi episoade psihotice sau maniacale, echivalentul a puțin sub 600.000 de persoane.
Acțiunile companiei în urma incidentului tragic
Aceste estimări au fost aduse în atenție în contextul unui incident tragic, referitor la moartea unui adolescent din California, Adam Raine. Părinții acestuia au intentat recent un proces împotriva OpenAI, susținând că ChatGPT le-a oferit fiului lor sfaturi specifice despre cum să se sinucidă.
În urma acestui incident, OpenAI a intensificat măsurile de control parental și a implementat diverse măsuri de siguranță. Printre acestea se numără îmbunătățirea accesului la asistența telefonică de urgență, redirecționarea conversațiilor sensibile către modele mai sigure și includerea unor mementouri care încurajează utilizatorii să ia pauze în timpul sesiunilor prelungite.
Compania a anunțat că și-a actualizat modelul ChatGPT pentru a recunoaște și a răspunde mai eficient utilizatorilor care se confruntă cu probleme de sănătate mintală. De asemenea, OpenAI colaborează cu peste 170 de specialiști din domeniul sănătății mintale pentru a reduce semnificativ răspunsurile problematice pe care asistentul AI le-ar putea oferi.
