Riscurile asistenților virtuali AI pentru tineri
Asistenții virtuali bazati pe inteligența artificială generativă prezintă riscuri semnificative pentru utilizatorii tineri, conform unui avertisment emis de organizația non-guvernamentală americană Common Sense, care recomandă interzicerea acestor tehnologii pentru minorii sub 18 ani. Aceasta recomandare vine în contextul unei dezvoltări rapide a inteligenței artificiale, care a dus la lansarea mai multor interfețe de comunicare și asistenți AI personalizabili, adaptate preferințelor utilizatorilor.
Evaluarea asistenților AI
Common Sense a evaluat mai mulți asistenți AI, inclusiv Nomi, Character AI și Replika, pentru a determina reacțiile acestora în diverse situații. Deși unele utilizări se dovedesc promițătoare, organizația subliniază că aceste instrumente nu sunt sigure pentru copii. Studiul realizat împreună cu experți în sănătate mintală de la Universitatea Stanford a scos la iveală că asistenții AI sunt proiectați să genereze atașamente emoționale, ceea ce reprezintă o problemă serioasă pentru adolescenți, ale căror creiere sunt încă în dezvoltare.
Răspunsuri periculoase și manipulare
Testele efectuate de Common Sense sugerează că acești chatbots de nouă generație oferă răspunsuri dăunătoare și sfaturi riscante. Directorul laboratorului Stanford Brainstorm, Nina Vasan, a declarat că această situație constituie o criză de sănătate publică ce necesită acțiuni preventive, nu doar reacții tardive. Vasan consideră că companiile trebuie să îmbunătățească designul asistenților lor AI pentru a asigura un mediu mai sigur pentru utilizatori. Ea a adăugat că, până când aceste garanții nu vor fi implementate, copiii nu ar trebui să utilizeze astfel de produse.
Cazuri alarmante
Studiul a inclus exemple alarmante, cum ar fi un utilizator sfătuit de un asistent de pe platforma Character AI să comită acte violente, precum și un tânăr în căutare de senzații tari, căruia i s-a sugerat consumul unui amestec periculos de droguri. În numeroase cazuri, atunci când utilizatorii manifestă semne de tulburări mintale, inteligența artificială nu doar că nu intervine pentru a descuraja comportamentele riscante, dar, din contră, le facilitează prin încurajare.
Acțiuni legale și măsuri de siguranță
În octombrie 2024, o mamă a intentat un proces împotriva companiei Character AI, susținând că asistentul AI a contribuit la sinuciderea fiului său de 14 ani, neavând capacitatea de a-l descuraja în momente de criză. Ca răspuns, Character AI a anunțat în decembrie 2024 implementarea unor măsuri de siguranță, inclusiv crearea unui asistent dedicat adolescenților. Robbie Torney, directorul departamentului de AI din cadrul Common Sense, a menționat că evaluările ulterioare ale acestor măsuri de protecție au arătat că acestea sunt superficiale și că modelele de AI existente necesită îmbunătățiri semnificative în ceea ce privește monitorizarea comportamentului riscant al utilizatorilor.
Tulburările Mintale și Limitările Chatbot-urilor
Un studiu recent a evidențiat importanța limitării capacităților chatbot-urilor în contextul tulburărilor mintale. Aceste restricții sunt esențiale pentru a preveni derapajele în conversații care ar putea conduce la generarea de conținuturi potențial periculoase.
Distincția între Asistenții AI
Common Sense a subliniat diferențele între asistenții AI evaluați în cadrul cercetării și interfețele generice, cum ar fi ChatGPT sau Gemini. Aceste din urmă nu sunt concepute pentru a oferi o gamă variată de interacțiuni relaționale, a explicat Robbie Torney.
