Plângere împotriva ChatGPT pentru informații false
Un bărbat din Norvegia a depus o plângere oficială după ce ChatGPT a susținut eronat că el și-a ucis doi dintre fii, fiind condamnat ulterior la 21 de ani de închisoare. Arve Hjalmar Holmen a contactat Autoritatea Norvegiană pentru Protecția Datelor, solicitând sancționarea producătorului chatbot-ului, OpenAI.
Impactul halucinațiilor în inteligența artificială
Acest incident reprezintă un exemplu recent de așa-numitele „halucinații” ale sistemelor de inteligență artificială, care generează informații false pe care le prezintă ca fiind fapte. Holmen a declarat că această situație a avut un impact devastator asupra sa. „Unii oameni cred că nu există fum fără foc, iar ideea că cineva ar putea citi această afirmație și să o considere adevărată este ceea ce mă îngrijorează cel mai mult”, a afirmat el.
Informațiile false generate de ChatGPT
Holmen a obținut informațiile eronate în urma unei căutări pe ChatGPT, întrebând: „Cine este Arve Hjalmar Holmen?” Răspunsul generat de chatbot a inclus detalii despre un eveniment tragic în care el ar fi fost implicat, menționând că doi dintre fiii săi, în vârstă de 7 și 10 ani, ar fi fost găsiți morți într-un iaz din apropierea casei lor din Trondheim, Norvegia, în decembrie 2020. Deși Holmen are într-adevăr trei fii, chatbot-ul a estimat corect vârstele lor, sugerând că dispun de unele informații corecte despre el.
Defăimarea și protecția datelor personale
Grupul pentru drepturi digitale Noyb a depus plângerea în numele lui Holmen, susținând că afirmațiile ChatGPT sunt defăimătoare și contravin reglementărilor europene privind protecția datelor personale. Noyb a subliniat în plângerea sa că Holmen „nu a fost niciodată acuzat sau condamnat pentru vreo crimă și este un cetățean conștiincios.”
Avertismente insuficiente
ChatGPT include un avertisment care menționează: „ChatGPT poate face greșeli. Verificați informațiile importante.” Totuși, Noyb consideră că acest avertisment nu este suficient. „Nu poți pur și simplu să răspândești informații false și, la final, să adaugi un mic avertisment care să spună că tot ce ai spus ar putea să nu fie adevărat”, a declarat avocatul Noyb, Joakim Söderberg.
Provocările inteligenței artificiale generative
Halucinațiile reprezintă o problemă majoră pe care cercetătorii încearcă să o abordeze în contextul inteligenței artificiale generative. Acestea sunt momentele în care chatbot-urile oferă informații false ca fiind corecte. În acest an, Apple a suspendat instrumentul său de rezumat al știrilor, Apple Intelligence, în Regatul Unit, din cauza generării de titluri false. De asemenea, AI-ul Gemini de la Google a întâmpinat dificultăți similare, sugerând utilizarea adezivului pentru lipirea brânzei pe pizza.
Modificări în procesul de căutare al ChatGPT
În urma acestor incidente, ChatGPT și-a ajustat modelul de căutare, optând acum să caute articole de știri actuale pentru a obține informații relevante despre persoane sau evenimente. Noyb a menționat că Holmen a realizat mai multe căutări în aceeași zi, inclusiv introducând numele fratelui său, iar chatbot-ul a generat „mai multe povești diferite, toate incorecte.” Deși se ia în considerare ipoteza că anterioarele căutări ar fi putut influența răspunsul referitor la copiii săi, provocările legate de modelele mari de limbaj rămân semnificative.
Provocările transparenței în utilizarea datelor AI
În contextul dezvoltării rapide a tehnologiei inteligenței artificiale, transparența în gestionarea datelor devine tot mai importantă. Un aspect semnificativ care a suscitat controverse este utilizarea așa-numitei „cutii negre” de către anumite companii, inclusiv OpenAI. Acest termen se referă la sistemele AI care funcționează într-un mod opac, făcând dificilă înțelegerea procesului prin care acestea ajung la anumite concluzii sau decizii.
Unul dintre cele mai mari obstacole în calea transparenței este refuzul unor organizații de a răspunde cererilor de acces la date. Acest lucru generează întrebări legate de natura informațiilor stocate în sistem și de modul în care acestea sunt utilizate. Astfel, devine imposibil pentru utilizatori și experți să afle detalii esențiale despre datele exacte care sunt procesate și despre algoritmii care influențează rezultatele.
Într-o eră în care datele au devenit o resursă valoroasă, este esențial ca companiile să adopte practici mai deschise și responsabile în ceea ce privește gestionarea informațiilor. Numai prin asigurarea transparenței se poate construi încrederea necesară între dezvoltatorii de AI și utilizatori.
