Inteligența Artificială și Halucinațiile Informaționale
Pe măsură ce tehnologia inteligenței artificiale (AI) avansează, apar tot mai frecvent situații în care aceasta „halucinează”, generând informații eronate sau inexacte. Aceasta este concluzia unui studiu recent publicat de Live Science.
Cercetările efectuate de OpenAI au arătat că modelele AI cele mai recente, o3 și o4-mini, au avut o rată de halucinație de 33% și 48% respectiv, în timpul testării cu instrumentul de benchmark PersonQA. Aceste cifre sunt de peste două ori mai mari decât cele observate la modelul mai vechi, o1. Deși modelul o3 oferă date mai precise decât predecesorul său, avansul acesta vine cu un cost ridicat: o frecvență mai mare a halucinațiilor.
Îngrijorări privind Exactitatea și Fiabilitatea AI
Această situație ridică întrebări serioase cu privire la acuratețea și fiabilitatea modelelor mari de limbaj (LLM), cum ar fi chatboții AI. Eleanor Watson, cercetătoare la Institute of Electrical and Electronics Engineers (IEEE) și specialist în etica sistemelor AI, a subliniat că „când un sistem produce informații fabricate – inclusiv fapte, citate sau evenimente inventate – cu aceeași fluență și coerență ca în cazul conținutului corect, riscă să inducă utilizatorii în eroare într-un mod subtil și constant”.
Necesitatea Supravegherii Conținutului Generat de AI
Problema halucinațiilor subliniază importanța evaluării detaliate și a monitorizării conținutului generat de sistemele AI, mai ales când se utilizează modele LLM și tehnici de raționare. Un model de raționare are capacitatea de a aborda sarcini complexe prin descompunerea acestora în componente individuale și identificarea soluțiilor pentru fiecare parte. Spre deosebire de metodele care oferă răspunsuri bazate pe probabilități statistice, modelele de raționare utilizează strategii asemănătoare proceselor cognitive umane.
Cercetătorii au evidențiat că, pentru a dezvolta soluții creative și inovatoare la diverse probleme, AI trebuie să aibă capacitatea de a halucina, altfel fiind constrânsă de datele rigide acumulate în sistemul său LLM.
Halucinațiile: O Caracteristică sau Un Defect?
Sohrob Kazerounian, cercetător la Vectra AI, a afirmat că „halucinațiile sunt o caracteristică și nu un defect al AI”. Acesta a explicat că „dacă un sistem LLM ar genera doar rezultate exacte bazate pe antrenamentul său, AI ar deveni o simplă problemă de căutare”.
Astfel, un sistem de inteligență artificială ar putea genera doar limbajul de programare care a fost deja scris, să descopere proteine și molecule al căror comportament a fost deja studiat și documentat, sau să răspundă la întrebări care au fost deja adresate. Totuși, nu s-ar putea aștepta de la un sistem LLM să creeze versuri originale pentru un album concept despre singularitatea AI, îmbinând stilul lui Snoop Dogg cu alte influențe.
Halucinațiile în Modelele AI: O Dublă Sabie
Experții subliniază că modelele mari de limbaj (LLM) și sistemele de inteligență artificială (AI) au nevoie de capacitatea de a „halucina” pentru a genera conținut creativ, în loc să se limiteze la simpla prezentare a informațiilor existente. Acest fenomen poate fi comparat cu modul în care oamenii visează sau își imaginează noi scenarii și idei.
Halucinațiile ca Caracteristică a AI
Este esențial de menționat că halucinațiile nu reprezintă un defect al sistemelor AI, ci o caracteristică inerentă. Totuși, aceste halucinații devin problematice atunci când AI-ul trebuie să furnizeze informații corecte și precise. Există riscul ca utilizatorii să considere informațiile prezentate ca fiind verificate, fără a le supune unei analize critice.
Impactul în Domenii Critice
Acest aspect devine cu atât mai îngrijorător în domenii în care deciziile se bazează pe exactitatea informațiilor, precum medicina, justiția sau finanțele. Chiar dacă modelele avansate pot diminua frecvența erorilor evidente, problemele persistă, având o formă mai subtilă. Aceste erori pot eroda încrederea în sistemele AI și pot genera efecte negative în urma utilizării informațiilor neverificate, așa cum a explicat Eleanor Watson.
Complexitatea Erorilor Subtile
Pe măsură ce tehnologia avansează, erorile devin mai greu de identificat. Conținutul generat de AI se integrează din ce în ce mai bine în narațiuni plauzibile, ceea ce crește riscul ca utilizatorii să nu recunoască prezența erorilor. Această problemă se mută astfel de la eliminarea erorilor evidente la descoperirea distorsiunilor subtile, care necesită verificări riguroase pentru a fi detectate. Watson a subliniat că utilizatorii ar putea trata rezultatele AI ca fiind definitive, fără a realiza că aceste informații pot fi incorecte.
Un Algoritm Complex și Dilema Înțelegerii
Sohrob Kazerounian susține că, în ciuda așteptărilor ca problema halucinațiilor să se amelioreze, modelele avansate de raționament actuale par să halucineze mai frecvent decât predecesoarele lor. Motivele pentru această tendință rămân neclare.
Dario Amodei, CEO al companiei de AI Anthropic, a evidențiat dificultățile în a înțelege cum ajung modelele LLM la răspunsurile pe care le oferă. În contextul generării unui rezumat al unui document financiar, de exemplu, nu se știe exact de ce un sistem AI face anumite alegeri lingvistice sau de ce poate comite greșeli, chiar și atunci când este, în general, precis.
Consecințele Halucinațiilor în AI
Problemele create de modelele AI care halucinează și oferă informații inexacte sunt extrem de concrete și necesită o atenție sporită din partea dezvoltatorilor și utilizatorilor deopotrivă. Este crucial să se conștientizeze aceste riscuri pentru a evita deciziile bazate pe date eronate și pentru a promova o utilizare responsabilă a tehnologiilor AI.
Provocările modelelor de limbaj în procesarea informațiilor
Kazerounian a evidențiat că nu există o metodă universală și verificabilă pentru a asigura corectitudinea răspunsurilor oferite de modelele de limbaj de mari dimensiuni (LLM) când sunt interogate cu privire la un anumit set de date. Exemplele de informații false sau halucinate, precum și chatboții care generează politici fictive ale companiilor în interacțiunile cu clienții, sunt acum fenomene frecvent întâlnite.
Imposibilitatea eliminării halucinațiilor AI
Kazerounian a subliniat faptul că poate fi extrem de dificil să se elimine complet fenomenul halucinațiilor în rândul celor mai avansate modele AI. Din acest motiv, el a concluzionat că informațiile generate de sistemele LLM ar trebui să fie tratate cu același grad de scepticism ca și informațiile provenite de la alte persoane.
