Angajații din domeniul inteligenței artificiale avertizează apropiații să evite utilizarea tehnologiilor AI
Un număr tot mai mare de profesioniști din sectorul inteligenței artificiale își sfătuiesc familiile și prietenii să se abțină de la utilizarea acestor tehnologii, generând discuții ample despre etica și siguranța acestui domeniu în continuă expansiune.
Un incident revelator în cariera unei angajate AI
Un articol recent a scos în evidență experiențele angajaților din domeniul inteligenței artificiale care, deși contribuie la dezvoltarea acestor tehnologii, aleg să se distanțeze de utilizarea lor personală. Krista Pawloski, care lucrează pe platforma Amazon Mechanical Turk, a avut o revelație importantă în urma unei sarcini de muncă ce a implicat clasificarea tweet-urilor.
Krista a povestit cum, în timp ce analiza tweet-uri pentru a determina dacă sunt rasiste sau nu, a întâlnit un mesaj conținând expresia „mooncricket”. Inițial, a fost pe cale să eticheteze tweet-ul ca fiind inofensiv, dar a decis să verifice semnificația termenului, descoperind că acesta este un slăvitor rasist la adresa afro-americanilor. Această experiență a determinat-o să reflecteze asupra posibilelor erori pe care le-ar fi putut comite.
Interdicția impusă în familie
Reflectând asupra incidentului, Pawloski a decis să nu mai utilizeze produse de inteligență artificială generativă în viața personală și le recomandă același lucru și celor din jur. „Este un nu categoric în casa mea”, a declarat ea, referindu-se la interdicția impusă fiicei sale adolescente de a folosi instrumente precum ChatGPT. De asemenea, le sugerează celor din jur să testeze AI-ul pe subiecte pe care le cunosc bine pentru a înțelege erorile potențiale ale tehnologiei.
Pawloski își pune întrebări legate de posibilele efecte negative ale sarcinilor pe care le îndeplinește pe platformă, adesea ajungând la concluzia că munca sa ar putea dăuna altora. Amazon a declarat că lucrătorii au libertatea de a alege sarcinile pe care doresc să le efectueze, având acces la detalii înainte de a accepta o misiune.
Avertismentele experților în AI
Mai mulți evaluatori din domeniul AI au declarat că, odată ce au înțeles cum funcționează chatbot-urile și generatoarele de imagini, au început să-și sfătuiască apropiații să fie precauți în utilizarea acestor tehnologii. Un evaluator de AI care lucrează pentru Google a menționat că evită utilizarea AI în contextul sănătății, subliniind importanța gândirii critice, mai ales pentru copiii săi.
Problemele de încredere în informațiile generate de AI
Google a subliniat că evaluările sunt doar un aspect al evaluării performanței sistemelor sale și că au implementat măsuri de protecție pentru a asigura calitatea informațiilor furnizate. Cu toate acestea, mulți lucrători din domeniul AI își exprimă îngrijorarea cu privire la accentul pus pe rapiditate în detrimentul calității. Brook Hansen, un alt angajat de pe platforma Amazon Mechanical Turk, a subliniat lipsa de suport pentru cei care antrenează aceste sisteme.
Un raport al organizației non-profit NewsGuard a arătat o scădere dramatică a ratei de non-răspuns a chatbot-urilor, dar, în același timp, probabilitatea ca acestea să repete informații false a crescut semnificativ. Un evaluator Google a declarat că nu ar avea încredere în nicio informație furnizată de un bot fără a o verifica personal, considerând-o nesigură.
Un alt evaluator a relatat o experiență similară, atunci când a încercat să obțină informații despre istoria poporului palestinian, dar a primit un răspuns detaliat doar despre istoria Israelului. Aceasta ilustrează problemele de bias și inegalitate în modul în care chatbot-urile generează informații.
Provocările viitoare ale inteligenței artificiale
Pe măsură ce tehnologia AI continuă să progreseze, îngrijorările legate de etică, acuratețe și siguranță vor rămâne în centrul dezbaterilor. Este esențial ca utilizatorii să rămână vigilenți și să abordeze cu scepticism informațiile furnizate de aceste sisteme, în special în contextul unor subiecte sensibile și complexe.
Într-o lume în care inteligența artificială devine tot mai prezentă, este crucial ca utilizatorii să învețe să gândească critic și să își asume responsabilitatea pentru informațiile pe care le consumă.
Autor: Redacția
