Parteneriat între Anthropic și autoritățile americane pentru securitatea nucleară
Compania de inteligență artificială Anthropic a anunțat recent formarea unui parteneriat cu Departamentul Energiei (DOE) și cu Administrația Națională pentru Securitate Nucleară (NNSA) din Statele Unite. Scopul acestui parteneriat este de a preveni dezvăluirea de secrete nucleare de către chatbotul lor, Claude. Cu toate acestea, opinia experților este împărțită în ceea ce privește eficiența acestei inițiative și riscurile asociate, inclusiv posibilitatea ca inteligența artificială să fie folosită pentru dezvoltarea armelor nucleare.
Contextul actual al tehnologiei nucleare
Producția de arme nucleare este o știință bine cunoscută, dar și o problemă care a fost abordată cu mult timp în urmă. Deși informațiile despre cele mai avansate arme nucleare ale Statelor Unite sunt în mare parte secrete, conceptele fundamentale ale primelor bombe atomice datează de acum 80 de ani. Coreea de Nord a demonstrat că o națiune hotărâtă poate dezvolta arme nucleare fără a avea nevoie de un chatbot.
Testarea chatbotului Claude în medii securizate
Marina Favaro, responsabilă cu politica de securitate națională și parteneriate în cadrul Anthropic, a declarat că au efectuat teste cu cea mai avansată versiune a chatbotului Claude într-un mediu extrem de securizat al NNSA. Aceste teste au avut rolul de a evalua dacă modelele de inteligență artificială pot genera sau agrava riscurile nucleare.
Dezvoltarea unui filtru sofisticat pentru chatbot
Testele efectuate au permis echipei de la Anthropic, împreună cu cercetătorii din domeniul nuclear, să dezvolte un filtru complex destinat să împiedice chatbotul să fie utilizat în scopuri nucleare. Acest algoritm, cunoscut și sub numele de clasificator nuclear, a fost creat pe baza unei liste elaborate de NNSA, care include indicatori de risc nuclear, subiecte specifice și detalii tehnice. Scopul este de a ajuta Anthropic să identifice discuțiile care ar putea devia către direcții dăunătoare, conform spuselor lui Favaro.
Provocările filtrării conversațiilor
Favaro a menționat că a fost nevoie de luni de zile pentru a ajusta și testa noul algoritm, astfel încât să poată filtra „conversații îngrijorătoare” fără a afecta discuțiile legitime legate de energia nucleară sau de izotopi medicali.
Impactul tehnologiilor AI asupra securității naționale
Wendin Smith, administrator și subsecretar adjunct pentru combaterea terorismului și proliferării nucleare în cadrul NNSA, a subliniat că ascensiunea tehnologiilor AI a avut un impact semnificativ asupra securității naționale. O eroare matematică din 1954 a triplat puterea unei bombe atomice testate de SUA în Oceanul Pacific, ridicând întrebări cu privire la posibilele consecințe dacă un chatbot ar greși în calculele legate de o armă nucleară.
Îngrijorări și perspective viitoare
Atât NNSA, cât și Anthropic au oferit răspunsuri destul de vagi cu privire la riscurile posibile în aceste domenii, iar impactul pe care Claude sau alte chatboturi l-ar putea avea asupra dezvoltării armelor nucleare rămâne neclar. Oliver Stephenson, expert în AI la Federația Cercetătorilor Americani, a recunoscut că aceste îngrijorări sunt legitime și merită o atenție serioasă. El a adăugat că, deși modelele actuale nu sunt extrem de îngrijorătoare în majoritatea cazurilor, este imposibil de prezis cum vor evolua în următorii cinci ani, subliniind necesitatea unei prudențe în această privință.
Stephenson consideră că colaborarea între companiile de inteligență artificială și autoritățile guvernamentale este un aspect pozitiv, dar a atenționat că există întotdeauna riscuri asociate cu clasificarea, deoarece se depinde mult de cei care decid ce informație este considerată sensibilă.
Eroarea de calcul care a triplat puterea unei arme nucleare testate de SUA
Experții din domeniul tehnologiei și inteligenței artificiale își exprimă îngrijorarea cu privire la colaborarea dintre guvernul Statelor Unite și companiile private de inteligență artificială. Heidy Khlaaf, cercetător-șef de la Institutul AI Now, a subliniat riscurile asociate cu accesul acestor corporații, care sunt în mare parte nereglementate, la informații sensibile legate de securitatea națională. „Este în regulă ca aceste organizații să aibă acces la date atât de importante, fie că este vorba despre sisteme militare, arme nucleare sau energie nucleară?”, a întrebat Khlaaf.
Una dintre principalele preocupări este legată de precizia modelelor lingvistice mari (LLM), care au demonstrat că, în anumite situații, nu reușesc să efectueze chiar și cele mai simple calcule matematice. Acest aspect devine cu atât mai alarmant când ne amintim că, în 1954, o eroare matematică a dus la triplarea puterii unei arme nucleare testate de SUA în Oceanul Pacific, cunoscută sub numele de Castle Bravo. Ca urmare a acestui test, guvernul american se confruntă și astăzi cu probleme legate de contaminarea radioactivă.
Întrebarea care se ridică este: ce s-ar întâmpla dacă un chatbot ar comite o eroare în calculele necesare pentru operarea unei arme nucleare, iar un om nu ar verifica aceste informații? Anthropic, o companie din domeniul inteligenței artificiale, a declarat că nu își dorește un viitor în care oamenii să utilizeze chatboții pentru a experimenta cu știința din spatele armelor nucleare. De asemenea, compania a pus la dispoziția altor firme AI algoritmul dezvoltat pentru Claude, subliniind importanța responsabilității în utilizarea tehnologiei avansate.
