Anthropic își cere scuze pentru restricțiile ascunse ale modelului său AI Claude Fable 5
Compania Anthropic a emis o scuză publică după ce a fost acuzată că a impus restricții ascunse asupra noului său model AI, Claude Fable 5. Aceste limitări, care au fost implementate fără a fi anunțate, afectează atât cercetătorii, cât și concurenții care utilizează tehnologia pentru a dezvolta sisteme alternative. Anthropic a recunoscut că va renunța la această practică și se va angaja să ofere mai multă transparență în ceea ce privește activarea acestor restricții, chiar dacă acest lucru ar putea duce la o refuzare mai frecventă a solicitărilor de către Fable.
Despre modelul Claude Fable 5
Claude Fable 5 este primul model disponibil pe scară largă din clasa de sisteme AI Mythos a companiei Anthropic. Aceasta este o categorie de AI-uri pe care compania a avertizat-o în mod repetat că sunt prea periculoase pentru a fi lansate public. În ciuda acestor temeri, Anthropic a decis să lanseze Fable cu anumite măsuri de siguranță, care limitează capacitatea modelului de a răspunde la anumite întrebări considerate „sensibile” sau „periculoase”.
Impactul asupra cercetătorilor și industriei AI
Aceste măsuri de restricție ascunsă au generat critici din partea cercetătorilor și a altor entități din domeniul tehnologiei, care consideră că transparența este esențială pentru dezvoltarea și utilizarea responsabilă a AI-ului. Mulți au solicitat ca firmele să fie deschise cu privire la limitările impuse de modelele lor, pentru a permite o utilizare mai corespunzătoare și mai etică a acestor tehnologii avansate.
Declarații oficiale
În urma acestor controverse, un purtător de cuvânt al Anthropic a declarat: „Recunoaștem că am greșit în modul în care am implementat restricțiile și ne angajăm să fie mai transparenți în privința acestora. Înțelegem că utilizatorii noștri, fie că sunt cercetători sau dezvoltatori, au nevoie de claritate pentru a putea utiliza modelul în mod eficient.”
Contextul mai larg al dezbaterii despre AI
Dezbaterile legate de etica și responsabilitatea în utilizarea AI-ului au câștigat amploare în ultimele luni. O serie de studii și articole de specialitate au subliniat riscurile potențiale ale tehnologiilor AI avansate, iar companii precum Anthropic se află sub o presiune constantă de a asigura nu doar inovația, ci și utilizarea în condiții de siguranță a acestor sisteme. De exemplu, un raport din 2023 a arătat că 67% dintre experții în tehnologie consideră că reglementările stricte sunt necesare pentru a preveni abuzurile în utilizarea AI-ului (sursa: [AI Ethics Journal](https://www.aijournal.org)).
Informațiile prezentate au fost preluate din surse credibile, inclusiv The Verge și The Verge. Publicația Sursa Sigură nu își asumă responsabilitatea pentru textele prezentate, acestea aparținând publicațiilor citate.
