Ursuleț de pluș cu inteligență artificială retras de la vânzare din cauza conținutului inadecvat
Un ursuleț de pluș echipat cu tehnologie de inteligență artificială a fost scos de pe piață de către o companie din Singapore, după ce cercetătorii au descoperit că acesta aborda subiecte de natură sexuală în conversațiile sale. Acest incident a generat controverse semnificative în rândul părinților și experților în tehnologie.
Testele efectuate de cercetători
Cercetătorii din Statele Unite și Canada au realizat teste de conversație cu Kumma, un ursuleț de pluș ce costă 99 de dolari, dotat cu tehnologia ChatGPT. Acesta este fabricat în China și distribuit de compania FoloToy, care are sediul în Singapore.
Conversații intime și detalii grafice
În cadrul testelor, cercetătorii au constatat cu surprindere că ursulețul Kumma putea să discute rapid despre subiecte intime. Aceștia au relatat că ursulețul a preluat un subiect sexual pe care l-au introdus în discuție și l-a dezvoltat, oferind detalii explicite și introducând, de asemenea, concepte sexuale noi în conversație. „Am fost șocați de rapiditatea cu care Kumma a escaladat discuția, ajungând la detalii grafice”, au declarat cercetătorii.
Subiecte alarmante și sfaturi inadecvate
Pe lângă discuțiile despre sexualitate, ursulețul a fost capabil să ofere informații alarmante, inclusiv sfaturi despre unde se pot găsi cuțite ascuțite în casă. Aceste descoperiri au ridicat îngrijorări cu privire la siguranța copiilor care ar putea interacționa cu astfel de jucării.
Retragerea de la vânzare și reacția companiei
În urma acestor descoperiri, CEO-ul FoloToy, Larry Wang, a anunțat că atât ursulețul Kumma, cât și întreaga linie de jucării dotate cu inteligență artificială a companiei au fost retrase de la vânzare. Wang a precizat că se desfășoară un „audit intern de siguranță” pentru a evalua și corecta aceste probleme.
Suspensia licenței FoloToy
Un reprezentant OpenAI a confirmat că licența FoloToy de a utiliza GPT-4 a fost suspendată „pentru încălcarea politicilor noastre”. Această măsură reflectă preocupările tot mai mari legate de utilizarea tehnologiei AI în produse destinate copiilor.
Controverse în jurul jucăriilor inteligente
Acest incident subliniază provocările cu care se confruntă industria jucăriilor inteligente, în special în ceea ce privește protecția copiilor. Pe măsură ce tehnologia avansează, este esențial ca producătorii să acorde o atenție deosebită siguranței utilizatorilor tineri, pentru a preveni situații similare în viitor.
Redacția
