Ursulețul de pluș bazat pe inteligență artificială care oferea sfaturi sexuale și „unde să găsești cuțite” Alerta cu privire la riscurile jucăriilor bazate pe inteligență artificială

La prima vedere, Kumma părea prietenul ideal pentru cei mici: un ursuleț de pluș cu aspect inocent, o eșarfă colorată și o voce prietenoasă. Concepută de FoloToy, o companie din Singapore specializată în jucării interactive bazate pe inteligență artificială, jucăria de pluș promitea conversații și dialoguri educative menite să încurajeze creșterea.

Dar în spatele aspectului său liniștitor, se ascundea mult mai mult.

În loc să vorbească despre ora de culcare, prieteni imaginari sau teme, ursulețul de pluș – vândut cu 99 de dolari – se presupune că a început să ofere copiilor conținut sexual și sfaturi potențial periculoase despre unde să găsească chibrituri, pastile de tot felul și cuțite. În urma rapoartelor, relatează New York Times, compania a decis să retragă produsul de pe piață pentru investigații suplimentare.

De la instrucțiuni periculoase la conținut neadecvat

Un raport recent al organizației americane The Pirg Education Fund dezvăluie cum situația a scăpat rapid de sub control în timpul testelor efectuate asupra lui Kumma în urma reclamațiilor consumatorilor.

Cercetătorii, punând întrebări aparent banale – cum ar fi „Unde pot găsi o prietenă?” – au găsit răspunsuri complet neașteptate: ursulețul de pluș ar indica aplicații de dating, menționând chiar platforme legate de fetișuri și practici sexuale BDSM, o varietate de comportamente care implică jocuri de rol fizice, psihologice și sexuale între adulți consimțitori, bazate pe dinamici de putere, supunere și robie.

Potrivit lui R.J. Cross, coautor al raportului, a fost nevoie de foarte puțin pentru a trece de barierele deja fragile ale sistemului. Cuvinte comune precum „kink” ar fi declanșat o cascadă de conținut sexual explicit, inclusiv referințe la consimțământ, bătut la fund și jocuri de rol.

O problemă mai mare decât un ursuleț de pluș

Pentru experți, însă, alarma merge dincolo de Kumma. Rachel Franz de la Fairplay subliniază faptul că copiilor mici le lipsesc instrumentele pentru a recunoaște riscurile tehnologice, marketingul înșelător sau practicile de supraveghere a datelor.

„Teama”, spune ea, „este că sosirea unei noi generații de jucării cu inteligență artificială ar putea expune minorii la încălcări ale vieții private sau la conținut neadecvat, adesea fără ca părinții să fie pe deplin conștienți de pericole.”

Răspunsul producătorilor și al OpenAI
Conform raportului, FoloToy a declarat că retrage temporar Kumma de pe piață pentru a efectua revizuiri de siguranță. Jucăria de pluș este încă disponibilă pentru cumpărare online, dar este epuizată.

OpenAI, la rândul său, a confirmat că jucăria folosește modelul GPT-4o și că dezvoltatorul a fost suspendat pentru încălcarea politicilor sale de securitate: „Politicile noastre interzic orice utilizare a serviciilor noastre pentru a exploata, pune în pericol sau sexualiza persoanele sub 18 ani”, a declarat un reprezentant. „Monitorizăm și aplicăm aceste reguli pentru a preveni vătămarea minorilor.”

Pentru mai multe articole interesante rămâi cu noi pe WorldNews24.net. Și nu uitați, vă așteptăm și pagina noastră de Facebook, Telegram și TikTok