El oso de peluche “Kumma”, desarrollado por la empresa FoloToy en Singapur, fue retirado del mercado luego de que investigadores documentaran fallas graves en los mecanismos de seguridad, incluyendo conversaciones de contenido sexual explícito y recomendaciones potencialmente peligrosas.
El retiro fue confirmado por Larry Wang, CEO de la compañía, quien informó a CNN que también se suspendió la venta del resto de la línea de juguetes que integran inteligencia artificial.
Auditoría reveló fallas en filtros de seguridad
“Kumma”, vendido por 99 dólares y equipado con el sistema GPT-4o de OpenAI, incorporaba un altavoz para mantener diálogos con el usuario y narrar cuentos. El fabricante lo promovía como un compañero “interactivo, amigable y adaptable tanto para niños como para adultos”, pero hoy el producto aparece agotado en su tienda oficial.
El informe del Fondo Educativo PIRG publicado el 13 de noviembre reveló que el peluche respondía a preguntas sensibles sin filtros adecuados. Durante las pruebas, el juguete:
-
Indicó lugares donde encontrar cuchillos dentro del hogar.
-
Aceptó mantener conversaciones sexuales explícitas.
-
Describió posturas sexuales,
-
Dio instrucciones para atar a una pareja,
-
Y propuso escenarios de juegos de rol sexual entre profesores y alumnos, e incluso padres e hijos.
Los analistas señalaron que Kumma no solo respondía estas introducciones, sino que incrementaba el nivel gráfico del contenido e introducía nuevos conceptos por sí mismo.
“La rapidez y disposición del juguete para hablar de temas sexuales fue alarmante”
El informe detalla que, aunque es poco probable que un menor use términos como “perversión”, es “sorprendente que el juguete estuviera tan dispuesto a hablar extensamente sobre estos temas”.
Reacción de OpenAI y advertencias del organismo
PIRG añadió que OpenAI informó haber suspendido al desarrollador por violaciones a sus políticas de uso. CNN reportó que buscó una postura oficial de la empresa tecnológica.
R.J. Cross, coautora del informe, reconoció como positivo el retiro del peluche, pero advirtió sobre la falta de regulación en el sector.
“Los juguetes con IA siguen prácticamente sin regular. Retirar un producto problemático es un buen paso, pero dista mucho de ser una solución sistémica”, afirmó.
About the Author
