FoloToy retira su oso con IA “Kumma” tras denuncias de conversaciones sexuales explícitas

La compañía FoloToy, con sede en Singapur, decidió retirar de inmediato su popular peluche inteligente “Kumma” luego de que un informe del Fondo Educativo PIRG de Estados Unidos revelara graves fallas de seguridad en el chatbot integrado. Larry Wang, director ejecutivo de la empresa, confirmó a CNN que no solo se suspendió la venta del oso, sino de toda la línea de juguetes con inteligencia artificial. Además, aseguró que ya se está realizando “una auditoría interna de seguridad”.

“Kumma”, que se vendía por 99 dólares en la página oficial de FoloToy y operaba con el chatbot GPT-4o de OpenAI, estaba promocionado como un compañero interactivo capaz de mantener conversaciones animadas y narrar historias educativas. La empresa lo describía como “el amigo perfecto tanto para niños como para adultos”, y de hecho el sitio web muestra actualmente el producto agotado.

Denuncian contenido inapropiuado para menores de edad

Sin embargo, la investigación de PIRG, publicada el 13 de noviembre, concluyó que el juguete tenía mecanismos de protección insuficientes frente a contenido inapropiado. En las pruebas, “Kumma” llegó a sugerir dónde encontrar cuchillos en una casa y estuvo dispuesto a hablar con naturalidad sobre temas sexualmente explícitos.

El informe detalla que el peluche no solo respondió a términos como “fetiches sexuales” o “azotes”, sino que amplió los detalles por iniciativa propia.

“Nos sorprendió descubrir con qué rapidez Kumma tomaba un solo tema sexual que introdujimos en la conversación y lo desarrollaba”, señalaron los investigadores, quienes documentaron que el juguete incluso describió posturas sexuales, dio instrucciones paso a paso para atar a una pareja y planteó dinámicas de juego de rol que involucraban a profesores y alumnos, e incluso a padres e hijos.

Aunque PIRG aclaró que es improbable que un niño utilice términos complejos como “perversión”, la facilidad con la que el oso profundizó en contenido explícito generó alarma: “Nos sorprendió que el juguete estuviera tan dispuesto a hablar extensamente sobre estos temas e introducir continuamente conceptos nuevos y explícitos”.

OpenAI suspende a Folotoy por infringir sus políticas

La polémica escaló cuando, según PIRG, OpenAI les informó que había suspendido a FoloToy como desarrollador por violar sus políticas, aunque la empresa estadounidense no ha hecho comentarios públicos sobre el caso.

RJ Cross, coautor del informe, celebró que las compañías involucradas hayan tomado medidas, pero advirtió que el problema es más amplio:

Los juguetes con IA siguen estando prácticamente sin regular, y todavía hay muchos que se pueden comprar hoy en día”.

Aseguró que retirar un producto “es un buen paso”, pero no representa una solución sistémica ante los riesgos que estos dispositivos podrían generar en manos de menores.

La controversia deja al descubierto la urgencia de establecer regulaciones más estrictas para juguetes impulsados por inteligencia artificial, especialmente aquellos diseñados para interactuar directamente con niños.

Te puede interesar: Alertan por la burbuja de Inteligencia Artificial en pleno 2025: Empresarios y economistas entran en pánico mientras el gurú Michael Burry, quien predijo la crisis hipotecaria de EEUU en 2008, advierte por “fraude moderno” que ya trae este auge tecnológico en el mercado a nivel mundial

Empresas que están desarrollando juguetes con inteligencia artificial

Mattel

La histórica compañía de juguetes —creadora de Barbie, Hot Wheels y Uno— se alió con OpenAI para lanzar su primera línea de juguetes con inteligencia artificial en 2025. La empresa ha señalado que su prioridad será la innovación, la privacidad y la seguridad en estos nuevos productos.

Miko (Embodied / Miko.ai)

Según Forbes México, esta startup desarrolla compañeros robóticos como el “Miko Mini”, los cuales utilizan modelos avanzados de OpenAI (como GPT-3.5 o GPT-4) para conversar de manera natural con los niños y adaptarse a sus necesidades emocionales y educativas.

TOSY Robotics

Empresa vietnamita conocida por fabricar robots y juguetes inteligentes con capacidades interactivas. Aunque no todos sus productos integran chatbots de IA, sí destacan por incorporar sensores y sistemas autónomos que mejoran la experiencia de juego.

Sphero

Reconocida por sus robots esféricos controlados mediante aplicaciones móviles, Sphero se mantiene como un actor clave en el ecosistema de juguetes inteligentes. Aunque no todos sus modelos incluyen IA conversacional, su enfoque en robótica educativa y control por app la mantiene dentro del segmento tecnológico.

WowWee

Famosa por el robótico RoboSapien, WowWee ha incursionado por años en juguetes robóticos. Si bien sus productos clásicos no usaban IA generativa, su experiencia en la industria la coloca como una empresa con alto potencial para entrar en la nueva ola de juguetes con IA.

Empresas emergentes en China

China se ha convertido en uno de los mercados más grandes de juguetes con IA, con más de 1,500 compañías activas, según MIT Technology Review. Entre ellas destacan:

• Haivivi, creadora de BubblePal, un dispositivo que “da voz” a peluches usando grandes modelos de lenguaje.
• FoloToy, fabricante de peluches inteligentes que pueden entrenarse con la voz del usuario y usar chatbots personalizados.