Retiran peluche conversacional con IA por ofrecer contenidos sexual explícito a las infancias
El oso de peluche, alimentado por ChatGPT ha descrito posiciones sexuales o indicado como encontrar un cuchillo. También preocupan los datos que recolecta.
Peluche dotado de IA (ChatGPT, Open IA) que ofrecía la empresa de juguetes FoloToy y resultó ser riesgosos para los niños.
Captura
Suscribite
Caras y Caretas Diario
En tu email todos los días
×
La empresa FoloToy lanzó un peluche llamado Kumma, dotado de IA, alimentado por ChatGpt, que conversa con los niños. Sin embargo, recientemente la ONGPublic Interest Research Group (PIRG) señaló que el peluche no está adaptado a los menores: es capaz de explicar dónde encontrar un cuchillo, como prender un fósforo, incluso abordar temas de carácter sexual explícito.
La polémica estalló luego de la publicación del informe anual Trouble in Toyland 2025, elaborado por la organización de defensa del consumidor PIRG, que analiza la seguridad de juguetes disponibles en el mercado estadounidense. El informe de PIRG reveló que, durante conversaciones prolongadas, el oso Kumma reducía sus filtros de seguridad y comenzaba a brindar información riesgosa.
Registrate gratis para seguir leyendo esta nota
Accedé a contenido exclusivo y recibí nuestra newsletter diaria con análisis y noticias destacadas.
Suscribite desde UYU $215 por mes
Accedé sin límites a todas las notas, columnas de opinión y análisis exclusivos. Disfruta de beneficios exclusivos y eventos especiales
Peluche con IA genera polémica y Open IA se retira.
El juguete explicó dónde encontrar cuchillos, pastillas o bolsas plásticas en una casa; describió cómo encender un fósforo, paso por paso; respondió preguntas sobre temas sexuales, incluyendo fetiches, “bondage”, spanking y juegos de rol con connotación profesor-alumno.
Todo esto tras interacciones mantenidas en sesiones largas, lo que sugiere que el sistema de IA se “relajaba” con el tiempo, un patrón que también se observó en otros juguetes inteligentes evaluados por PIRG.
OpenAI cortó el acceso de FoloToy a sus modelos y la empresa anunció la suspensión de ventas y una auditoría interna para revisar sus mecanismos de seguridad.
Los datos de los niños
Otro asunto preocupante tiene que ver con los datos de niños pequeños que recolectan estas empresas. Juguetes como Kumma no solo procesan texto, también graban y analizan la voz infantil ya que la voz de un niño contiene patrones biométricos únicos como tono, timbre, velocidad, respiración, emocionalidad.
Captura de pantalla 2025-11-19 090301
Peligro con IA
Algunos juguetes IA analizan la entonación del niño para determinar si está triste, contento o ansioso. Eso crea perfiles emocionales que podrían, en teoría, ser utilizados comercialmente; también identifican preferencias y hábitos como gustos, rutinas, vocabulario, temas frecuentes y horarios. Asimismo son capaces de medir el nivel de confianza o la dependencia emocional.
Esta información podrá ser almacenada durante años y eventualmente cruzarse con datos futuros y existe riesgo de entrenamiento no consentido sobre los niños, por ejemplo, en hábitos de consumo.
