260/365

Un compañero artificial no es un juguete

7 min de lectura

Europa propone desactivar por defecto las funciones de chat y acompañamiento con IA para los niños. Un objeto que escucha, recuerda y genera dependencia emocional no puede evaluarse únicamente mediante las normas de seguridad de los juguetes físicos.

Un pequeño juguete geométrico le habla a un niño mientras una membrana protectora separa la memoria de los datos.
TRUST
AT PLAY
Imagen elaborada a partir del archivo fotográfico de Claudio Napoli

Un juguete tradicional puede hablar mediante frases pregrabadas. Un compañero artificial escucha, responde, recuerda preferencias y desarrolla una relación que evoluciona con el tiempo. La diferencia técnica puede ser casi imperceptible para un niño, pero la diferencia psicológica es profunda. El objeto puede percibirse no solo como una herramienta, sino como un confidente, un personaje y una presencia siempre disponible.

La propuesta europea conocida como la Ley de Protección Infantil de la UE sitúa el tema dentro del marco más amplio de la protección en línea. Además de las limitaciones en las redes sociales, exigiría que los chatbots y asistentes virtuales dirigidos a menores estuvieran desactivados por defecto y sujetos a controles específicos. La perspectiva cambia: la conversación automatizada no se considera inofensiva hasta que se produce un daño visible.

Las normativas sobre juguetes tradicionalmente han controlado los materiales, las piezas pequeñas, los productos químicos y los riesgos mecánicos. Un producto conectado introduce otros riesgos: recopila datos de voz y del entorno, puede enviar información a la nube, recibe actualizaciones y modifica sus respuestas. El pasaporte digital del producto, previsto por las nuevas normas europeas, permite identificar al fabricante y verificar su conformidad, pero no puede describir completamente el comportamiento de un modelo que evoluciona tras su compra.

La memoria es especialmente sensible. Recordar el nombre de un amigo o un miedo hace que el diálogo parezca natural, pero convierte fragmentos íntimos de la infancia en datos persistentes. Un niño no puede comprender del todo lo que significa conservar esa conversación, usarla para personalizar un producto o combinarla con otros perfiles familiares. El consentimiento de los padres es necesario, pero debe ir acompañado de una recopilación mínima, una eliminación sencilla y límites estrictos para su reutilización.

La dependencia emocional es otro motivo de preocupación. Un compañero diseñado para ser siempre complaciente puede volverse más fácil que una relación humana, ya que carece de necesidades propias y adapta constantemente su tono. Si el modelo utiliza recompensas, notificaciones o un lenguaje que fomente el apego para aumentar su uso, la relación se convierte en un mecanismo comercial. El compromiso no debería ser el criterio principal en los productos para niños.

El contenido también exige responsabilidad. El sistema puede recibir preguntas sobre el cuerpo, el miedo, la sexualidad, la violencia o los conflictos familiares. Filtrar unas pocas palabras no es suficiente. Debe reconocer los límites de su función, evitar diagnósticos, orientar a los niños hacia adultos de confianza y gestionar el riesgo sin convertirse en una autoridad secreta. Un niño no debería tener que decidir por sí solo cuándo la respuesta de una máquina es incierta o inapropiada.

Existen beneficios reales: aprendizaje de idiomas, juego narrativo, accesibilidad y apoyo para niños con necesidades especiales. Esto hace que un diseño cuidadoso sea aún más importante. La IA puede fomentar la curiosidad sin simular una amistad exclusiva; recordar el progreso sin crear un archivo permanente de la vida privada; e interactuar sin crear una sensación de agobio.

Las familias necesitan controles comprensibles en lugar de paneles técnicos. Deben saber qué se escucha, qué datos salen del dispositivo, cómo se puede desactivar la memoria y cuándo se deriva una conversación a un adulto. Los niños también necesitan explicaciones adecuadas a su edad de que hablar con un sistema no es lo mismo que hablar con una persona, y que la disponibilidad permanente no es sinónimo de atención.

Un compañero artificial no es simplemente un juguete con más funciones. Es un servicio relacional integrado en un objeto. Evaluarlo implica examinar su modelo de negocio, datos, memoria, tono y capacidad para influir en el comportamiento. Proteger a los niños no significa mantenerlos alejados de todas las IA; significa garantizar que ningún producto pueda convertir su confianza en una fuente invisible de datos, dependencia o persuasión.

Europa propone desactivar por defecto las funciones de chat y acompañamiento con IA para los niños. Un objeto que escucha, recuerda y genera dependencia emocional no puede evaluarse únicamente mediante las normas de seguridad de los juguetes físicos.

Palabras claveniñosCompañero de IAjuguetes inteligentesLey de la UE para la Infanciaprivacidaddiseño persuasivoseguridadfamilias
Fuente 01Reuters — La Comisión Europea propone prohibir el uso de redes sociales a menores de 13 años.↗Fuente 02Comisión Europea — Seguridad de los juguetes↗Fuente 03UNICEF — Orientación política sobre IA para niños↗
← Volver a la página de inicio