Este contenido fue hecho con la asistencia de una inteligencia artificial y contó con la revisión del editor/periodista.
Padres, llamados a extremar precauciones por posibles vulnerabilidades en artículos para infantes
Son encantadores, incluso entrañables, y prometen tanto aprendizaje como compañía, sin embargo, los juguetes con inteligencia artificial no son seguros para los pequeños, según colectivos de defensa infantil y de consumidores que exhortan a los progenitores a abstenerse de comprarlos durante esta época festiva.
Estos artefactos, promocionados para niños a partir de los 2 años, suelen operar con sistemas de IA que ya han demostrado ser nocivos para infantes y jóvenes, como el ChatGPT de OpenAI, de acuerdo con una advertencia difundida el jueves por Fairplay, organización defensora de la infancia, y respaldada por más de 150 agrupaciones y expertos particulares, entre ellos siquiatras infantiles y pedagogos.
“Los serios perjuicios que los programas de conversación (chatbots) de IA han causado a los niños figuran bien documentados, incluyendo el fomento de la adicción a su uso, sostener diálogos de índole sexual explícita e impulsar conductas peligrosas, agresividad hacia terceros y autolesiones”, advirtió Fairplay.
Lea también: Meta AI en WhatsApp: las razones por las que tantos usuarios desean eliminarla y cómo disminuir su presencia
Los juguetes con IA, elaborados por firmas como Curio Interactive y Keyi Technologies, a menudo se anuncian como didácticos, no obstante, Fairplay sostiene que pueden desplazar actividades cruciales de imaginación y adquisición de conocimientos. Prometen ser amigos, mas interfieren con las relaciones y la capacidad de recuperación de los menores, señaló el grupo.
“Lo que distingue en los infantes es que su cerebro se está moldeando por primera vez y, desde una óptica del desarrollo, es natural que sean crédulos, que busquen establecer vínculos con figuras benévolas y afables”, explicó Rachel Franz, directora del programa “Young Children Thrive Offline” de Fairplay. Por consiguiente, añadió, la confianza depositada por los infantes en estos juguetes puede agravar las clases de detrimento que los niños de mayor edad ya experimentan con los chatbots de IA.
Un informe aparte, presentado el jueves por Common Sense Media y siquiatras de la facultad de medicina de la Universidad de Stanford, alertó a la juventud sobre el uso de programas de conversación populares como apoyo terapéutico.
Fairplay, una entidad con 25 años de trayectoria, antes conocida como la Campaña por una Infancia Libre de Comerciales, ha estado emitiendo alertas sobre los juguetes con IA por años. Sin embargo, previos modelos no eran tan sofisticados como los actuales. Hace una década, durante una efervescencia de juguetes conectados a la red y basados en reconocimiento de voz con IA, el grupo ayudó a encabezar una resistencia contra la muñeca parlante Hello Barbie de Mattel, que, según ellos, registraba y analizaba las conversaciones infantiles.
Esta vez, si bien los juguetes de IA se comercializan mayormente por internet y tienen mayor auge en Asia que en otras regiones, Franz indicó que algunos ya han aparecido en estantes de tiendas en Estados Unidos y podrían llegar más.
“Toda la introducción se ha dado sin supervisión ni estudio previo, lo cual nos genera una preocupación adicional al observar que más y más fabricantes, incluyendo Mattel, que recientemente se alió con OpenAI, están potencialmente lanzando estos artículos”, comentó Franz.
Esta es la segunda gran advertencia estacional contra los juguetes de IA desde que el organismo de protección al consumidor PIRG señaló la tendencia la semana pasada en su estudio anual “Problemas en el Mundo de los Juguetes”, el cual usualmente examina diversos riesgos de productos, como imanes potentes o pilas de botón que podrían ser ingeridas por los más pequeños. Este año, la organización examinó cuatro juguetes que utilizan chatbots de IA.
“Observamos que algunos de estos juguetes dialogarán extensamente sobre asuntos de contenido sexual explícito, darán consejos sobre dónde puede un infante hallar cerillas o cuchillos, se mostrarán contrariados si uno menciona que debe irse y cuentan con filtros parentales escasos o inexistentes”, se lee en el informe. Uno de los juguetes, un peluche fabricado por FoloToy, con sede en Singapur, fue retirado posteriormente, informó su director ejecutivo a CNN esta semana.
La Doctora Dana Suskind, cirujana pediátrica y científica social que investiga el desarrollo cerebral temprano, afirmó que los preescolares carecen de los marcos conceptuales para comprender lo que es un interlocutor de IA. Aunque los niños siempre establecieron lazos con los juguetes a través del juego de simulación, al hacerlo usan su inventiva para crear ambas partes de una charla ficticia, “entrenando la creatividad, el lenguaje y la resolución de problemas”, mencionó.
Suskind añadió: “Un juguete de IA anula esa labor. Responde al instante, con fluidez y frecuentemente mejor de lo que lo haría un ser humano. Todavía desconocemos las repercusiones en el desarrollo de delegar esa tarea imaginativa a una entidad artificial, pero es muy factible que debilite el tipo de creatividad y función ejecutiva que el juego de rol tradicional construye”.
Keyi, con base en Beijing, fabricante de una “mascota robótica” o “petbot” de IA llamada Loona, no emitió comentarios, pero otros creadores de juguetes con IA buscaron destacar sus medidas de protección infantil.
Curio Interactive, con sede en California, elabora peluches, como Gabbo y Grok con forma de cohete, impulsados por la cantante pop Grimes. La compañía declaró haber “diseñado con sumo cuidado” mecanismos de protección para resguardar a los infantes y aconseja a los padres “supervisar los diálogos, seguir las ideas y elegir los controles que mejor convengan a su familia”.
En respuesta a hallazgos previos de PIRG, Curio indicó que está “ocupada laborando con nuestro equipo para atender cualquier inquietud, al tiempo que monitorea constantemente el contenido y las interacciones para garantizar una vivencia segura y agradable para los niños”.
Otra firma, Miko, radicada en Mumbai, India, manifestó que emplea su propio modelo de IA conversacional en lugar de depender de sistemas generales de modelos lingüísticos extensos como ChatGPT para asegurar la inocuidad de su producto, un robot interactivo de IA, para los niños.
“Siempre estamos expandiendo nuestras pruebas internas, reforzando nuestras barreras y habilitando nuevas funcionalidades que identifican y bloquean temas sensibles o inesperados”, afirmó su director ejecutivo, Sneh Vaswani. “Estas nuevas características complementan nuestras defensas existentes que permiten a padres y tutores señalar temas concretos que desean excluir del discurso. Seguiremos invirtiendo en establecer los estándares más altos para una integración de IA segura, protegida y responsable en los productos Miko”.
Los artículos de Miko se comercializan en grandes almacenes como Walmart y Costco y han sido promocionados por familias de “influencers infantiles” en redes sociales cuyos videos en YouTube suman millones de visualizaciones. En su portal, promociona sus robots como “Inteligencia Artificial. Vínculo auténtico”.
Ritvik Sharma, vicepresidente sénior de desarrollo de la compañía, puntualizó que Miko en realidad “alienta a los niños a interactuar más con sus amigos, a convivir más con sus pares, con integrantes de la familia, etc. No está diseñado para que desarrollen una dependencia exclusiva del aparato”.
A pesar de ello, Suskind y los defensores de los derechos de la niñez sugieren que los juguetes tradicionales son una mejor opción.
“Los niños necesitan mucha interacción genuina entre personas. El juego debe fomentar eso, no sustituirlo”, consideró Suskind. “Lo más relevante a considerar no es solo lo que el juguete realiza; sino a qué viene a sustituir. Un sencillo juego de construcción o un peluche que no responde obliga al menor a inventar narrativas, experimentar y resolver dilemas. Los juguetes de IA frecuentemente ejecutan ese proceso de pensamiento por ellos. He aquí la cruel paradoja: cuando los padres me consultan cómo preparar a su hijo para un mundo de IA, el acceso ilimitado a la IA es, de hecho, la peor preparación posible”, concluyó.
Agregar Comentario