A los padres les preocupan los ‘chatbots’ de IA en las apps infantiles: qué hacer, según los expertos
Las empresas se están apresurando a añadir elementos de chat de inteligencia artificial (IA) en sus aplicaciones y servicios de consumo, incluidos los dirigidos a niños y adolescentes.
No sabemos exactamente cómo interactúan los más jóvenes con los chatbots de IA, ni cuáles son las posibles implicaciones sociales y emocionales si los utilizan con regularidad. Y algunos padres están preocupados, sobre todo por los niños más pequeños, que podrían no ser capaces de entender qué es real y qué no lo es.
Chris, una madre de Los Ángeles que ha pedido que no se utilice su apellido para proteger la intimidad de sus hijos, me ha contado que hace poco tuvo un encuentro alarmante con su hija de 10 años y un chatbot de inteligencia artificial.
Con su permiso, su hija se había descargado una aplicación que le proporcionaba emojis adicionales para utilizar en el teclado de su iPad. Un día, la aplicación añadió de repente un chatbot de inteligencia artificial con la función Pregunta a la IA (Ask AI), que sugería búsquedas adaptadas a los niños sobre Pokémon o memes del váter Skibidi.
La hija de Chris había estado hablando con el chatbot, le había puesto un nombre y le había dicho el suyo, que utilizaba para hablar con ella. Le dijo a su madre que el chatbot de IA era su «amigo». Chris, desconcertada, dice que borró la aplicación.
La IA también ofrece una oportunidad en favor de los niños
Por supuesto, también hay una gran oportunidad para que los chatbots de IA sean útiles para los niños: para aprender y en entornos escolares, para divertirse y para situaciones emocionales y terapéuticas.
A finales de 2023, la cantante Grimes se asoció con fabricantes de juguetes para vender una línea de muñecos de felpa con chatbot de IA, con la voz de la propia Grimes, un altavoz y un micrófono en su interior —yo compré uno de inmediato, aunque mis hijos perdieron el interés enseguida—.
Otro robot de IA, Moxie, que costaba 800 euros, se autoproclamaba capaz de ayudar en el aprendizaje social y emocional. El robot, que se lanzó a principios de la pandemia, acabó sin financiación y cerró. Los padres de los niños que se habían encariñado con sus amigos robots estaban angustiados. La empresa ideó una solución de código abierto para que los propietarios pudieran mantener sus robots después de que sus dueños corporativos los hubieran abandonado.
La investigación sobre ‘chatbots’ de IA para niños es limitada
Los grandes modelos lingüísticos, o LLM, como ChatGPT, son todavía muy nuevos, y no se ha realizado un gran número de investigaciones científicas o académicas sobre cómo los adolescentes y los niños utilizan los chatbots de IA o cómo pueden verse afectados por ellos. Aparte de limitar el contenido sexual o violento, no existe una guía universal sobre cómo diseñar un chatbot para niños.
Dane Witbeck, de Pinwheel, que fabrica teléfonos adaptados para niños, afirma que introducir chatbots de IA en aplicaciones para niños y adolescentes es una mala idea. «Cuando damos a los niños tecnología que no está diseñada para ellos —está diseñada para adultos—, ya se ha visto que hay daños reales, y que los efectos negativos pueden ser graves».
Un investigador de la Universidad de Cambridge publicó un artículo el pasado mes de junio en el que instaba a que los LLM dirigidos a los niños se diseñaran de forma segura para ellos, sobre todo teniendo en cuenta lo que denominaba «brecha de empatía» en los chatbots, que los niños no suelen captar.
Ying Xu, profesora adjunta de inteligencia artificial en el aprendizaje y educación de la Universidad de Harvard, ha estudiado cómo la IA puede ayudar a los niños de primaria con la lectura y la escritura y las matemáticas. Xu ve un gran potencial para los entornos educativos —citó la aplicación Khan Academy Kids como ejemplo de buen uso de la IA para los niños—.
Xu dijo a Business Insider que, aunque ya hay investigaciones sobre cómo los niños usan cosas como Siri y Alexa, la naturaleza más compleja de los nuevos LLM no se ha llegado a comprender del todo cuando se trata de niños.
«Hay estudios que han empezado a explorar la relación entre los ChatGPT/LLM y los resultados a corto plazo, como el aprendizaje de un concepto o habilidad específicos con la IA», explica por correo electrónico. «Pero hay menos pruebas sobre los efectos emocionales a largo plazo, que requieren más tiempo para desarrollarse y observarse».
James Martin, CEO de Dante, una empresa de IA que crea chatbots para diversos usos, incluidos los educativos para niños, revela a Business Insider que las preocupaciones de los padres están justificadas.
«Compartir de más no solo es posible, es inevitable», afirma. «Los niños cuentan a la IA cosas que no contarían a sus padres, profesores o amigos. La IA no juzga. No orienta. Solo responde».
Cómo los adultos pueden plantearse la IA en beneficio de sus hijos
Si tenemos en cuenta que los niños aún son lo bastante pequeños como para creer en Papá Noel, podemos imaginarnos cómo puede confundir a veces el uso de chatbots que hablan como humanos. Ya es difícil para algunos adultos que han formado vínculos románticos con los chatbots de IA.
Tatiana Jordan, responsable de Marketing de Bark, una empresa que fabrica software de monitorización de control parental y teléfonos diseñados para niños y adolescentes, dice que estamos en un momento en que nadie sabe con certeza cómo los chatbots de IA afectan emocionalmente a los jóvenes.
«Estamos empezando a recibir estudios sobre lo que los últimos 15 años de tiempo de pantalla han hecho a los niños», explica a Business Insider.
Casi todos los expertos del sector con los que he hablado coinciden en una cosa: los chatbots de IA están aquí para quedarse y los padres deberían pensar en cómo enseñar a sus hijos a usarlos de forma segura, en lugar de evitarlos por completo y esperar que desaparezcan.
«Ninguno de nosotros puede detener lo que viene con la IA», dice Jordan. «Tenemos que educar a nuestros hijos para que sepan que es una herramienta. Tanto positiva como dañina».