La protección de los menores en el entorno digital es una prioridad para instituciones y familias. Las grandes tecnológicas saben que los ojos están puestos en cómo sus productos, desde las redes sociales hasta los chatbots, pueden afectar a los más jóvenes. Un ejemplo de ello es el juicio contra Meta por los posibles daños que sus plataformas tienen en niños y los cambios que Zuckerberg ha prometido aplicar para evitarlos.Días antes, el 18 de agosto, OpenAI anunció el lanzamiento de ChatGPT Teen, una versión de su chatbot pensada para los menores de 18 años. La previsión es que esta versión se active automáticamente cuando el sistema detecte que el usuario es menor de edad, con más protecciones ante contenidos como la autolesión, el suicidio, el sexo o las relaciones románticas. También incorporará funciones pensadas para ayudar a los adolescentes con los deberes sin darles directamente la respuesta.Pero estas medidas abren nuevos interrogantes. ¿Cómo sabrá ChatGPT que un usuario es menor? ¿Qué implica este conocimiento en términos de privacidad? ¿La versión para adolescentes genera menos dependencia? ¿Cómo se puede ayudar al alumnado sin hacerle el trabajo? ¿Las medidas serán suficientes? ¡Te lo explicamos con la ayuda de personas expertas!¿Cómo sabrá ChatGPT que un usuario es menor?Para saber si un usuario es menor de 18 años y poder establecer límites y restricciones, ChatGPT utilizará un sistema de predicción de edad que analiza diferentes indicadores de la cuenta, como los temas de las conversaciones, las horas de uso, la frecuencia con la que se utiliza o el tiempo que hace que la cuenta está activa. Si el sistema determina que el usuario es menor, activará automáticamente la experiencia para adolescentes. OpenAI, sin embargo, reconoce que “ningún sistema es perfecto” y que la predicción puede equivocarse.Esto, en principio, no debe traducirse en más invasión de la privacidad, explica a Verificat René Serral, experto en ciberseguridad y profesor de la Universitat Politècnica de Catalunya (UPC). La empresa ya dispone de información derivada del uso de ChatGPT y las conversaciones anteriores, si no es que desactivamos las “memorias guardadas”, recuerda, de manera que la novedad, simplemente, es que ahora estos datos también pueden intervenir explícitamente en la predicción de la edad. El experto también recalca que otras plataformas como las redes sociales llevan años recogiendo datos similares.Open AI contempla al mismo tiempo la opción de acreditar la edad presentando un documento de identidad o una fotografía estilo selfie. Según la empresa, esta información se eliminará en un plazo de siete días.Para Azucena Vázquez, doctora en Educación y Tecnologías Digitales por la UOC, la pregunta clave es qué grado de intrusión estamos dispuestos a aceptar para proteger a un menor y quién debe fijar este límite. La investigadora puntualiza que en el caso de la Unión Europea, este sistema de predicción y verificación de edad debe adaptarse al ecosistema regulador, definido por el Reglamento de Inteligencia Artificial (AI Act) y el Reglamento General de Protección de Datos (RGPD), y sus sucesivas modificaciones. Los textos marcan límites basados en la minimización de datos, el derecho a oponerse o la soberanía y eliminación de datos.¿Qué contenidos se vetarán?OpenAI asegura que ChatGPT Teen aplicará más restricciones a los contenidos delicados o inadecuados para menores, pero no detalla en qué medida. Entre estos, se encuentra la violencia gráfica, los retos virales que pueden fomentar conductas de riesgo y los juegos de rol sexuales, románticos o violentos. También se limitarán los contenidos que promuevan estándares de belleza extremos, dietas poco saludables o la vergüenza corporal.Pero la experiencia nos dice que crear un entorno específico para menores no garantiza que estos contenidos no lleguen a él. En otras plataformas dirigidas a niños, investigaciones han detectado contenidos inadecuados a pesar de los sistemas de filtrado. Es el caso, por ejemplo, de YouTube Kids, donde los niños están expuestos a contenidos inadecuados, incluyendo publicidad y violencia, según un estudio de Common Sense Media publicado en 2020.Antoni Baena, coordinador del Comité de ePsicología del Col·legi Oficial de Psicologia de Catalunya y director del Máster de Salud Digital de la UOC, valora positivamente las intenciones para limitar los contenidos nocivos, pero alerta a Verificat que estos no deberían estar disponibles en ninguna versión de ChatGPT, tampoco en la dirigida a las personas mayores de edad. Este año se han conocido casos de personas adultas que han mantenido conversaciones con chatbots antes de suicidarse.¿ChatGPT Teen reducirá la posible dependencia de los adolescentes con los chatbots?La información publicada por OpenAI no detalla ninguna medida concreta para reducir la posible dependencia o vinculación emocional de los adolescentes con el chatbot y, por el momento, la empresa tampoco ha respondido a la petición formulada por parte de Verificat.Según un estudio de GAD3, hasta el 30% de los jóvenes en el Estado español utiliza la IA para hablar de temas personales. Esto comporta riesgos, ya que ChatGPT no está diseñado para imitar ni sustituir las relaciones humanas, tal como reconoce la propia empresa. De hecho, puede promover el pensamiento conspiranoico, según una investigación del Washington Post. “La seguridad no depende solo del contenido de las respuestas, sino también del vínculo que la herramienta puede generar con el adolescente”, alerta Vázquez.Baena, del Col·legi Oficial de Psicologia de Catalunya, considera que conversar con una IA no es necesariamente negativo. El riesgo aparece cuando las respuestas son inadecuadas o demasiado simplistas, o cuando el sistema tiende a validar excesivamente al usuario, un fenómeno conocido como sycophancy. Por ello, el experto aboga por revisar el diseño de la herramienta. Entre las posibles medidas, apunta a incorporar mecanismos para regular su uso, como controles sobre el tiempo de conversación.¿Cómo funcionará ChatGPT Teen en clave educativa?Esta versión también incorpora el “Modo Estudio”, pensado para ayudar al alumnado en el proceso de aprendizaje en lugar de darle directamente la respuesta. Vázquez explica que esta propuesta aborda uno de los riesgos de la IA generativa en la educación: la delegación cognitiva. Es decir, dejar en manos de la tecnología parte del proceso de pensar, razonar o resolver una tarea. Un estudio reciente del Centre for Economic Policy Research (CEPR) apunta que esta práctica tiene consecuencias negativas: los estudiantes que habían delegado más tareas académicas a la IA, seis meses después obtenían resultados aproximadamente un 20% inferiores en los exámenes.Así, la doctora en Educación y Tecnologías Digitales por la UOC valora positivamente el planteamiento del Modo Estudio, ya que fomenta que el alumnado participe en el proceso cognitivo en vez de delegarlo completamente a la IA.La idea de utilizar la IA en el proceso reflexivo y no como sustituta es la consigna que se da al alumnado desde Desfake, el programa educativo de Verificat. De hecho, recientemente, Mike Caulfield, creador de la metodología SIFT, propuso actualizar su método de verificación de información incorporando la IA, pero sin dejarle todo el peso.La cuestión será comprobar si este planteamiento pedagógico también funciona en la práctica, teniendo en cuenta que la mitad de los estudiantes de entre 14 y 18 años asegura que la IA está “bastante” o “muy presente” en su educación, según el informe Empantallados.¿Esta versión ayudará a los jóvenes a saber utilizar críticamente el chatbot?Incorporar más protecciones a los sistemas de IA no implica un uso más consciente de la herramienta. El pensamiento crítico se aprende y se trabaja, tal como promovemos desde Desfake con nuestros recursos educativos sobre IA. No se trata de penalizar su uso, sino de valorar cómo se ha utilizado, es decir, si se ha explicado por qué se ha empleado o cómo se ha verificado la información obtenida, entre otros aspectos.Vázquez añade la necesidad de que estas herramientas también sean más transparentes respecto a los límites de su conocimiento. «Pedimos a los jóvenes que sean críticos ante un sistema que responde con fluidez y apariencia de seguridad, incluso cuando se puede equivocar”, concluye.