Storia in 4 fonti

Regular las redes sociodigitales exige intervenir sus algoritmos

La discusión pública sobre la protección de los menores en el entorno digital se ha concentrado en una respuesta tan intuitiva como insuficiente: prohibir el acceso.Gobiernos de distintos países compiten por establecer límites de edad para el uso de las redes sociodigitales y promueven leyes que buscan levantar barreras digitales a los 14, 16 o incluso 18 años.No obstante, concentrar todos los esfuerzos en vetar el acceso o en perfeccionar los sistemas de verificación de identidad no basta. Si queremos proteger la salud mental y el desarrollo de las nuevas generaciones, es necesario desplazar el centro del debate: regular las redes sociodigitales exige, ante todo, imponer cambios profundos en sus algoritmos.Las grandes corporaciones tecnológicas han sostenido una narrativa conveniente: presentar sus plataformas como escaparates neutrales o herramientas pasivas. Bajo esa lógica, cualquier uso nocivo por parte de un adolescente se atribuye casi exclusivamente a la falta de autocontrol individual o a una supervisión familiar insuficiente. Esa premisa es una falacia.Las redes sociodigitales no son contenedores neutros. Funcionan como ambientes digitales gobernados por sistemas de inteligencia artificial orientados a un objetivo comercial preciso: maximizar el tiempo de permanencia y el enganche (engagement) de los usuarios para rentabilizar la venta de publicidad.Cuando este engranaje de ingeniería de precisión se enfrenta a la plasticidad neuronal de un menor de edad, la relación es profundamente desigual: de un lado, sistemas diseñados para captar y sostener la atención; del otro, una etapa del desarrollo especialmente vulnerable a esos estímulos.En un texto publicado en Wired, “¿Por qué prohibir las redes sociales a menores es un error?”, Claudia del Pozo y Nicte Cabañas advierten que cuarenta minutos pueden bastar para que un sistema de recomendaciones comience a sugerir de forma sistemática a un menor videos, publicaciones o comunidades con alusiones explícitas al suicidio y las autolesiones.Este riesgo debe entenderse a la luz de la maduración cerebral adolescente. La corteza prefrontal, vinculada con la autoevaluación, el control de los impulsos y la planificación a largo plazo, no termina de desarrollarse sino hasta después de los veinte años. En contraste, el sistema límbico, asociado con las emociones y la búsqueda de recompensas inmediatas, se encuentra en plena actividad.Los algoritmos de recomendación aprovechan esa vulnerabilidad fisiológica con enorme precisión. Mediante el análisis constante de señales de conducta (cuántos milisegundos se detiene el dedo sobre una imagen, qué videos se reproducen dos veces o a qué hora se conecta el usuario), la máquina personaliza la oferta de contenido para mantener al menor dentro de un bucle de gratificación inmediata.El mecanismo reproduce la lógica de la recompensa intermitente, similar a la utilizada por la industria del juego. Cada scroll hacia abajo funciona como una palanca de una máquina tragamonedas: puede ofrecer, o no, un estímulo visualmente atractivo capaz de generar un pico de dopamina en el cerebro del joven.Exigir a un niño de 13 años que actúe con “responsabilidad” frente a un sistema informático diseñado por algunos de los mejores ingenieros del planeta para impedir que cierre la aplicación es una crueldad conceptual. El problema no es la pantalla, sino la arquitectura invisible que opera detrás de ella.El daño algorítmico no se limita al tiempo que las plataformas arrebatan al sueño, al estudio o a la convivencia. Su riesgo más profundo aparece cuando los sistemas de recomendación descubren qué contenidos generan más reacción: la indignación, el morbo, la vulnerabilidad y los sentimientos negativos suelen producir más interacciones que la calma, la reflexión o el aprendizaje.Si un menor atraviesa un periodo de baja autoestima o tristeza y se detiene unos segundos más ante una publicación sobre dietas milagro o videos melancólicos, el algoritmo no interpreta esa conducta como una alerta de salud. Tampoco responde con empatía. La lee como una oportunidad para retenerlo.En cuestión de horas, el feed del adolescente puede llenarse de contenidos que profundizan en trastornos de la conducta alimentaria (TCA), conductas autolesivas o dismorfia corporal. La lógica es brutal: el algoritmo optimiza el dolor porque el dolor resulta rentable.Por eso, reducir el debate a “prohibir el acceso a los menores” resulta insuficiente. Si un joven de 16 años logra sortear el bloqueo, como previsiblemente ocurrirá mediante redes privadas virtuales (VPN) o identidades falsas, volverá a encontrarse con el mismo entorno depredador.La respuesta de fondo no consiste solo en levantar barreras de entrada, sino en obligar a las plataformas a modificar las reglas lógicas que organizan la experiencia digital de los menores.Exigir una transformación de este alcance obliga a pasar de las declaraciones generales a propuestas técnicas concretas. Los legisladores no deben limitarse a fijar edades mínimas de acceso: deben establecer obligaciones verificables sobre el diseño, la operación y la supervisión de los sistemas de recomendación.No se trata de una utopía técnica, sino de una decisión política que puede articularse en tres ejes fundamentales:Desactivar por defecto la recomendación personalizada. Las cuentas de menores no deberían estar sometidas al perfilado conductual. Su feed o línea de tiempo tendría que organizarse de forma cronológica y mostrar solo las publicaciones de las cuentas que el usuario decidió seguir voluntariamente, sin contenido sugerido por inteligencia artificial para prolongar su permanencia.Prohibir los mecanismos de diseño adictivo. Recursos como la reproducción automática de videos (autoplay) o el desplazamiento infinito (scroll infinito) deben eliminarse de los perfiles de menores. La interfaz debe incorporar puntos de fricción: pausas naturales que obliguen al usuario a decidir conscientemente si quiere continuar navegando o cerrar la aplicación.Establecer auditorías algorítmicas independientes. Los Estados deben exigir cajas de cristal, no cajas negras. Las empresas tecnológicas tendrían que someter sus sistemas de recomendación a comités científicos y agencias de protección de datos independientes, capaces de verificar que sus fórmulas no discriminen, no reproduzcan sesgos ni pongan en riesgo la salud mental de los menores.La historia muestra que ninguna industria renuncia voluntariamente a sus fuentes de ingresos más lucrativas. Las tabacaleras negaron durante décadas el carácter adictivo de la nicotina; la industria automotriz se resistió a incorporar cinturones de seguridad con el argumento de que encarecían el producto.Las grandes corporaciones tecnológicas actúan bajo una lógica similar. Conocen los daños que pueden causar sus algoritmos, como revelaron los documentos internos de Facebook filtrados por Frances Haugen a medios informativos, pero suelen aplazar los cambios estructurales que afectarían su modelo de negocio.La legislación no debe funcionar como un escudo moralista contra la juventud, sino como un marco de responsabilidad industrial. Del mismo modo que no se permite a un fabricante de juguetes vender productos con piezas tóxicas o cortantes, tampoco debería tolerarse que las empresas de software distribuyan productos con una arquitectura digital lesiva para la psique infantil.Regular las redes virtuales únicamente mediante límites de acceso es una estrategia defensiva y, en buena medida, destinada al fracaso. Ese enfoque desplaza la responsabilidad hacia los usuarios y carga injustamente sobre las familias la tarea de vigilar un entorno diseñado para retener. El verdadero cambio de paradigma exige intervenir el diseño mismo del producto.Exigir cambios profundos en los algoritmos significa devolver a los seres humanos el control sobre su atención y proteger el derecho de los menores a descubrir el mundo, socializar y aprender en internet sin quedar expuestos a experimentos masivos de modificación de conducta.Solo cuando los gobiernos dejen de limitarse a revisar carnets de identidad en la puerta y se atrevan a desmontar la maquinaria de adicción que opera dentro de las plataformas, podremos hablar de un espacio digital verdaderamente seguro para la infancia.

Raccontata da