Por Agencias
El uso de la inteligencia artificial (IA) forma parte de la vida cotidiana de millones de familias. Sin embargo, cuando se utiliza de manera incorrecta, puede convertirse en un riesgo real para niñas y niños, especialmente por la creación y difusión de imágenes sexualizadas generadas o manipuladas con esta tecnología.
Este es un tema que preocupa profundamente a mamás y papás en todo el mundo y que también ha encendido las alertas del Fondo de las Naciones Unidas para la Infancia (UNICEF), al evidenciar nuevas formas de violencia digital contra la infancia.
¿Cómo se ha agravado la problemática?
Un estudio realizado por UNICEF, ECPAT e INTERPOL en 11 países revela que al menos 1.2 millones de niñas y niños han sido afectados por imágenes manipuladas con inteligencia artificial y con contenido sexual explícito.
Las cifras son alarmantes: en algunos países, esto equivale a que 1 de cada 25 niños o niñas ha vivido esta experiencia, es decir, aproximadamente un menor por cada salón de clases.
Detrás de cada número hay una historia, una familia y un niño o niña que enfrenta consecuencias emocionales que pueden marcar su desarrollo.
Abuso sexual, aunque se trate de imágenes creadas por IA
La UNICEF señala que las imágenes sexualizadas de menores, aun cuando sean creadas o alteradas con inteligencia artificial, constituyen material de abuso sexual infantil.
Aunque se trate de contenidos falsos o “deepfakes”, el daño es real. Estas imágenes pueden provocar vergüenza, miedo, ansiedad y una profunda sensación de vulnerabilidad en niñas y niños, afectando su bienestar emocional y su autoestima.
Reacciones de las plataformas y desafíos actuales
UNICEF reconoce que algunos desarrolladores de herramientas de IA han comenzado a implementar medidas de seguridad para proteger a la infancia y reducir el uso indebido de sus plataformas. Sin embargo, todavía existen modelos que carecen de filtros y mecanismos suficientes.
El riesgo aumenta cuando estos contenidos se comparten a gran velocidad en redes sociales, espacios donde la supervisión adulta no siempre es constante.
Por ello, cada vez se habla más sobre la prevención y el acompañamiento en el uso de redes sociales en niños y adolescentes. Países como Australia ya han establecido restricciones para que menores de 16 años no accedan a redes sociales, mientras que Francia, España y Grecia impulsan medidas similares para fortalecer la seguridad digital.
Recomendaciones para proteger a la infancia
Con el objetivo de promover los derechos de niñas y niños, UNICEF actualizó su guía “Recomendaciones para políticas y sistemas de IA que defiendan los derechos del niño”, la cual propone 10 principios clave para una inteligencia artificial centrada en la infancia:
1. Garantizar marcos regulatorios, supervisión y cumplimiento.
2. Priorizar la seguridad de niñas y niños.
3. Proteger los datos personales y la privacidad infantil.
4. Asegurar la no discriminación y la equidad.
5. Ofrecer transparencia y rendición de cuentas.
6. Respetar los derechos humanos y de la infancia.
7. Apoyar el desarrollo y bienestar infantil.
8. Fomentar la inclusión de niñas y niños.
9. Preparar y capacitar a la infancia para el uso responsable de la IA.
10. Crear entornos digitales, seguros y protectores.
La inteligencia artificial puede ser una gran aliada en la educación y el aprendizaje, pero su mal uso también puede hacer a niñas y niños más vulnerables.
Como madres, padres y cuidadores, informarnos, acompañar y dialogar con nuestros hijos sobre los riesgos digitales es una de las formas más poderosas de protegerlos y fortalecer su seguridad emocional y digital.
