Unicef exige que se obligue a las plataformas a garantizar la «seguridad por diseño» en sus App para garantizar la protección de los niños

En el reportaje de la semana pasada vimos como Unicef expuso una realidad desoladora: 20 millones de niños y adolescentes son víctimas de abuso y explotación sexual digital al año. ¿Qué medidas se deben tomar para protegerlos?

Sin embargo, conocer la magnitud de la crisis resulta inútil si no se examinan las fallas estructurales que la sostienen, ni las medidas obligatorias que debemos tomar de manera obligatoria para detenerla.

Ante esta realidad, es necesario preguntarse ¿por qué el sistema de justicia falla sistemáticamente?, los retos que impone la inteligencia artificial en el panorama de la seguridad de los más vulnerables y, sobre todo, ¿cuál es el papel exacto que deben asumir gobiernos, escuelas y hogares para romper el círculo de abuso real y virtual?

La inteligencia artificial y el abuso a distancia

Uno de los aspectos más alarmantes es que el abuso no necesita de la participación activa del abusado, ya no hace falta que un menor se tome una fotografía íntima o acceda a interactuar con un desconocido para convertirse en víctima de extorsión y violencia digital. Con el uso de herramientas de inteligencia artificial generativa (IAG) es relativamente sencillo desnudar a cualquier persona digitalmente. 

Alrededor de 1.1 millones de niños al año enfrentan agresiones mediante deepfakes de carácter sexual. El mecanismo de agresión es sencillo: los perpetradores extraen imágenes cotidianas disponibles en perfiles públicos de redes sociales o chats grupales como fotos escolares, familiares o de vacaciones y utilizan herramientas de IA para desnudarlos, e incluso pueden hacer que las imágenes los presenten participando en actividades en las que nunca estuvieron.

«Ya no hace falta que un menor se tome una fotografía íntima o acceda a interactuar con un desconocido para convertirse en víctima de extorsión y violencia digital»

Informe de Unicef “Through Children’s Eyes”

Aunque el menor jamás haya generado contenido íntimo real, los agresores utilizan estos montajes hiperrealistas para exigir dinero, demandar imágenes explícitas reales, destruir la reputación del niño en su comunidad o centro educativo o sencillamente venderlas. 

Las empresas desarrolladoras de IA y las plataformas de redes sociales donde se distribuye este material carecen de salvaguardas eficientes para bloquear de origen la manipulación de rostros de menores de edad.

Las víctimas desconfían de la justicia

A pesar de la masividad de los delitos digitales, el sistema de justicia se mantiene rezagado, abrumadoramente obsoleto e inaccesible para los jóvenes. El dato de que menos del 1% de las víctimas denuncia el abuso ante la policía, trabajadores sociales o líneas de ayuda no es una casualidad; deja en evidencia una desconfianza sistémica en la justicia tradicional.

Las brechas del sistema legal comienzan con leyes desactualizadas. En múltiples países, conductas como el acoso en línea, el grooming, la sextorsion, las transmisiones en vivo de abusos o la creación de deepfakes no son delitos penales graves, por lo general se juzgan por aproximación a otros delitos, por lo general con penas leves.

La situación se agrava al observar que la revictimización institucional es una constante, los protocolos de investigación policial no están adaptados a la infancia y someten a las víctimas, entre ellas a niños y adolescentes, a interrogatorios repetitivos que agravan el trauma emocional, los culpabilizan y los señalan implícitamente por lo que sufrieron.

El entorno escolar: De segundo punto de riesgo a espacio de prevención

El informe de Unicef ubica a la escuela como el segundo lugar físico más común donde los niños conocen a sus agresores, con el 26% de los casos. Esta cifra obliga a las instituciones a replantear su rol de manera inmediata.

Alerta también el hecho de que el 2% de los alumnos abusados acude a un profesor en busca de auxilio. 

Para transformar las aulas en espacios seguros, las escuelas deben ofrecer una educación afectivo-sexual integral adaptada a la edad de los estudiantes, que aborde conceptos como el consentimiento, los límites corporales, el reconocimiento de la coerción y los mecanismos de denuncia sobre cualquier agresión.

«Las empresas desarrolladoras de software de IA y las plataformas carecen, hasta la fecha, de salvaguardas eficientes para bloquear de origen la manipulación de rostros de menores»

Informe de Unicef “Through Children’s Eyes”

El informe establece la necesidad de capacitar continuamente a los docentes en la identificación de los problemas, comunicación centrada en el niño y enfoques sobre el trauma, para evitar reacciones punitivas o de censura.

La familia también requiere de formación para garantizar canales de comunicación sin castigo, donde hablar sobre posibles abusos no derive en regaños, amonestaciones o restricciones en el uso de herramientas digitales.

La protección de los niños no debe caer en ellos mismos

La ola de violencia sexual facilitada por la tecnología no es inevitable, es consecuencia de la falta de regulación y de redes institucionales preparadas para proteger a la infancia. 

Unicef insiste en que la responsabilidad de garantizar la seguridad no puede recaer en los niños, debe distribuirse entre el Estado, las empresas, las familias y las escuelas.

Los gobiernos deben exigir a las plataformas aplicar la “seguridad por diseño”, imponer sanciones severas a los infractores, actualizar sus códigos penales e invertir en unidades especializadas de investigación policial digital. 

Las empresas tecnológicas deben establecer configuraciones de privacidad máximas por defecto, deben restringir los contactos entre adultos y niños y eliminar con rapidez material de abuso y contenido dañino creado o manipulado mediante inteligencia artificial. 

También es esencial que los hogares y las escuelas sean espacios de confianza, donde los menores puedan denunciar sin temor al castigo. 

Combatir el abuso digital requiere una acción coordinada que priorice la integridad física y mental de la infancia por encima de la rentabilidad.