El paso del tiempo ha logrado que ya no podamos diferenciar entre lo real y lo creado por inteligencia artificial, hoy en día miles de personas son víctimas de un nuevo peligro

El tema de la inteligencia artificial (IA) ha sido uno de los recurrentes en nuestras páginas, desde aquel lejano noviembre del 2022 cuando esa nueva forma de ver, entender e interactuar con el mundo hacía irrupción.

Han pasado apenas dos años desde aquellos primeros pasos, en los que la IA era magia. Comenzábamos a experimentar en la creación de personajes virtuales deformados, siameses y gemelos virtuales. Hoy en día es difícil, por no decir imposible, distinguir entre dos imágenes, una real y otra creada por IA.  

Desde sus inicios, algunas voces se alzaron alertando sobre los riesgos que se acercaban: Desde visiones apocalípticas de una guerra entre máquinas y humanos, hasta advertencias realistas sobre riesgos de seguridad, credibilidad y pérdida de millones de empleos.

Como lo hemos dicho en otras oportunidades: no creemos en tecnologías buenas o malas, imaginamos las consecuencias del mal uso que se le puede dar a ellas y tememos las implicaciones que eso podría generar para la mayoría de las personas. 

Los humanos virtuales

El tema de la virtualidad ha sido popularizado por la ciencia ficción desde su Edad de Oro, en los años de la Gran Depresión estadounidense, hace casi 100 años, tema que también ha mantenido ocupada la mente de científicos y filósofos. 

“Al producir y exponer este material, las personas se insensibilizan ante el daño que hacen y se normaliza el abuso, se oculta su gravedad bajo la excusa de que no se dañó a niños reales, la difusión de este material abre el camino a futuros abusos contra niños reales”

Fernando Pereira
Coordinador de Cecodap

Escritores y visionarios bautizaron como mundos virtuales a esas representaciones alternas a una realidad decadente y traicionera de la que muchos tratan de escapar, y a nuestras representaciones como avatares. 

La virtualidad también ha dado ejemplos positivos, uno de ellos sería la banda británica Gorillaz, creada por humanos e integrada por cuatro avatares: 2-D, Noodle, Murdoc Niccals y Russel Hobbs, quienes habitan un universo ficticio que se conecta al nuestro a través de música y videos. Además le ha dado rostro y voces a personas que por razones de su seguridad se mantienen ocultas ante posibles persecuciones; manteniéndolas libres y vivas.

Pero más allá de la luz que irradian los buenos ejemplos en el uso de esta tecnología, su fácil acceso y lo impactante de sus resultados, abrieron un campo de grises y negros a delincuentes quienes no quieren dar voz a los silenciados, ni arte a las masas, simplemente buscan engañar, obtener dinero y humillar.

Las nuevas estrellas porno

La irrupción al mercado abierto de las herramientas de IA facilitó la creación de contenidos  en los que la participación humana consiste en dar instrucciones, o “prompts”, para generar imágenes, videos, sonidos y textos.

Debemos destacar que las empresas intentaron controlar temas sensibles como pornografía, violencia, racismo y xenofobia, entre otros, limitando la creación de ese tipo de contenidos por las IA; pero su esfuerzo fue fácilmente superado y de pronto el mundo se enfrentó a una primera explosión de mentiras profundas o deepfakes, en los que es casi imposible de diferenciar la mentira de la realidad. 

Esta realidad ha puesto en tela de juicio el valor legal de pruebas como grabaciones, fotografías o videos, debido a que pueden ser falsos. Para aceptarlos, los tribunales deben validarlos por peritos forenses.

El nacimiento de las deepfakes abrió el camino para que cualquiera cree material pornográfico a mínimo costo. Lo peor es que las estrellas de esas “producciones” pueden ser cualquiera que tenga una fotografía en la red; en otras palabras, hijos, parejas, familiares, amigos, cualquiera puede convertirse en un avatar pornográfico.

El monstruo de la pornografía infantil

El abuso sexual infantil es uno de los temas que se multiplicaron con los videos hechos con IA. Las autoridades insisten en alertar sobre la responsabilidad legal de las plataformas en la publicación de ese material y exigen medidas para impedir la proliferación de este tipo de contenidos.

Una de las pruebas de este endurecimiento de acciones la encontramos en la detención del fundador y CEO de Telegram, Pável Dúrov. La acusación francesa en su contra señala que la plataforma social alberga actividades ilícitas, como tráfico de drogas y distribución de imágenes de abuso sexual infantil.

“Si usan la IA para crear ese tipo de contenidos, estamos ante la incitación y promoción del delito; el uso de redes para difundirlo solo agrava el delito, por cualquier lado ese delincuente será perseguido en Venezuela”

Raymond Orta
Abogado especialista en tecnología

Países como Corea del Sur, Japón, España, México, Chile y Venezuela detectaron casos de videos y fotografías pornográficas de estudiantes, menores y adultos. Muchos países lentamente han adaptado sus leyes a nuevas realidades.

Aunque no sean reales, igual vas preso

Productores de este tipo de pornografía detenidos han tratado de desligarse de las consecuencias de sus acciones, alegando que se trata de imágenes generadas por computadora, que no causaron daños a niños o adultos reales, que al ser “personas sintéticas” no existen para la ley.

En este sentido, Fernando Pereira, coordinador de Cecodap, señaló: “Consideran que al no haber víctimas reales no habría delito, sin embargo, esa premisa es falsa. Al producir y exponer este material, las personas se insensibilizan ante el daño que hacen y se normaliza el abuso, se oculta su gravedad bajo la excusa de que no se dañó a niños reales, la difusión de este material abre el camino a futuros abusos contra niños reales”. 

Por su parte, Raymond Orta, abogado especialista en tecnología, destaca que “la posesión y distribución de material pornográfico de abuso infantil es un delito, sea una foto o un producto de IA”.

“Si alegan que no es un ilícito porque no es sobre una persona real, pues entonces hacen apología al delito; si usan la IA para crear ese tipo de contenidos, estamos ante la incitación y promoción del delito; el uso de redes para difundirlo solo agrava el delito, por cualquier lado ese delincuente será perseguido en Venezuela”, acota.