Manipulación de videos o suplantación de identidades son solo la punta del iceberg

Imagine que un día recibe un video por WhatsApp en el que alguien cercano le pide dinero. Está viendo a un familiar o un amigo que le habla y, confiado, hace el depósito. Pero al comunicarse con su familiar o amigo, este le da la amarga noticia: no le había pedido nada. Tras una breve investigación descubre que fue engañado, que el del video no era su amigo. Se trataba de un “deep fake» producido por delincuentes a través de programas de inteligencia artificial.

Raymond Orta, abogado y profesor universitario, especializado en tecnología forense, señala que el concepto de Inteligencia Artificial (IA) evolucionó hace unos 30 años. 

“Nació como un sistema experto relacionado con la carga de gran cantidad de información para ser procesada, luego pasó a los grandes conceptos de big data. Vimos cómo fue evolucionando desde las primeras versiones de Photoshop y paso a paso se sembraron las bases para el desarrollo de los distintos modelos que avanzaron en los últimos dos años, hasta llegar a donde nos encontramos”, explica.

La IA venía presentándose tímidamente a través de programas que borraban fondos y marcas de agua, envejecían o rejuvenecían selfies, daban color a fotos en blanco y negro. 

La conocíamos como el algoritmo que selecciona lo que vemos en las redes sociales. También afinaba la voz de cantantes con programas de edición de sonido, sugería nuevos diseños, eliminaba objetos en videos y fotos, identificaba canciones, ayudaba a programar tuits, a escoger etiquetas. En fin, la tecnología venía colándose de manera paulatina, evolucionaba y parecía que lo hacía lentamente.

Pero de pronto se produjo un salto que tomó por sorpresa a casi todos. En apenas un año hubo una explosión de programas y aplicaciones cargados con el término de moda: Inteligencia Artificial, que permitía hacer casi cualquier cosa que antes era imposible.

Soy yo… pero no soy yo 

Y de pronto sonaron las alarmas, especialistas alertaron sobre los riesgos que representaba el uso de la IA. Usuarios inescrupulosos podrían generar informaciones falsas, suplantar identidades, generar estafas, adoctrinar o fomentar discursos de odio a través de lo que ha sido denominado deep fakes o mentiras profundas.

“Hace unos años se presentó una tecnología que permitía sustituir rostros en videos, cambiar una cara por otra. Pero quedaba una frontera difícil de superar: duplicar las voces. De pronto esa barrera también fue derribada, no hacen falta imitadores ni dobladores, con algunos segundos de voz de la persona a suplantar y fotos, es posible duplicarla y hacerla decir cosas que nunca hubiera dicho”, explica Orta.

Y no es ciencia ficción, tenemos un ejemplo perfecto de ello: el actor Bruce Willis vendió su imagen digital completa, y a pesar de que por razones de salud está imposibilitado de actuar, quizá muy pronto lo veamos protagonizando películas, series y comerciales gracias a la magia de la IA.

Esta tecnología vino acompañada de técnicas forenses para detectarla: Hay una nueva disciplina en la informática forense para detectar estos hechos”

Raymond Orta
Profesor universitario y perito forense 

Orta agrega que la aparición de esta tecnología vino acompañada de técnicas forenses para detectarla: hay una nueva disciplina en la informática forense para interpretar estos hechos, “se está desarrollando software para determinar pequeños cambios faciales, ritmo cardíaco, cambios de coloración, pero definitivamente estamos ante un reto, esta tecnología será usada para engañar hasta a su propio creador”.

Apenas estamos dando los primeros pasos en un terreno en el que desconocemos sus implicaciones, no hemos visto nada ante lo que podríamos atestiguar. Hay mucho daño que se puede hacer, por ejemplo: manipular al electorado con informaciones falsas, difundir discursos inexistentes o de odio, sembrar falsas evidencias de hechos ilegales, engañar a jueces o a autoridades policiales, se puede estafar, robar datos, suplantar personas, secuestrar o fingir secuestros, engañar, enlodar reputaciones. Se abre todo un universo de nuevas formas de delinquir.

Noticias falsas

Creer que esta situación se limita a otros países es un error. Recientemente los usuarios de YouTube en Venezuela fueron testigos de una campaña diseñada con Inteligencia Artificial. 

En ella se presentaba un inexistente noticiero llamado House of News. Al menos tres supuestos periodistas angloparlantes, diseñados por IA, narraban noticias sobre Venezuela con hechos falsos, así como con verdades a medias, siempre favorables al gobierno. 

Se pueden difundir discursos de odio, sembrar falsas evidencias, engañar a las autoridades, estafar, robar datos, suplantar identidades, enlodar reputaciones. Se abre todo un universo de nuevas formas de delinquir”

Raymond Orta
Profesor universitario y perito forense

La campaña, sin verificar, fue reseñada por el canal del Estado y validada por otros programas en esa televisora. Poco después la ONG Medianálisis analizó los videos y determinó que se trataba de un caso de fake news.

Es largo el camino por recorrer

Raymond Orta recordó que desde 2001 Venezuela legisló en materia de delitos electrónicos que incluyen audio, imágenes y videos.

“El uso y creación de la imagen de una persona sin su consentimiento puede estar en la categoría de fraude electrónico previsto en el artículo 14 de esa ley, se está manipulando información para conseguir resultados que permitan un provecho ilegal”, agrega. 

Acota que por lo general las leyes se crean y modifican después de situaciones determinadas, por ejemplo en el tema de las criptomonedas asegura que vendrá una regulación por las crisis que se han registrado en relación con ellas, y lo mismo sucederá con la Inteligencia Artificial.

“Preocupa que la tecnología caiga en manos de delincuentes comunes. Lo que está pasando por ejemplo con las IA, que hacen voces similares a las nuestras, pronto esos servicios dejarán de ser gratuitos y además serán fácilmente rastreables”, indica.

Pero a veces “no se podrá hacer mucho, en algunos casos habrá que perseguir y hasta tomar medidas severas”, acota.

“Por norma general la legislación está preventivamente configurada para castigar estos hechos si se ve una escalada en el uso de nuevas tecnologías para cometer delitos, entonces su uso será limitado a través de registros y otras formas”. concluye.