Deepfakes en Chile: cuando la justicia enfrenta la manipulación digital

Hace más de 400 años, Shakespeare se preguntaba «ser o no ser». Hoy, frente a la problemática que representa el “deepfake”, la pregunta evoluciona a «ser o no ser quien decimos ser». El concepto de «deepfake» se refiere a la tecnología que utiliza algoritmos avanzados de inteligencia artificial, como las redes neuronales generativas (GAN), para crear contenido multimedia falso pero hiperrealista. El Reglamento (UE) 2024/1689, los define como “contenido de imagen, audio o vídeo generado o manipulado por una inteligencia artificial que se asemeja a personas, objetos, lugares, entidades o sucesos reales y que puede inducir a una persona a pensar erróneamente que son auténticos o verídicos”.

Gonzalo Álvarez

Estos algoritmos permiten manipular imágenes, videos y audios para que parezcan auténticos, incluso simulando la voz y expresiones faciales de una persona, lo que puede engañar a los observadores y a los sistemas de detección menos sofisticados. Según un informe de la compañía de seguridad Kaspersky, el 72% de la población chilena no es capaz de distinguir una imagen hecha a partir de un deepfake, lo que resulta claramente alarmante.

En Chile, han surgido casos significativos de uso indebido de deepfake. En el colegio Saint George, alumnos usaron inteligencia artificial (IA) para alterar imágenes de sus compañeras, haciéndolas parecer desnudas, y las difundieron en redes sociales. Este acto de ciberacoso ha generado preocupación en la comunidad educativa y autoridades.

También, se han detectado fraudes por suplantación de identidad utilizando deepfake, delincuentes crean videos y audios falsos, haciéndose pasar por familiares para obtener dinero o información confidencial. La Sección de Ciberdelitos del OS9 de Carabineros ha identificado esta estafa, llevando a las autoridades a emitir recomendaciones para evitar estas trampas.

En términos legales, en Chile, el uso del deepfake aún no está tipificado como delito específico. Esto significa que la creación y difusión de contenido manipulado no es directamente sancionada por la legislación actual, lo que limita las acciones judiciales que pueden tomarse en estos casos. Los delitos asociados, como la suplantación de identidad o la distribución de material explícito, pueden ser perseguidos, pero no abordan completamente el daño causado por el uso de deepfakes.

Las consecuencias, por ejemplo, en el ámbito procesal y de valoración de pruebas, son significativas. La introducción de deepfakes como evidencia en procedimientos judiciales puede alterar la percepción del tribunal, generando dudas sobre la autenticidad de las pruebas presentadas. Esto incrementa la dificultad para distinguir entre contenido genuino y manipulado, afectando la integridad del proceso judicial y el principio de valoración de pruebas. Para afrontar los desafíos que plantea el deepfake, es necesario considerar soluciones integrales, es decir, tanto técnicas como jurídicas.

Desde el punto de vista técnico, es crucial desarrollar y utilizar herramientas que incluyan análisis detallados de inconsistencias en patrones visuales y de audio, fortalecer el uso de algoritmos de inteligencia artificial diseñados específicamente para identificar estas manipulaciones que permitan al tribunal o a las partes, evaluar la autenticidad de videos o audios, y excluir este tipo de prueba ilícita.

Dentro de las plataformas de IA que hemos podido revisar en la materia resultan interesantes: “Truepic,” proporciona tecnología para la autenticación y verificación de imágenes y videos, garantizando su integridad desde el momento de la captura hasta su distribución. “Amber Authenticate,” utiliza tecnología blockchain para asegurar y verificar la autenticidad del contenido multimedia en tiempo real. “Facephi,” es una empresa especializada en soluciones de biometría y verificación de identidad digital, enfocada en tecnologías como el reconocimiento facial, busca irregularidades en aspectos como la iluminación, sombras y sincronización labial, que son difíciles de replicar perfectamente en un deepfake.

En el ámbito jurídico, es fundamental actualizar la legislación para incluir la creación y difusión de deepfakes como delitos específicos, estableciendo sanciones claras y proporcionales al daño o lesión que puedan ocasionar. Así por ejemplo, el Reglamento de Inteligencia Artificial (AI Act) clasifica los sistemas de inteligencia artificial en diferentes niveles de riesgo y establece requisitos específicos para su desarrollo y uso, considerando que los deepfakes pueden ser una forma de manipulación que representa un riesgo significativo en ciertos contextos.

También se recomienda implementar regulaciones que obliguen a las plataformas en línea a detectar y eliminar contenido deepfake de manera proactiva. Por último, medidas y/o iniciativas complementarias como la alfabetización digital y educación tecnológica son claves en prevenir, identificar y responder anticipadamente.

En resumen, "to be, or not to be", en la actualidad resulta imperioso SER, tanto en la realidad social como jurídica. Es esencial abordar el desafío que representan los deepfakes mediante la implementación de tecnologías avanzadas de detección y la adaptación de marcos legales que protejan la integridad de la información. Solo así podremos garantizar la autenticidad, salvaguardar los derechos individuales y mantener la confianza en nuestras interacciones digitales.

Gonzalo Álvarez Seura es director ejecutivo de Tech-Law AI y académico de la Facultad de Derecho y Humanidades de la Universidad Central de Chile.

 
También te puede interesar:
— Veni Vidi Vinci y el Examen de GradoGPT para estudiantes de Derecho