El uso de inteligencia artificial no debe conducir a análisis o prácticas deterministas

Inteligencia Artificial. Foto: Gerd Altmann

Cristina Bastidas

El uso y análisis informático ha penetrado todas las esferas de trabajo. El desarrollo de software ha permitido descongestionar ciertas tareas —muchas de ellas, jurídicas— que se pueden realizar de forma automática. Tanto es así, que se ha propuesto desafiar hasta las decisiones del Tribunal Supremo de Justicia con un algoritmo creado para tal fin.

De acuerdo con un artículo publicado en Abogacía Española, Jorge Morell cuenta que en el año 2016 “University College of London” había realizado un estudio analizando 584 decisiones del Tribunal Europeo de Derechos Humanos en asuntos relacionados con los artículos 3, 6 y 8 de la Convención y se había aplicado un algoritmo a esos asuntos para encontrar patrones en el texto. La finalidad era ver si el software podía predecir el fallo. En un 79% de los casos lo consiguió.

Joshua Browder, un estudiante de la Universidad de Stanford, diseñó un software para solucionar los contenciosos que se generan a partir de las multas de estacionamiento. Fue así como el sistema habría revocado 160.000 multas supuestamente mal emitidas por los agentes de tráfico británicos y norteamericanos.

Entonces ¿cuáles serían los pros y los contras del uso de herramientas informáticas en el sistema judicial? “Las ventajas son la posible mejora en los tiempos de análisis y generación de contenidos. Las desventajas pueden ser la falta de control o justificación de las decisiones que se tomen por las máquinas y que los funcionarios judiciales descansen completamente en el criterio que éstas implementen” afirma Matías Aránguiz Villagrán, candidato a doctor en regulación de la inteligenia artificial en finanzas Shanghai Jiaotong University. Magister en Finanzas y abogado UC.

Para Aránguiz, pueden ser autónomos en caso de que sean procesos de baja complejidad y siempre que haya posibilidad de revisar las decisiones tomadas por las máquinas, dependiendo del nivel de autonomía que se les otorgue.

En vista de los casos relacionados con el uso de la informática aplicada al Derecho, es que se genera la primera carta europea sobre el uso ético de la Inteligencia Artificial en los sistemas Judiciales y su entorno.

Se trata de un marco de principios que pueden guiar a los legisladores y profesionales de la justicia cuando se enfrentan al rápido desarrollo de la inteligencia artificial en los procesos judiciales nacionales e internacionales.

La postura de la Comisión Europea para la Eficiencia de la Justicia CEPEJ (European Commission For The Efficiency Of Justice) es que la Inteligencia Artificial (IA) puede contribuir a mejorar la eficiencia y la calidad del trabajo de los tribunales.

Sin embargo, debe implementarse de manera responsable, cumpliendo con los derechos fundamentales garantizados, en particular, en el Convenio Europeo de Derechos Humanos (CEDH) y el Convenio del Consejo de Europa sobre la protección de datos personales.

Para el organismo, es esencial asegurar que la Inteligencia Artificial siga siendo una herramienta al servicio del interés general y que su uso respete los derechos individuales. Se hace tener cuidado y precaución para tal uso.

Algunos elementos más destacados que se encuentran en el documento son:

Respeto a los derechos humanos

Entre estos principios, el respeto a los derechos humanos y la no discriminación es de importancia fundamental. El objetivo es garantizar, desde la concepción hasta la aplicación práctica, que las soluciones garanticen el respeto de los derechos garantizados por el Convenio Europeo de Derechos Humanos y el Convenio núm. 108 del Consejo de Europa. Por lo tanto, los actores públicos y privados deben garantizar que estas aplicaciones no reproduzcan o agraven esta discriminación y no conduzcan a análisis o prácticas deterministas.

Principio de calidad y seguridad

Debe ser posible procesar los datos mediante el aprendizaje automático sobre la base de originales certificados y la integridad de estos datos debe garantizarse en todas las etapas del procesamiento. Se recomienda encarecidamente la creación de equipos multidisciplinarios, compuestos por jueces, investigadores en ciencias sociales e informática, tanto en la fase de redacción como de dirección y en la aplicación de las soluciones propuestas.

Principio de transparencia

El énfasis aquí está en la accesibilidad y comprensión de las técnicas de procesamiento de datos, así como en la posibilidad de que las autoridades o expertos independientes realicen auditorías externas. También se fomenta un sistema de certificación, que se renovará periódicamente.

Principio «bajo el control del usuario»

Este principio subraya la necesidad de convertir al usuario en un agente activo y de sentirse a cargo de sus elecciones. En particular, el juez debe poder volver en cualquier momento a las decisiones judiciales y los datos que se han utilizado para producir un resultado y seguir teniendo la posibilidad de apartarse de él, teniendo en cuenta las especificidades del caso en cuestión. Cada usuario debe ser informado, en un lenguaje claro y comprensible, de la naturaleza vinculante o no vinculante de las soluciones propuestas por los instrumentos de AI, las diversas opciones posibles y su derecho a la asesoría legal y al recurso ante un tribunal

Para el CEPEJ, el cumplimiento de estos principios debe garantizarse en el procesamiento de las decisiones judiciales y de los datos mediante algoritmos, y en el uso que se haga de ellos.

El CEPEJ reúne a expertos de los 47 estados miembros del Consejo de Europa con el objetivo de mejorar la calidad y la eficiencia de los sistemas judiciales europeos y fortalecer la confianza de los usuarios de los tribunales en tales sistemas.

* El texto contiene extractos del artículo titulado «El uso ético de inteligencia artificial en el sistema judicial» y publicado en el medio digital Abogacía Española.

 
También te puede interesar:
— Procesos robóticos en estudios jurídicos: la gran promesa
— Drones y privacidad: aún falta por discutir y legislar
— Impacto del Nuevo Reglamento de Protección de Datos de la UE en la normativa de Publicidad
— Jurimetría: desde la predictibilidad de las sentencias a la viabilidad de proyectos de ley