Responsabilidad civil e inteligencia artificial: un desafío del futuro

Vicente Ríos Urzúa

Sabemos que la tecnología avanza con una enorme velocidad, y ya no es futurista pensar, por ejemplo, en vehículos de conducción autónoma. De hecho, hoy se sabe que la existencia incluso de buques no tripulados tiene cada vez más posibilidades de ser una realidad, justamente por el desarrollo de nuevas tecnologías que permiten generar soporte remoto y por nuevas empresas dispuestas a invertir en investigación y desarrollo con miras a potenciar esta industria en base a modelos de inteligencia artificial (IA).

Conocido es el caso de la empresa Rolls Royce Marine, la que se encuentra trabajando en el diseño de un buque porta contenedores con capacidad para transportar 120 TEU, el que se transformaría en la primera nave no tripulada de esta naturaleza propulsada eléctricamente mediante la utilización de baterías, lo que permitiría al mismo tiempo reducir las emisiones de Óxido de Nitrógeno (NOx) y Dióxido de Carbono (CO2).

Por su parte, La Unión Europea está financiando un estudio de US$ 4,8 millones llamado Maritime Unmanned Navegation (Navegación Marítima No Tripulada), a través del proyecto Intelligence in Network (Inteligencia en Redes). Los investigadores están preparando un prototipo para pruebas de mar simuladas, a fin de evaluar los costos y beneficios de esta nueva forma de navegación.

¿Y cómo afecta esta nueva realidad la frecuencia de siniestros asociados a la navegación de estos artefactos no tripulados? Esto es algo que se podría estudiar desde diversas perspectivas. Según UK P&I Club (un importante actor del mercado asegurador marítimo) el elemento humano es la causa de más del 80% de los accidentes ocurridos a bordo de las naves y de las colisiones entre ellas, provocando pérdidas por aproximadamente 541 millones de dólares por año. Sin embargo, claramente la existencia de navegación no tripulada supone la creación de nuevos riesgos. ¿Suponen estas nuevas tecnologías, basadas en inteligencia artificial, una nueva forma de entender la responsabilidad civil?

Si llevamos estos avances al plano de los artículos de consumo masivo podremos encontrar aún más hipótesis de riesgo que requerirían de especial estudio. En este sentido, la Unión Europea (UE) a avanzando en el estudio y análisis de esta particular casuística. De hecho, su Parlamento Europeo emitió con fecha 20 de octubre de 2020 una Resolución con recomendaciones sobre un régimen de responsabilidad civil en materia de IA (“Directiva RIA”). Junto a esto, y demostrando una visión regulatoria sistemática avanzada, se emitió una propuesta de revisión de la Directiva 85/374/CEE del Consejo, de 25 de julio de 1985, relativa a la aproximación de las disposiciones legales, reglamentarias y administrativas de los Estados Miembros de la UE en materia de responsabilidad por los daños causados por productos defectuosos (“Directiva RPD”). En una lectura amplia, se podría sostener que ambas recomendaciones proveen estatutos que buscan reforzar un régimen de responsabilidad objetiva aplicable a la IA y, en general, a la era digital que vivimos.

Lo antes indicado podemos notarlo en los siguientes aspectos relativos a la Directiva RPD:

— Lo primero fue establecer que toda la gama habitual de productos defectuosos y derechos y garantías a los consumidores, se deben entender expresamente extendida a artefactos que basen su uso en IA, incluyendo sus softwares o servicios digitales de similar naturaleza. Es decir, en caso de que un sistema de IA integrado en un producto (por ejemplo, robots, drones, o sistemas domésticos inteligentes) presente algún defecto o genere algún perjuicio al usuario o su propiedad, los perjudicados también podrán presentar una reclamación. Es muy relevante notar que las nuevas normas establecen que los particulares afectados podrán siempre reclamar una indemnización por los daños causados por un producto defectuoso, incluidas las lesiones corporales, los daños materiales o la pérdida de datos.

— Se establece un principio de igualdad de trato de los consumidores frente a los fabricantes. Entre otras medidas, la normativa de revisión exige a los fabricantes comunicar las pruebas que pueda necesitar el demandante para llevar a cabo a los tribunales y reduce la carga de prueba en casos complejos (por ejemplo, para casos relacionados con productos farmacéuticos o de IA). En este mismo sentido garantista, se suprime el umbral inferior y el límite máximo en términos indemnizatorios, reconociendo la aplicabilidad del principio de reparación integral del daño en su máxima expresión. Lo que vemos, en definitiva, es que se establecen condiciones de guía probatoria que faciliten la formulación de reclamaciones por parte de particulares que hayan sufridos daños por aparatos o productos que trabajen basados en IA.

— Se establece un principio de competencia equitativa entre fabricantes de UE respecto de fabricantes de terceros países: A diferencia de lo que sucedía con la regulación anterior, los perjudicados también podrán pedir la indemnización al representante del fabricante de un tercer país.

Las propuestas de modernización previamente indicadas se deben armonizar con la Directiva RIA, regulación que establece por primera vez normas específicas sobre los daños causados por cualquier tipo de sistema de IA. Previo a esta regulación, las demandas por daños seguían el régimen de responsabilidad subjetiva, es decir, la víctima debía identificar al sujeto pasivo (tercero civilmente responsable), fundamentar la existencia de un factor de atribución de responsabilidad, describir el daño y, naturalmente, acreditar la relación de causalidad entre ambos. Ciertamente, esto era engorroso y complejo, suponiendo un límite al derecho de acceso efectivo a la justicia. Hoy, la nueva regulación, establece dos principios fundamentales:

a) Presunción de causalidad respecto de los daños: En caso de que la víctima demuestre que hay un tercero que ha incumplido con una obligación o deber, que ello ha generado un daño y que es razonablemente probable que exista un nexo causal respecto de la IA existente, el órgano jurisdiccional podrá presumir iuris tantum que ese incumplimiento ha provocado el daño.

b) Acceso a las pruebas presentadas por empresas o proveedores en los casos de IA de alto riesgo: En los casos de IA que la Directiva define como de alto riesgo, las víctimas podrán solicitar al órgano jurisdiccional que ordene la divulgación de información sobre estos sistemas de IA. Así, las víctimas podrán identificar a la empresa responsable y averiguar en qué ha fallado de forma concreta. Por otra parte, la divulgación se someterá a las salvaguardias adecuadas para proteger la información sensible, por ejemplo, los secretos comerciales, como garantía para los fabricantes involucrados.

Al analizar ambas normativas claramente se distinguen esfuerzos por atender dos momentos distintos en las fases de consumo: Desde la perspectiva del producto, se buscan establecer requisitos de seguridad elevados justamente para prevenir daños y perjuicios. En cambio, la Directiva RIA regula el escenario en que ya existe una materialización de riesgo, es decir, donde ya existe un tercero buscando una indemnización efectiva y real respecto de un perjuicio material.

Lo cierto es que la incorporación de IA a nuevos productos o servicios implica necesariamente enfrentar a los consumidores y usuarios a nuevas hipótesis de creación de riesgos y, naturalmente, a nuevas formas de daño. Desde esta perspectiva, la legislación en Chile debería seguir la línea expuesta en orden a incorporar formas de protección que garanticen la correcta protección de los intereses de los consumidores al momento de enfrentar la necesidad de buscar resarcir perjuicios.

*Vicente Ríos Urzúa es abogado de la Universidad Adolfo Ibáñez; Master (LL.M.) in Business Law por la misma casa de estudios, y está cursando el Magíster en Derecho de Daños y Responsabilidad Civil de la Universidad de Los Andes. Es Gerente de Asuntos Legales y Seguros en Liventus S.A., socio de RO Abogados y docente en la Universidad San Sebastián.

 
También te podría interesar:
— Desprestigio financiero como daño reparable
— Detalles de la nueva ley de carreras clandestinas en Chile
— Consciencia e Inteligencia Artificial
— ¿Una política nacional de Inteligencia Artificial?
— Inteligencia artificial y propiedad intelectual ¿hacia dónde ir?