Sesgos en la inteligencia artificial ¿regular, aceptar o dejar ir?

La inteligencia artificial (IA) ha traído consigo variados sesgos, fomentando —se ha advertido— estereotipos al momento de tomar decisiones, de modo tal que resulta imprescindible conocer los alcances que pueda tener la IA a nivel personal, local e internacional, con miras a la generación de normativas que regulen su implementación y uso.

En el contexto del Congreso Futuro, realizado en Chile e instancia que funciona como plataforma de divulgación gratuita de ciencia y tecnología, se presentó Cecilia Celeste Danesi, abogada e investigadora del Instituto de Estudios Europeos y Derechos Humanos (UPSA), así como también colaboradora del Laboratorio de Innovación e Inteligencia Artificial de la Facultad de Derecho de la Universidad de Buenos Aires.

Cecilia Danesi

El túnel de las redes sociales

La ponencia de Cecilia Danesi abordó varios tópicos relacionados con la IA: estereotipos, la crisis de identidad que puede ocasionar su llegada en lo cotidiano y la forma de poder regularla.

La inteligencia artificial está presente en nuestra vida diaria y tiene consecuencias visibles. La “visión de túnel” es lo que generaría la segmentación de contenido en redes sociales por parte de la IA. En palabras de Danesi, se provoca que cada vez tengamos una mirada más polarizada y extrema: «Nos hace menos abiertos al pensamiento crítico y totalmente intolerantes a una persona que piensa distinto que nosotros; imagínense el peligro enorme que esto tiene en una sociedad democrática, donde los debates son esenciales”.

María José Martabit, abogada chilena y fundadora de Theodora, sistema de inteligencia artificial diseñado para detectar y mitigar los prejuicios, coincide en que se puede contribuir significativamente a generar mayor polarización y por variadas razones. Pero primero, dice, se genera como un aumento de polarización política: «Lo hemos visto en Estados Unidos, donde especialmente en las campañas de candidaturas presidenciales, muchas veces hay filtración de información y hay un reforzamiento de los sesgos, lo que va potenciando esta polarización”.

María José Martabit

Esta dinámica se va desarrollando según los contenidos que el algoritmo entregue a los usuarios de redes sociales, basados en sus preferencias y tomado en cuenta las diversas aristas que abarca este sistema.

Hasta dónde legislar

Respecto de la regulación, Cecilia Danesi se refiere a la necesidad imperiosa de dictar normas legales con el fin de que la “tecnosimbiosis” (fusión de nuestras capacidades con las capacidades de la inteligencia artificial) ocurra de la mejor forma posible.

Para ello se basa en el concepto Human Centric, de acuerdo al cual la persona siempre tiene que estar en el centro. A lo anterior suma la necesidad de ver el impacto en las personas: «La tecnología va a seguir avanzando y no la vamos a poder frenar. Y está perfecto que así sea; lo que tenemos que hacer es regular”.

María José Martabit se enfoca en cuán restrictiva debe ser la regulación: “Es peligroso tratar de regularla de forma demasiado estricta porque puede desincentivar la generación de nueva tecnología y causar que quizá algunas empresas decidan ir a crear tecnología a países donde la regulación es más abierta”.

Para Danesi, además, la regulación debe estar enfocada en los derechos humanos que van naciendo desde la tecnología y los usos que se hacen de ella: “Hay dos facetas. Una se refiere a los nuevos derechos humanos y en eso Chile es pionero con la regulación de los neuroderechos y la protección de la indemnidad cerebral. Pero también hay otro desafío, que es reinterpretar los derechos humanos que tenemos vigentes”.

Esta reinterpretación se basa en aceptar que los derechos humanos pueden ser transgredidos de nuevas formas que no existían hace un par de años.

Estereotipos, crisis de identidad y automatización

La eliminación de estereotipos y sesgos es el principal motor de Theodora, inteligencia artificial de propiedad de María José Martabit. Tal como lo indica su sitio web, “Theodora detecta, mide y mitiga sesgos, transformando nuestras palabras, nuestras imágenes y nuestro mundo”.

En un ejemplo, Martabit señala cómo se pueden evidenciar dos textos, uno con sesgo de género y el otro no. En uno de ellos se explicita que los productos de aseo son utilizados por mujeres y en el otro, que son utilizados por personas. Estos cambios, aunque se puedan ver pequeños, son la base para fomentar una cultura sin sesgos.

¿Hay una crisis de identidad humana con la llegada de la IA? Cecilia Danesi es categórica al señalarlo: “Llega a afectar nuestro narcisismo y ¿por qué?, porque estamos hablando de una tecnología que no solo puede hacer cosas que antes estaban exclusivamente reservadas a nosotros, sino que las hace mejor y más rápido. Estamos experimentando una crisis de la identidad humana nunca antes vista”.

Martabit tiene una visión diferente de la situación, pues para ella no hay una crisis de identidad debida a la inteligencia artificial: «Creo que es una tecnología nueva que se está adoptando, que tampoco es tan nueva. Este desarrollo lleva varios años, pero es cierto que sólo hoy día es de uso más cotidiano. Lo que sí creo es que más que una crisis de identidad humana, lo que puede ocurrir por la inteligencia artificial es que se genere un nuevo paradigma donde lo que va a ser relevante de determinar es qué es verdadero y qué es falso”.

“El problema principal es la desinformación. Las fake news siempre existieron, pero hoy estas noticias falsas están respaldadas por videos e imágenes que nos hacen creer que son verdaderas”, dijo Danesi.

Empleo y desempleo

En cuanto a la automatización y los puestos de trabajo que se pueden ver afectados por esta situación, Cecilia Danesi dijo: “Esto va a pasar, pero ¿saben qué es lo peor de toda esta historia? Esta automatización va a afectar principalmente a las mujeres, ¿por qué? Porque las tareas que nosotras hacemos, son las que primero va a reemplazar la inteligencia artificial”.

Discrepa de esta posición María José Martabit. “Creo que se van a ir creando nuevos tipos de trabajo relacionados con la tecnología. Simplemente va a haber una rotación de personas que quizá hacían ciertos trabajos, que hoy van a ser reemplazados en cierta manera, pero van a cumplir luego otros roles que ahora ni siquiera imaginamos”, dice la abogada chilena.

 
También te puede interesar:
— Las claves de la primera regulación de inteligencia artificial de Europa
— Perú promulga ley de inteligencia artificial
— ¿Controlar o incentivar? la regulación de la inteligencia artificial