Entre el capitalismo de la vigilancia y 1984

Carlos Amunátegui Perelló

La Internet se ha desarrollado de una manera inesperada. Mientras en la década de 1990 se la miraba con esperanzas, creyendo que generaría una nueva forma de auto organización, que crearía una suerte de sociedad civil virtual, con netizens responsables que afrontarían los problemas del mundo con valor y cooperación, la realidad de la segunda década del 2000 es simplemente la opuesta.

Nos encontramos con una red dividida entre dos mitades, como si una suerte de moderna bula intercaetana viniese a partir el mundo, entre la internet asiática, dominada por gigantes semi-estatales, como Tencent, Baidú o Alibaba, y otra Occidental, con las potencias tecnológicas de Sillicon Valley, como Amazon, Alphabet (matriz de Google) y Facebook, controlándola.

A contar de la emergencia de las actuales tecnologías de inteligencia artificial en 2012, la red se ha transformado en un oligopolio de las ideas, donde unos pocos controladores de redes sociales son efectivamente capaces de manipular la emergencia y difusión de opiniones y teorías, incluso decidiendo qué es verdad y hasta dónde podemos discutirla.

Los medios de comunicación masivos tradicionales se han convertido en simples repetidoras de las opiniones vertidas y seleccionadas por las plataformas digitales, tendiendo incluso a la irrelevancia.

Las informaciones intencionalmente falsas son usualmente utilizadas como argumento para llevar adelante una censura selectiva de opiniones heterodoxas. Actualmente esto no sólo es inmoral, sino incluso potencialmente peligroso, cuando dichas plataformas seleccionan opiniones relativas a los tratamientos del Covid o su origen, y/o declaran como falsas y expulsan ideas que después se manifiestan válidas.

Si a este control sobre las opiniones sumamos la habilidad de modelarlas, de construirlas a través de la dirección de avisos y propaganda por medios inconscientes, merced a la inmensa cantidad de información detallada que detentan sobre cada uno de nosotros, la situación se torna peligrosa.

Hace tiempo que factores como la velocidad de tipeo, las expresiones faciales, el contenido de cada una de nuestras búsquedas históricas, el tiempo que pasamos en cada página, foro, o vídeo, son recolectados y guardados, a fin de crear perfiles personalizados de cada uno de nosotros y, en último término, ser capaces de predecir nuestra conducta. Estas predicciones son el objeto de mercantilización en una nueva clase de capitalismo de Shoshana Zuboff llama “de la vigilancia”.

Frente a este modelo de monetarización de nuestra individualidad y experiencia, se alza otro, más cercano a las viejas pesadillas de Orwell, donde es el poder del partido el que se alza como inspector general de nuestra personalidad.

En la mitad oriental de este nuevo mundo, es el partido quien acumula los datos a través de sus adláteres industriales, buscando el dominio de la individualidad de sus ciudadanos, a fin que estos manifiesten en lo público y privado su conformidad con el régimen.

En este momento, nos encontramos en una nueva disyuntiva, entre 1984 y el capitalismo de la vigilancia. Vale la pena preguntarse, cómo es posible que declaraciones que no quebrantan ni la ley ni la Constitución, que son perfectamente admisibles en el espacio real, puedan ser acalladas en el espacio virtual por el capricho de las grandes plataformas.

¿Es que nuestro Derecho no es capaz de regir en la red? ¿Regulamos minuciosamente las actividades de las radioemisoras y televisión, a fin que sean relativamente transparentes, pero no podemos regular a las plataformas digitales?

Una compañía de luz o agua no puede cancelar el servicio a un usuario, pero una plataforma digital sí, unilateralmente, y sin considerar que efectivamente atropella sus derechos constitucionales de expresión y consciencia. Es hora de regular a estos gigantes.

*Carlos Amunátegui Perelló es doctor en Derecho patrimonial por la Universidad Pompeu Fabra, profesor en la Universidad Católica de Chile y profesor visitante en las universidades de Osaka y Columbia. Autor del libro Arcana technicae, Derecho e Inteligencia Artificial (Tirant Lo Blanch, 2020).

También te puede interesar:
— ¿Una política nacional de Inteligencia Artificial?
— ¿Neuroderechos constitucionales?
— Deo Auctore. El poder de Dios y los emperadores
— Populismo e inteligencia artificial
— Renta básica universal e inteligencia artificial (parte 3)
— Del derecho romano a la inteligencia artificial