Revista Digital

En 1948, Charles Malik, uno de los padres de la Declaración Universal de Derechos Humanos, afirmó que la lucha por los derechos humanos sería una farsa si no protegiese la mente y el espíritu del ser humano. La Carta Internacional de Derechos Humanos y los principales tratados regionales en esta materia protegen la libertad de conciencia, pensamiento y opinión como derechos absolutos. Esto quiere decir que no admiten restricciones bajo ningún concepto, e implica que todas las personas tenemos derecho a pensar y formar opiniones sin interferencias, sin ser sancionadas por nuestros pensamientos y sin poder ser obligadas a revelarlos. La dimensión externa de estos derechos, la libertad de expresión, que incluye la expresión de la voluntad política y por tanto es un pilar de toda democracia, no tendría sentido si no se garantizaran los anteriores. De esta manera, protegiendo la libertad de pensamiento no solo protegemos nuestra individualidad, sino también la forma de organizarnos en sociedad y nuestros derechos y libertades a largo plazo.

Aunque los textos internacionales doten de protección absoluta a la libertad de pensamiento, el modelo de negocio por publicidad, que consiste en monetizar espacios publicitarios dentro de una determinada plataforma y que es ampliamente utilizado por los medios de comunicación y por las redes sociales digitales, proporciona un incentivo multimillonario para desarrollar nuevas formas de controlar nuestros pensamientos con el fin de dirigir las maneras de extraer datos personales a través del contenido individualizado. A menudo se equipara esta industria a la minería (“extracción de datos”). No obstante, esta metáfora es problemática, ya que no termina de captar el abanico de oportunidades comerciales que proporciona a las compañías tecnológicas y por ello, al emplearla, se restringe el debate sobre cómo regularlas para garantizar el respeto de derechos como la libertad de pensamiento.

En este sentido, recordemos que los datos no yacen pasivamente dentro de las personas esperando a ser extraídos, como si fuesen materias primas, sino que los producimos mediante acciones del día a día tales como enviar un mensaje a alguien (que produce datos de afiliación), ver algo por Internet (que produce datos de preferencia) o desplazarnos de un lugar a otro (que produce datos de localización). Así pues, más que una mina de datos, somos una fábrica de datos, porque producimos la información a través de comportamiento. De esta manera, las empresas no buscan ser propietarias de los datos, como si de una mina se tratara, sino que buscan el control de las acciones que producen los datos, que para ellas son procesos de producción, con el fin de optimizar la eficiencia, la calidad y el valor de dicha producción. En otras palabras, su objetivo es programar y regular el trabajo de sus fábricas a través del diseño de algoritmos que enganchen a los usuarios al producto, ya que esto se traduce en mayores beneficios. Esto se conoce como la economía de la atención, en referencia a la monetización del tiempo que pasan los usuarios mirando los dispositivos electrónicos.

Un ejemplo de la influencia que poseen las redes sociales en la esfera interna de las personas es un experimento realizado por Facebook en 2012, que afectó a 689.003 de sus usuarios sin su conocimiento. El experimento se realizó por medio de dos grupos. Durante una semana, el muro de noticias de los pertenecientes a uno de los grupos se configuró para no mostrar publicaciones que tuviesen una preponderancia de palabras con connotaciones positivas, por lo que solo mostraba contenido mayormente negativo. Al contrario, el muro de noticias del otro grupo mostraba publicaciones preponderantemente positivas. Al finalizar la semana, los sujetos del estudio fueron más propensos a publicar contenido mayormente positivo o negativo coincidiendo con lo que se les había mostrado a ellos. Esto demostró que los estados emocionales pueden transferirse a otras personas sin necesidad de interactuar directamente con ellas, simplemente por exposición a contenido en una red social. Por otra parte, las personas que estuvieron expuestas a menos publicaciones emotivas, tanto positivas como negativas, fueron a su vez menos expresivas. Esto evidenció que el contenido altamente emotivo o sensacionalista genera un mayor número de interacciones y, por ende, mayores beneficios en la economía de la atención.

Puesto que el modelo publicitario incentiva a las compañías a enganchar a los usuarios para que pasen más tiempo delante de las pantallas, estas utilizan algoritmos que privilegian lo sensacionalista sobre lo matizado, y apelan a los impulsos y a las emociones por encima de la razón. Cuando Donald Trump ganó las elecciones de 2016, se hizo mucho hincapié en el papel de actores externos que intervinieron para cambiar la opinión pública, tales como noticias falsas, el escándalo de Cambridge Analytica y los bots de Twitter creados por Rusia. Sin embargo, todo eso son síntomas de un problema de base: la economía de la atención está configurada para promover este tipo de fenómenos, que captan y retienen el interés de partidarios y detractores por igual, a menudo explotando las divisiones sociales o creando indignación. Además, es la pescadilla que se muerde la cola, porque los creadores de contenido saben que cuanto más incendiario sea, más visibilidad tendrá. Hay que recordar que no solo hablamos de individuos privados, sino también de instituciones públicas, agencias de noticias y otros actores influyentes, a quienes también les interesa maximizar su público. Esto no solo está distorsionando la forma en que comprendemos el mundo que nos rodea, sino que con el tiempo puede estar cambiando nuestra manera de pensar, erosionando la capacidad de razonar, haciéndonos más impulsivos y permitiendo el control de nuestros comportamientos en la esfera política en detrimento de la calidad de la democracia.

La inteligencia artificial y los derechos humanos

La innovación y la búsqueda de mejorar nuestras condiciones de vida definen la esencia del ser humano. Mediante la mejora de la predicción, la optimización de las operaciones y de la asignación de los recursos y la personalización de la prestación de servicios, la inteligencia artificial tiene mucho potencial para impulsar el progreso y ayudar a resolver algunos de los problemas que enfrentamos en la actualidad. Ahora bien, hay que plantearse cómo y en qué supuestos queremos usarla, sopesando sus posibles consecuencias en cada caso y asegurando que la consecución de los fines no implique la vulneración de derechos.

La diferenciación entre la mina y la fábrica de datos enfatiza que el marco legislativo actual en materia de protección de datos no es suficiente ante la evolución de la inteligencia artificial. En este sentido, la Unión Europea pretende encabezar los esfuerzos regulatorios a través de una nueva Ley de Inteligencia Artificial. El texto redactado por el Parlamento y el Consejo propone prohibir “La introducción en el mercado, la puesta en servicio o la utilización de un sistema de IA que se sirva de técnicas subliminales que trasciendan la conciencia de una persona para alterar de manera sustancial su comportamiento de un modo que provoque o sea probable que provoque perjuicios físicos o psicológicos a esa persona o a otra”. Aunque sea un paso en la dirección correcta, la propuesta solo prohíbe de pleno las conductas que causen o puedan desembocar en daños personales físicos o psicológicos. Esto parece incoherente con el marco jurídico internacional que, protegiendo la libertad de conciencia, pensamiento y opinión como derechos absolutos, tiene un alcance mucho más amplio.

En vista de la gran velocidad de los avances tecnológicos y de las dificultades a la hora de lograr el pertinente escrutinio público, gestionar esto de forma inminente queda en manos del mundo empresarial. Las empresas son responsables de apartarse del modelo de desarrollo tecnológico que plantea la economía de la atención y de contar con equipos multidisciplinares y representativos, incluyendo la participación de juristas expertos en derechos humanos, en el diseño de los algoritmos y en su vigilancia, orientados a defender el bienestar y el empoderamiento de las personas ante posibles impactos adversos.