18\/11\/2022 – La Inteligencia Artificial tiene potencial para impulsar el progreso, pero hay que plantearse c\u00f3mo para que no vulnere derechos<\/p>\n\n\n\n\n\n\n\n
En 1948, Charles Malik, uno de los padres de la Declaraci\u00f3n Universal de Derechos Humanos, afirm\u00f3 que la lucha por los derechos humanos ser\u00eda una farsa si no protegiese la mente y el esp\u00edritu del ser humano<\/a>. La Carta Internacional de Derechos Humanos y los principales tratados regionales en esta materia protegen la libertad de conciencia, pensamiento y opini\u00f3n como derechos absolutos. Esto quiere decir que no admiten restricciones bajo ning\u00fan concepto, e implica que todas las personas tenemos derecho a pensar y formar opiniones sin interferencias, sin ser sancionadas por nuestros pensamientos y sin poder ser obligadas a revelarlos. La dimensi\u00f3n externa de estos derechos, la libertad de expresi\u00f3n, que incluye la expresi\u00f3n de la voluntad pol\u00edtica y por tanto es un pilar de toda democracia, no tendr\u00eda sentido si no se garantizaran los anteriores. De esta manera, protegiendo la libertad de pensamiento no solo protegemos nuestra individualidad, sino tambi\u00e9n la forma de organizarnos en sociedad y nuestros derechos y libertades a largo plazo.<\/p>\n\n\n\n Aunque los textos internacionales doten de protecci\u00f3n absoluta a la libertad de pensamiento, el modelo de negocio por publicidad, que consiste en monetizar espacios publicitarios dentro de una determinada plataforma y que es ampliamente utilizado por los medios de comunicaci\u00f3n y por las redes sociales digitales, proporciona un incentivo multimillonario<\/a> para desarrollar nuevas formas de controlar nuestros pensamientos con el fin de dirigir las maneras de extraer datos personales a trav\u00e9s del contenido individualizado. A menudo se equipara esta industria a la miner\u00eda (\u201cextracci\u00f3n de datos\u201d). No obstante, esta met\u00e1fora es problem\u00e1tica, ya que no termina de captar el abanico de oportunidades comerciales que proporciona a las compa\u00f1\u00edas tecnol\u00f3gicas y por ello, al emplearla, se restringe el debate sobre c\u00f3mo regularlas para garantizar el respeto de derechos como la libertad de pensamiento.<\/p>\n\n\n\n En este sentido, recordemos que los datos no yacen pasivamente dentro de las personas esperando a ser extra\u00eddos, como si fuesen materias primas, sino que los producimos mediante acciones del d\u00eda a d\u00eda tales como enviar un mensaje a alguien (que produce datos de afiliaci\u00f3n), ver algo por Internet (que produce datos de preferencia) o desplazarnos de un lugar a otro (que produce datos de localizaci\u00f3n). As\u00ed pues, m\u00e1s que una mina de datos, somos una f\u00e1brica de datos, porque producimos la informaci\u00f3n a trav\u00e9s de comportamiento. De esta manera, las empresas no buscan ser propietarias de los datos, como si de una mina se tratara, sino que buscan el control de las acciones que producen los datos, que para ellas son procesos de producci\u00f3n, con el fin de optimizar la eficiencia, la calidad y el valor de dicha producci\u00f3n. En otras palabras, su objetivo es programar y regular el trabajo de sus f\u00e1bricas a trav\u00e9s del dise\u00f1o de algoritmos que enganchen a los usuarios al producto, ya que esto se traduce en mayores beneficios. Esto se conoce como la econom\u00eda de la atenci\u00f3n<\/a>, en referencia a la monetizaci\u00f3n del tiempo que pasan los usuarios mirando los dispositivos electr\u00f3nicos.<\/p>\n\n\n\n Un ejemplo de la influencia que poseen las redes sociales en la esfera interna de las personas es un experimento realizado por Facebook en 2012<\/a>, que afect\u00f3 a 689.003 de sus usuarios sin su conocimiento. El experimento se realiz\u00f3 por medio de dos grupos. Durante una semana, el muro de noticias de los pertenecientes a uno de los grupos se configur\u00f3 para no mostrar publicaciones que tuviesen una preponderancia de palabras con connotaciones positivas, por lo que solo mostraba contenido mayormente negativo. Al contrario, el muro de noticias del otro grupo mostraba publicaciones preponderantemente positivas. Al finalizar la semana, los sujetos del estudio fueron m\u00e1s propensos a publicar contenido mayormente positivo o negativo coincidiendo con lo que se les hab\u00eda mostrado a ellos. Esto demostr\u00f3 que los estados emocionales pueden transferirse a otras personas sin necesidad de interactuar directamente con ellas, simplemente por exposici\u00f3n a contenido en una red social. Por otra parte, las personas que estuvieron expuestas a menos publicaciones emotivas, tanto positivas como negativas, fueron a su vez menos expresivas. Esto evidenci\u00f3 que el contenido altamente emotivo o sensacionalista genera un mayor n\u00famero de interacciones y, por ende, mayores beneficios en la econom\u00eda de la atenci\u00f3n.<\/p>\n\n\n\n Puesto que el modelo publicitario incentiva a las compa\u00f1\u00edas a enganchar a los usuarios para que pasen m\u00e1s tiempo delante de las pantallas, estas utilizan algoritmos que privilegian lo sensacionalista sobre lo matizado, y apelan a los impulsos y a las emociones por encima de la raz\u00f3n. Cuando Donald Trump gan\u00f3 las elecciones de 2016, se hizo mucho hincapi\u00e9 en el papel de actores externos que intervinieron para cambiar la opini\u00f3n p\u00fablica, tales como noticias falsas, el esc\u00e1ndalo de Cambridge Analytica y los bots de Twitter creados por Rusia. Sin embargo, todo eso son s\u00edntomas de un problema de base: la econom\u00eda de la atenci\u00f3n est\u00e1 configurada para promover este tipo de fen\u00f3menos<\/a>, que captan y retienen el inter\u00e9s de partidarios y detractores por igual, a menudo explotando las divisiones sociales o creando indignaci\u00f3n. Adem\u00e1s, es la pescadilla que se muerde la cola, porque los creadores de contenido saben que cuanto m\u00e1s incendiario sea, m\u00e1s visibilidad tendr\u00e1. Hay que recordar que no solo hablamos de individuos privados, sino tambi\u00e9n de instituciones p\u00fablicas, agencias de noticias y otros actores influyentes, a quienes tambi\u00e9n les interesa maximizar su p\u00fablico. Esto no solo est\u00e1 distorsionando la forma en que comprendemos el mundo que nos rodea, sino que con el tiempo puede estar cambiando nuestra manera de pensar, erosionando la capacidad de razonar, haci\u00e9ndonos m\u00e1s impulsivos y permitiendo el control de nuestros comportamientos en la esfera pol\u00edtica<\/a> en detrimento de la calidad de la democracia.<\/p>\n\n\n\n La inteligencia artificial y los derechos humanos<\/strong><\/p>\n\n\n\n La innovaci\u00f3n y la b\u00fasqueda de mejorar nuestras condiciones de vida definen la esencia del ser humano. Mediante la mejora de la predicci\u00f3n, la optimizaci\u00f3n de las operaciones y de la asignaci\u00f3n de los recursos y la personalizaci\u00f3n de la prestaci\u00f3n de servicios, la inteligencia artificial tiene mucho potencial para impulsar el progreso y ayudar a resolver algunos de los problemas que enfrentamos en la actualidad. Ahora bien, hay que plantearse c\u00f3mo y en qu\u00e9 supuestos queremos usarla, sopesando sus posibles consecuencias en cada caso y asegurando que la consecuci\u00f3n de los fines no implique la vulneraci\u00f3n de derechos.<\/p>\n\n\n\n La diferenciaci\u00f3n entre la mina y la f\u00e1brica de datos enfatiza que el marco legislativo actual en materia de protecci\u00f3n de datos no es suficiente ante la evoluci\u00f3n de la inteligencia artificial. En este sentido, la Uni\u00f3n Europea pretende encabezar los esfuerzos regulatorios a trav\u00e9s de una nueva Ley de Inteligencia Artificial<\/a>. El texto redactado por el Parlamento y el Consejo propone prohibir \u201cLa introducci\u00f3n en el mercado, la puesta en servicio o la utilizaci\u00f3n de un sistema de IA que se sirva de t\u00e9cnicas subliminales que trasciendan la conciencia de una persona para alterar de manera sustancial su comportamiento de un modo que provoque o sea probable que provoque perjuicios f\u00edsicos o psicol\u00f3gicos a esa persona o a otra\u201d. Aunque sea un paso en la direcci\u00f3n correcta, la propuesta solo proh\u00edbe de pleno las conductas que causen o puedan desembocar en da\u00f1os personales f\u00edsicos o psicol\u00f3gicos. Esto parece incoherente con el marco jur\u00eddico internacional que, protegiendo la libertad de conciencia, pensamiento y opini\u00f3n como derechos absolutos, tiene un alcance mucho m\u00e1s amplio.<\/p>\n\n\n\n En vista de la gran velocidad de los avances tecnol\u00f3gicos y de las dificultades a la hora de lograr el pertinente escrutinio p\u00fablico, gestionar esto de forma inminente queda en manos del mundo empresarial. Las empresas son responsables de apartarse del modelo de desarrollo tecnol\u00f3gico que plantea la econom\u00eda de la atenci\u00f3n y de contar con equipos multidisciplinares y representativos, incluyendo la participaci\u00f3n de juristas expertos en derechos humanos, en el dise\u00f1o de los algoritmos y en su vigilancia, orientados a defender el bienestar y el empoderamiento de las personas ante posibles impactos adversos.<\/p>\n\n\n\n