„Herr, die Not ist groß!
Die ich rief, die Geister
Werd ich nun nicht los.“
Wolfgang Goethe: “Der Zauberling”
Por: Pedro Morazán
Para hacer una breve reseña del último libro de Yamal Harari, parece recomendable tener en cuenta su obra anterior, entre la que resalta su famoso Bestseller “Homo Sapiens”. “Nexus” es un libro sobre la información. Para ser más preciso, un tratado sobre las redes que surgen a través del intercambio de información: “La información, dice el autor, es el pegamento que mantiene unidas las redes”. El tema más importante del libro es, sin duda, la relación de las redes de información con el poder. Ya en el prólogo de su libro, Harari se pregunta: ¿Por qué somos tan buenos a la hora de acumular más información y poder, pero tenemos mucho menos éxito a la hora de adquirir sabiduría?» Haciendo alusión al texto admonitorio de Wolgang Goethe, en el que un aprendiz de brujo expresa alarmado que «Los espíritus que convoqué / ahora no puedo deshacerme de mí otra vez». Harari nos recuerda que, con la inteligencia artificial, los chatbots, el cambio climático y otros espíritus algorítmicos estamos dándole vida a monstruos que, como «El aprendiz de brujo», ya no podremos controlar.
Por más que intentemos escaparnos de él, corriendo de la cocina al dormitorio, sin dirigir la vista al televisor o a la partada de algún diario, es muy difícil en estos días turbulentos, no toparse con la careta bufona del hombre más rico de la tierra, Elon Musk. Su burlesco rostro parece dominar el discurso político y cultural del momento. El papel que ha jugado en el triunfo electoral de Trump, a través de su red “X”, ha sido innegable. Su ambición de poder lo lleva ahora a proyectar su sombra promoviendo de manera descarada a los partidos de ultraderecha en Europa, atacando homosexuales o celebridades. Todo esto parece confirmar la tesis central de la obra de Harari: “la humanidad adquiere un poder enorme a través de la construcción de enormes redes de cooperación, pero la forma en que se establecen las lleva a hacer un uso imprudente del poder”.
Por otro lado, para entender la lógica de la argumentación de Harari es necesario asumir que los humanos tenemos una “idea ingenua de lo que es información”. Dicha ingenuidad se debe a que consideramos que, en cantidades suficientes, la información conduce a la verdad y la sabiduría. Es decir que, siendo esencialmente algo bueno, mientras más información podamos adquirir, mucho mejor para nosotros. Por ello suponemos ingenuamente que la inteligencia artificial (IA), como la tecnología de la información más poderosa actualmente, nos llevará a resolver todos los problemas existentes.
Harari estructura su obra en tres grandes partes: en la primera nos describe las redes humanas de información desde una perspectiva histórica. Esta mirada histórica es esencial para poder comprender lo que está pasando actualmente y analizar los peligros que nos amenazan en el futuro. En la segunda parte la propuesta gira en torno a la idea de que estamos creando por primera vez en la historia, redes inorgánicas de información, con enormes implicaciones. En una tercera parte, el autor se ocupa con lo que podría ser una suerte de política informática, partiendo de la idea de la democracia como el marco adecuado para lo que el llama conversación. Ojo, si bien es cierto que la democracia ofrece enormes potenciales para manejar el problema, también es cierto que la IA podría inclinar la balanza del poder en favor del totalitarismo.
El populismo y la información
A la luz del debate sobre la necesidad de establecer mecanismos de control sobre la IA, son interesantes las reflexiones que el autor enuncia ya en el prólogo en torno al populismo. La argumentación de los lideres populistas como Trump, Putin en Rusia o Erdogan en Turquía, sustituye la idea ingenua sobre la información, argumentando que la aspiración por el poder es el hilo conductor del espíritu humano. Los “hechos” o las “verdades” adquieren, por tanto, un carácter relativo y son sustituidos por un nihilismo oportunista, que, en no pocos casos, pone en duda incluso el rol de la ciencia y de los expertos. La falacia narrativa del populismo nihilista convierte a la ciencia y los expertos en instrumentos de poder de las llamadas “élites corruptas” que dominan a las grandes mayorías. El nombramiento de Robert Kennedy Jr., prominente difusor de teorías de la conspiración, como Ministro de Salud en los Estados Unidos, no es más que uno de los miles de ejemplos que corroboran dicha tesis.
Cuestionar los hechos y su veracidad, como arma de poder, no es atributo exclusivo de los populistas de derecha. A criterio de Harari, intelectuales como Foucault o Edward Said cuestionaban de forma similar, instituciones científicas como hospitales y universidades, bajo el supuesto de que las mismas estarían al servicio de élites capitalistas o colonialistas. A esta lista podríamos agregar al dictador Nicolás Maduro en Venezuela, para quién las actas electorales no tienen importancia a la hora de avalar un fraude. Si alguien afirma que hubo fraude, baste verificar quién lo afirma, para cuestionar su validez.
El nihilismo del que se valen los populistas abarca también todo el espectro del conocimiento científico. La existencia del cambio climático, por ejemplo, puede ser cuestionada, a pesar de que su evidencia ha sido confirmada por cientos de científicos de numerosas disciplinas y de diversos países, que han reunido datos e informaciones en una gigantesca red de investigaciones. Una sola persona, con una sola afirmación, puede cuestionar el trabajo institucional de una red de instituciones científicas trabajando día y noche. Es por ello que los lideres populistas carismáticos, buscan por lo general explicaciones divinas que vengan a sustituir a la ciencia. No pocos de estos líderes vinculan su poder a dogmas religiosos, sean éstos evangelicales, como en el caso de Trump o islamistas como en el caso de Erdogan.
Las redes humanas
Partiendo de lo anterior, Harari comienza sus reflexiones preguntándose qué es la información. Siendo consciente de los riesgos que implica toda definición, el autor anuncia que no nos ofrecerá una definición universal del concepto información. Más que una definición, el libro ofrece un análisis bastante detallado del papel que ha jugado la información en la historia. De nuevo, definir la información en un contexto de búsqueda de la verdad, no es otra cosa más que una “idea ingenua de la información”. Pero ojo, esta no es una noción nihilista, que nos lleve, por otro camino, a la “posverdad” ya mencionada más arriba. Todo lo contrario, se parte del hecho de que la verdad definida como representación exacta de la realidad, puede ser cuestinada recuurriendo a enormes volumenes de informaciones erroneas o falsas.
Existe pues una diferencia entre ”información errónea” y “desinformación”. Al contrario de la primera, que puede ser involuntaria, esta última es deliberada. No son la misma cosa. Aunque personas, naciones o culturas diferentes puedan tener opiniones y sentimientos enfrentados, no pueden poseer verdades contradictorias, porque todas comparten una realidad universal. Aquel que rechaza el universalismo rechaza la verdad. Por otro lado, la verdad resulta costosa. Para lograr verificar algo se necesitan, por lo general, muchos recursos y mucho trabajo. En el inmenso océano de la información, la verdad necesita un empujón para salir a flote, de lo contrario se hunde.
Nuestra búsqueda de la verdad no siempre se ve coronada por el éxito a través del contacto que establecemos con otros individuos por medio de las redes. La mayor parte de la información que existe es falsa. Para entender esto es necesario analizar otro concepto fundamental: el orden. La aspiración de las redes por crear “orden” se justifica porque el exceso de información descontrolado puede conducir al caos y la merma de autoridad. Sin embargo, para crear orden, la verdad no ha sido el mejor camino en la mayoría de los casos. Todo lo contrario, la experiencia demuestra que, en la mayoría de los casos, la ficción o la fantasía son más efectivas a la hora de establecer orden entre miles o millones individuos que pretenden ser parte de una colectividad vinculandose por la creencia en alguna historia que resulte coherente. Es lo que Daniel Kahneman llamaría la coherencia asociativa que no impide identificar la mentira o falsedad de un argumento porque el mismo no encaja con nuestras aspiraciones.
El invento de la imprenta por parte de Gutenberg a mediados del siglo XV fue una auténtica revolución tecnológica para la humanidad. Sin embargo, suponer que existe una linea directa entre la invención de la imprenta y el surgimiento la ilustración es lamentablemente erroneo. Hasta que aparecieran Leibniz y la ilustración pasaron por los menos 200 años de obscurantismo religioso, promovidos involuntariamente por la impresión de la Biblia y el Corán como vehículos para establecer un «orden» basado en el fanatismo religioso. También la rápida difusión del famoso libelo “El Martillo de las Brujas” fue solo posible debido a la existencia de la imprenta.
La cacería de brujas es un ejemplo del terrible impacto que todo esto tuvo para el desarrollo de la humanidad. Bastó que un pequeño grupo de sujetos venenosos desarrollarán el mito de que las brujas eran parte de una conspiración mundial destinada a destruir a la humanidad, para iniciar la cacería y el asesinado de cientos de mujeres inocentes y, en no pocos casos, dotadas de enorme sabiduría. «El Martillo de la brujas» (Der Hexenhammer) de los frailes austriacos Heinrich Kramer y Jakob Sprenger tuvo una influencia nefasta en la historia europea. Nadie se preocupó por leer los estudios de Copérnico difundidos por la misma imprenta de Gutenberg en la misma época. Para la gente eran más interesantes las morbosas historias de Kramer, en las que se narraba como las brujas le robaban los penes a los hombres para esconderlos en los árboles. Decenas de miles de personas fueron ejecutas en Europa como resultado de tales falacias narrativas.
¿A quién le damos la responsabilidad por tales crímenes? ¿A Gutenberg, el inventor de la imprenta? ¿A la imprenta? Evidentemente que no. Es aquí donde surge la idea del poder y del orden, sin las cuales tales desviaciones resultan inexplicables. La institución que utilizó la imprenta para ejercer poder a través de un orden establecido en base a falacias, fue la religión. En el caso concreto enunciado más arriba, la religión católica. Pero tales aberraciones no han sido privilegio de las religiones, que en muchos casos no han sido más que vehículos para ejercer el poder. También Hitler y el nazismo en Alemania, Stalin y el comunismo en Rusia, son una confirmación que solo mediante la imposición de un orden, pueden desplegarse las redes de información en su vinculo con el poder.
¿Que tiene que ver todo esto con Facebook, con Elon Musk y con Jeff Bezos? La imprenta de los tiempos modernos son las plataformas digitales. Y los nuevos creadores del orden basado en ficciones y falacias son los Techmillonarios que controlan dichas redes. Ellos tienen el poder para crear algoritmos elaborados para manipular las emociones más primitivas que tienen los seres humanos: el miedo, el odio, la venganza, la envidia etc. Son esos sentimientos los que producen la mayor cantidad de clics en los llamados «medios o redes sociales».
La red inorgánica
Como bien se sabe, en el centro de esta nueva era de la digitalización está el ordenador, es decir, la computadora. Para comprender toda estructura habría que que ocuparse en más de detalle de los dos concepto: el algoritmo y la IA. La imprenta fue, al igual que la maquina de vapor, un invento crucial para el desarrollo de la humanidad y la creación de redes. Pero tanto la imprenta, como la energía atómica son instrumentos que solo pueden funcionar por decisiones de seres humanos que son externas a ellos. Sin el accionar de los seres humanos dichos inventos son materia muerta. Los ordenadores y sus respectivos algoritmos, en cambio, pueden tomar decisiones por si mismos y convertirse de esta manera en agentes. En determinados casos, como los propios algoritmos de Facebook, en agentes con capacidad de tener impactos funestos como en el caso del genocidio contra los rohinyás en Myanmar. Hoy en día los algoritmos son capaces de generar noticias falsas y mitos conspirativos por si mismos, sin la intervención directa de los expertos que un dia desarrollaron su algoritmo.
¿Qué es en realidad AI? se pregunta Harari recurrentemente. Las películas de Hollywood fueron las primeras que llamaron la atención al respecto. Sin embargo, tanto «Matrix» como «Terminator» muchas otras más, lo hicieron poniendo el énfasis en el lado falso del problema. Un ejército de Robots que actúa de manera independiente para dominar desde afuera a la humanidad. La amenaza real que implica la AI, según Harari, no proviene “desde afuera”. Dicha amenaza se refiere a una actuación más bien concentrada y casi imperceptible que se está desarrollando desde el interior de procesos que a primera vista parecen banales. Se trata de que los logaritmos creados por la AI podrían decidir sobre aspectos cruciales del actuar humano como por ejemplo seleccionar a una persona para que pueda asumir una función o un trabajo.
Otro aspecto, quizás más importante se refiere a la necesidad de regular o controlar la AI en condiciones en las que existe una carrera entre las potencias más importantes China y los Estados Unidos. ¿Se trata de reducir la velocidad? ¿De hacer más lento el proceso de expansión de la AI? Ahora bien, ¿qué ocurriría si los Estados Unidos deciden ir más lento? Si, se decide por ejemplo a darle un tiempo de espera a Chat GPT4. Los rivales, como China decidirán acelerar más sus procesos de IA para obtener ventaja, el éxito de DeepSeek no es más que uno de los tantos escenarios. Y viceversa. El resultado final podría ser que no sea ni China ni los Estados Unidos, sino la AI misma la que alcance una ventaja sobre todos los seres humanos, sean estos chinos o americanos.
Después de haber vivido siglos de evolución guiada por ellos mismos, los seres humanos se enfrentan por primera vez a la amenaza de ser guiados por la IA, como una fuerza extraña, no orgánica afirma Harari. En Alemania circula actualmente un anuncio que ofrece la posibilidad de estar en contacto con un ser querido aun después de su muerte. No se trata aquí de una visión esotérica sino de la acumulación de una cantidad de información sobre tal persona, de tal manera que sus seres queridos puedan obtener respuestas coherentes de un Chatbot, aun después de muerta dicha persona. No se necesita mucho esfuerzo para extrapolar dicha situación y darnos cuentas de que los limites que tenemos los humanos, como la muerte, pueden ser superados por las máquinas ya que estas no son materia orgánica.
Política informática
Las plataformas como Facebook, Amazon, “X”, promueven mensajes particulares de manera deliberada y moldean la opinión de sus clientes. Afirmar que ellas solo “obedecen los caprichos de sus clientes y las normativas gubernamentales” es, dicho sea de paso, sino falso por lo menos altamente cuestionable. Es por ello que Harari se alinea con las voces que exigen desde hace algún tiempo que dichas plataformas asuman legalmente la responsabilidad por las implicaciones de sus algoritmos. Al igual que los editores de diarios y otras publicaciones, los propietarios de las plataformas digitales tienen enorme poder y responsabilidad. No es pues casualidad que las principales compañías tecnológicas destinaran en 2022 más de 70 millones de dólares para financiar actividades de incidencia en el gobierno de los Estados Unidos y otros 113 millones en los gobiernos de la UE para evitar regulaciones más estrictas de sus algoritmos.
A este respecto es importante hacer hincapié en que, para Harari, esa tan difundida creencia en el “determinismo tecnológico”, resulta en muchos casos peligrosa, en vista de que exime a la gente de su responsabilidad. Esto podría contrastar un tanto con la tesis del filósofo y físico español Adrián Almazán, para quien la pretendida neutralidad de la técnica es una falacia. En su fascinante libro sobre el mito de la tecnología, Almazán se basa en el concepto de “imaginario social” de Cornelius Castoriadis, para fundamentar lo que él llama el “tecno-optimismo” que nos ha impedido desarrollar una suerte de filosofía de la técnica (y de la tecnología). Pero este no es la ruta que sigue Harari en su Nexus y por eso lo dejaremos como asignatura pendiente en este blog.
Gran parte de la argumentación de Harari se concentra en las marcadas diferencias que existen entre dictaduras y sistemas autocráticos a la hora de activar instrumentos que permitan controlar la manipulación de la información en base a las innovaciones tecnológicas en curso. A manera de ejemplo se podría mencionar el control facial que en China se vincula a un sistema de puntaje para ejercer control y penalización contra personas identificadas a la hora de cometer una infracción (sea esta cruzar el semáforo en rojo o participar en una protesta).
Para poder ser definida como AI, una maquina tiene que ser capaz de aprender y cambiar por si misma. Sin la maquina no es capaz de hacerlo, no puede ser definida como IA. Por eso el GPS por si mismo no puede ser considerado IA, mientras no se vincule a algún algoritmo que permita, por ejemplo, integrar dos aspectos funcionales: la conducción y el ambiente vial. El peligro radica en que la AI ha pasado de ser una simple herramienta para constituirse en un agente y como tal, capaz de diseñar por si mismo, procesos que no siempre pueden ser controlados por los seres humanos. Dichos agentes crean procesos en áreas estratégicas de la vida humana, como los sistemas financieros, sistemas armamentísticos, o los sistemas de salud. Una vez superado el optimismo inicial, las preocupaciones son cada vez mayores, entre políticos y expertos. Los cambios que se están produciendo adquieren una enorme velocidad sin permitirle a las sociedades poder adaptarse a los mismos. En vista de que la IA trabaja con enormes volúmenes de datos y con algoritmos muy dinámicos que han adquirido una enorme complejidad, la posibilidad de manejarlos y tenerlos bajo control parece ir reduciéndose aceleradamente.
A nivel internacional parece haber surgido ya una suerte de colonialismo de la información e imperios digitales. Muchas naciones podrían colapsar debido a que no poseen las informaciones ni el acceso a la IA. En el llamado «worst case», el peor de los casos: La IA conquista el planeta dominando a los humanos como seres consientes (capaces de amar, sufrir, disfrutar, ayudar etc). ¿Cuán probable resulta un tal escenario? Al parecer dicho escenario aun resulta poco probable.
“En la literatura tributaria, el «nexo» consiste en la conexión de una entidad con una jurisdicción determinada». Esto quiere decir que el «nexo tributario» de una empresa o persona jurídica depene de su presencia física en un país o territorio determinado. Como bien se sabe, es sumamente difícil vincular a las grandes plataformas digitales con jurisdicciones tributarias nacionales, en vista de que no cuentan con «presencia física». No son análogas, son digitales, casi etereas. Por una propuesta para abordar los dilemas tributarios creados por la red informática tiene que ver con redefinir el nexo. Harari hace referencia al connotado economista Marko Köthenbürger, para quien «la definición de “nexo” basada en una presencia física debe revisarse para incluir la idea de una presencia digital en un país».
¿Cuáles son las implicaciones?
En uno de sus apartados Harari se pregunta acerca de las implicaciones que tendrán el dominio y la acumulación de poder de lo que él llama las “redes inorgánicas” sobre las redes humanas. La situación actual en la que algoritmos sumamente poderosos como los de Facebook o TikTok, cuentan con un enorme poder de manipulación, no requiere ser analizada en detalle y, a mi criterio, el análisis de Harari se queda corto si tomamos en cuenta que ya antes que él, otros autores habían analizado el poder de Amazon, otro de los grandes a la hora de dominar las redes humanas.
Para Harari es importante demostrar, cómo en la presente etapa los poderosos algoritmos y IA (entendida como la “capacidad desarrollada por ciertos algoritmos de aprender y cambiar por sí mismos”) han logrado ocupar aspectos importantes de la actividad humana. Las consecuencias de una tal acumulación de poder en tales redes son evidentemente incontrolables y los propietarios de tales algoritmos evaden todo tipo de responsabilidad ante los impactos negativos que puedan surgir. Por ello “redes humanas” como la Unión Europea y, hasta hace poco los Estados Unidos de Norteamérica, se encuentran ante la difícil tarea de establecer una construcción jurídica que permita establecer mayor control y regulación. Los investigadores se han puesto de acuerdo en una respuesta: el detonante fundamental para activar la predisposición autoritaria es la percepción de una «amenaza».
Quizás la foto más emblemática de la toma de posesión de Donald Trump haya sido aquella en la que aparecen Zuckeberg (Facebook), Bezos (Amazon), Musk (“X”). Lo que Harari no llegó a desarrollar en su obra, es la realidad que nos aqueja actualmente: La “Santa Alianza” entre una oligarquía Tech y un gobierno con tendencias ultraderechistas y racistas como el de Donald Trump. Como bien lo observa Katharina Pistor, la imagen de los fundadores y directores ejecutivos de las grandes tecnológicas, ocupando la primera fila en la toma de posesión de Donald Trump, por delante de sus Gabinete es, de por sí misma un manifiesto: Estamos asistiendo a la toma del poder por parte de las más poderosas empresas privadas de la tierra. La historia de la humanidad nos enseña que esto al final no termina bien para nadie. ¿Nos veremos obligados a abandonar cualquier pretensión de más democracia ciudadana en lugar de contar con un gobierno independiente capaz de regular y democratizar a los grandes consocios privados? ¿Existe una relación entre este dilema y el dilema expuesto por Harari en su valiosa obra?
Para los populistas el poder es la única realidad y la lucha por la verdad está subordinada a la lucha por el poder. El surgimiento de la nueva oligarquía en torno al gobierno populista de Donald Trump, podría sintetizar esa nueva mezcla entre poder e inteligencia artificial. En mi opinión, es en este punto donde la filosofía podría darnos algunas pistas importantes. Definida como el “amor por la verdad”, la filosofía como ciencia, no hace más que recordarnos que el amor de los seres humanos por la verdad ha triunfado en el pasado contra los obscuros instintos del poder. La superación de este gran dilema no depende de inventar otra tecnología milagrosa. “Más bien, para crear redes más sabias debemos abandonar tanto la idea ingenua como la populista de la información, dejar de lado nuestras fantasías de infalibilidad y comprometernos con el trabajo duro y bastante prosaico de construir instituciones con mecanismos de autocorrección sólidos. Esta es, quizá, la lección más importante que puede ofrecer este libro.” Es el epílogo de esta gran obra que, en mi opinión, es lectura obligatoria.
