Yuval Noah Harari. Investigador en la Universidad de Cambridge y catedrático en el departamento de Historia de la Universidad Hebrea de Jerusalén, Harari es autor de ensayos de gran éxito (Sapiens, Homo Deus, 21 lecciones para el siglo XXI…) en los que desentraña el presente.
Avance
Cuenta Harari en el epílogo a Nexus que él se convirtió en experto en IA un poco por casualidad, por haber tratado ese tema en Homo Deus y ver cumplidos algunos de los pronósticos que allí enunciaba. Esto le abrió las puertas de los despachos de los verdaderamente expertos en esa materia. Pero Harari es historiador y eso le proporcionaba una visión distinta, y de largo alcance, respecto a sus nuevos y tecnológicos interlocutores. Algunos de ellos, conectados al modo optimista, pensaban que mayor información ha significado siempre mayor conocimiento y esto ha acabado redundando siempre en beneficio de la humanidad. Es la opción de tirar para adelante, que «la humanidad encontraría la manera de apañárselas con la revolución de la IA». A estos les recuerda Harari los aspectos negativos que trajeron adheridos las revoluciones precedentes y el carácter inédito de esta: se trata de «la primera tecnología de la historia capaz de tomar decisiones y generar ideas». Todo quedará trastocado y este es el momento crítico que puede decantar el futuro.
Por ello el autor advierte contra una visión «exageradamente ingenua y optimista. La información no es la verdad [y], en ausencia de unos mecanismos de autocorrección sólidos, las IA son capaces de promover cosmovisiones distorsionadas, permitir flagrantes abusos de poder e instigar nuevas y terribles cacerías de brujas». Por otro lado advierte contra un viraje al otro extremo, considerar que la verdad ni existe ni importa —y que solo importa el poder— es aterrizar en el populismo. «Negarse a reducir toda interacción humana a una lucha por el poder de suma cero es fundamental no solo para alcanzar un conocimiento más completo y matizado del pasado, sino también para tener una actitud más esperanzada y constructiva acerca de nuestro futuro».
Harari se pregunta por qué somos tan destructivos, si tan sabios somos… La culpa no es de nuestra naturaleza sino de las redes de información que favorecen el orden por encima de la verdad con lo que «han generado mucho poder, pero poca sabiduría». El poder no es malo en sí y puede ser beneficioso si se usa bien. Eso sí, «cuando el poder de una red se incrementa, los terrores imaginarios que existen solo en los relatos que la propia red inventa pueden ser más peligrosos que los desastres naturales». Si en estos momentos sabemos sortear tanto la idea ingenua de la información como la populista, «seremos capaces de crear redes de información equilibradas que mantengan a raya su propio poder». Es hora, insta Harari al final de su ensayo, de «comprometernos con el trabajo duro y bastante prosaico de construir instituciones con mecanismos de autocorrección sólidos. Esta es quizá la lección más importante que puede ofrecer este libro».
Artículo
Diez años después de Sapiens, el libro que le convirtió en uno de los intelectuales más influyentes del mundo, y tras haber vendido 45 millones de ejemplares de esa obra y dos secuelas, Yuval Noah Harari vuelve con Nexus, una exploración concienzuda y ambiciosa sobre las redes de información y su función esencial en la organización de las sociedades humanas a lo largo de la historia. Aunque se remonta a los tiempos anteriores a la invención de la escritura, el libro también se zambulle a fondo en las cuestiones más candentes de la actualidad, con particular énfasis en las redes sociales, la desinformación y los riesgos de la inteligencia artificial, que él considera una amenaza vital para la supervivencia no ya de la democracia, sino de la civilización en su conjunto.
La tesis central de Nexus es que la función de la información no es representar la realidad, sino crear vínculos entre grandes grupos humanos. Harari admite que tres milenios de filosofía y cuatro siglos de ciencia nos han aportado vastas cantidades de información y un gran poder, pero no cree que por ello nos conozcamos mejor ni seamos más sabios. Como historiador y como analista escéptico de la ciencia y la tecnología, concede mucha más importancia a la construcción de redes cooperativas mediante ficciones, fantasías e ilusiones sobre dioses, naciones y transacciones económicas. Desde esta perspectiva, la Biblia es mucho más valiosa y poderosa que los Principia de Newton y El origen de las especies de Darwin juntos, como un bulo lo es más que un mensaje veraz. La ignorancia es fuerza, como dijo George Orwell.
La información no lleva a la verdad
La teoría generalizada de que la información conduce a la verdad, y de ahí a la sabiduría y al poder, es para Harari la «idea ingenua de la información». El autor se revuelve así contra los visionarios tecnológicos contemporáneos que, como Mark Zuckerberg, Ray Kurzweil y el resto de la plana mayor de Silicon Valley, sostienen que las redes sociales promueven el entendimiento entre personas, crean un mundo más abierto y generan un círculo virtuoso del bienestar por donde fluyen «la alfabetización, la educación, la riqueza, la salud, la democratización y la reducción de la violencia» (Kurzweil). Algunas de las páginas más brillantes de Nexus se dedican a refutar de manera contundente, casi cruenta, ese espejismo candoroso.
Tomemos el caso de los rohinyá, los habitantes musulmanes del oeste de Myanmar (antigua Birmania), un país de mayoría budista. Pese a las esperanzas de convivencia pacífica suscitadas a principios de los 2010, los rohinyá sufrieron en esa misma década unos torbellinos de violencia sectaria y racista promovidos en su mayor parte por las mentiras asesinas aparecidas y propagadas en Facebook, la red social del mismo Zuckerberg al que hemos visto más arriba predicando las virtudes teologales de su negocio billonario. La campaña de limpieza étnica que, en 2016, destruyó los pueblos rohinyá, asesinó a 20.000 civiles desarmados y expulsó de Myanmar a 700.000 musulmanes, se gestó y difundió a través de las falsedades y los mensajes de odio que circularon por Facebook.
La ONU concluyó en 2018 que Facebook había desempeñado un «papel determinante» en la campaña de limpieza étnica, como ya había denunciado Amnistía Internacional y como le parecerá obvio a cualquier otro observador sensato. Pero ni Zuckerberg ni sus ejecutivos ni sus ingenieros pagaron el menor precio por ello, ni tampoco adoptaron ninguna medida de corrección en sus algoritmos. La jurisprudencia norteamericana libera de toda responsabilidad a las plataformas por las mentiras y los mensajes de odio que circulan por sus redes, y así seguimos seis años después pese a las iniciativas legales europeas —que se han topado con la fiera oposición de los abogados de Silicon Valley— e incluso de una creciente suspicacia de parte de la clase política estadounidense.
Un mundo tomado por las máquinas
Pero el blanco de las críticas de Harari no son los ejecutivos de Silicon Valley que han consentido toda esta inundación de odio, ni menos aún los ingenieros que han diseñado los algoritmos. Su blanco son los propios algoritmos, porque la intención del autor es avisar al mundo del riesgo, para él inminente, de que las máquinas se hagan con el control de las sociedades humanas. «Los ejecutivos de California no albergaban animadversión alguna hacia los rohinyá», escribe Harari. «De hecho, apenas sabían de su existencia». Algunos lectores se sorprenderán de esta actitud exculpatoria hacia los responsables humanos de la propagación del odio, máxime cuando el autor reconoce y documenta que el objetivo de la empresa era «recopilar más datos, vender más anuncios y acaparar una proporción mayor del mercado de la información». Pero el caso es que lo que realmente atormenta a Harari es el robot, no sus creadores.
El estilo discursivo de Nexus es puro Harari. El historiador tiene una habilidad endemoniada para exponer argumentos sofisticados sobre cuestiones complejas sin dolor para el lector, porque lo hace enlazando un ejemplo revelador tras otro, el arca de Noé con Elon Musk, la mitología con la burocracia, la Biblia con ChatGPT. El libro está exhaustivamente documentado y es producto de una reflexión profunda y perseverante, pero el lector se podrá beneficiar de todo ello sin sentir el menor dolor, ni fatiga, ni aburrimiento. Pocos pensadores pueden escribir 600 páginas plagadas de ideas innovadoras y estimulantes que el lector puede absorber como quien da un paseo por el campo. Aunque sea un campo de minas.
El artículo, de Javier Sampedro, se publicó en El País y se reproduce aquí con todos los permisos. El avance es una elaboración de Nueva Revista. La foto, de BrianPenny para Pixabay, se puede consultar aquí.
