Yuval Noah Harari: "Por primera vez compartimos el planeta con entes que son mejores que nosotros para crear historias"

DIARIO EL M ATERO,  Yuval Noah Harari, autor y escritor israelí de libros como Sapiens: A Brief History of Humankind (Sapiens: De animales a dioses), un bestseller internacional sobre las ficciones creadas por la humanidad; y Homo Deus: A Brief History of Tomorrow (Homo Deus: Breve historia del mañana), una descripción del futuro de la humanidad con la llegada de la superinteligenicia, acaba de publicar su nuevo libro NEXUS: A Human History of Information (Nexus: Una breve historia de las redes de información desde la Edad de Piedra hasta la IA).

NEXUS es el primer libro de Harari en seis años, publicado originalmente en septiembre de 2024. Funge como una denuncia de las consecuencias de la democracia y el totalitarismo en la era de la IA. Yuval habla desde la perspectiva de los mitos y la burocracia, justo en el epicentro del tecnofascismo, la creciente tensión en las redes sociales y la temporada poselectoral estadounidense.

Harari no solo levanta la voz ante el miedo a la "singularidad", también expone sus pensamientos más profundos sobre la era de la IA, una inteligencia "alienígena" que es abrumadoramente ajena a la tecnología convencional. El redactor en jefe de WIRED Japón, Michiaki Matsushima, conversa con Yuval durante su visita a Japón.

Esta entrevista ha sido editada para mejorar su comprensión.

La entrevista fue realizada por el redactor jefe Michiaki Matsushima y grabada al mismo tiempo para la serie de YouTube...

'The Big Interview' fue realizada por el redactor en jefe Michiaki Matsushima de WIRED Japón. Fotografía: Shintaro Yoshimatsu

1 | ¿La información hace que el mundo sea pacífico?

Michiaki Matsushima: En la década de 1990, cuando internet comenzó a difundirse, hubo un discurso que aseguraba que, con más información, se llegaría a la paz mundial y al entendimiento mutuo. En tu libro describes que la información es demasiado "ingenua". ¿A qué te refieres?

Yuval Noah Harari: La "información" no es lo mismo que la "verdad". La mayor parte de la información no pretende ser una representación precisa de la realidad; su papel principal es conectar muchas cosas y personas. A veces, la verdad puede crear conexión, pero a menudo es más fácil usar la ficción o la fantasía.

Esto también es cierto en el mundo natural. La mayor parte de la información disponible en la naturaleza no está destinada a transmitir la verdad. Se dice que la información básica para la vida es el ADN, y esto no es necesariamente cierto; el ADN conecta muchas células entre sí para crear un cuerpo, pero no nos dice la "verdad" de nada. De manera similar, la Biblia, uno de los textos más importantes de la historia de la humanidad, ha conectado a millones de personas, pero no necesariamente diciéndoles la verdad.

En un mercado de información, la gran mayoría será ficción, ilusión o mentiras. Porque la verdad tiene tres dificultades principales: primero, decir la verdad tiene un costo. Por otro lado, la ficción es barata de producir. Si quieres escribir un relato veraz sobre historia, economía, física o cualquier otra cosa, necesitas invertir tiempo, esfuerzo y dinero en reunir evidencia y verificar los hechos. Pero con la ficción, puedes escribir lo que quieras.

En segundo lugar, la verdad en sí misma es complicada. Su contraparte, la ficción, puede hacerse tan simple como quieras que sea. Y finalmente, la verdad a menudo es dolorosa o incómoda. La ficción puede hacerse lo más cómoda y atractiva posible. Así, en el mercado actual de información, la verdad quedaría eclipsada y sepultada por una enorme cantidad de ficción y fantasía. Si queremos llegar a la verdad, necesitamos hacer un esfuerzo especial y tratar repetidamente de descubrir los hechos. Esto es exactamente lo que ha sucedido con el auge de internet: existía la expectativa de que se difundieran hechos y verdades, pero pronto resultó ingenua.

Historiador y filósofo nacido en 1976. Estudió historia medieval y militar en la Universidad de Oxford donde se doctoró...

Historiador y filósofo, nacido en 1976. Estudió historia medieval y militar en la Universidad de Oxford, donde se doctoró en 2002. Actualmente es investigador en el Centro para el Estudio del Riesgo de Supervivencia de la Universidad de Cambridge. Fotografía: Shintaro Yoshimatsu

2 | ¿Qué podemos aprender de la historia sobre la IA?

En una entrevista con The New Yorker, Bill Gates mencionó que siempre ha pensado en la tecnología digital como "algo que empodera a la gente", pero también explicó que la IA era completamente diferente. Si la inteligencia artificial no tiene precedentes, ¿qué lecciones podemos aprender aún de la historia?

Hay mucho que podemos aprender de la historia. En primer lugar, conocerla puede ayudarnos a entender qué puede aportar la nueva IA. Si no la conocemos, es imposible apreciar la novedad de la situación actual. Y lo más importante de la inteligencia artificial es que no es una "herramienta", sino un "agente".

Algunas personas a menudo comparan la revolución de la IA con la revolución de la imprenta, la invención de la escritura o el surgimiento de medios de comunicación masivos como la radio y la televisión, pero esto es un malentendido. Hasta ese momento, todas las tecnologías de la información eran simplemente "herramientas" en manos humanas. Incluso con la invención de la imprenta, eran los humanos quienes escribían los textos y decidían qué libros imprimir. La imprenta por sí misma no puede escribir nada ni elegir qué libros imprimir.

Pero la IA es diferente: es un agente. La IA puede escribir sus propios libros y decidir qué ideas difundir. Esto nunca había sucedido antes en la historia. Por supuesto, ha habido actores en el pasado, los animales son así. Sin embargo, los humanos son más inteligentes y especialmente superiores a ellos en la capacidad de conectar. Por ejemplo, no son más fuertes que un chimpancé, un elefante o un león. Si un grupo pequeño de 10 humanos se enfrentara a 10 chimpancés, los primates probablemente ganarían.

Yuval Noah Harari Por primera vez compartimos el planeta con entes que son mejores que nosotros para crear historias

Fotografía: Shintaro Yoshimatsu

Entonces, ¿por qué los humanos dominan la Tierra? Esto se debe a que los humanos tienen la capacidad de crear redes que pueden cooperar eficazmente a gran escala, involucrando a miles, millones o incluso miles de millones de personas que no se conocen personalmente. Diez chimpancés pueden trabajar en estrecha colaboración, pero 1,000 chimpancés no pueden, porque no se conocen. Por otro lado, los humanos pueden trabajar juntos en grupos no solo de 1,000 personas, sino de 1 millón o incluso 100 millones.

La razón por la que los humanos podemos cooperar a una escala tan grande es porque podemos crear y compartir historias. Todas las colaboraciones a gran escala se basan en una narrativa común. La religión es el ejemplo más obvio, pero las historias sobre finanzas y economía también son buenos ejemplos. Aunque los billetes y las monedas no tienen un valor objetivo en sí mismos, todos creemos en la misma historia sobre el dinero, lo que nos conecta y nos permite cooperar. Esta capacidad otorga a los humanos una ventaja sobre los chimpancés, los caballos y los elefantes, ya que esos animales no pueden crear historias como el dinero.

Pero la IA puede hacerlo. Por primera vez en la historia, compartimos este planeta con entes que son mejores que nosotros creando historias y redes. Y la pregunta más importante que enfrenta la humanidad en este momento es: ¿cómo deberíamos compartir la Tierra con esta nueva superinteligencia? Sin embargo, el énfasis en la palabra "inteligencia" puede ser engañoso. Lo más importante de la IA es su capacidad para crear nuevas historias. La IA puede crear tipos de moneda totalmente nuevos y construir redes de cooperación mejores que las humanas.

Yuval Noah Harari Por primera vez compartimos el planeta con entes que son mejores que nosotros para crear historias

3 | ¿La singularidad es inevitable?

En tu nuevo libro, señalas que la IA será más creativa que los humanos e incluso tendrá una mayor inteligencia emocional. Me sorprendió tu afirmación de que, en el centro de todas estas revoluciones tecnológicas, están la computadora, el internet y la IA. Si damos por sentado que la potencia computacional seguirá creciendo exponencialmente en el futuro, ¿crees que una "singularidad" por parte de la "superinteligencia" es inevitable?

Depende de cómo definas "singularidad". Según tengo entendido, la singularidad es el punto en el que ya no podemos entender lo que está pasando. Es un punto donde la imaginación y la comprensión no pueden seguir el ritmo. Y podríamos estar muy cerca de ese punto.

Incluso sin computadoras cuánticas, el nivel actual de la IA podría ser suficiente para que esto suceda. Cuando la gente piensa en la revolución de la inteligencia artificial, a menudo imagina una única IA gigante surgiendo y generando nuevos inventos y cambios, pero deberíamos pensar en ella en términos de redes. ¿Qué pasaría si millones, o incluso decenas de millones, de IA avanzadas se conectaran en red y generaran cambios importantes en la economía, el ejército, la cultura y la política? Esta red crearía un mundo completamente diferente, uno que no podremos comprender.

Yuval Noah Harari Por primera vez compartimos el planeta con entes que son mejores que nosotros para crear historias

Fotografía: Shintaro Yoshimatsu

Para mí, la singularidad es ese punto exacto en el que la comprensión humana ya no puede seguir el ritmo de nuestra capacidad de comprender el mundo, e incluso nuestras propias vidas. Si alguien me pregunta: "¿Estoy a favor o en contra de la singularidad?", respondería que estoy tratando de comprender claramente lo que está sucediendo ahora mismo. A menudo, la gente juzga las cosas como "buenas" o "malas", pero lo primero que deben hacer es tomarse el tiempo para observar cuidadosamente la situación. Mirando hacia atrás en los últimos 30 años, la tecnología ha hecho algunas cosas tanto buenas como malas, probablemente esto seguirá siendo igual en el futuro. Pero una cosa que es claramente diferente sobre el futuro es que si ya no entendemos el mundo, ya no tendremos control sobre nuestro porvenir.

Yuval Noah Harari Por primera vez compartimos el planeta con entes que son mejores que nosotros para crear historias

Fotografía: Shintaro Yoshimatsu

4 | ¿Es posible entender el orden mundial?

Dices que la singularidad es "el punto en el que ya no podemos entender el orden del mundo", pero ¿la humanidad ha sido capaz de entender cómo funciona el mundo alguna vez?

Solíamos entender el mundo un poco mejor. Siempre fue difícil entender cómo funcionaba toda la red humana, pero al menos los antepasados podían entender a los reyes, emperadores y sumos sacerdotes, porque eran seres humanos como ellos. Como todos los miembros de la red de información eran humanos, cuando el rey tomaba alguna decisión podían comprender hasta cierto punto esa decisión.

Pero ahora que la IA se está convirtiendo en un miembro importante de nuestra red de información, resulta cada vez más difícil comprender las decisiones importantes que dan forma a nuestro mundo. Quizás el ejemplo más importante sea el de las finanzas: se inventaron como una manera de crear "confianza" entre las personas. Aunque no nos conocemos personalmente, ambos confiamos en el dinero.

Las finanzas han construido redes de confianza y cooperación que conectan a millones de personas. Y hasta ahora, todavía ha sido posible para los humanos comprender esta red financiera. No tiene sentido inventar un sistema económico que los humanos no puedan entender, porque no crearía confianza.

Yuval Noah Harari Por primera vez compartimos el planeta con entes que son mejores que nosotros para crear historias

Fotografía: Shintaro Yoshimatsu

5 | ¿Cómo lidiar con hiperobjetos?

La IA podría construir redes de confianza que no podemos comprender, a estas se les denomina "hiperobjetos". Por ejemplo, el cambio climático es un fenómeno que no entendemos plenamente, pero que tiene un enorme impacto sobre nosotros y al que debemos enfrentarnos. En tu libro mencionas la flexibilidad humana como una de las condiciones que necesitamos para abordar estas cuestiones. ¿Qué significaría para la humanidad lidiar con estos hiperobjetos?

Lo ideal sería que confiáramos en la IA para lidiar con estos hiperobjetos, realidades tan complejas que exceden nuestra comprensión. Pero quizás el problema más grande es: "¿Cómo podemos confiar en una inteligencia artificial que puede ser más inteligente que los humanos?"

No existe una respuesta concreta. Es extremadamente peligroso desarrollar entes en los que no podamos confiar plenamente. Creo que la mayor paradoja en la revolución de la IA es la "paradoja de la confianza". Entendemos que existen muchos riesgos, por ello, sería sensato ralentizar el desarrollo e invertir más en seguridad, incorporando mecanismos que garanticen que la IA no escapará de nuestro control. No obstante, está ocurriendo todo lo contrario. Actualmente, las empresas y países compiten a una velocidad vertiginosa para desarrollar una IA potente, con una inversión muy pobre en seguridad.

Yuval Noah Harari Por primera vez compartimos el planeta con entes que son mejores que nosotros para crear historias

Fotografía: Shintaro Yoshimatsu

Cuando se les pregunta a los emprendedores, empresarios y líderes gubernamentales que lideran esta revolución de la IA: "¿Por qué tienen tanta prisa?", casi todos responden: "Sí, sabemos que existen riesgos. Sabemos que sería prudente ir más despacio e invertir en seguridad. Pero no podemos confiar en nuestros competidores humanos. Si otras empresas o países aceleran el desarrollo de la IA mientras nosotros lo ralentizamos e intentamos hacerlo más seguro, dominarán el mundo. Así que no nos queda más remedio que avanzar lo más rápido posible para evitar perder ante competidores en los que no podemos confiar". En otras palabras, no hay suficiente confianza entre las personas.

Yuval Noah Harari Por primera vez compartimos el planeta con entes que son mejores que nosotros para crear historias

Fotografía: Shintaro Yoshimatsu

6 | ¿La humanidad sigue fallando?

Argumentas que ahora tenemos grandes redes de confianza, como los Estados-naciones y las grandes corporaciones, pero ¿qué tan exitosos hemos sido realmente en construir estas redes? ¿O seguimos fallando?

Depende de cuáles sean tus estándares y expectativas. Si nos comparamos con hace 100,000 años, cuando éramos recolectores que vivían en pequeños grupos de apenas unas docenas de personas, podemos decir que ahora hemos construido una red de confianza sorprendentemente grande. Porque existen sistemas que permiten que cientos de millones de personas trabajen juntas diariamente.

Los libertarios a menudo dan por sentados estos mecanismos y no se detienen a pensar de dónde provienen. Cuando vas al baño, las aguas residuales van a parar a un enorme sistema de alcantarillado. El sistema fue creado y mantenido por el Estado. Sin embargo, con una mentalidad libertaria, es fácil pensar que no necesitas de nada ni de nadie más. Pero, ¿quién mantendrá el sistema de alcantarillado?

Siempre debe haber algún tipo de "sistema de confianza". En mi libro utilizo la Copa Mundial de la FIFA como ejemplo. Por un lado, equipos de fútbol de diferentes países compiten entre sí. Pero para que haya competencia, primero debe haber un acuerdo sobre reglas comunes. Si Japón tuviera sus propias reglas de fútbol y Alemania tuviera reglas diferentes, no habría competencia. En otras palabras, incluso la competencia requiere una base de confianza y acuerdo común. De lo contrario, el propio orden se derrumbaría.

Yuval Noah Harari Por primera vez compartimos el planeta con entes que son mejores que nosotros para crear historias

Fotografía: Shintaro Yoshimatsu

7 | ¿Discutir con la IA nos hace más inteligentes?

En el futuro, ¿nos volvernos más inteligentes o llegaremos a mejores conclusiones discutiendo cosas con la inteligencia artificial?

Por supuesto, esas cosas pueden suceder. Sin embargo, la discusión debe regularse cuidadosamente. La IA es muy creativa y tiene el potencial de generar ideas que nunca se nos habrían ocurrido, podemos volvernos más inteligentes. Pero al mismo tiempo, también puede manipularnos con grandes cantidades de información "basura" y engañosa.

Está bien usar la IA para generar ideas novedosas e imaginativas, pero debemos recordar que no es humana, y tampoco orgánica. Los intereses y la visión del mundo de la IA nos son "ajenos". Especialmente cuando se habla de cosas en el ciberespacio, es fácil olvidar que tienes un cuerpo físico. La existencia del cuerpo es clara cuando los humanos interactúan directamente entre sí, pero cuando se habla con IA, es fácil olvidar la existencia de lo físico.

En última instancia, la IA es una entidad física, no existe en un espacio mental puro, sino en redes como computadoras y servidores. Hay una presencia física, pero no es un cuerpo orgánico. Y ya se están consumiendo diversos recursos, incluidos energía y agua, en todo el mundo para desarrollar y mantener sistemas de IA. Existe una competencia por los recursos entre el "cuerpo" de la IA y nuestro propio cuerpo.

Yuval Noah Harari Por primera vez compartimos el planeta con entes que son mejores que nosotros para crear historias

Fotografía: Shintaro Yoshimatsu

8 | ¿Qué es lo más importante a la hora de pensar en el futuro?

El futuro es prometedor, pero aterra a nuestros lectores de WIRED. Como última pregunta, ¿qué es lo más importante a la hora de pensar en el futuro?

Creo que hay dos cuestiones importantes a la hora de pensar en el futuro. Actualmente nos encontramos en una situación en la que está en juego la confianza entre los humanos; si la fortalecemos, podremos afrontar mejor la revolución de la IA. Otro problema es la amenaza de ser completamente manipulado o engañado por la IA. En los inicios de la era del internet, la principal metáfora de la tecnología era la web; las personas son bombardeadas con tanta información que ya no pueden ver la realidad que las rodea. Pero por primera vez en la historia, un ente no humano puede crear información, ahora, muchos de estos productos culturales procederán de sistemas de inteligencia artificial. Si eso sucede, quedaríamos atrapados en un mundo tan extraño y perder el contacto con la realidad.

Este es también un miedo profundo que los humanos han albergado en lo más profundo de sus corazones durante miles de años. Y ahora, este miedo es más real y peligroso que nunca. Por ejemplo, en el budismo se habla del concepto de 'Māyā' (ilusión o alucinación). Los humanos viven toda su vida en un mundo de ilusiones, y les resulta extremadamente difícil entrar en contacto con la realidad. Con la llegada de la IA, puede resultar incluso más difícil que antes escapar de este mundo ilusorio. Porque la IA puede inundarnos de nuevas ilusiones que ni siquiera nacen de la imaginación humana. Por lo tanto, nos resultará muy difícil incluso comprender la ilusión.

Yuval Noah Harari Por primera vez compartimos el planeta con entes que son mejores que nosotros para crear historias.

Fotografía: Shintaro Yoshimatsu

El verdadero problema es que no disponemos de un modelo histórico para construir una "sociedad de la IA". Necesitamos un "mecanismo de autocorrección", que pueda detectar y corregir errores antes de que ocurra algo fatal. Por ejemplo, supongamos que se inventa el ferrocarril. En los años sesenta se podía comprobar en el laboratorio si las locomotoras no explotarían por una avería. Pero nadie pudo simular los cambios que provocaría en la situación económica y política la extensión de la red ferroviaria a decenas de miles de kilómetros. Lo mismo ocurre con la IA. No importa cuántas veces experimentemos con los sistemas de inteligencia artificial en el laboratorio, será imposible predecir lo que ocurrirá cuando cientos de estos se desaten en el mundo real y empiecen a cambiar la economía, la política y la sociedad. Es casi seguro que habrá errores importantes. Por eso debemos proceder con más cuidado y más despacio. Debemos darnos tiempo para adaptarnos, tiempo para descubrir y corregir nuestros errores.

Artículo originalmente publicado en WIRED Japón. Adaptado por Alondra Flores.