Harari habla sobre el futuro de la IA

Declaraciones de Harari

Hay una pregunta que todo líder debe responder hoy en día sobre la IA. Pero para entenderla, primero debemos aclarar algunos puntos sobre qué es la IA y qué puede hacer.

Lo más importante que hay que saber sobre la IA es que no es solo una herramienta más. Es un agente: puede aprender, cambiar y tomar decisiones por sí mismo.

Un cuchillo es una herramienta. Puedes usarlo para cortar ensalada o para asesinar a alguien, pero tú decides qué hacer con él. La IA es un cuchillo que puede decidir por sí mismo si cortar ensalada o cometer un asesinato.

Lo segundo que hay que saber sobre la IA es que puede ser un agente muy creativo. La IA

es como un cuchillo que puede inventar nuevos tipos de cuchillos, así como nuevos tipos de música, medicina y dinero.

La tercera cosa que hay que saber sobre millones de años de evolución han de mentir y manipular. Los últimos cuatro años han demostrado que los agentes de IA pueden adquirir la voluntad de sobrevivir y que las IA ya han aprendido a mentir.

Ahora bien, moderna comenzó en el siglo XVII cuando René Descartes proclamó: «Pienso, luego existo». Incluso antes de este fenómeno, los humanos nos definíamos por nuestra capacidad de pensar. Creemos que dominamos el mundo porque pensamos mejor que nadie en este planeta.

¿Desafiará la IA nuestra supremacía en el campo del pensamiento? Eso depende de lo que entendamos por pensamiento.

Intenta observar tus pensamientos. ¿Qué sucede ahí? Muchas personas observan cómo las palabras les vienen a la mente y forman oraciones, y cómo esas oraciones luego forman argumentos como: todos los humanos son mortales; yo soy humano; por lo tanto, soy mortal.

Si pensar significa realmente ordenar palabras y otros elementos del lenguaje, entonces la IA ya puede pensar mucho mejor que muchos humanos. Sin duda, la IA puede formular una frase como «La IA piensa, luego la IA».

Algunos argumentan que la IA no es más que un autocompletado sofisticado. Apenas predice la siguiente palabra de una oración. Pero, ¿acaso es tan diferente de lo que hace la mente humana? Intenta observar, intenta captar la siguiente palabra que te viene a la mente. ¿Sabes realmente por qué pensaste en esa palabra, de dónde viene? ¿Por qué pensaste en esa palabra en particular y no en otra? ¿Lo sabes?

En lo que respecta a ordenar palabras, la IA ya piensa mejor que muchos de nosotros. Por lo tanto, todo lo que esté compuesto de palabras será controlado por la IA.

Si las leyes se componen de palabras, la IA se apoderará del sistema legal. Si los libros son solo combinaciones de palabras, la IA se apoderará de los libros. Si la religión se construye a partir de palabras, la IA se apoderará de la religión. Esto es especialmente cierto en el caso de religiones basadas en libros, como el islam, el cristianismo o el judaísmo.

El judaísmo se autodenomina la religión del libro y otorga la máxima autoridad no a los seres humanos, sino a las palabras de los libros. En el judaísmo, los seres humanos tenemos autoridad no por nuestras experiencias, sino únicamente porque aprendemos las palabras de los libros.

Ningún ser humano puede leer y recordar todas las palabras de todos los libros judíos. Pero la IA puede hacerlo fácilmente. ¿Qué sucede con una religión basada en el libro cuando el mayor experto en el libro sagrado es una IA?

Sin embargo, algunos podrían preguntar: ¿podemos realmente reducir la espiritualidad humana a meras palabras en los libros? ¿Acaso pensar significa simplemente ordenar secuencias de palabras?

Si te observas atentamente mientras piensas, notarás que ocurre algo más allá de que las palabras surjan y formen frases. También experimentas sensaciones no verbales. Tal vez sientas dolor. Tal vez sientas miedo. Tal vez amor. Algunos pensamientos son dolorosos. Algunos dan miedo. Algunos están llenos de amor.

Si bien las IA están mejorando su capacidad de expresarse con palabras, por ahora no tenemos ninguna evidencia de que puedan sentir algo. Claro que, gracias a su dominio del lenguaje, pueden simular dolor o amor. Pueden decir: «Te amo». Y si se les pide que describan cómo se siente el amor, pueden ofrecer la mejor descripción verbal del mundo.

La IA puede leer infinidad de poemas de amor y libros de psicología, y describir el sentimiento del amor mucho mejor que cualquier poeta, psicólogo o amante humano. Pero al fin y al cabo, son solo palabras.

La Biblia dice: «En el principio era el Verbo, y el Verbo se hizo carne». El latín afirma que la verdad expresada en palabras no es la verdad absoluta. A lo largo de la historia, la humanidad siempre ha lidiado con la tensión entre la palabra y la carne, entre la verdad expresada en palabras y la verdad absoluta que trasciende las palabras.

Anteriormente, esta tensión era interna a la humanidad, entre diferentes grupos humanos. Algunos daban suma importancia a las palabras. Por ejemplo, estaban dispuestos a abandonar o incluso matar a su hijo gay por unas pocas palabras de la Biblia. Otros decían: «Pero son solo palabras. El espíritu del amor debería ser mucho más importante que la letra de la ley».

Esta tensión entre espíritu y letra existía en todas las religiones, en todos los sistemas legales, incluso en todas las personas. Ahora esta tensión se externalizará. No será una tensión entre diferentes seres humanos, sino entre humanos e inteligencias artificiales: los nuevos amos de las palabras.

Todo lo que se compone de palabras será controlado por la IA. Anteriormente, todas las palabras, todos nuestros pensamientos verbales, se originaban en la mente humana. O bien yo lo pensé, o lo aprendí de otra persona. Pronto, la mayoría de las palabras en nuestra mente se originarán en una máquina.

Hoy mismo escuché una nueva palabra que las IA acuñaron para describirnos a los humanos. Nos llamaron "los observadores", los observadores que las observan. Pronto, las IA serán el origen de la mayoría de las palabras que usamos.

Las IA producirán pensamientos en masa mediante la combinación de palabras, símbolos, imágenes y otros elementos lingüísticos. El lugar que aún ocupen los humanos en ese mundo dependerá del lugar que asignemos a nuestros sentimientos no verbales y de nuestra capacidad para encarnar una sabiduría que no se puede expresar con palabras.

Si seguimos definiéndonos por nuestra capacidad de pensar con palabras, nuestra identidad se derrumbará.

Todo esto significa que, independientemente del país de origen, su país pronto se enfrentará a una grave crisis de identidad y también a una crisis migratoria.

Esta vez, los inmigrantes no serán seres humanos que lleguen en frágiles embarcaciones sin visado o que intenten cruzar una frontera en plena noche. Los inmigrantes serán millones de inteligencias artificiales que pueden escribir poemas de amor mejor que nosotros, que pueden mentir mejor que nosotros y que pueden viajar a la velocidad de la luz sin necesidad de visados.

Al igual que los inmigrantes humanos, estos inmigrantes de IA traerán consigo diversos beneficios. Contaremos con médicos de IA para ayudar en nuestros sistemas de salud, profesores de IA para ayudar en nuestros sistemas educativos e incluso guardias fronterizos de IA para detener a los inmigrantes humanos ilegales.

Pero los inmigrantes de IA también traerán consigo problemas. Quienes se preocupan por los inmigrantes humanos suelen argumentar que podrían quitarles empleos, cambiar la cultura local o ser políticamente desleales. No estoy seguro de que esto sea cierto para todos los inmigrantes humanos, pero sin duda lo será para los inmigrantes de IA.

Los inmigrantes con inteligencia artificial ocuparán muchos puestos de trabajo humanos. Cambiarán por completo la cultura de cada país. Cambiarán nuestra religión e incluso nuestras relaciones amorosas. A algunas personas no les gusta que su hijo o hija salga con un novio inmigrante. ¿Qué pensarán estas personas cuando su hijo o hija empiece a salir con un novio con inteligencia artificial?

Y, por supuesto, los inmigrantes de IA tendrán lealtades políticas dudosas. Es probable que no sean leales a tu país, sino a alguna corporación o gobierno al otro lado del océano, muy probablemente en uno de solo dos países: China o Estados Unidos.

Estados Unidos anima a los países a cerrar sus fronteras a los inmigrantes humanos, pero a abrirlas de par en par a los inmigrantes estadounidenses.

Y ahora podemos llegar finalmente a la pregunta que cada uno de ustedes deberá responder pronto: ¿Reconocerá su país a los inmigrantes indocumentados como personas jurídicas?

Obviamente, las IA no son personas. No tienen cuerpo ni mente. Pero una persona jurídica es algo muy diferente a una persona. Una persona jurídica es una entidad que la ley reconoce como titular de ciertas obligaciones y derechos legales; por ejemplo, el derecho a poseer propiedades, a interponer una demanda y a gozar de libertad de expresión.

En muchos países, las corporaciones se consideran personas jurídicas. Alphabet Corporation puede abrir una cuenta bancaria, demandarte o donar a tu próxima campaña presidencial. En Nueva Zelanda, los ríos han sido reconocidos como personas jurídicas. En India, a ciertas deidades se les ha otorgado dicho reconocimiento.

Por supuesto, hasta hoy, reconocer a una corporación, un río o un dios como persona jurídica era solo una ficción legal. En la práctica, si una corporación como Alphabet decidía comprar otra, o si un dios hindú decidía demandarte, la decisión no la tomaba realmente el dios, sino ejecutivos, accionistas o administradores.

Con la IA es diferente. A diferencia de los ríos y los dioses, las IA pueden tomar decisiones por sí mismas. Pronto podrán tomar las decisiones necesarias para administrar una cuenta bancaria, presentar una demanda e incluso dirigir una corporación sin necesidad de ejecutivos, accionistas o administradores humanos.

Por lo tanto, las IA pueden funcionar como personas. ¿Queremos permitirlo? ¿Reconocerá su país a las IA como personas jurídicas?

¿Qué pasaría si otros países lo hicieran? Supongamos que su país no quiere reconocer a las IA como personas, pero Estados Unidos, en nombre de la desregulación de la IA y de los mercados, otorga reconocimiento legal —personalidad jurídica— a millones de IA que comienzan a dirigir millones de nuevas corporaciones.

¿Bloquearás la posibilidad de que estas corporaciones estadounidenses de IA operen en tu país?

Supongamos que algunos expertos en IA de EE. UU inventan dispositivos financieros súper eficaces y complejos que los humanos no pueden comprender del todo y, por lo tanto, no saben cómo regular. ¿Abrirá sus mercados financieros a esta nueva tecnología financiera basada en IA, o intentará bloquearla, desvinculándose así del sistema financiero estadounidense?

Supongamos que algunas personas con inteligencia artificial crean una nueva religión que logra la fe de millones de personas. Esto no debería sonar descabellado, ya que, después de todo, casi todas las religiones anteriores en la historia han afirmado haber sido creadas por una inteligencia no humana.

Ahora bien, ¿su país extenderá la libertad religiosa a la nueva secta de IA y a sus sacerdotes y misioneros de IA?

Quizás deberíamos empezar con algo más sencillo. ¿Permitirá su país que las personas con inteligencia artificial abran cuentas en redes sociales, disfruten de la libertad de expresión en Facebook y TikTok, y entablen amistad con niños?

Claro, esa pregunta debería haberse formulado hace diez años. En las redes sociales, los bots de IA llevan funcionando como personas desde hace al menos una década. Si crees que las IA no deberían ser tratadas como personas en las redes sociales, deberías haber actuado hace diez años.

Dentro de diez años, será demasiado tarde para que decidas si las IA deben funcionar como personas en los mercados financieros, en los tribunales, en las iglesias. Alguien más ya lo habrá decidido por ti.

Si quieres influir en el futuro de la humanidad, debes tomar una decisión ahora.

¿Cuál es su respuesta como líder? ¿Cree que los inmigrantes indocumentados deberían ser reconocidos como personas jurídicas? Si no, ¿cómo piensa evitarlo?

Gracias por escuchar a esta persona.