Por qué la inteligencia artificial supone un peligro existencial para la humanidad

Por Yuval Noah Harari

Muchos expertos advierten de que el auge de la IA podría provocar el colapso de la civilización humana, o incluso la extinción de la especie. En una encuesta realizada en 2023 a 2.778 investigadores de IA, más de un tercio daba al menos un 10 por ciento de probabilidades a que la IA avanzada condujera a resultados tan nefastos como la extinción humana. En 2023, cerca de treinta gobiernos -entre ellos los de China, Estados Unidos y Reino Unido- firmaron la Declaración de Bletchley sobre la IA, en la que se reconocía que “existe la posibilidad de que se produzcan daños graves, incluso catastróficos, ya sean deliberados o involuntarios, derivados de las capacidades más relevantes de estos modelos de IA”.

Para algunos, estas advertencias suenan a jeremiadas exageradas. Cada vez que ha aparecido una tecnología nueva y potente, ha surgido el temor de que pudiera conducir al apocalipsis. Por ejemplo, a medida la Revolución Industrial se desarrollaba, mucha gente temía que las máquinas de vapor y los telégrafos destruyeran nuestras sociedades y nuestro bienestar. Pero las máquinas acabaron produciendo las sociedades más prósperas de la historia. Hoy, casi todos gozamos de unas condiciones de vida mucho mejores que las de nuestros antepasados en el siglo XVIII. Entusiastas de la IA como Marc Andreessen y Ray Kurzweil prometen que las máquinas inteligentes resultarán aún más beneficiosas que sus predecesoras industriales. Sostienen que, gracias a la IA, los humanos tendremos acceso a una atención sanitaria y a una educación, así como a otros tantos servicios, mucho mejores, y que la IA contribuirá a salvar el ecosistema del colapso.

Por desgracia, una mirada más atenta a la historia nos revelará que, en realidad, los humanos tienen buenas razones para temer a esas tecnologías nuevas y potentes. Aunque al final sus aspectos positivos superen a los negativos, llegar a ese final feliz suele implicar muchas pruebas y tribulaciones. Las nuevas tecnologías suelen conducir a desastres históricos no porque sean intrínsecamente malas, sino porque a los seres humanos les lleva un tiempo aprender a usarlas con sensatez.

El de la Revolución Industrial es un ejemplo excelente. Cuando la tecnología industrial empezó a extenderse a nivel global en el siglo XIX, removió los cimientos económicos, sociales y políticos tradicionales, y abrió el camino para crear sociedades totalmente nuevas que pudieran ser más prósperas y pacíficas. Sin embargo, aprender a crear sociedades industriales benignas estaba lejos de ser inmediato y requirió de un buen número de experimentos costosos y de cientos de millones de víctimas.

Uno de esos experimentos costosos fue el imperialismo moderno. La Revolución Industrial se originó en Gran Bretaña a finales del siglo XVIII. Durante el siglo XIX, otros países europeos, desde Bélgica hasta Rusia, así como Estados Unidos y Japón, adoptaron tecnologías y métodos de producción industriales. Los pensadores imperialistas, los políticos y los partidos de estos países industriales afirmaban que la única sociedad industrial viable era un imperio. Sus argumentos se basaban en que, a diferencia de las sociedades agrarias, más o menos autosuficientes, las nuevas sociedades industriales dependían en gran medida de mercados y de materias primas extranjeros, y en que solo un imperio podía satisfacer estos apetitos sin precedentes. Los imperialistas temían que aquellos países que se industrializaran pero no consiguieran conquistar colonias se vieran privados de las materias primas y de los mercados esenciales por la acción de competidores más implacables. Algunos imperialistas aducían que adquirir colonias no solo era fundamental para la supervivencia de su propio Estado, sino que también era beneficioso para el resto de la humanidad. Afirmaban que solo los imperios podían extender las bendiciones de las nuevas tecnologías al llamado “mundo subdesarrollado”.

En consecuencia, países industriales como Gran Bretaña y Rusia, que ya poseían imperios, se dedicaron a expandirlos, mientras que países como Estados Unidos, Japón, Italia y Bélgica se dispusieron a construirlos. Equipados con rifles y artillería producidos en masa, transportados por la energía del vapor y comandados por el telégrafo, los ejércitos de la industria barrieron el globo, de Nueva Zelanda a Corea y de Somalia a Turkmenistán. Millones de indígenas vieron cómo las ruedas de estos ejércitos industriales pasaban por encima de sus estilos de vida tradicionales. Hizo falta más de un siglo de desgracias para que la mayoría de la gente se diera cuenta de que el imperio industrial era una idea terrible y de que había mejores maneras de edificar una sociedad industrial y de proveerse de las materias primas y de los mercados necesarios.

El estalinismo y el nazismo también fueron experimentos muy costosos en este sentido. Líderes como Stalin y Hitler afirmaban que la Revolución Industrial había desencadenado poderes inmensos que solo el totalitarismo podía controlar y explotar al máximo. Veían la Primera Guerra Mundial —la primera “guerra total” de la historia— como una prueba de que la supervivencia en el mundo industrial exigía el control totalitario de todos los aspectos de la política, la sociedad y la economía. En su vertiente positiva, también afirmaban que la Revolución Industrial era como un horno que funde todas las estructuras sociales previas, con sus imperfecciones y debilidades humanas, y proporciona la oportunidad de forjar sociedades perfectas habitadas por superhumanos puros.

En el proceso de creación de la sociedad industrial perfecta, estalinistas y nazis aprendieron a matar de manera industrial a millones de personas. Trenes, alambres de espino y órdenes telegrafiadas se conjugaron para crear una máquina de matar sin precedentes. Hoy, cuando echamos una mirada al pasado, la mayoría de nosotros nos sentimos horrorizados ante los crímenes que perpetraron estalinistas y nazis, pero en aquella época sus ideas audaces fascinaron a millones de personas. En 1940, mientras las democracias liberales se encaminaban al basurero de la historia, era fácil creer que Stalin y Hitler eran un ejemplo de aprovechamiento de la tecnología industrial.

La existencia misma de recetas opuestas para construir sociedades industriales condujo a enfrentamientos costosos. Las dos guerras mundiales y la Guerra Fría pueden entenderse como un debate acerca de la mejor manera de conseguirlo, en el que todas las partes aprendían de las demás, al tiempo que experimentaban con nuevos métodos industriales para librar la guerra. En el curso de este debate, decenas de millones de personas murieron y la humanidad estuvo peligrosamente cerca de la aniquilación.

Además de todas estas catástrofes, la Revolución Industrial también socavó el equilibrio ecológico global, lo que causó una oleada de extinciones. Se cree que, a principios del siglo XXI, hasta cincuenta y ocho mil especies se extinguen cada año. Y las poblaciones de vertebrados se redujeron en un 60 por ciento entre 1970 y 2014. La supervivencia de la civilización humana también se halla bajo amenaza. Puesto que parece que todavía somos incapaces de construir una sociedad industrial ecológicamente sostenible, la cacareada prosperidad de la generación humana actual supone costes terribles para otros seres sintientes y para las futuras generaciones humanas. Quizá podamos encontrar una forma —tal vez con la ayuda de la IA— de crear sociedades industriales ecológicamente sostenibles, pero, hasta que llegue este día, el jurado seguirá deliberando como hizo con respecto a la Revolución Industrial.

Si ignoramos por un momento el daño progresivo al ecosistema, podemos consolarnos con la idea de que, con el tiempo, los humanos hemos aprendido a construir sociedades industriales más benévolas. Conquistas imperiales, guerras mundiales, genocidios y regímenes totalitarios fueron experimentos lamentables que enseñaron a los humanos cómo no hacerlo. Podría afirmarse que a finales del siglo XX la humanidad lo hacía más o menos bien.

Pero, aun así, el mensaje para el siglo XXI es desalentador. Si la humanidad necesitó que le enseñaran lecciones tan terribles para aprender a gestionar la energía del vapor y los telégrafos, ¿cuál será el coste de aprender a gestionar la IA? La IA es potencialmente mucho más poderosa e ingobernable que las máquinas de vapor, los telégrafos y todas las tecnologías anteriores, porque es la primera tecnología de la historia que puede tomar decisiones y crear nuevas ideas por sí misma. La IA no es una herramienta, es un agente. Las ametralladoras y las bombas atómicas sustituyeron a los músculos humanos en el acto de matar, pero no pudieron sustituir a los cerebros humanos a la hora de decidir a quién matar. Little Boy —la bomba lanzada sobre Hiroshima— explotó con una fuerza de 12.500 toneladas de TNT, pero, en lo referente a capacidad mental, Little Boy era una nulidad. No podía decidir nada.

La cosa cambia con la IA. En términos de inteligencia, las IA superan con mucho no solo a las bombas atómicas, sino también a tecnologías de la información previas como las tabletas de arcilla, las imprentas y los aparatos de radio. Las tabletas de arcilla contenían información tributaria, pero no podían decidir por sí mismas qué impuestos imponer ni inventar un impuesto totalmente nuevo. Las imprentas reproducían la información de obras como la Biblia, pero no podían decidir qué textos incluir en ella ni escribir nuevos comentarios sobre el libro sagrado. Los aparatos de radio difunden información en forma de discursos políticos y sinfonías, pero no pueden decidir qué discursos o sinfonías emitir y tampoco componerlos. La IA puede hacer todas estas cosas, e incluso inventar nuevas armas de destrucción masiva: desde bombas nucleares superpotentes hasta pandemias supermortales. Mientras que las imprentas y los aparatos de radio eran utensilios pasivos en manos humanas, las IA ya se están convirtiendo en agentes activos que escapan a nuestro control y comprensión, y que pueden tomar iniciativas para moldear la sociedad, la cultura y la historia.

Quizá con el tiempo encontremos formas de mantener las IA bajo control y desplegarlas en beneficio de la humanidad. Pero, ¿tendremos que pasar por otro ciclo de imperios globales, regímenes totalitarios y guerras mundiales para descubrir cómo utilizarlas de forma benévola? Dado que las tecnologías del siglo XXI son mucho más potentes —y potencialmente mucho más destructivas— que las del siglo XX, tenemos menos margen de error. En el siglo XX, podemos decir que la humanidad obtuvo un 7 bajo en la lección sobre el uso de la tecnología industrial. Casi lo justo para aprobar. En el siglo XXI, el listón está mucho más alto. Esta vez debemos hacerlo mejor.