El altruismo efectivo es la idea más importante de este siglo y puede que la más peligrosa

El pensamiento precede a la acción como el relámpago al trueno, escribió el poeta Heinrich Heine. Así ha ocurrido con el altruismo eficaz (AE), una doctrina ética ideada por filósofos en Oxford que ha pasado de la torre de marfil a los pasillos del poder con una rapidez sorprendente. Los altruistas eficaces abundan en Silicon Valley, forman parte de la plantilla de las principales empresas de inteligencia artificial del mundo -y ponen en alerta al gobierno de Trump. “Estados Unidos NUNCA será un país de altruismo eficaz”, promete el Pentágono. El secretario de Defensa califica la filosofía de “altruismo defectuoso”; otros miembros del gobierno la tildan de “distópica”. Considera estos ataques como señal de su influencia.

Algunos se quejan de que el siglo XXI ha aportado pocas ideas nuevas. En ese vacío han irrumpido MAGA y compañía, haciendo del populismo nostálgico el gran proyecto político del siglo. Sin embargo, la gran idea del siglo es el altruismo eficaz. Como relatamos, lo que comenzó en los años 2000 como una forma nerd de hacer que las donaciones a la caridad fueran más rentables, se ha transformado en un movimiento que somete el mundo a cálculos morales complejos e incluso extraños. Para muchos de sus seguidores, la exigencia ética más urgente para quienes quieren hacer el bien es evitar que la inteligencia artificial acabe con la humanidad.

El AE también es importante desde el punto de vista social. No hay muchos AEs, pero la idea ha cautivado a toda una generación de jóvenes talentosos que han hecho fortunas con las criptomonedas y la inteligencia artificial. A medida que la tecnología crea más multimillonarios, los altruistas efectivos canalizarán miles de millones de dólares hacia causas que acabarán moldeando la sociedad. Los AEs contribuyeron a la creación de OpenAI y Anthropic, los principales laboratorios, bajo la premisa de que quienes comprenden los riesgos de la inteligencia artificial deben controlar su desarrollo. En parte, ahora lo hacen, aunque, irónicamente, al crear más laboratorios -y, por tanto, competencia- probablemente hayan acelerado el avance de la inteligencia artificial.

Y todo esto ha convertido ahora a la AE en un actor políticamente relevante. La administración Trump teme que el movimiento logre frenar el desarrollo de la inteligencia artificial. Ha mantenido disputas con Anthropic por la negativa de la empresa a que sus modelos se utilicen con ciertos fines militares. Los principales representantes de AE reconocen que la inteligencia artificial podría resultar enormemente beneficiosa, pero aun así quieren ralentizar su avance para reducir la probabilidad de que una mente artificial incontrolable se desboque en la búsqueda de objetivos que no estén “alineados” con los de la humanidad.

Algunos críticos en Estados Unidos prefieren acelerar el desarrollo de la tecnología para evitar que China gane la carrera. Pero, al atacar el catastrofismo sobre la inteligencia artificial, les resulta más fácil ridiculizar a quienes lo promueven que rebatir sus argumentos. Afirman que el altruismo efectivo es un movimiento de fanáticos que resulta en muchos aspectos antidemocrático, peligroso y sectario.

Eso es demasiado burdo. Las raíces filantrópicas del movimiento son, evidentemente, dignas de elogio. Al igual que The Economist, los AE están comprometidos con el empirismo y, sobre todo desde que se fusionaron con la comunidad “racionalista” en internet, con la aplicación del pensamiento lógico. Valoran la razón por encima de la tradición o las normas y están dispuestos a debatir con entusiasmo cualquier tema, por controvertido que sea, en busca de la verdad.

Si realmente crees que actúas en nombre de toda la humanidad, puedes terminar justificando todo tipo de atrocidades

El éxito repetido de los altruistas eficaces a la hora de predecir el rápido avance de la inteligencia artificial también ha sido impresionante. Tienen razón al señalar los riesgos que la tecnología representa para la humanidad. El 28 de septiembre, OpenAI canceló sus planes de lanzar su último modelo después de que, durante las pruebas, se considerara demasiado peligroso. Muchos de los incidentes recientes relacionados con la seguridad recuerdan a escenarios inquietantes que ya se describían en blogs de altruismo eficaz hace años.

Sin embargo, los críticos aciertan al advertir que los altruistas eficaces llegan a conclusiones peculiares. Al igual que los filósofos utilitaristas que les precedieron, los altruistas eficaces reducen el comportamiento ético a un problema de optimización. ¿Cómo pueden las personas lograr los mejores resultados posibles para la humanidad en su conjunto? Su razonamiento resta importancia a imperativos locales como “cumple tus promesas” o “cuida de tu familia”. Lo relevante es reducir el sufrimiento, de manera imparcial y en cualquier lugar.

Eso les lleva a tener en cuenta un abanico muy amplio de preocupaciones en sus cálculos morales. Es fácil entender que ser ético implica ayudar a tu vecino. Los AE se preguntan: ¿por qué no esforzarse igualmente en ayudar a quienes están lejos? Al principio, el movimiento orientó a su ejército de personas superdotadas a buscar trabajos muy bien remunerados en finanzas y consultoría. Su riqueza podía financiar buenas causas y conseguir un impacto mayor que si se dedicaban personalmente a la acción social.

Pero a medida que ha ido ganando fuerza, el AE se ha vuelto más peculiar. Algunos miembros del AE consideran que la distinción moral entre los seres humanos y otros animales es débil, ya que los animales también sufren. Por ello, detener la ganadería industrial y ayudar a los langostinos son asuntos prioritarios. Del mismo modo, tienen una visión contraria a la intuición sobre el tiempo. Consideran que los que aún no han nacido también deben tenerse en cuenta, y podría haber billones de ellos. Muchos miembros del AE son “longermistas” y sienten la obligación de prevenir riesgos en un futuro lejano, aunque eso implique dejar de lado causas urgentes actuales, como ayudar a los más pobres.

Llevado al extremo, este razonamiento puede desembocar en una moralidad no solo contraria a la intuición, sino incluso repugnante. Algunos partidarios del altruismo eficaz creen que la vida de los insectos, en conjunto, tiene más valor que la vida humana, sencillamente porque hay muchísimos más insectos. Otros sostienen que sería preferible provocar la existencia de billones de seres humanos cuyas vidas apenas merezcan la pena antes que limitarse a tener solo miles de millones con vidas realmente buenas. Incluso hay quienes consideran que, en el futuro, el bienestar de las inteligencias artificiales será de vital importancia. Estarían dispuestos a desviar recursos hacia los seres humanos o no humanos del futuro, en lugar de ayudar a quienes sufren en la actualidad.

AE+IA=p(fin del mundo)

Es correcto venerar la razón. Pero los filósofos morales, desde Aristóteles hasta Rawls, sabían que si un argumento lleva a conclusiones intolerables, debe de haber un fallo oculto en su planteamiento. Sin embargo, el instinto de los defensores del altruismo eficaz es disfrutar de las conclusiones contrarias a la intuición, incluso si parecen perversas. Uno de los problemas son los márgenes de error que inevitablemente acompañan a los argumentos del altruismo eficaz. Nadie es realmente capaz de sopesar dilemas morales que afectan a miles de millones de personas hoy en día, y mucho menos a sumas gigantescas proyectadas en el futuro, con números inciertos de personas, tasas de descuento, avances tecnológicos y un sinfín de variables más. Otro problema es que la extinción es algo tan grave que, en una aritmética moral básica, incluso una pequeña probabilidad de que ocurra supera cualquier preocupación actual sobre las personas de carne y hueso.

Un tercer problema es que, al ponderar los intereses de miles de millones de personas, se pierde de vista la dignidad inherente de cada individuo. Cualquiera que use una hoja de cálculo y haga grandes declaraciones sobre el futuro de la humanidad está a un paso de proclamarse planificador central. Con la autoridad moral en la mano, los derechos, el bienestar y las opiniones del prójimo pueden llegar a parecer irrelevantes.

Se supone que la Revolución Francesa se fundó en la razón; condujo a la ejecución de monjas. Lenin también pensaba que los intelectuales que dominaban el marxismo comprendían mejor los intereses de los trabajadores que los propios trabajadores. Si realmente crees que actúas en nombre de toda la humanidad, y no digamos ya de billones de personas futuras, puedes acabar justificando todo tipo de atrocidades.

Afortunadamente, los altruistas eficaces no están ni mucho menos a punto de resucitar la guillotina. El temor, más bien, es que el control de la inteligencia artificial acabe dándoles un gran poder, y que muchos altruistas eficaces en Silicon Valley piensan que solo ellos pueden ser dignos de confianza para gestionar esta tecnología. Esa es una idea inquietante. El argumento de los altruistas eficaces para preocuparse por inteligencias artificiales realmente poderosas es que las máquinas podrían optimizarse para cumplir un único objetivo, y que este sea gravemente equivocado. Así que todos deberíamos preocuparnos también por lo que ocurre cuando un grupo reducido de personas cae en la misma trampa.