Nick Bostrom tiene un plan para la "gran jubilación" de la humanidad

El filósofo Nick Bostrom recientemente publicó un artículo, donde postuló que una pequeña posibilidad de que la inteligencia artificial aniquile a todos los humanos podría valer la pena el riesgo, porque la inteligencia artificial avanzada podría aliviar a la humanidad de "su condena a muerte universal". Esta apuesta optimista es un gran salto de sus anteriores reflexiones oscuras sobre la IA, que le convirtieron en un padrino doomero. Su libro de 2014 Superinteligencia fue un primer examen del riesgo existencial de la IA. Un experimento de pensamiento memorable: una IA encargada de hacer clips de papel acaba destruyendo a la humanidad porque todas aquellas personas que necesitan recursos son un impedimento para la producción de clips. Su libro más reciente, Utopía profundarefleja un cambio en su foco. Bostrom, que dirige el Instituto del Futuro de la Humanidad de Oxford, se extiende en el "mundo resuelto" que aparece si conseguimos la IA correctamente.

STEVEN LEVY: Utopía profunda es más optimista que tu anterior libro. ¿Qué cambió para ti?

NICK BOSTROM: Me digo a mí mismo un optimista inquieto. Estoy muy emocionado por el potencial de mejorar radicalmente la vida humana y desbloquear posibilidades para nuestra civilización. Esto es coherente con la posibilidad real de que las cosas salgan mal.

Escribiste un artículo con un argumento sorprendente: como todos moriremos de todos modos, lo peor que puede pasar con la IA es que morimos antes. Pero si la IA funciona, podría alargar nuestras vidas, quizás indefinidamente.

Este documento sólo examina explícitamente un aspecto de esto. En cualquier trabajo académico dado, no puedes abordar la vida, el universo y el significado de todo. Así que miramos ese pequeño problema e intentamos resolverlo.

No es un pequeño problema.

Supongo que me han molestado algunos de los argumentos que hacen los doomers que dicen que si construyes IA, me matarás a mí ya mis hijos y cómo te atreves. Como el libro reciente Si alguien lo construye, todo el mundo muere. Más probable es que si nadie lo construye, ¡todo el mundo muere! Ésta ha sido la experiencia de los últimos 100.000 años.

Pero en el escenario de la muerte todo el mundo muere y no hay más gente que nace. Gran diferencia.

Obviamente me ha preocupado mucho. Pero en este artículo, estoy mirando una pregunta distinta, que es, ¿qué sería mejor para la población humana actualmente existente como tú y yo y nuestras familias y la gente de Bangladesh? Parece que nuestra esperanza de vida aumentaría si desarrollamos IA, aunque sea bastante arriesgado.

En Utopía profunda Especule que la IA podría crear una abundancia increíble, tanto que la humanidad podría tener un gran problema para encontrar un propósito. Vivo en Estados Unidos. Somos un país muy rico, pero nuestro gobierno, aparentemente con el apoyo de la gente, tiene políticas que deniegan servicios a los pobres y distribuyen recompensas a los ricos. Creo que incluso si la IA pudiera proporcionar abundancia para todos, no la suministraríamos a todos.

Quizás tienes razón. Utopía profunda toma como punto de partida la postulación de que todo va muy bien. Si hacemos un trabajo razonablemente bueno en la gobernanza, todo el mundo tendrá una parte. Existe una cuestión filosófica bastante profunda sobre cómo sería una buena vida humana en estas circunstancias ideales.

El sentido de la vida es algo que escucha mucho en las películas de Woody Allen y quizá en la comunidad de filósofos. Me preocupa más los recursos para mantenerse y obtener una participación en esa abundancia.

El libro no trata sólo de significado. Éste es uno de entre un montón de valores diferentes que considera. Ésta podría ser una maravillosa emancipación de la peña a la que han sido sometidos los humanos. Si tienes que renunciar, por ejemplo, a la mitad de tus horas de víspera como adulto sólo para llegar a fines de mes, haciendo un trabajo que no te gusta y en el que no crees, es una triste condición. La sociedad está tan acostumbrada a que hemos inventado todo tipo de racionalizaciones a su alrededor. Es como una forma parcial de esclavitud.