Por qué el Vaticano invitó a Anthropic a la presentación de la encíclica AI del Papa

Cuando el papa León XIV presentó el lunes su primera encíclica sobre inteligencia artificial en el Vaticano, invitó a Christopher Olah, cofundador de Anthropic, a hablar. La medida señaló una alianza sin precedentes entre la iglesia católica y Silicon Valley. Pero para entender cómo surgió esta asociación, debemos volver a la fundación de Anthropic.

¿Por qué antrópicos?

Anthropic se lanzó en el 2021 después de que un grupo de investigadores de OpenAI, incluidos Dario y Daniela Amodei, se marchara para formar un laboratorio rival. Lo hacían con clara convicción: los modelos de inteligencia artificial se estaban volviendo demasiado potentes para ser desarrollados exclusivamente según la lógica de la competencia y la velocidad.

Desde entonces, Anthropic ha construido su imagen pública en torno al concepto de seguridad de la IA. La empresa pretende construir no sólo modelos potentes, sino también controlables y guiados por principios éticos. De ahí el concepto de IA constitucional: la idea de sistemas de entrenamiento utilizando una suerte de constitución compuesta por principios y reglas, en lugar de corregir sólo manualmente las respuestas más arriesgadas y peligrosas.

Cómo empezó la convergencia con el Vaticano

Evidentemente, la presencia de Olah en el Vaticano no fue casual, ni fruto de un gesto simbólico de última hora. Fue el resultado de un esfuerzo deliberado a largo plazo en el que el Vaticano ha intentado progresivamente transformarse de un observador moral de la tecnología en un interlocutor directo con la industria de la IA.

El primer gran paso se produjo en 2020 con el Llamamiento de Roma por la ética del IA, una iniciativa promovida por la Pontificia Academia para la Vida junto con Microsoft, IBM y otras organizaciones internacionales. El objetivo era establecer una base compartida de principios éticos para el desarrollo de la IA, incluida la transparencia, inclusión y responsabilidad.

En ese momento, el Vaticano parecía estar operando principalmente en el ámbito de la bioética y las cuestiones morales. Sin embargo, en los años siguientes el contexto cambió radicalmente. El auge de ChatGPT, la lucha por el liderazgo tecnológico entre Estados Unidos y China y el creciente poder de la Big Tech convencieron paulatinamente a la Santa Sede de que la cuestión ya no era sólo sobre la ética tecnológica, sino sobre el futuro mismo de la humanidad.

En este sentido, Anthropic ha llegado a ser visto por el Vaticano como un interlocutor especialmente importante. A diferencia de otras empresas de Silicon Valley que han construido su reputación principalmente en torno a la innovación y el crecimiento, Anthropic ha hecho de la seguridad de la IA una parte fundamental de su identidad.

En los últimos años, el Vaticano ha seguido una línea específica del debate tecnológico con especial atención: la alineación de los modelos de IA.

El papel de Olah

Aquí es donde entra Christopher Olah. A diferencia de los hermanos Amodei, que están más expuestos en los medios de comunicación, Olah representa la parte más teórica y casi filosófica de la investigación en IA. Es uno de los investigadores más conocidos del mundo sobre el tema de la interpretabilidad de los modelos, o el esfuerzo por entender qué ocurre realmente dentro de redes neuronales cada vez más complejas.

Christopher Olah

Fotografía: Alessia Giuliani/Getty Images

En su sitio web personal, Christopher Olah se describe como alguien que intenta "transformar las redes neuronales en algoritmos comprensibles para los seres humanos". Y es difícil imaginar una figura más alineada con el núcleo de la encíclica del papa León XIV: una reflexión centrada en el riesgo de construir tecnologías que resultan demasiado poderosas para ser entendidas, controladas o gobernadas.

Según diversas fuentes periodísticas, los contactos entre círculos cercanos a la Santa Sede y Anthropic pueden haberse intensificado justo durante las cumbres mundiales sobre seguridad de la IA. El Vaticano vio en Anthropic a una empresa al menos dispuesta a reconocer públicamente que el problema de la inteligencia artificial no puede ser resuelto sólo por la industria tecnológica.