Anthropic cree que su propio éxito es clave para hacer que la IA sea segura

Anthropic ha gastado en los últimos cinco años advirtiendo al mundo sobre cómo la inteligencia artificial avanzada podría permitir la destrucción masiva, desestabilizar a la sociedad y causar una letanía de otros daños graves. Pero simultáneamente, se ha convertido en una de las fuerzas más poderosas que impulsan las capacidades de IA. La empresa se encuentra ahora entre los principales desarrolladores y distribuidores de modelos de IA de vanguardia y clientes de tribunales como el ejército estadounidense. Recientemente se valoró en casi 1 billón de dólares.

A simple vista, el mensaje duro de Anthropic y sus acciones parecen fundamentalmente contradictorias.

Pero dentro de la empresa, mucha gente no ve contradicción alguna. Para entender por qué, primero debes entender que Anthropic funciona en función de dos creencias básicas. La primera es que la inteligencia artificial es la tecnología más transformadora de la historia de la humanidad y su llegada es inevitable. La única pregunta real es si conduce a una catástrofe oa una extraordinaria prosperidad.

La segunda es que Anthropic cree que el mundo irá mejor si se mantiene en la frontera de la carrera de la IA, según varios antiguos empleados que hablaron con WIRED a condición de anonimato. Internamente, los líderes y los empleados de la empresa a menudo se refieren a sí mismos como los "buenos", es decir, los responsables de la tecnología de IA, dijeron dos de las fuentes. La empresa ve acumular poder, ya sea en forma de capital, informática, talento investigador o influencia política, no como un fin en sí mismo, sino como el precio de cumplir su misión: "garantizar que el mundo realice la transición con seguridad mediante una IA transformadora".

Helen Toner, directora ejecutiva del Centro de Seguridad y Tecnología Emergente de Georgetown y antiguo miembro de la junta de OpenAI, utiliza una analogía para describir la visión del mundo de Anthropic. Compara la poderosa IA con un bosque lleno de tesoros mágicos y monstruos peligrosos. Todos los aldeanos cercanos se están precipitando, atraídos por el tesoro. En su relato, Anthropic quiere aventurarse más lejos en el bosque que nadie mientras invierte mucho en domesticar a los monstruos, es decir, capturando los beneficios de la IA a la vez que contiene sus riesgos catastróficos.

"Lo que caracteriza a Anthropic es que dicen: "La gente va al bosque de todos modos, primero tenemos que hacerlo". Esta es muy explícitamente su estrategia: crear una IA de vanguardia para ser un jugador serio en la mesa que pueda hablar de cómo son los sistemas de IA de vanguardia, qué riesgos suponen y presionar por salvaguardes. "Son muy sencillos al respecto. Es una estrategia lo suficientemente extraña como para que la gente tenga dificultades para escucharla".

El director general de Anthropic, Dario Amodei, describió claramente ese enfoque en una conversación con sus cofundadores publicada en la página de carrera de la empresa: "Tienes que encontrar una manera de ser realmente competitivo, de liderar la industria en algunos casos y, sin embargo, conseguir hacer las cosas con seguridad", dice. "Si puedes hacerlo, la atracción gravitatoria que ejerces es tan grande".

Anthropic fue fundada en 2021 por un grupo de antiguos empleados de OpenAI que desertaron tras perder la fe en la capacidad del liderazgo de la empresa, especialmente el CEO Sam Altman, para llevar de forma segura la IA transformadora al mundo. Este sentimiento todavía configura a la empresa hoy. Dos de los antiguos empleados con los que hablé dicen que, en las discusiones internas, los ejecutivos de Anthropic a menudo describen a Altman y OpenAI —y, en menor medida, a la xAI de Meta y Elon Musk— como ejemplos de precaución que ayudan a definir el sentido de la responsabilidad de Anthropic.

En muchos aspectos, Anthropic es como cualquier otra empresa de Silicon Valley. Muchas startups se comercializan como David luchando contra los goliados obsoletos y arraigados de las industrias que desean interrumpir. Google, Facebook y Apple se basaron en principios idealistas, que más tarde se oscurecieron o fueron abandonados por completo a medida que se hicieron más ricos, mayores y más influyentes.