El hombre que está detrás de AlphaGo cree que el IA está tomando el camino equivocado

David Silver dio el mundo su primera visión de superinteligencia.

En 2016, un programa de IA que desarrolló en Google DeepMind, AlphaGo, enseñó por sí mismo a jugar al famoso juego difícil de Go con una suerte de dominio que iba mucho más allá del mimetismo.

Desde entonces, Silver ha fundado su propia empresa, Ineffable Intelligence, que tiene como objetivo crear formas más generales de superinteligencia de IA. La empresa lo hará, dice Silver, centrándose en el aprendizaje de refuerzo, que implica que los modelos de IA aprenden nuevas capacidades mediante ensayo y error. La visión es crear "super aprendices" que vayan más allá de la inteligencia humana en muchos dominios.

Este enfoque contrasta con cómo la mayoría de las empresas de IA planean construir superinteligencia, aprovechando las capacidades de codificación e investigación de los modelos de lenguaje grande.

Silver, hablando con WIRED desde su oficina de Londres, dice que cree que ese enfoque fallará. Por muy sorprendentes que sean los LLM, aprenden de la inteligencia humana, en lugar de construir la suya.

"Los datos humanos son como una especie de combustible fósil que ha proporcionado un atajo sorprendente", dice Silver. "Puedes pensar en sistemas que aprenden por sí mismos como combustible renovable, algo que sólo puede aprender y aprender y aprender para siempre, sin límites", dice.

Me he encontrado con Silver varias veces y, pese a esta proclamación, siempre me ha parecido una de las personas más humildes del IA. A veces, cuando habla de ideas que considera tontas, hace una sonrisa de mal humor. Ahora mismo, sin embargo, está muy en serio.

"Creo que nuestra misión es el primer contacto con la superinteligencia", dice. "Por superinteligencia realmente quiero decir algo increíble. Debería descubrir nuevas formas de ciencia o tecnología o gobierno o economía por sí mismo".

Hace cinco años, tal misión podría parecer ridículo. Pero los consejeros delegados tecnológicos hablan ahora habitualmente de máquinas que superan la inteligencia humana y que sustituyen a categorías enteras de trabajadores. La idea de que un nuevo giro técnico podría desbloquear capacidades de IA sobrehumanas ha generado recientemente una serie de startups de mil millones de dólares.

Hasta ahora, Inefable Intelligence ha recaudado 1.100 millones de dólares en financiación inicial con una valoración de 5.100 millones de dólares, suma enorme según los estándares europeos de IA. Silver también ha contratado a los mejores investigadores de IA de Google DeepMind y otros laboratorios de frontera para unirse a su esfuerzo.

Silver dice que dará todo el dinero que gane con el capital de Effable Intelligence, una suma que podría ascender a miles de millones si tiene éxito, en la caridad.

"Es una gran responsabilidad construir una empresa centrada en la superinteligencia", me dice. "Creo que esto es algo que debe hacerse en beneficio de la humanidad, y todo el dinero que gane con Inefable irá destinado a organizaciones benéficas de alto impacto que salvan tantas vidas como sea posible".

Enfoque total

Silver conoció a Demis Hassabis, el CEO de Google DeepMind, en un torneo de ajedrez cuando era niño, y la pareja se convirtió más tarde en amigos y colaboradores de toda la vida.

Permanecieron cerca después de que Silver abandonara Google DeepMind, algo que hizo sólo porque quería trazar un camino completamente nuevo. "Creo que es muy importante que haya un laboratorio de IA de élite que en realidad se centre al cien por cien en ese enfoque", dice. "Que no es sólo un rincón de otro sitio dedicado a los LLM".

Los límites del enfoque basado en LLM pueden verse, dice Silver, con un simple experimento de pensamiento. Imagínese retroceder en el tiempo y lanzar un gran modelo de lenguaje en un mundo que creía que el mundo era plano. Sin poder interactuar con el mundo real, el sistema, dice, seguiría siendo un ávido de la tierra plana, incluso si continuara mejorando su propio código.

Un sistema de IA que pueda aprender sobre el mundo por sí mismo, sin embargo, podría hacer sus propios descubrimientos científicos.