Sakana AI apuesta por la IA que se mejora a sí misma para romper la carrera armamentista computacional

Sakana AI apuesta por la IA automejorable frente al poder de cómputo

La carrera por la inteligencia artificial avanzada podría tener una alternativa al modelo dominante de acumular recursos computacionales masivos. Sakana AI, startup japonesa cofundada por Llion Jones, coautor de la arquitectura Transformer, acaba de inaugurar un laboratorio dedicado exclusivamente a desarrollar sistemas de mejora recursiva y autónoma (RSI).

¿Qué ha pasado?

Sakana AI ha lanzado un laboratorio especializado en recursive self-improvement (RSI), tecnología que permite a los sistemas de IA mejorarse a sí mismos de forma autónoma. La iniciativa representa una apuesta estratégica diferente a la adoptada por los grandes laboratorios estadounidenses, que centran sus esfuerzos en escalar recursos computacionales.

Llion Jones, cofundador de la compañía y coautor del paper original de Transformer publicado en 2017, lidera esta aproximación desde Japón. La startup plantea que la mejora recursiva puede convertirse en un camino más eficiente hacia sistemas de IA avanzados, reduciendo la dependencia de infraestructuras computacionales multimillonarias.

El anuncio coincide con advertencias de Anthropic, que ha señalado públicamente los riesgos de control asociados a esta misma tecnología. La empresa de seguridad en IA considera que los sistemas capaces de mejorarse autónomamente presentan desafíos únicos en términos de alineamiento y supervisión humana.

Por qué importa

La propuesta de Sakana AI desafía la narrativa dominante en el desarrollo de IA, donde empresas como OpenAI, Google DeepMind y Anthropic compiten por acumular mayor capacidad de procesamiento. Esta carrera armamentista computacional requiere inversiones de miles de millones de dólares en chips y centros de datos.

Si la mejora recursiva autónoma demuestra ser viable, podría democratizar parcialmente el acceso a IA avanzada. Empresas y países sin presupuestos masivos para infraestructura tendrían una vía alternativa para competir en la frontera tecnológica.

Sin embargo, la tensión con las preocupaciones de seguridad es evidente. Anthropic advierte precisamente sobre sistemas que puedan evolucionar más allá del control humano directo. Un sistema de RSI mal alineado podría optimizarse hacia objetivos no deseados antes de que los desarrolladores detecten el problema.

La cuestión central es si es posible diseñar sistemas automodificables que mantengan objetivos estables y verificables a través de ciclos sucesivos de mejora, un problema técnico y filosófico todavía sin resolver.

Contexto

El concepto de mejora recursiva no es nuevo en el campo de la IA. Investigadores como I.J. Good especularon sobre "máquinas ultrainteligentes" que podrían diseñar máquinas aún mejores ya en los años sesenta. Sin embargo, la idea permaneció mayormente teórica hasta años recientes.

El debate sobre RSI se intensificó con el surgimiento de sistemas de IA capaces de escribir código y razonar sobre su propia arquitectura. Empresas como DeepMind han explorado técnicas de meta-aprendizaje y optimización neural automatizada, aunque ninguna había establecido un laboratorio dedicado exclusivamente a esta aproximación.

La posición de Anthropic refleja la creciente preocupación en seguridad de IA sobre sistemas que escapan al control interpretable. Su propio trabajo en "Constitutional AI" busca precisamente mantener alineamiento en sistemas cada vez más capaces.

---