Ingenieros de Amazon están destilando modelos de Anthropic para reducir costos antes de nuevo sistema de precios por tokens

Amazon destila modelos de Anthropic ante cambio de precios por tokens

Los ingenieros de Amazon están comprimiendo los modelos de Anthropic en versiones más ligeras para ahorrar costos. La razón: un cambio inminente en el modelo de facturación que podría disparar sus gastos operativos en inteligencia artificial.

¿Qué ha pasado?

Equipos técnicos de Amazon han comenzado a aplicar técnicas de destilación de modelos sobre los sistemas de Anthropic, según revelan fuentes cercanas a la compañía. Este proceso permite crear versiones más compactas y económicas de modelos grandes, manteniendo gran parte de su capacidad.

La iniciativa responde a un cambio fundamental en la estructura de precios de Anthropic previsto para 2025. La empresa fundada por ex-miembros de OpenAI pasará de cobrar por horas de cómputo a facturar por tokens procesados, el método estándar en la industria que adoptan compañías como OpenAI y Google.

Para Amazon, que ha invertido 8.000 millones de dólares en Anthropic y utiliza sus modelos internamente, esta transición podría multiplicar significativamente los costos operativos. La destilación permite reducir el tamaño de los modelos entre 40% y 80%, disminuyendo proporcionalmente el consumo de tokens y, por tanto, el gasto asociado.

Paralelamente, Amazon estaría explorando alternativas como los modelos de OpenAI, evaluando opciones antes de que el nuevo sistema de precios entre en vigor.

Por qué importa

Este movimiento expone una tensión creciente entre proveedores e integradores de IA. Aunque Amazon es el mayor inversor de Anthropic, esto no le garantiza condiciones preferenciales cuando los modelos de negocio cambian.

Para las empresas que consumen servicios de IA a gran escala, el cobro por tokens puede resultar considerablemente más caro que los modelos basados en tiempo de cómputo, especialmente en aplicaciones con alto volumen de procesamiento. Una transición mal gestionada puede convertir proyectos viables en insostenibles económicamente.

La destilación de modelos emerge como estrategia clave de optimización. Permite a las organizaciones mantener capacidades avanzadas de IA reduciendo dependencia y costos, aunque requiere expertise técnico significativo. No todas las empresas cuentan con los recursos de Amazon para ejecutar estos procesos internamente.

El caso también ilustra la volatilidad del mercado de IA empresarial. Incluso relaciones estratégicas con inversiones multimillonarias no inmuniza contra cambios que pueden alterar radicalmente la ecuación económica de proyectos en producción.

Contexto

Anthropic ha mantenido tradicionalmente un modelo de precios diferenciado, cobrando por tiempo de cómputo en lugar del estándar industrial basado en tokens. Este enfoque ofrecía ventajas para casos de uso específicos, pero alejaba a la compañía de la estructura adoptada por competidores como OpenAI, Google o Meta.

La destilación de modelos es una técnica establecida en investigación de IA. Consiste en entrenar un modelo pequeño (estudiante) para que replique el comportamiento de uno grande (maestro), logrando eficiencia operativa sin sacrificar excesivamente rendimiento. Google, Microsoft y Meta han publicado investigación extensa sobre estas técnicas.

La situación refleja además la compleja red de alianzas en la industria: Amazon invierte en Anthropic mientras ofrece Bedrock, su plataforma de modelos que incluye opciones de múltiples proveedores, incluido el propio Anthropic para clientes externos.

---