Un gasto más inteligente
Incluso Meta —que a principios de este año animaba a los empleados a usar tantos tokens como fuera posible como medida de productividad— ha revisado su postura.
«Nadie debería usar herramientas de IA solo por el hecho de usarlas», escribió el director de tecnología, Andrew Bosworth, en un memorando al personal citado por The Wall Street Journal.
El director de operaciones de Uber fue más allá esta semana y dijo que todo este gasto en IA no muestra ningún aumento apreciable de productividad.
Para recortar costos, algunas empresas optan por modelos de IA gratuitos y de código abierto que cualquiera puede descargar. No son tan potentes como el ChatGPt de OpenAI o el Claude de Anthropic, pero son suficientes para muchas tareas.
Otras eligen modelos más pequeños y especializados (los SLM, Small Language Models), diseñados para sectores concretos como el inmobiliario o las finanzas, en lugar de los grandes modelos de propósito general (los LLM, Large Language Models), base del ChatGPT, Claude o Gemini.
La diferencia de precio puede ser abismal
«El gran modelo monolítico cuesta 15 dólares por millón de tokens, pero uno puede reducirlo a unos cinco centavos si usa el modelo más pequeño», explicó Adrian Balfour, de la consultora Enverso.
Todo apunta a que la IA tenderá a convertirse en un insumo básico, donde el modelo específico pesará menos que su costo y su adecuación a cada uso.
Pero no conviene descartar todavía a los modelos de última generación de los grandes actores.
«Los usuarios más avanzados» siempre estarán dispuestos a pagar por lo mejor, aseguró John Belton, de Gabelli Funds.
«La tarta es cada vez más grande«, agregó.
