Revolut afirma que alojar su propia IA redujo los costes de inferencia hasta un 90 %

Revolut afirma que trasladar algunas tareas de programación con IA de Claude, de Anthropic, a modelos de pesos abiertos alojados por la propia empresa y desarrollados por la china Z.ai redujo los costes de inferencia hasta un 90 % en menos de un año. El banco digital, con sede en Londres, no ha abandonado la IA: dice que sus desarrolladores pueden usar los modelos con más libertad y sin límites de tokens.

David Abitbol, responsable de infraestructura de Revolut, dijo que la empresa era «muy escéptica sobre el coste de la IA» y que al principio impuso límites presupuestarios estrictos. En su intervención en GTC Berlin, afirmó que la opción alojada por la empresa mejoró un 70 % la productividad en los plazos de entrega y un 60 % la productividad en el tiempo dedicado a programar. También destacó la privacidad de los datos y la capacidad de auditoría de los modelos GLM de Z.ai.

Según el artículo, GLM-5.1 redujo los costes de inferencia a unos 0,30 dólares por millón de tokens de entrada y salida, aproximadamente una décima parte del precio de servicios comerciales comparables. Revolut ya opera su propia infraestructura de inferencia, pero alojarla también conlleva gastos de hardware y operación. El artículo afirma que el banco tiene 56 GPU Nvidia B200. El modelo necesita unos 380 GB de memoria GPU; se estima que conservar el contexto requiere otros 6 a 26 GB por usuario.

Abitbol dijo que el código abierto es ahora una prioridad para Revolut y que sus costes son favorables, con facturación fija y sin sorpresas al final del mes. Señaló que los modelos de frontera son la excepción. El artículo atribuye las cifras y declaraciones a Abitbol y a su propio informe; no cuantifica el coste total de infraestructura de Revolut.