Liquid AI lance le modèle LFM2.5 de 24 milliards de paramètres

Liquid AI a publié le 13 octobre LFM2.5-24B-A2B, un modèle de raisonnement à poids ouverts destiné aux agents locaux. Ce modèle à mélange d’experts compte 24 milliards de paramètres au total et en active deux milliards par jeton. Par rapport à son prédécesseur, Liquid AI indique que la fenêtre de contexte passe de 32 768 à 131 072 jetons, le vocabulaire de 65 000 à 128 000 et le préentraînement de 17 à 33 billions de jetons.

L’entreprise rapporte 184 jetons générés par seconde sur Apple M5 Max et plus de 21 000 jetons de sortie par seconde sur un seul NVIDIA B300. Ce dernier chiffre provient d’une charge soutenue à forte concurrence et ne représente pas le débit d’un utilisateur unique; les deux mesures viennent du dispositif de test de Liquid AI. Son tableau montre des résultats mitigés : le modèle devance ou égale les concurrents dans cinq tests d’usage d’outils sur huit, mais reste derrière des modèles plus grands sur certains tests de connaissances et de programmation.