Modèles décisionnels ou petits LLM : coût, vitesse, précision

👁 121 lectures

Dans le Decision Index, les modèles décisionnels répondent de 3 à plus de 20 fois plus vite que les petits modèles de langage. Pourtant, Claude Haiku 5.5 (low) obtient un meilleur score global que chacun d’eux. Côté coût, aucune règle simple : tout dépend du modèle et du nombre de jetons de sortie facturés par le LLM. Voici les mesures d’Artificial Analysis, les tarifs API et un calcul détaillé à partir des jetons.

Données arrêtées au 13.10.2026. Ici, l’expression « petits modèles de langage » désigne les variantes moins chères proposées par les fabricants (Haiku, Luna, Flash, Gemma), et non des modèles dont le nombre de paramètres serait confirmé comme faible. Pour comprendre ce qu’est un modèle décisionnel et savoir qui arrive en tête du classement, consultez notre guide Modèles décisionnels IA. Le calcul des économies par million de classifications et le calculateur de cascade sont dans notre guide consacré au modèle décisionnel à la place d’un LLM. Ici, je me concentre sur la comparaison des petits LLM et des modèles décisionnels.

Comparer d’abord la même tâche

Un modèle décisionnel renvoie un choix et la probabilité associée à chaque option. Dans le Decision Index, un modèle de langage classique reçoit les mêmes tâches, mais doit répondre dans un format JSON imposé. Les deux types de modèles traitent ainsi des questions identiques, même s’ils produisent leur réponse différemment (méthodologie AA).

Ne comparez donc pas le Decision Index d’un modèle à l’Intelligence Index d’un autre : ce sont des échelles différentes, même si les deux figurent sur le site d’Artificial Analysis. Vérifiez également la variante indiquée à côté du nom du LLM. Pour AA, Haiku 5.5 en versions low, medium, high, xhigh et max correspond à cinq lignes distinctes, avec des scores, coûts et délais différents.

Enfin, une catégorie correcte n’est pas la même chose qu’une réponse destinée au client. Si votre processus doit produire une justification ou un message après la décision, il faut ajouter une étape de génération de texte. Comparer un classificateur seul à une réponse complète en texte ne revient pas à mesurer la même chose.

Scores, coûts et délais selon AA

Source : classement Decision Index d’AA, consulté le 13.10.2026, avec la comparaison des modèles de langage activée. Les 11 modèles décisionnels du classement et quelques petits LLM sont inclus. La meilleure valeur de chaque colonne est en gras. La ligne Gemini signale une donnée manquante, pas un score nul.

AA calcule les coûts à partir de la consommation de jetons et des tarifs en vigueur, puis estime le coût moyen par tâche pour un million de tâches. Les modèles décisionnels ne facturent que l’entrée, tandis que les LLM facturent l’entrée et la sortie. Le temps indiqué est la médiane des tâches de l’index. Il ne s’agit donc pas d’un tarif pour « un million de décisions quelconques », mais du coût estimé pour un ensemble précis de questions.

Que retenir du tableau ?

• Haiku 5.5 (low) arrive en tête au score : il devance Jev de 3,1 points, mais est environ 11 fois plus lent et 4,4 fois plus cher selon AA.
• La catégorie ne garantit pas un prix inférieur : Clef coûte plus cher que Haiku 5.5 (low) et GPT-6 Luna (low), même s’il répond plus vite. Clef-Omni est plus cher que Luna en version non-reasoning.
• Un LLM plus grand n’est pas forcément meilleur pour décider : Gemma 4 31B avec raisonnement est le modèle le plus cher et le plus lent du tableau, mais devance Luna (low) de justesse au score.
• Les options les plus économiques : Decider v1.1 27B, Microsoft-Decision-1 et Jev 1.13 se situent, selon AA, sur la frontière de rentabilité, c’est-à-dire qu’ils offrent le meilleur score pour leur prix.

La précision dépend du type de décision

Le meilleur score global ne signifie pas qu’un modèle domine dans chaque composante. Selon l’analyse d’AA, les LLM disposent d’un avantage en matière de connaissances, tandis que les meilleurs modèles décisionnels égalent ou dépassent leurs performances en classification de sécurité et en choix d’outils.

Sources des chiffres, consultées le 13.10.2026 : graphiques AA pour AA-Omniscience-Decision, HLE-MultiChoice, When2Call et WildGuardTest. La dernière colonne rassemble les meilleurs scores de modèles différents : ils ne décrivent pas un seul système. Pour savoir comment l’index est construit et ce que mesure chaque test, consultez notre article sur le classement Decision Index.

En pratique, un modèle décisionnel est un candidat sérieux si la tâche consiste à classer un message dans une catégorie bien définie ou à choisir l’étape suivante d’un agent. Si la décision nécessite des connaissances absentes de la requête, un petit LLM a un net avantage. C’est une indication pour concevoir votre échantillon de test, pas la garantie d’obtenir les mêmes résultats dans votre entreprise.

Tarifs API : des unités à distinguer

Sources des tarifs, consultées le 13.10.2026 : Anthropic, OpenAI, Google et Cloudflare. Les tarifs des modèles décisionnels sont ceux des fabricants, rassemblés dans notre guide. Les tarifs de Haiku et Luna correspondent au coût facturé par OpenRouter pour mes requêtes lors du test du 13.10. Les montants du tableau ne tiennent pas compte du cache, des remises sur les traitements par lots ni des suppléments liés au traitement dans l’UE.

À noter pour Gemini 3.8 Flash : Google indique des tarifs de 0,75 USD et 3,75 USD valables jusqu’à la fin de 2026. Avant de faire vos calculs pour l’année suivante, vérifiez le tarif en vigueur. Pour tous les LLM, vérifiez aussi si votre entrée dépasse le seuil de contexte long, auquel cas d’autres tarifs s’appliquent.

Combien coûte un million de tâches avec des hypothèses explicites ?

Il s’agit d’un scénario, pas d’un benchmark. Je pars d’un million d’appels consommant chacun 1 000 jetons d’entrée facturés. Pour les LLM, je compare 50 et 500 jetons de sortie facturés par tâche, en comptant le raisonnement payant. Cette consommation est une hypothèse, pas une prévision de la longueur des réponses d’un modèle.

Coût d’un million de tâches en USD =
jetons d’entrée par tâche * prix par million de jetons d’entrée
+ jetons de sortie par tâche * prix par million de jetons de sortie

Haiku, variante avec 50 jetons de sortie :
1000 * 0.10 + 50 * 0.50 = 125 USD

Calculs effectués à partir des tarifs du 13.10.2026. Les modèles décisionnels ne génèrent pas de texte : leur coût ne dépend donc pas du budget de sortie. Les montants en gras signalent le coût le plus bas dans le scénario, pas le meilleur modèle en qualité.

• Avec une sortie courte, Haiku et Luna coûtent moins cher que Clef dans Workers AI ; avec une sortie plus longue, le rapport s’inverse.
• Dans ce calcul, Gemini 3.8 Flash revient 7,5 fois plus cher que Haiku et Luna, quel que soit le budget de sortie.
• Si les jetons de sortie supplémentaires servent à produire une justification, un modèle décisionnel ne peut pas la remplacer. Ajouter un second modèle génératif implique un appel supplémentaire à prendre en compte.

Utiliser 1 000 jetons pour chaque modèle est une simplification : les tokeniseurs ne comptent pas le même texte de la même façon. Lors de mon test, un ticket polonais avec des questions représentait environ 205 jetons avec Mercury Decide et 650 avec Jev. Haiku, avec ses instructions et son schéma JSON, recevait en moyenne 782 jetons d’entrée. Pour comparer les coûts dans des conditions réelles, relevez donc la consommation indiquée par l’API au lieu de l’estimer à partir de la longueur du message.

Latence : le temps nécessaire pour obtenir une décision complète

En classification, ce qui compte est le moment où l’application peut passer à l’étape suivante. Le premier caractère d’un JSON en cours de génération n’est pas encore une décision : le délai avant le premier jeton et la vitesse de génération ne remplacent pas la mesure de la réponse complète.

Mon test du 13.10.2026, effectué depuis la Pologne via OpenRouter et donc influencé par le temps de réseau, confirme la tendance observée par AA :

• Modèles décisionnels : médiane de 310 à 619 ms, de Clef-Omni, le plus rapide, à Mercury Decide, le plus lent.
• GPT-6 Luna (low) : 1 371 ms.
• Claude Haiku 5.5 (low) : 1 689 ms.
• Gemini 3.8 Flash : lors d’un test distinct réalisé le 5.10.2026 via l’API, médiane de 1 822 ms sur 30 tickets polonais (service correct dans 30 cas sur 30, niveau d’urgence correct dans 26 cas sur 30). Il s’agit d’un autre échantillon, testé un autre jour : je n’ajoute donc pas ce chiffre au tableau AA.

La médiane indique le milieu de la distribution, pas les réponses les plus lentes que les utilisateurs doivent attendre. Dans vos propres tests, relevez aussi les valeurs extrêmes, les erreurs et les nouvelles tentatives. Le temps nécessaire pour traiter un million de décisions l’une après l’autre et l’effet des limites de requêtes sont détaillés dans notre guide sur les coûts.

Précision en polonais : le petit LLM garde une légère avance

Sur 47 tickets polonais non ambigus de mon test, les modèles décisionnels ont correctement identifié le service dans 41 à 44 cas, contre 45 pour Claude Haiku 5.5 (low) et GPT-6 Luna (low). Avec un si petit échantillon, un écart d’un à trois tickets est proche du bruit statistique, mais il va dans le même sens que les résultats AA : pour une classification simple, les petits LLM ont un léger avantage, au prix d’un délai et d’un coût supérieurs. Les résultats détaillés des 11 modèles figurent dans notre guide. Le test a été effectué en polonais ; il ne s’agit pas d’un benchmark en français.

Quel modèle choisir ?

• Modèle décisionnel : si l’étape doit produire une étiquette ou choisir une action et que vous avez des milliers de décisions à prendre. Comparez plusieurs candidats sur les mêmes exemples et utilisez les probabilités pour transmettre les cas incertains à une autre étape.
• Claude Haiku 5.5 : si la décision doit s’accompagner d’un texte ou reposer sur des connaissances absentes de la requête. La variante low obtient le meilleur score de ce comparatif, mais répond plus de 10 fois moins vite que les modèles décisionnels les plus rapides.
• GPT-6 Luna : meilleure précision sur les questions de connaissance parmi les variantes comparées (66,0), mais dans ce test, le modèle ne choisit pratiquement jamais « Je ne sais pas » (0,0) et devine donc plus souvent. Traitez séparément les lignes low, non-reasoning et Decisions : elles correspondent à des scores, coûts et délais distincts.
• Gemini 3.8 Flash : nécessite un test comparatif spécifique. Son tarif permet d’établir un scénario de coût, mais ne remplace pas le score manquant dans le Decision Index.

Questions fréquentes

Un modèle décisionnel est-il toujours moins cher qu’un petit LLM ?

Non. Dans les mesures AA, Clef coûte 178,12 € (199,4 USD) par million de tâches, soit plus que Claude Haiku 5.5 (low) et GPT-6 Luna (low). Tout dépend du modèle choisi, de la longueur de l’entrée et du coût de la sortie.

Un million de jetons équivaut-il à un million de tâches ?

Non. Une tâche consomme de quelques centaines à plusieurs milliers de jetons. Le coût d’un million de tâches se calcule en multipliant le prix par jeton par la consommation mesurée ou clairement définie comme hypothèse.

Gemini 3.8 Flash est-il dernier au Decision Index ?

Rien ne permet de le conclure. Au 13.10.2026, Gemini 3.8 Flash n’avait pas de score dans l’index. L’absence de mesure ne signifie pas une défaite.

GPT-6 Luna et GPT-6 Luna Decisions ont-ils le même score ?

Non. AA distingue le modèle de langage (low : 55,2 points ; non-reasoning : 49,6) de la variante Decisions (48,5 points). Chacun a son propre coût et son propre temps de réponse.

Le score de l’index correspond-il au pourcentage de décisions correctes ?

Non. Il combine quatre mesures différentes. Pour votre application, choisissez la composante pertinente et testez le modèle sur des données représentatives.

Déclaration : je connais Jev depuis une précédente phase d’exploration. En septembre, j’ai écrit un client API simple pour l’utiliser avec mes outils éditoriaux. TypeSafe n’a ni commandé ni financé cet article. Mon évaluation s’appuie sur les mesures indépendantes d’Artificial Analysis et sur mon test, dans lequel tous les modèles ont reçu les mêmes tâches.

Tests personnels : 13.10.2026 (50 tickets polonais, 11 modèles via OpenRouter depuis la Pologne) et 5.10.2026 (30 tickets polonais, dont Gemini 3.8 Flash via API). Conversion indicative des montants USD en EUR au taux de référence de la BCE du 14.10.2026 : 1 EUR = 1,1195 USD. Source : BCE. Ces montants convertis sont des estimations, pas des tarifs de paiement locaux.

// lire la suite18 modèles IA testés : 7 imposent le raisonnementBenchmarksLe modèle refuse de lire le document : test chez trois fournisseursBenchmarksGPT-6 Luna : le modèle OpenAI le moins cher testé pour 0,0024 USDBenchmarks

Kinetyra