Modèle décisionnel ou LLM : coût d’un million de classifications

👁 122 lectures

Un modèle décisionnel plutôt qu’un LLM est intéressant lorsque la réponse appartient à une liste fermée et que vous devez traiter des milliers de décisions par jour. Pour un million de classifications, la différence est de plusieurs fois : selon les mesures d’Artificial Analysis du 13 octobre 2026, les meilleurs modèles décisionnels coûtent entre 10,81 € (12,1 USD) et 20,37 € (22,8 USD), contre 81,73 € (91,5 USD) pour Claude Haiku 5.5. Lors de mon test sur des demandes rédigées en polonais, l’association de Microsoft-Decision-1 et de Claude Haiku 5.5 pour les cas incertains a atteint la même précision que Haiku seul, pour un coût 5,5 fois inférieur. Voici le détail des calculs, un calculateur prêt à l’emploi et les pièges à éviter.

J’explique ce qu’est un modèle décisionnel et lequel est arrivé en tête dans le guide Modèles décisionnels d’IA et dans l’article sur le Decision Index. Ici, je me concentre sur les coûts.

Quand un modèle décisionnel est-il rentable ?

Vérifiez ces cinq critères. Plus vous en remplissez, plus les économies peuvent être importantes :

• La réponse figure dans une liste. Un service, une catégorie, oui ou non, une note sur une échelle, le nom d’un outil. Si vous avez besoin d’une phrase, un modèle décisionnel ne la rédigera pas.
• Le volume de décisions est élevé. À 100 décisions par jour, vous économiserez quelques centimes par mois : il ne vaut pas forcément la peine de modifier un code qui fonctionne. À 10 000 par jour, vous atteignez déjà plusieurs centaines de milliers de décisions par mois.
• Le modèle dispose de toutes les informations nécessaires. Le contenu de la demande, les données de commande, l’historique du client. Pour les questions de connaissances générales, les modèles décisionnels atteignent 28 à 41 % de précision selon AA, contre 52 % pour Claude Haiku 5.5.
• La rapidité compte. Les mesures d’AA indiquent une médiane de 63 à 500 ms par tâche, contre 1,4 à 1,5 s pour les petits LLM. Cette différence compte pour un agent qui prend plusieurs décisions à chaque étape.
• Vous voulez fixer un seuil de confiance. Le modèle décisionnel fournit une probabilité pour chaque option, ce qui permet de transmettre facilement les cas incertains.

Calcul 1 : un million de classifications selon Artificial Analysis

Artificial Analysis indique le coût de chaque test séparément. WildGuardTest est le plus proche d’une classification courante : le modèle évalue si une demande et une réponse sont dangereuses. Voici le coût d’un million de tâches et le score F1 au 13 octobre 2026 :

Conclusion : sur ce test, Decider v1.1 27B et Jev 1.13 classent mieux que Claude Haiku 5.5, pour un coût respectivement 7,6 et 4 fois inférieur. Claude Opus 5.5 fait à peine mieux que Haiku pour cette classification, mais coûte 41 fois plus cher : un grand modèle est tout simplement trop coûteux pour ce type de tâche.

Calcul 2 : un million de demandes polonaises dans mon test

Le 13 octobre 2026, j’ai envoyé 50 demandes polonaises adressées à un magasin via OpenRouter : un service parmi 7 options et le niveau d’urgence dans une seule requête. J’ai mesuré le coût à partir des factures OpenRouter pour chaque requête, puis l’ai extrapolé à un million de demandes. La précision est calculée sur 47 demandes sans ambiguïté ; pour trois d’entre elles, tous les modèles ont choisi un service différent de ma référence. Les détails figurent dans le guide. Le test a été réalisé en polonais, et non en français.

Pourquoi les coûts diffèrent-ils malgré des tarifs par jeton similaires ?

• Le tokenizer. Une même demande en polonais, avec ses questions, représente en moyenne 205 jetons avec Mercury Decide, 280 avec Microsoft-Decision-1 et 650 avec Jev.
• Le prompt du LLM est plus long. Claude Haiku 5.5 recevait une instruction système et un schéma JSON : en moyenne 782 jetons en entrée et 45 en sortie par demande. La sortie coûte 5 fois plus cher que l’entrée.
• Le fournisseur utilisé via OpenRouter. Clef et Clef-Flash passaient par un fournisseur moins cher que Cloudflare ; avec Workers AI, vous auriez payé davantage.

La cascade : la même précision pour une fraction du prix

Un modèle décisionnel fournit un niveau de confiance pour l’option choisie. L’approche la plus simple consiste à accepter la réponse si la confiance atteint au moins 0,8, et à interroger un LLM dans le cas contraire. J’ai fait le calcul à partir des résultats du test, avec Claude Haiku 5.5 (low) comme deuxième étape :

• Microsoft-Decision-1 avec Haiku pour les 6 % de cas incertains a obtenu le même résultat que Haiku seul. Un million de demandes aurait coûté 16,26 € (18,2 USD), contre 90,04 € (100,8 USD), soit 5,5 fois moins.
• Jev a obtenu le moins bon résultat seul (41), mais son niveau de confiance repère bien les erreurs : après transmission des 17 % de cas incertains à Haiku, le résultat est passé à 45.
• Attention à la taille de l’échantillon. Avec seulement 47 demandes, un écart d’une demande peut relever du bruit statistique. Déterminez le taux d’escalade et le seuil à partir d’au moins quelques centaines de vos propres exemples.

Calcul 3 : le temps de traitement

Le coût n’est pas le seul critère. Selon AA, le temps médian par tâche est de 127 ms pour Jev et de 1 434 ms pour Claude Haiku 5.5 (low). Un million de décisions exécutées l’une après l’autre prendrait environ 35 heures avec Jev et près de 400 heures avec Haiku. En pratique, les tâches sont exécutées en parallèle, mais les limites de requêtes du fournisseur entrent alors en jeu : Perplexity, par exemple, autorise 10 requêtes par seconde et par organisation. Pour un agent qui interroge un outil au sujet du service, de l’urgence et de la sécurité à chaque étape, une différence de 1,3 s par décision se ressent côté utilisateur.

Script prêt à l’emploi : calculer les coûts

Entrez vos volumes de jetons et vos tarifs pour que le script calcule le coût du modèle décisionnel, du LLM et de la cascade. Les valeurs par défaut correspondent aux moyennes de mon test (Microsoft-Decision-1 et Claude Haiku 5.5). Je l’ai vérifié le 13 octobre 2026 dans un dossier vierge avec Python 3.13 ; aucune bibliothèque à installer. Avec les valeurs par défaut, le résultat est de 10,51 € (11,76 USD) pour le modèle décisionnel, 89,95 € (100,70 USD) pour le LLM et 15,90 € (17,80 USD) pour la cascade, soit 82 % d’économies. Le script affiche les résultats en USD ; les équivalents en euros sont des estimations.

# Coût d’un million de décisions : modèle décisionnel, LLM et cascade (13.10.2026)
# Exécution : python calculateur_decisions.py (Python 3.8+, aucune bibliothèque supplémentaire)

N = 1_000_000          # nombre de décisions
TOK_WEJ_DEC = 280      # jetons d’entrée par décision pour le modèle décisionnel (à mesurer chez vous)
CENA_DEC = 0.042       # USD par million de jetons d’entrée (Microsoft-Decision-1 ; sortie : 0 USD)
TOK_WEJ_LLM = 782      # jetons d’entrée par tâche pour le LLM (prompt + schéma + demande)
TOK_WYJ_LLM = 45       # jetons de sortie par tâche pour le LLM (JSON + raisonnement)
CENA_LLM_WEJ = 0.10    # USD par million de jetons d’entrée (Claude Haiku 5.5)
CENA_LLM_WYJ = 0.50    # USD par million de jetons de sortie (Claude Haiku 5.5)
ESKALACJA = 0.06       # part des décisions sous le seuil de confiance transmises au LLM


def koszt_dec(n):
    return n * TOK_WEJ_DEC * CENA_DEC / 1e6


def koszt_llm(n):
    return n * (TOK_WEJ_LLM * CENA_LLM_WEJ + TOK_WYJ_LLM * CENA_LLM_WYJ) / 1e6


sam_dec = koszt_dec(N)
sam_llm = koszt_llm(N)
kaskada = koszt_dec(N) + koszt_llm(N * ESKALACJA)
print(f"Modèle décisionnel :    {sam_dec:8.2f} USD")
print(f"LLM :                   {sam_llm:8.2f} USD")
print(f"Cascade ({ESKALACJA:.0%} vers le LLM) : {kaskada:8.2f} USD")
print(f"Économies de la cascade : {sam_llm - kaskada:8.2f} USD ({1 - kaskada / sam_llm:.0%})")

Pour mesurer les jetons, envoyez 50 à 100 de vos vraies requêtes et consultez le champ usage dans la réponse de l’API. OpenRouter y indique également le coût en USD.

Les coûts cachés à ne pas oublier

• Les exemples étiquetés. Pour définir un seuil de confiance, vous avez besoin de plusieurs centaines de demandes accompagnées de la bonne réponse. Cela représente quelques heures de travail humain.
• La calibration en polonais. Dans mon test, les modèles se trompaient sur le niveau d’urgence lorsque les probabilités étaient proches de 0,5 ; avec un seuil de 0,5, Microsoft-Decision-1 produisait 8 fausses alertes. Un seuil de 0,5 est généralement un mauvais choix.
• Les modèles trop sûrs d’eux. Selon AA, tous les modèles décisionnels affichent un niveau de confiance supérieur à ce que leur précision justifie, surtout pour les questions de connaissances générales. Les résultats sont meilleurs en classification, mais vérifiez-les avec vos données.
• Les données personnelles. Jev traite les données aux États-Unis. OpenAI et Microsoft proposent un traitement dans l’UE (avec un supplément de 10 % pour OpenAI). Vous pouvez héberger vous-même les modèles ouverts (Decider, Clef, d1-3B), mais vous devrez alors payer un serveur équipé d’un GPU.
• Deux systèmes au lieu d’un. Une cascade demande du code supplémentaire, de la surveillance et implique deux factures. À petite échelle, la simplicité d’un seul LLM peut valoir davantage que les économies.

Quand garder votre LLM

• vous avez besoin d’une réponse rédigée ou d’une justification de la décision (exception : Celeris-1 Decision fournit une justification en une phrase) ;
• la décision dépend de connaissances générales absentes de la requête ;
• la liste d’options change sans cesse, ou elle est très longue et mal définie ;
• le nombre de décisions est faible : pour 1 000 par mois, Claude Haiku 5.5 coûte environ 0,09 € (0,10 USD).

Questions fréquentes

Combien coûte un million de classifications avec un modèle décisionnel ?

Selon Artificial Analysis, entre 10,81 € (12,1 USD) et 20,37 € (22,8 USD) avec les meilleurs modèles décisionnels (Decider v1.1 27B, Microsoft-Decision-1, Mercury Decide, Jev 1.13), contre 81,73 € (91,5 USD) pour Claude Haiku 5.5 (low). Dans mon test sur de courtes demandes en polonais : entre 3,66 € (4,1 USD) et 24,39 € (27,3 USD), contre 90,04 € (100,8 USD). Le test a été effectué en polonais, et non en français.

Un modèle décisionnel est-il aussi précis qu’un LLM ?

Pour la classification et le choix d’outils, les meilleurs modèles décisionnels atteignent le niveau des petits LLM, voire le dépassent. Ils sont nettement moins performants pour les questions de connaissances générales et les raisonnements difficiles.

Qu’est-ce qu’une cascade de modèles ?

Il s’agit d’une configuration dans laquelle un modèle décisionnel peu coûteux traite les cas avec un niveau de confiance élevé et transmet les autres à un modèle plus cher ou à une personne. Dans mon test, Microsoft-Decision-1 associé à Claude Haiku 5.5 pour 6 % des cas a atteint la précision de Haiku seul, pour 18 % de son coût.

À partir de combien de décisions par jour faut-il passer à un modèle décisionnel ?

Il n’existe pas de seuil universel. Avec les coûts de mon test, les économies par million de demandes se situent autour de 65 à 86 € (73 à 97 USD). Pour 50 000 décisions par jour, soit 1,5 million par mois, cela représente environ 98 à 129 € (110 à 145 USD) par mois. Le temps de réponse est également plusieurs fois plus court.

Déclaration : je connais Jev depuis un précédent travail de reconnaissance ; en septembre, j’ai écrit un client simple pour son API. TypeSafe n’a ni commandé ni financé cet article, et tous les modèles ont reçu les mêmes tâches lors du test.

Sources

• Artificial Analysis Decision Index v1.0 (13 octobre 2026)
• Artificial Analysis : résultats et coûts de WildGuardTest (données consultées le 13 octobre 2026)
• OpenRouter : Decisions API
• Perplexity : limites de l’API Decisions
• Test personnel : 13 octobre 2026, 50 demandes et 10 décisions relatives à des outils, 11 modèles via OpenRouter depuis la Pologne, coût de 0,020 € (0,022 USD).

Les équivalents en euros sont des estimations, et non des tarifs locaux de paiement. Conversion effectuée au taux de référence de la BCE du 14 octobre 2026 : 1 EUR = 1,1195 USD. Source : BCE.

// lire la suiteOpus 5.5 génère du SVG : infographie, lama et animationBenchmarksElevenLabs Scribe en français : test avec noms difficilesBenchmarksReconnaissance des champignons : mon test IA et ses limitesBenchmarks

Kinetyra