Modèles décisionnels ou petits LLM : coût, vitesse, précision

promptif@ai:~$ cat news_1 › Dans le Decision Index, les modèles décisionnels répondent de 3 à plus de 20 fois plus vite que les petits modèles de langage.

promptif@ai:~$ cat news_2 › Pourtant, Claude Haiku 5.5 (low) obtient un meilleur score global que chacun d’eux.

promptif@ai:~$ cat news_3 › Côté coût, aucune règle simple : tout dépend du modèle et du nombre de jetons de sortie facturés par le LLM.

promptif@ai:~$ cat news_4 › Voici les mesures d’Artificial Analysis, les tarifs API et un calcul détaillé à partir des jetons.Claude Haiku 5.5 (low) obtient 60,6 points au Decision Index, pour 164,63 € (184,3 USD) par million de tâches selon AA et une médiane de 1 434 ms.

Modèles décisionnels ou petits LLM : coût, vitesse, précision

promptif@ai:~$ open --full Lire la suite Ouvrir l'article sur promptif.fr