TypeSafe AI lance Jev, un modèle qui produit des probabilités plutôt que du texte

👁 119 lectures

TypeSafe AI a publié cette semaine Jev, un modèle transformer qui ne produit pas de texte mais des probabilités - ce que la société appelle des «décisions calibrées» -, attirant une demande si forte que l’API de la startup a été temporairement hors service. Cette approche radicalement différente des modèles de langage traditionnels représente un changement de paradigme dans l’utilisation de l’intelligence artificielle pour l’automatisation.

Un nouveau type de modèle d’IA conçu pour l’automatisation

Fondée il y a deux ans par Diogo Almeida, ancien chercheur chez OpenAI et co-inventeur du RLHF, TypeSafe AI part d’un constat : «Nous sommes très bons en langage humain depuis quatre ans, mais ce n’est pas utile pour l’automatisation parce que les ordinateurs parlent un autre langage», a déclaré Almeida. Contrairement aux modèles de langage classiques qui génèrent du texte libre, Jev fonctionne différemment. Il produit des probabilités pour des sorties prédéfinies par l’utilisateur. Concrètement, au lieu de demander à un modèle de générer une réponse textuelle qui devra ensuite être interprétée, vous définissez à l’avance les options possibles et Jev vous indique quelle option est la plus probable avec un score de confiance. Cette architecture présente un avantage majeur : parce que les sorties sont définies à l’avance par l’utilisateur, le modèle ne peut pas halluciner. Les hallucinations, ces erreurs où un modèle invente des informations, sont éliminées par conception puisque le modèle ne peut choisir que parmi les options fournies.

Des performances impressionnantes et un modèle tarifaire inversé

Les premiers retours chiffrés illustrent l’écart de performance. Vercel a remplacé ChatGPT Luna 5.6 par Jev pour classifier des commandes et obtenu des résultats 5 à 18 fois plus rapidement. Bryo AI a testé Jev face à Gemini sur la classification d’e-mails professionnels : Gemini était légèrement plus précis, mais 10 à 20 fois plus coûteux. Ces gains de vitesse et de coût s’expliquent par la nature même du modèle : produire une probabilité pour des options prédéfinies demande beaucoup moins de calcul que générer du texte token par token. La tarification reflète cette différence : les tokens de sortie sont gratuits ; les tokens d’entrée sont facturés au milliard, et non au million. Ce modèle économique inversé par rapport aux modèles de langage traditionnels rend Jev particulièrement attractif pour les tâches de classification à grande échelle.

Applications pratiques pour les systèmes d’IA en production

Au-delà du remplacement ponctuel de LLM, Jev est aussi envisagé pour surveiller les agents IA, détecter les jailbreaks et router les requêtes vers le bon modèle en temps réel. Pour les entreprises qui déploient des systèmes d’IA, ces cas d’usage sont cruciaux. La surveillance d’agents permet de vérifier qu’un système autonome prend les bonnes décisions. La détection de jailbreaks aide à identifier les tentatives de contournement des garde-fous de sécurité. Le routage intelligent permet d’orienter chaque requête vers le modèle le plus approprié, optimisant ainsi les coûts et les performances. Dans tous ces scénarios, la rapidité et la fiabilité de Jev offrent des avantages décisifs par rapport aux modèles de langage classiques.

Questions fréquentes

Qu’est-ce qui distingue Jev des modèles de langage traditionnels ?

Jev est un modèle transformer qui produit des probabilités pour des sorties prédéfinies plutôt que de générer du texte libre. Cette approche élimine les hallucinations puisque le modèle ne peut choisir que parmi les options définies à l’avance par l’utilisateur.

Qui a créé TypeSafe AI et Jev ?

TypeSafe AI a été fondée il y a deux ans par Diogo Almeida, ancien chercheur chez OpenAI et co-inventeur du RLHF, une technique d’apprentissage par renforcement utilisée pour entraîner les modèles d’IA.

Quels gains de performance ont été observés avec Jev ?

Vercel a obtenu des résultats 5 à 18 fois plus rapidement en remplaçant ChatGPT Luna 5.6 par Jev pour la classification de commandes. Bryo AI a constaté que Jev était 10 à 20 fois moins coûteux que Gemini pour la classification d’e-mails, bien que Gemini soit légèrement plus précis.

// lire la suiteFreepik AI Advanced Inpaint : retouche produit sans PhotoshopGuidesTypeSafe AI lance Jev, un modèle qui renvoie des chiffres plutôt que du texteActualitésPreload GTA 6 : heure sur PS5 et Xbox, date et taille en GoActualités

Kinetyra