Cloudflare AI Gateway : Auto Router, limites et coûts des API IA

👁 118 lectures

AI Gateway est une passerelle gratuite de Cloudflare à travers laquelle vous acheminez vos requêtes vers OpenAI, Anthropic, Google ou des modèles open source, afin de centraliser vos logs, vos coûts et vos quotas au même endroit. Depuis le 30 septembre 2026, elle intègre l’Auto Router, qui sélectionne automatiquement un modèle plus abordable dès qu’une tâche ne requiert pas le plus puissant - dans le test mené par Cloudflare, le coût par tâche réussie a chuté de 0,0210 à 0,0084 USD. Nous détaillons l’ensemble de la plateforme dans notre guide dédié à Cloudflare.

Pourquoi placer une passerelle entre votre application et les modèles

Dès qu’une entreprise ou une application commence à solliciter plusieurs modèles, les mêmes difficultés apparaissent rapidement : clés d’API dispersées, absence de suivi précis des dépenses et risque d’interruption totale du service dès qu’un fournisseur subit une panne. AI Gateway s’intercale au milieu et apporte plusieurs briques essentielles :

• Logs et analytique - détail de chaque requête, volume de jetons, coût estimé et latence de réponse ;
• Mise en cache - une question identique ne génère pas de nouvelle facture au fournisseur ;
• Quotas de requêtes et budgets - pour éviter qu’un utilisateur ou une boucle infinie d’agent n’épuise votre budget mensuel en pleine nuit ;
• Fallback automatique - si un fournisseur est indisponible, la passerelle bascule sur le modèle de secours de votre choix ;
• DLP (prévention des fuites de données) - détection des données sensibles dans les requêtes (deux profils prédéfinis inclus dans l’offre Free) ;
• Une clé unique pour plusieurs fournisseurs - possibilité d’utiliser vos propres clés (BYOK) ou de centraliser les paiements via les crédits Cloudflare.

On retrouve une logique similaire chez OpenRouter. La nuance réside dans le fait qu’OpenRouter fonctionne avant tout comme une place de marché avec une facturation unique, tandis qu’AI Gateway agit comme une couche d’infrastructure et de contrôle exploitable avec vos propres comptes fournisseurs. Pour mieux comprendre la structure réelle de ces coûts intermédiaires, consultez notre analyse : le tarif affiché sur OpenRouter n’est pas forcément ce que vous payez.

Auto Router : fonctionnement et économies constatées

Au lieu de spécifier un nom de modèle précis, vous renseignez simplement cloudflare/auto. La passerelle opère ensuite en quatre temps :

1. Elle filtre les modèles capables de traiter la requête (format attendu, clés configurées, budgets alloués, disponibilité du prestataire) ;
2. Elle soumet les derniers messages de la conversation à un classifieur léger déployé sur les GPU de Cloudflare, qui rattache la tâche à l’une de ses 14 catégories (code, planification, recherche documentaire, analyse de données, etc.) et lui attribue une note de 1 à 5 sur sa complexité, son niveau d’ambiguïté, son niveau d’exigence et sa dépendance au contexte ;
3. Elle croise cette analyse avec les scores des modèles sur divers benchmarks et leurs grilles tarifaires - pour les tâches basiques, le prix pèse lourd dans l’arbitrage ; pour les tâches complexes, la qualité prime ;
4. Elle intègre le coût de la mise en cache : au cours d’une longue session, changer de modèle impose de réinjecter l’ensemble de l’historique, si bien que le routeur ne commute de modèle que si l’économie réalisée compense ce surcoût.

Résultats des tests publiés par Cloudflare

L’équipe de Cloudflare a testé son routeur sur une suite interne de 97 tâches bureautiques réelles (e-mails, agenda, Slack, manipulation de documents, réservations de déplacements, gestion financière), avec trois essais par modèle :

Ce tableau met en lumière un ratio intéressant : Auto Router coûte environ 35 % du prix d’Opus et 80 % de celui de GPT-6 Sol, tout en offrant un taux de réussite très proche de Sol et inférieur d’environ 10 points à Opus. Si votre charge applicative est dominée par des tâches simples (synthèses brèves, tri de courriers, classification), l’économie financière sera massive. Si vos prompts sont presque tous ardus, le routeur se tournera majoritairement vers des modèles haut de gamme. Gardez en tête qu’il s’agit de mesures communiquées par Cloudflare ; aucun benchmark indépendant n’est encore disponible. Le routeur est actuellement utilisable sans surcoût pendant sa phase bêta, vous ne payez que les tokens des modèles activés.

Cloudflare a par ailleurs annoncé l’arrivée prochaine de cloudflare/auto-best, qui sélectionnera le meilleur modèle attendu dans le catalogue sans prendre le critère financier en compte.

Web Search API : intégrer la recherche web directement dans la passerelle

Depuis le 2 octobre 2026, la passerelle propose l’accès à un moteur de recherche en ligne propulsé par trois partenaires : Ceramic.ai, Exa et Linkup. Les extraits collectés sont injectés dans le contexte du modèle, et les frais associés sont débités sur le même solde de crédits que les modèles, aux tarifs catalogue officiels des partenaires, sans marge supplémentaire prise par Cloudflare. Une contrainte notable est imposée : les robots de ces partenaires doivent respecter le programme « Verified bots » de Cloudflare (identification transparente, respect scrupuleux du fichier robots.txt), et chaque résultat doit obligatoirement mentionner son URL source. Pour les éditeurs de contenus en ligne, cette garantie d’attribution systématique dans les requêtes d’agents IA est un point rassurant.

Comment connecter son application : exemple pratique en Python

AI Gateway met à disposition un point de terminaison entièrement compatible avec la structure de l’API OpenAI. Il suffit généralement d’ajuster l’URL de base dans votre code actuel. L’exemple suivant est conçu d’après la documentation officielle de Cloudflare d’octobre 2026. Nous ne l’avons pas testé directement, sa mise en œuvre nécessitant un compte Cloudflare actif, un identifiant de compte et un jeton d’API valide.

from openai import OpenAI

ACCOUNT_ID = "votre_account_id"     # tableau de bord Cloudflare, colonne de droite
GATEWAY_ID = "default"              # nom de votre passerelle
CF_TOKEN   = "votre_token_api"      # jeton avec les autorisations AI Gateway

client = OpenAI(
    api_key=CF_TOKEN,
    base_url=f"https://gateway.ai.cloudflare.com/v1/{ACCOUNT_ID}/{GATEWAY_ID}/compat",
)

odp = client.chat.completions.create(
    model="cloudflare/auto",        # ou p. ex. "openai/...", "anthropic/...", "workers-ai/@cf/..."
    messages=[{"role": "user", "content": "Résumez en 3 points : qu'est-ce qu'un CDN ?"}],
)
print(odp.choices[0].message.content)

Quelques remarques sur ce fonctionnement :

• Nomenclature des modèles : ils s’identifient sous la forme fournisseur/nom-du-modele, comme workers-ai/@cf/meta/llama-3.3-70b-instruct-fp8-fast.
• Authentification : si vous réglez par le biais des crédits Cloudflare ou stockez vos clés secrètes dans l’interface de la passerelle, votre jeton Cloudflare suffit. Si vous préférez déclarer la clé API du fournisseur directement dans votre code, placez-la dans api_key et transmettez le jeton Cloudflare via l’en-tête HTTP cf-aig-authorization.
• Continuité logicielle : la structure de la réponse renvoyée par l’API demeure identique aux spécifications d’OpenAI.

Si vous découvrez l’utilisation de ces interfaces programmatiques, nous vous recommandons de consulter au préalable notre dossier expliquant ce que sont les tokens et comment ils sont facturés, car ils constituent la base de votre facture.

Combien coûte réellement Cloudflare AI Gateway ?

Pour qui cette solution est-elle pertinente ? Elle s’adresse principalement aux équipes de développement et aux entreprises qui dépensent plusieurs centaines de dollars par mois en API et qui cherchent une visibilité chirurgicale sur les coûts de chaque composant. Pour une utilisation individuelle occasionnelle en phase d’expérimentation, une simple clé API assortie d’un plafond budgétaire chez le fournisseur initial reste amplement suffisante.

Les points de vigilance

• Vos données transitent par un intermédiaire additionnel. La passerelle a visibilité sur les données textuelles de vos requêtes. Cloudflare prévoit un mode d’acheminement ZDR (sans rétention de données chez les fournisseurs), mais son intégration globale à l’Auto Router n’en est qu’au stade de projet.
• Le routeur fonctionne comme une boîte noire. Vos tableaux de bord afficheront bien le modèle retenu et la catégorie détectée, mais vous n’avez pas la main sur les critères précis d’évaluation et de classement interne de chaque tâche.
• Le règlement par protocole x402 (paiement à la volée pour chaque requête sans acheter de solde de crédits à l’avance) est restreint aux entreprises basées aux États-Unis pour son lancement initial.

Sources

• Cloudflare - Auto Router (30/09/2026)
• Cloudflare - Web Search API (02/10/2026)
• Cloudflare - Grille tarifaire AI Gateway
• Cloudflare - Documentation du point de terminaison compatible OpenAI
• Cloudflare - Monetization Gateway et protocole x402 (30/09/2026)

// lire la suiteRailway Hobby : prix, calcul de facture et limites de dépensesOutils d'IAWispr Flow au travail : e-mails, notes, code - usages et limitesOutils d'IAPrix Framer : plans Basic et Pro, domaine et limites en 2026Outils d'IA

Kinetyra