Cloudflare AI Gateway: Auto Router en API-kosten beheren

👁 113 keer gelezen

AI Gateway is de gratis gateway van Cloudflare waarmee je API-verzoeken naar OpenAI, Anthropic, Google of open modellen bundelt en op één centrale plek logs, kosten en limieten bijhoudt. Sinds 30 september 2026 beschikt de dienst over Auto Router, die automatisch een goedkoper model selecteert wanneer een taak geen topmodel vereist. In tests van Cloudflare daalden de kosten per succesvolle taak hierdoor van 0,0210 naar 0,0084 USD. Meer over het complete platform lees je in onze gids over Cloudflare.

De bedragen in EUR zijn indicatieve omrekeningen van de gepubliceerde USD-prijzen tegen de ECB-referentiekoers van 2026-10-12: 1 EUR = 1.1181 USD. Dit zijn geen bevestigde lokale eindprijzen inclusief belastingen. De aanbieder en de bank kunnen andere koersen of kosten hanteren. ECB.

Waarom een gateway tussen je applicatie en het model?

Gebruik je binnen je bedrijf of applicatie meerdere modellen tegelijk, dan loop je al snel tegen dezelfde knelpunten aan: rondslingerende API-sleutels, geen overzicht over wie wat uitgeeft en software die meteen omvalt zodra één provider storing heeft. AI Gateway fungeert als tussenlaag en biedt:

• logs en analyses: elk verzoek, het aantal tokens, de kosten en de responstijd;
• caching: voor exact dezelfde vraag betaal je geen tweede keer;
• limieten en budgetten: voorkomt dat een individuele gebruiker of een op hol geslagen agent ’s nachts je hele maandbudget opmaakt;
• fallback: reageert een provider niet, dan schakelt de gateway direct door naar de volgende;
• DLP (Data Loss Prevention): detectie van gevoelige gegevens in prompts (in het gratis abonnement zitten twee kant-en-klare profielen);
• één sleutel voor meerdere providers: gebruik je eigen API-sleutels (BYOK) of kies voor centrale afrekening via Cloudflare-tegoed.

Hetzelfde principe vind je bij OpenRouter. Het verschil: OpenRouter is vooral een marktplaats voor modellen met één verzamelfactuur, terwijl AI Gateway een beheerlaag vormt die ook met je eigen directe accounts werkt. Hoe tussenpersonen hun prijzen opbouwen, lees je in ons artikel over de werkelijke kosten op OpenRouter.

Auto Router: werking en besparingen

In plaats van een specifieke modelnaam geef je cloudflare/auto op. De gateway doorloopt dan de volgende stappen:

1. Hij filtert de modellen die geschikt zijn voor het verzoek (formaat, jouw beschikbare sleutels, uitgavelimieten en uptime van de provider);
2. Hij stuurt de laatste berichten van het gesprek door een kleine classifier op Cloudflare-GPU’s. Deze deelt de taak in bij een van de 14 categorieën (zoals programmeren, planning, research of data-analyse) en geeft een score van 1 tot 5 op complexiteit, dubbelzinnigheid, risico en contextafhankelijkheid;
3. Dit wordt gecombineerd met benchmarkscores en actuele prijzen: bij eenvoudige taken weegt de prijs zwaarder door, bij lastige opdrachten de kwaliteit;
4. Hij houdt rekening met prompt caching: bij een lange sessie betekent een modelswitch dat de volledige context opnieuw verstuurd moet worden. De router wisselt dus alleen als die overstap onder de streep goedkoper uitvalt.

Resultaten uit de Cloudflare-test

Cloudflare testte de router op een interne set van 97 kantoortaken (e-mail, agenda, Slack, documenten, reizen, financiën), met drie pogingen per model:

Kort samengevat: Auto Router kostte 35% van wat Opus kost en 80% van de prijs van GPT-6 Sol. Het slagingspercentage lag dicht bij Sol en 10 procentpunt onder Opus. Bestaan je taken voornamelijk uit basishandelingen (samenvattingen, e-mailantwoorden, rubriceringen), dan valt het voordeel groter uit. Zijn vrijwel alle verzoeken complex, dan pakt de router logischerwijs alsnog de duurdere modellen. Let op: dit betreft cijfers van Cloudflare zelf; onafhankelijke vergelijkingen ontbreken nog. De router zelf is gratis in bèta, je betaalt puur voor de aangeroepen modellen.

Cloudflare kondigde daarnaast cloudflare/auto-best aan. Deze variant kiest binnen dezelfde selectie altijd het model met de hoogste verwachte uitvoerkwaliteit, ongeacht het tarief.

Web Search API: internettoegang via de gateway

Sinds 2 oktober beschikt de gateway over ingebouwde zoekfunctionaliteit via drie externe partners: Ceramic.ai, Exa en Linkup. De zoekresultaten worden direct als context meegegeven aan het model. De afrekening verloopt via hetzelfde tegoed als de modellen, tegen de standaardtarieven van de partners zonder Cloudflare-marge. Opvallende voorwaarde: de zoekbots van deze partijen moeten voldoen aan Cloudflare’s “Verified bots”-eisen (zich netjes identificeren en robots.txt respecteren) en elk resultaat moet een bronlink bevatten. Voor uitgevers is dat prettig: AI-zoekopdrachten met verplichte bronvermelding.

Je applicatie koppelen: voorbeeld in Python

Omdat AI Gateway een endpoint biedt dat compatibel is met de OpenAI-API, hoef je in bestaande scripts enkel de basis-URL aan te passen. Onderstaand voorbeeld is opgesteld aan de hand van de Cloudflare-documentatie van oktober 2026. We hebben dit script niet live getest, omdat er een Cloudflare-account met Account-ID en API-token voor nodig is.

from openai import OpenAI

ACCOUNT_ID = "jouw_account_id"     # te vinden in het Cloudflare-dashboard (rechterkolom)
GATEWAY_ID = "default"              # naam van je gateway
CF_TOKEN   = "jouw_api_token"       # token met rechten voor AI Gateway

client = OpenAI(
    api_key=CF_TOKEN,
    base_url=f"https://gateway.ai.cloudflare.com/v1/{ACCOUNT_ID}/{GATEWAY_ID}/compat",
)

respons = client.chat.completions.create(
    model="cloudflare/auto",        # of bijvoorbeeld "openai/...", "anthropic/...", "workers-ai/@cf/..."
    messages=[{"role": "user", "content": "Vat in 3 punten samen: wat is een CDN?"}],
)
print(respons.choices[0].message.content)

Enkele aandachtspunten hierbij:

• Modelnamen volgen het stramien provider/model, zoals workers-ai/@cf/meta/llama-3.3-70b-instruct-fp8-fast.
• Authenticatie: betaal je via Cloudflare-tegoed of bewaar je sleutels in de gateway, dan volstaat het Cloudflare-token. Geef je liever de sleutel van de provider mee in je code, zet die dan in api_key en geef je Cloudflare-token mee via de header cf-aig-authorization.
• Bestaande code blijft intact: het formaat van de API-antwoorden is identiek aan dat van OpenAI.

Ga je net van start met API’s? Lees dan eerst ons overzicht over hoe tokens werken en berekend worden; dat bepaalt immers je uiteindelijke factuur.

Wat kost Cloudflare AI Gateway echt?

Voor wie loont dit? Vooral voor ontwikkelteams die maandelijks honderden dollars aan LLM-API’s spenderen en grip willen houden op het verbruik. Experimenteer je af en toe in je eentje, dan heb je meestal genoeg aan een directe API-sleutel met een ingesteld uitgavenplafond bij de aanbieder zelf.

Aandachtspunten en beperkingen

• Je data passeert een extra partij. De gateway leest de inhoud van alle prompts mee. Cloudflare werkt aan filters om uitsluitend providers met zero-data-retention (ZDR) te benutten, maar binnen Auto Router is dat voorlopig nog toekomstmuziek.
• De routering is een black box. In de logboeken zie je welk model gekozen is en welke taakcategorie werd toegekend, maar je kunt zelf geen handmatige weging aanbrengen in de rangschikking.
• Afrekenen via het x402-protocol (waarbij je per verzoek zonder vooraf ingekocht tegoed betaalt) is bij de start alleen beschikbaar voor klanten in de Verenigde Staten.

Bronnen

• Cloudflare - Auto Router (30-09-2026)
• Cloudflare - Web Search API (02-10-2026)
• Cloudflare - AI Gateway Prijzen
• Cloudflare - OpenAI-compatibel endpoint
• Cloudflare - Monetization Gateway en x402 (30-09-2026)

// lees verderCloudflare: wat is het, gratis plan, kosten en AI (2026)AI-toolsMistral kosten: wat betaal je voor Vibe Pro en de API in 2026?AI-toolsCloudflare WARP en 1.1.1.1: is het een VPN en is het de moeite waard?AI-tools

Kinetyra