Cloudflare har lagt till en webbsökning API beta till AI Gateway, vilket ger agenter och AI-applikationer ett sätt att söka på internet direkt genom samma gatewaylager som redan används för modelltrafik. Funktionen är ny, smal i yta och fortfarande i beta, men den pekar på ett större skifte: sökning blir ett fakturerbart AI-verktyg, inte bara en integration på applikationssidan.

Företaget tillkännagav betaversionen den 2 oktober 2026. Vid lanseringen listar Cloudflare Ceramic.ai, Exa och Linkup som valbara sökleverantörer. Utvecklare kan skicka sökförfrågningar via AI Gateway, få dessa förfrågningar att visas i gatewayloggar och betala för dem via AI Gateway-krediter till varje leverantörs angivna pris API. Cloudflare säger att det inte lägger till en ytterligare markering. Team kan också använda leverantörsuppgifter med ta med din egen nyckel där det stöds.

Den kombinationen är viktig eftersom den förenar tre problem som ofta hanteras separat: verktygsdirigering, observerbarhet och fakturering. För utvecklare som bygger hämtningsförstärkta agenter, forskningsassistenter, supportrobotar eller automatiserade försäljningsarbetsflöden är frågan inte längre bara vilken modell som genererade svaret. Det är också vilken sökleverantör som anropades, under vems uppgifter, till vilket pris och om de resulterande utgifterna kan kopplas till en kund, ett team, ett projekt eller API-nyckel.

Vad ändrades

Tills nyligen kretsade många AI-gateway-diskussioner kring modellanrop: OpenAI-kompatibla slutpunkter, leverantörsfel, tokenredovisning, latens, cachning och förfrågningsloggar. Cloudflares webbsökning API beta lägger till en annan typ av transaktion till det kontrollplanet. Ett sökanrop kan stödja ett modellsvar, men det är inte i sig en modellinferensbegäran. Den har olika prissättning, olika leverantörssemantik och olika styrningsfrågor.

Cloudflares lansering gör sökleverantören till ett konfigurerbart gatewayval snarare än ett hårdkodat programberoende. Utvecklare kan välja bland de listade leverantörerna, dirigera samtalet genom AI Gateway och se det tillsammans med annan AI-trafik. Om kunden använder Cloudflare-hanterad fakturering körs debiteringen mot AI Gateway-krediter. Om kunden tar med en leverantörsnyckel kan gatewayen fortfarande ligga i vägen för routing och loggning.

Det är en meningsfull produktgräns. Sök är inte längre en osynlig hjälpare gömd bakom ett agentramverk. Det blir ett förstklassigt evenemang i gateway-rekord. För en multi-model API gateway för team är det skillnaden mellan "agenten var dyr" och "det här arbetsflödet spenderade pengar på modelltokens, cachad kontext och sex livesökanrop."

Varför bör gateway-team bry sig

Den omedelbara publiken är utvecklare som redan använder Cloudflare AI Gateway, särskilt de som bygger applikationer som behöver ny information. Sökning kan hjälpa till att hitta svar i livedata, men det introducerar också en annan kostnadsenhet och en annan källa till leverantörsberoende. Om en supportagent söker i dokumentation, en efterlevnadsassistent kontrollerar aktuella policysidor eller ett marknadsövervakande arbetsflöde skannar webben upprepade gånger, kan sökavgifter bli operativt viktiga även när tokenanvändningen ser blygsam ut.

Detta är samma mönster som nu visas i agentinfrastrukturen. Värdbaserade skalverktyg, webbläsaranvändning, kodgranskningsagenter och hämtningstjänster förvandlas alla till mätoperationer runt modellen. Tokens spelar fortfarande roll, men de är inte längre hela huvudboken. En användbar gateway måste förklara utgifterna över hela arbetsflödet, inte bara det slutliga slutförandet.

För företag påverkar det återkrav och marginal. En återförsäljare eller internt plattformsteam kan behöva bestämma om sökutgifterna ska skickas till leverantörens listpris, märkas upp, paketeras i en plan eller blockeras som standard. Ett finansteam kanske vill veta om en kunds faktura ökade på grund av större uppmaningar, fler utdatatokens, cachebeteende eller webbsökvolym. Produktteam kanske vill ha användningsrapporter som skiljer bakgrundsberikning från användarsynlig generation.

Det skapar en praktisk öppning för starkare unified AI API fakturering. Faktureringsmodellen måste täcka tokens, cachade tokens och verktygsanrop utan att platta dem till en enda vag "AI-användning"-rad. Annars kan kunderna inte se vilken del av ett agentsystem som driver kostnaden.

Konsekvenserna för utvecklaren

Utvecklare måste behandla webbsökning som en del av applikationens API-design, inte bara som en snabb förbättring. Sökleverantören ska vara synlig i konfigurationen. Autentiseringsuppgifter bör omfattas. Loggar bör bevara tillräckligt med information för att felsöka leverantörens beteende och kundutgifter utan att bevara onödiga känsliga data. Felhantering bör skilja ett modellfel från ett fel i sökleverantören, eftersom användarupplevelsen och strategin för ett nytt försök kan vara annorlunda.

Det finns också en routingfråga. Ceramic.ai, Exa och Linkup är inte utbytbara i alla användningsfall. Sökkvalitet, täckning, latens, resultatformat och prissättning kan alla påverka nedströmsmodellens beteende. En gateway som kan dirigera mellan leverantörer ger utvecklare flexibilitet, men den kräver också policy: vilken leverantör är godkänd för vilken hyresgäst, vilka regioner eller dataklasser är tillåtna och om BYOK-uppgifter krävs för vissa kunder.

För Model Gate och liknande produkter är den praktiska kopplingen direkt. Om kunder bygger agenttjänster ovanpå en gateway kommer de så småningom att be om att sökanvändning ska visas bredvid modellanvändning i samma analysyta. Partner API:er kan också behöva exponera söksamtalsposter så att nedströmsplattformar kan fakturera sina egna kunder korrekt. Att behandla sökning som ett förstklassigt fakturerbart verktyg skulle passa naturligt bredvid API-nyckelhantering, teamkontroller och användningsanalys.

Det betyder inte att varje gateway behöver kopiera Cloudflares exakta leverantörslista. Den viktigaste punkten är strukturell: när direktsökning är tillgänglig via en gateway, blir verktygsmätning en del av gatewaykontraktet. Ett team AI API spend control som ignorerar verktygsanrop kommer att underskatta verkliga agentkostnader.

Vad är fortfarande osäkert

Betastatusen lämnar flera öppna frågor. Cloudflare har namngett de första sökleverantörerna och beskrivit faktureringsmetoden, men produktionsteam kommer fortfarande att behöva utvärdera leverantörsspecifika prestanda, resultatkvalitet, åtaganden för datahantering och driftsgränser. Offentlig dokumentation bekräftar betaversionen och den grundläggande prissättningsvägen, men den avgör inte om en leverantör är bättre för alla arbetsbelastningar eller hur funktionen kommer att utvecklas innan allmän tillgänglighet.

Det är också oklart hur snabbt utvecklare kommer att standardisera kring gateway-medierad sökning snarare än direkta leverantörsintegrationer. Team med befintliga hämtningsstackar kan fortsätta söka i sin egen infrastruktur. Andra kanske föredrar gateway-routing eftersom det minskar integrationsarbetet och centraliserar loggar. Beslutet kommer sannolikt att bero på styrningsbehov lika mycket som sökrelevans.

Ändå är riktningen tillräckligt tydlig. AI-gateways absorberar mer av agentens körtid runt modellen. Cloudflares webbsökning API beta är inte bara en sökfunktion; det är ytterligare ett tecken på att kontrollplanet för AI-applikationer nu måste mäta, dirigera och förklara verktyg lika noggrant som det hanterar modeller.