Cloudflare hat eine Websuche API Beta zu AI Gateway hinzugefügt, die Agenten und KI-Anwendungen die Möglichkeit gibt, das Live-Internet über dieselbe Gateway-Ebene zu durchsuchen, die bereits für den Modellverkehr verwendet wird. Die Funktion ist neu, hat eine begrenzte Oberfläche und befindet sich noch in der Betaphase. Sie deutet jedoch auf einen größeren Wandel hin: Die Suche wird zu einem kostenpflichtigen KI-Tool und nicht nur zu einer anwendungsseitigen Integration.
Das Unternehmen kündigte die Beta am 2. Oktober 2026 an. Beim Start listet Cloudflare Ceramic.ai, Exa und Linkup als auswählbare Suchanbieter auf. Entwickler können Suchanfragen über AI Gateway senden, diese Anfragen in Gateway-Protokollen anzeigen lassen und sie über AI Gateway-Guthaben zum angegebenen API-Preis jedes Anbieters bezahlen. Cloudflare gibt an, kein zusätzliches Markup hinzuzufügen. Teams können auch Anmeldeinformationen von Bring-Your-Own-Key-Anbietern verwenden, sofern dies unterstützt wird.
Diese Kombination ist wichtig, weil sie drei Anliegen vereint, die oft separat behandelt werden: Tool-Routing, Beobachtbarkeit und Abrechnung. Für Entwickler, die abrufgestützte Agenten, Forschungsassistenten, Support-Bots oder automatisierte Vertriebsworkflows entwickeln, stellt sich nicht mehr nur die Frage, welches Modell die Antwort generiert hat. Außerdem wird angezeigt, welcher Suchanbieter aufgerufen wurde, unter wessen Anmeldedaten, zu welchem Preis und ob die resultierenden Ausgaben einem Kunden, einem Team, einem Projekt oder einem API-Schlüssel zugeordnet werden können.
Was hat sich geändert?
Bis vor kurzem drehten sich viele Diskussionen über KI-Gateways um Modellaufrufe: OpenAIkompatible Endpunkte, Anbieter-Failover, Token-Abrechnung, Latenz, Caching und Anforderungsprotokolle. Die Betaversion von Web Search API von Cloudflare fügt dieser Steuerungsebene eine andere Art von Transaktion hinzu. Ein Suchaufruf unterstützt möglicherweise eine Modellantwort, ist jedoch selbst keine Modellinferenzanforderung. Es gibt unterschiedliche Preise, unterschiedliche Anbietersemantiken und unterschiedliche Governance-Fragen.
Mit der Einführung von Cloudflare wird der Suchanbieter zu einer konfigurierbaren Gateway-Wahl und nicht zu einer fest codierten Anwendungsabhängigkeit. Entwickler können zwischen den aufgeführten Anbietern wählen, den Anruf über AI Gateway weiterleiten und ihn zusammen mit anderem AI-Verkehr sehen. Wenn der Kunde die von Cloudflare verwaltete Abrechnung nutzt, wird die Gebühr mit dem AI Gateway-Guthaben verrechnet. Wenn der Kunde einen Anbieterschlüssel mitbringt, kann das Gateway weiterhin im Pfad für Routing und Protokollierung stehen.
Das ist eine sinnvolle Produktgrenze. Die Suche ist kein unsichtbarer Helfer mehr, der sich hinter einem Agenten-Framework verbirgt. Es wird zu einem erstklassigen Ereignis in Gateway-Records. Für ein Gateway mit mehreren Modellen API für Teams ist das der Unterschied zwischen „Der Agent war teuer“ und „Dieser Workflow hat Geld für Modell-Tokens, zwischengespeicherten Kontext und sechs Live-Suchaufrufe ausgegeben.“
Warum sich Gateway-Teams darum kümmern sollten
Die unmittelbare Zielgruppe sind Entwickler, die Cloudflare AI Gateway bereits verwenden, insbesondere diejenigen, die Anwendungen erstellen, die neue Informationen benötigen. Die Suche kann dazu beitragen, Antworten in Live-Daten zu verankern, führt aber auch zu einer weiteren Kosteneinheit und einer weiteren Quelle der Anbieterabhängigkeit. Wenn ein Support-Mitarbeiter Dokumentationen durchsucht, ein Compliance-Assistent aktuelle Richtlinienseiten überprüft oder ein Marktüberwachungs-Workflow das Web wiederholt durchsucht, können Suchgebühren operativ wichtig werden, selbst wenn die Token-Nutzung bescheiden erscheint.
Dies ist das gleiche Muster, das jetzt in der gesamten Agent-Infrastruktur auftritt. Gehostete Shell-Tools, Browsernutzung, Codeüberprüfungsagenten und Abrufdienste werden allesamt zu gemessenen Vorgängen rund um das Modell. Token sind immer noch wichtig, aber sie sind nicht mehr das gesamte Hauptbuch. Ein nutzbares Gateway muss die Ausgaben über den gesamten Workflow hinweg erklären, nicht nur über den endgültigen Abschluss.
Für Unternehmen wirkt sich das auf Rückbuchung und Marge aus. Ein Reseller oder ein internes Plattformteam muss möglicherweise entscheiden, ob Suchausgaben zum Listenpreis des Anbieters weitergeleitet, mit einem Aufschlag versehen, in einem Plan gebündelt oder standardmäßig blockiert werden. Ein Finanzteam möchte möglicherweise wissen, ob sich die Rechnung eines Kunden aufgrund größerer Eingabeaufforderungen, mehr Ausgabetokens, Cache-Verhalten oder Websuchvolumen erhöht hat. Produktteams möchten möglicherweise Nutzungsberichte, die die Hintergrundanreicherung von der für den Benutzer sichtbaren Generierung unterscheiden.
Das schafft eine praktische Möglichkeit für eine stärkere einheitliche KI APIAbrechnung. Das Abrechnungsmodell muss Token, zwischengespeicherte Token und Toolaufrufe abdecken, ohne sie in einer einzigen vagen „KI-Nutzung“-Zeile zusammenzufassen. Andernfalls können Kunden nicht erkennen, welcher Teil eines Agentensystems die Kosten verursacht.
Die Konsequenzen für den Entwickler
Entwickler müssen die Websuche als Teil des API Designs der Anwendung betrachten und nicht nur als sofortige Verbesserung. Der Suchanbieter sollte in der Konfiguration sichtbar sein. Anmeldeinformationen sollten einen Gültigkeitsbereich haben. Protokolle sollten genügend Informationen enthalten, um Anbieterverhalten und Kundenausgaben zu debuggen, ohne unnötige sensible Daten aufzubewahren. Die Fehlerbehandlung sollte einen Modellfehler von einem Suchanbieterfehler unterscheiden, da die Benutzererfahrung und die Wiederholungsstrategie unterschiedlich sein können.
Es gibt auch eine Routing-Frage. Ceramic.ai, Exa und Linkup sind nicht in jedem Anwendungsfall austauschbar. Suchqualität, Abdeckung, Latenz, Ergebnisformat und Preisgestaltung können sich alle auf das nachgelagerte Modellverhalten auswirken. Ein Gateway, das zwischen Anbietern weiterleiten kann, bietet Entwicklern Flexibilität, erfordert aber auch Richtlinien: Welcher Anbieter ist für welchen Mandanten zugelassen, welche Regionen oder Datenklassen sind zulässig und ob für einige Kunden BYOK-Anmeldeinformationen erforderlich sind.
Bei Model Gate und ähnlichen Produkten ist der praktische Zusammenhang direkt. Wenn Kunden Agentendienste auf einem Gateway aufbauen, werden sie eventuell darum bitten, dass die Suchnutzung neben der Modellnutzung auf derselben Analyseoberfläche angezeigt wird. Partner-APIs müssen möglicherweise auch Suchaufrufdatensätze offenlegen, damit nachgelagerte Plattformen ihren eigenen Kunden genaue Rechnungen ausstellen können. Die Suche als erstklassiges kostenpflichtiges Tool zu betrachten, würde neben API-Schlüsselverwaltung, Teamkontrollen und Nutzungsanalysen natürlich passen.
Das bedeutet nicht, dass jedes Gateway die genaue Anbieterliste von Cloudflare kopieren muss. Der wichtigere Punkt ist struktureller Natur: Sobald die Live-Suche über ein Gateway verfügbar ist, wird die Werkzeugmessung Teil des Gateway-Vertrags. Eine Team-KI APIAusgabenkontrolle, die Toolaufrufe ignoriert, wird die tatsächlichen Agentenkosten unterschätzen.
Was bleibt ungewiss
Der Beta-Status lässt einige offene Fragen offen. Cloudflare hat die ersten Suchanbieter benannt und den Abrechnungsansatz beschrieben, die Produktionsteams müssen jedoch weiterhin die anbieterspezifische Leistung, die Ergebnisqualität, die Datenverarbeitungsverpflichtungen und die Betriebsgrenzen bewerten. Die öffentliche Dokumentation bestätigt die Betaversion und den grundlegenden Preispfad, legt jedoch nicht fest, ob ein Anbieter für alle Arbeitslasten besser ist oder wie sich die Funktion bis zur allgemeinen Verfügbarkeit weiterentwickeln wird.
Es ist auch unklar, wie schnell Entwickler eine Standardisierung auf Gateway-vermittelte Suche statt auf direkte Anbieterintegrationen umsetzen werden. Teams mit vorhandenen Abrufstapeln können die Suche innerhalb ihrer eigenen Infrastruktur fortsetzen. Andere bevorzugen möglicherweise Gateway-Routing, da es den Integrationsaufwand reduziert und Protokolle zentralisiert. Die Entscheidung wird wahrscheinlich sowohl von den Governance-Anforderungen als auch von der Suchrelevanz abhängen.
Dennoch ist die Richtung klar genug. KI-Gateways nehmen einen größeren Teil der Agentenlaufzeit rund um das Modell in Anspruch. Die Websuche API Beta von Cloudflare ist nicht nur eine Suchfunktion; Dies ist ein weiteres Zeichen dafür, dass die Steuerungsebene für KI-Anwendungen Werkzeuge jetzt genauso sorgfältig messen, weiterleiten und erklären muss, wie sie mit Modellen umgeht.