Cloudflare dodał wersję beta wyszukiwarki internetowej API do AI Gateway, dając agentom i aplikacjom AI możliwość przeszukiwania Internetu na żywo za pośrednictwem tej samej warstwy bramy, która jest już używana do ruchu modelowego. Ta funkcja jest nowa, ma wąską powierzchnię i jest wciąż w fazie beta, ale wskazuje na większą zmianę: wyszukiwanie staje się płatnym narzędziem sztucznej inteligencji, a nie tylko integracją po stronie aplikacji.
Firma ogłosiła wersję beta 2 października 2026 r. W chwili premiery Cloudflare wymienia Ceramic.ai, Exa i Linkup jako dostawców wyszukiwania do wyboru. Programiści mogą wysyłać żądania wyszukiwania za pośrednictwem AI Gateway, wyświetlać te żądania w dziennikach bramy i płacić za nie za pośrednictwem kredytów AI Gateway po podanej cenie API każdego dostawcy. Cloudflare twierdzi, że nie dodaje dodatkowego znacznika. Zespoły mogą także korzystać z poświadczeń dostawcy, które można przynieść ze sobą, jeśli jest to możliwe.
Ta kombinacja ma znaczenie, ponieważ łączy trzy kwestie, które często są rozpatrywane oddzielnie: routing narzędzi, obserwowalność i rozliczenia. Dla programistów tworzących agentów wspomaganych wyszukiwaniem, asystentów badawczych, boty wsparcia lub zautomatyzowane przepływy pracy sprzedaży, pytanie nie dotyczy już tylko tego, który model wygenerował odpowiedź. Informuje także o tym, do którego dostawcy wyszukiwania zadzwoniono, na podstawie czyich danych uwierzytelniających, za jaką cenę i czy powstałe wydatki można powiązać z klientem, zespołem, projektem lub kluczem API.
Co się zmieniło
Do niedawna wiele dyskusji na temat bram AI skupiało się na wywołaniach modeli: OpenAIkompatybilne punkty końcowe, przełączanie awaryjne dostawcy, rozliczanie tokenów, opóźnienia, buforowanie i dzienniki żądań. Wersja beta wyszukiwarki Cloudflare API dodaje inny rodzaj transakcji do tej płaszczyzny kontrolnej. Wywołanie wyszukiwania może obsługiwać odpowiedź modelu, ale samo w sobie nie jest żądaniem wnioskowania o modelu. Ma inne ceny, inną semantykę dostawcy i różne pytania dotyczące zarządzania.
Wprowadzenie Cloudflare sprawia, że dostawca wyszukiwania staje się konfigurowalną bramą, a nie zakodowaną na stałe zależnością od aplikacji. Programiści mogą wybierać spośród wymienionych dostawców, kierować połączenie przez AI Gateway i oglądać go wraz z innym ruchem AI. Jeśli klient korzysta z rozliczeń zarządzanych przez Cloudflare, opłata jest naliczana na podstawie środków AI Gateway. Jeśli klient przyniesie klucz dostawcy, brama nadal może znajdować się na ścieżce routingu i rejestrowania.
To znacząca granica produktu. Wyszukiwanie nie jest już niewidzialnym pomocnikiem ukrytym za strukturą agenta. Staje się wydarzeniem najwyższej klasy w zapisach bramkowych. W przypadku wielomodelowej API bramy dla zespołów jest to różnica między „agent był drogi” a „w ramach tego przepływu pracy wydano pieniądze na tokeny modeli, kontekst w pamięci podręcznej i sześć wywołań wyszukiwania na żywo”.
Dlaczego zespoły bramowe powinny się tym przejmować
Bezpośrednimi odbiorcami są programiści już korzystający z Cloudflare AI Gateway, zwłaszcza ci tworzący aplikacje, które potrzebują świeżych informacji. Wyszukiwanie może pomóc w ugruntowaniu odpowiedzi na aktualnych danych, ale wprowadza także inną jednostkę kosztów i kolejne źródło zależności od dostawcy. Jeśli pracownik pomocy przeszukuje dokumentację, asystent ds. zgodności sprawdza aktualne strony z zasadami lub proces monitorowania rynku wielokrotnie skanuje sieć, opłaty za wyszukiwanie mogą stać się istotne operacyjnie, nawet jeśli użycie tokena wygląda na skromne.
To ten sam wzorzec, który występuje obecnie w infrastrukturze agentów. Hostowane narzędzia powłoki, korzystanie z przeglądarki, agenci przeglądu kodu i usługi pobierania zamieniają się w operacje mierzone wokół modelu. Tokeny nadal mają znaczenie, ale nie stanowią już całej księgi. Użyteczna brama musi wyjaśniać wydatki w ramach całego przepływu pracy, a nie tylko końcowego zakończenia.
W przypadku firm ma to wpływ na obciążenie zwrotne i marżę. Może zaistnieć potrzeba podjęcia przez sprzedawcę lub zespół platformy wewnętrznej decyzji, czy wydatki na wyszukiwanie mają być przekazywane po cenie katalogowej dostawcy, naliczane, łączone w ramach planu czy domyślnie blokowane. Zespół finansowy może chcieć wiedzieć, czy faktura klienta wzrosła z powodu większej liczby monitów, większej liczby tokenów wyjściowych, zachowania pamięci podręcznej lub liczby wyszukiwań w Internecie. Zespoły ds. produktów mogą chcieć raportów użytkowania, które odróżniają wzbogacanie w tle od generowania widocznego dla użytkownika.
To stwarza praktyczną możliwość dla silniejszej ujednoliconej sztucznej inteligencji API rozliczeń. Model rozliczeniowy musi obejmować tokeny, tokeny buforowane i wywołania narzędzi bez spłaszczania ich w jedną niejasną linię „wykorzystanie sztucznej inteligencji”. W przeciwnym razie klienci nie będą w stanie stwierdzić, która część systemu agenta generuje koszty.
Konsekwencje dla programistów
Programiści będą musieli potraktować wyszukiwarkę internetową jako część projektu API aplikacji, a nie tylko jako szybkie ulepszenie. Dostawca wyszukiwania powinien być widoczny w konfiguracji. Poświadczenia powinny mieć określony zakres. Dzienniki powinny zawierać wystarczającą ilość informacji, aby móc debugować zachowanie dostawcy i wydatki klientów, bez zatrzymywania niepotrzebnych, wrażliwych danych. Obsługa błędów powinna odróżniać awarię modelu od awarii dostawcy wyszukiwania, ponieważ wrażenia użytkownika i strategia ponawiania prób mogą być inne.
Jest też pytanie dotyczące routingu. Ceramic.ai, Exa i Linkup nie są wymienne w każdym przypadku użycia. Jakość wyszukiwania, zasięg, opóźnienie, format wyników i cena mogą mieć wpływ na zachowanie modelu na dalszym etapie. Brama, która może trasować między dostawcami, zapewnia programistom elastyczność, ale wymaga również zasad: który dostawca jest zatwierdzony dla jakiego dzierżawcy, jakie regiony lub klasy danych są dozwolone oraz czy w przypadku niektórych klientów wymagane są poświadczenia BYOK.
W przypadku Model Gate i podobnych produktów praktyczne połączenie jest bezpośrednie. Jeśli klienci tworzą usługi agenta na bazie bramy, w końcu poproszą o wyświetlenie użycia wyszukiwania obok użycia modelu na tej samej powierzchni analitycznej. Interfejsy API partnerów mogą również wymagać ujawnienia zapisów połączeń wyszukiwania, aby platformy niższego szczebla mogły dokładnie wystawiać rachunki swoim klientom. Traktowanie wyszukiwania jako pierwszorzędnego, płatnego narzędzia w naturalny sposób pasowałoby do APIzarządzania kluczami, kontroli zespołu i analityki użycia.
Nie oznacza to, że każda brama musi kopiować dokładną listę dostawców Cloudflare. Ważniejszy punkt ma charakter strukturalny: gdy wyszukiwanie na żywo jest dostępne za pośrednictwem bramki, pomiar narzędzi staje się częścią umowy bramy. Kontrola wydatków AI zespołu API, która ignoruje wywołania narzędzi, zaniża rzeczywiste koszty agenta.
Co pozostaje niepewne
Stan wersji beta pozostawia kilka otwartych pytań. Cloudflare wymienił początkowych dostawców wyszukiwania i opisał podejście do rozliczeń, ale zespoły produkcyjne nadal będą musiały ocenić wydajność charakterystyczną dla dostawcy, jakość wyników, zobowiązania dotyczące obsługi danych i limity operacyjne. Dokumentacja publiczna potwierdza wersję beta i podstawową ścieżkę cenową, ale nie rozstrzyga, czy jeden dostawca będzie lepszy do wszystkich obciążeń ani w jaki sposób funkcja będzie ewoluować przed powszechnym udostępnieniem.
Nie jest również jasne, jak szybko programiści ujednolicą wyszukiwanie za pośrednictwem bramy, a nie bezpośrednią integrację dostawców. Zespoły posiadające istniejące stosy wyszukiwania mogą prowadzić wyszukiwanie we własnej infrastrukturze. Inni mogą preferować routing bramy, ponieważ ogranicza to prace związane z integracją i centralizuje dzienniki. Decyzja będzie prawdopodobnie zależeć w równym stopniu od potrzeb w zakresie zarządzania, jak i trafności wyszukiwania.
Mimo to kierunek jest wystarczająco jasny. Bramy AI pochłaniają więcej czasu działania agenta wokół modelu. Wyszukiwarka internetowa Cloudflare API w wersji beta to nie tylko funkcja wyszukiwania; to kolejny znak, że płaszczyzna kontroli aplikacji AI musi teraz mierzyć, wyznaczać trasy i wyjaśniać narzędzia równie dokładnie, jak obsługuje modele.