Google heeft de Gemini Decisions API geïntroduceerd, een nieuw eindpunt voor toepassingen die begrensde antwoorden nodig hebben in plaats van proza te genereren. De API, uitgebracht op 11 november, kan in één verzoek maar liefst 1000 ja-of-nee-vragen, meerkeuzevragen of rubriekscorende vragen beoordelen.
Het eindpunt accepteert tekst-, afbeeldingen-, audio-, video- en PDF-invoer binnen een invoerlimiet van 256.000 tokens. In plaats van een essay of chatreactie terug te sturen, produceert het waarschijnlijkheden en betrouwbaarheidsscores die software kan gebruiken voor classificatie, rangschikking, beleidscontroles en routering. Google zegt dat verzoeken kunnen worden voltooid met een end-to-end latentie van 150 tot 250 milliseconden, hoewel dat prestatiecijfer nog niet onafhankelijk is vastgesteld voor alle productieworkloads.
Een apart API platform voor beslissingen
De release heeft meer consequenties dan het toevoegen van nog een Gemini model aan een providercatalogus. De meeste OpenAI-compatibele integraties gaan uit van een generatief verzoek: de client verzendt berichten of invoeritems, het model retourneert tekst of gestructureerde uitvoer en de provider brengt kosten in rekening voor een combinatie van invoer- en uitvoertokens.
Gemini Decisions gebruikt een ander contract. Een applicatie levert bronmateriaal en een beperkte reeks vragen en ontvangt vervolgens numeriek bewijs voor elk mogelijk antwoord. Dat ontwerp is geschikt voor taken zoals het beslissen of inhoud in een beoordelingswachtrij moet komen, het selecteren van een model voor een verzoek, het beoordelen van de opgehaalde context of het toepassen van een gedocumenteerde scorerubriek.
Ontwikkelaars zouden deze workflows kunnen benaderen met het genereren van gewone tekst, maar de gegenereerde antwoorden moeten worden geparseerd en kunnen bewoordingen introduceren die de applicatie niet nodig heeft. Een speciaal gebouwd beslissingseindpunt biedt een meer expliciete interface: de betekenisvolle output is de geselecteerde optie en de bijbehorende waarschijnlijkheid of zekerheid, en niet een passage uit proza.
Prijzen veranderen het meetmodel
Google vermeldt de prijs van $ 0,10 per miljoen invoertokens en factureert geen uitvoertokens. Dat wijkt substantieel af van de input-output-boekhouding die wordt gebruikt door conventionele opwekkingsmodellen. Het betekent ook dat een verzoek commercieel belangrijke gegevens kan retourneren, ook al is het aantal factureerbare outputtokens nul.
Gateway-operators kunnen daarom niet alleen op tokentotalen vertrouwen. Gebruiksrecords moeten het type werklast, het invoervolume, het aantal vragen en de relevante metagegevens van de antwoorden behouden. Systemen die unified AI API billing aanbieden, hebben mogelijk ook een aparte tariefkaartregel nodig, zodat een uitvoertokenwaarde van nul niet wordt aangezien voor een ontbrekend of onvolledig gebruiksrecord.
Batchen creëert nog een operationele vraag. Het ondersteunen van maximaal 1.000 vragen in één verzoek kan de netwerkoverhead verminderen, maar bedrijven zullen nog steeds moeten beslissen hoe dat werk intern wordt toegewezen. Eén API oproep kan honderden moderatiecontroles, routeringsbeslissingen of documentscores vertegenwoordigen die zijn uitgevoerd voor verschillende producten of klanten.
Compatibiliteit gaat verder dan het wijzigen van een modelnaam
Het model is beschikbaar via Gemini API in Google AI Studio. Voor teams die Google rechtstreeks aanroepen, vereist de adoptie een klant die de beslissingsgerichte verzoek- en antwoordstructuren begrijpt. Voor een multi-model API gateway voor teams zou het blootleggen van het eindpunt alsof het een gewoon chatmodel is, belangrijk gedrag verbergen en foutafhandeling, analyses en facturering dubbelzinnig maken.
Een schoner gateway-ontwerp zou beslissingen identificeren als een afzonderlijke werklastklasse. Het routeringsbeleid kan vervolgens begrensd classificatie- en scorewerk naar het nieuwe eindpunt sturen, terwijl generatieve modellen worden gereserveerd voor verzoeken die daadwerkelijk taaluitvoer vereisen. Toegangscontroles moeten ook het aantal vragen, de ondersteunde media en de invoergrootte valideren voordat een verzoek wordt doorgestuurd.
De vertrouwensgegevens verdienen een zorgvuldige behandeling. Een score is nuttig voor drempels en escalatieregels, maar is geen bewijs dat een beslissing voor elk domein juist of gekalibreerd is. Teams die de API gebruiken voor consequente beleids- of nalevingsworkflows zullen hun eigen evaluaties, drempeltests en menselijke beoordelingspaden nodig hebben in plaats van één universele grenswaarde aan te nemen.
Wat onbewezen blijft
De aankondiging vanGoogle stelt de API vorm, de gepubliceerde prijs en de geclaimde latentie vast, maar onafhankelijk bewijs over de beschikbaarheid en prestaties van de productie blijft beperkt. De latentie in de praktijk is ook afhankelijk van de payloadgrootte, mediaverwerking, geografie en verzoekvolume.
De onmiddellijke technische taak is daarom een gecontroleerde evaluatie in plaats van een brede vervanging van bestaande classificaties. Ontwikkelaars moeten representatieve multimodale input testen, betrouwbaarheidsscores vergelijken met bekende uitkomsten en verifiëren hoe fouten en gedeeltelijke resultaten zich gedragen in grote vraagbatches. Gateway- en platformteams moeten bovendien bevestigen dat hun logboeken onderscheid kunnen maken tussen een beslissingsverzoek en het genereren ervan voordat het eindpunt beschikbaar wordt gesteld aan klanten.