Google a extins capacitățile de procesare a documentelor ale Gemini API cu suport nativ pentru fișierele Microsoft Office și OpenDocument, alături de controale pentru selectarea numai a părților dintr-un fișier pe care un model ar trebui să le proceseze.
Aplicațiile pot trimite documente Word, prezentări PowerPoint, registre Excel și fișiere OpenDocument fără a le conversia mai întâi în alt format. De asemenea, pot viza pagini de document, file ale foilor de lucru, intervale de celule, intervale audio sau video și straturi de conținut specifice. Google spune că clienții procesează și plătesc numai pentru conținutul selectat.
Combinația contează mai mult decât suportul de bază pentru format de fișier. Transformă selecția fișierelor într-o parte a cererii de inferență și a semanticii sale de facturare, reducând potențial cantitatea de material irelevant trimis către un model. De asemenea, creează o nouă provocare de compatibilitate pentru gateway-uri care încearcă să prezinte o interfață consecventă între furnizori.
Conversia fișierelor nu mai este întotdeauna necesară
Aplicațiile pentru documente folosesc de obicei servicii de conversie pentru a extrage text, a reda pagini sau a normaliza fișierele înainte de a trimite conținutul acestora la un model. Asistența Native Office poate elimina unii dintre acești pași din conductele bazate pe Gemini, în special pentru fluxurile de lucru construite în jurul rapoartelor, prezentărilor și foilor de calcul.
Aceasta ar putea simplifica sistemele de absorbție și ar putea păstra mai mult structura originală a documentului. Un asistent financiar, de exemplu, ar putea direcționa Gemini către o anumită foaie de lucru sau un interval de celule în loc să extragă și să transmită un întreg registru de lucru. Un flux de lucru de prezentare ar putea selecta un grup de diapozitive, în timp ce o aplicație media ar putea izola un interval audio sau video relevant.
Diviziunea este disponibilă atât în solicitările utilizatorului, cât și în răspunsurile funcției care poartă fișiere. Acesta din urmă este semnificativ pentru agenți: un instrument poate returna un fișier în timp ce identifică porțiunea care ar trebui luată în considerare de model, în loc să forțeze aplicația să creeze un fișier derivat separat pentru fiecare rezultat al instrumentului.
Câștigurile practice vor varia. Formulele complexe, obiectele încorporate și aspectele Office neobișnuite pot să nu se comporte în mod consecvent între fișiere, iar pachetul de cercetare nu stabilește reduceri universale de simbol sau latență. Echipele vor avea nevoie de teste reprezentative înainte de a elimina etapele existente de conversie și validare.
Conținutul selectat devine o limită de facturare
Google Declarația conform căreia clienții plătesc numai pentru conținutul selectat introduce o limită de cost mai granulară decât procesarea întregului fișier. Aplicațiile pot evita să plătească pentru a inspecta sute de pagini irelevante sau file de foi de calcul neutilizate atunci când o sarcină se referă doar la o secțiune restrânsă.
Dezvoltatorii ar trebui să evite totuși să trateze un selector ca o estimare a costurilor garantate. Eventualul număr de token și timpul de procesare pot depinde de structura fișierului, felia selectată și modul în care modelul reprezintă acel material. Înregistrările de utilizare ar trebui să păstreze atât referința fișierului original, cât și parametrii exacti de selecție, astfel încât costurile să poată fi explicate mai târziu.
Acest lucru este relevant în special pentru revânzători și platforme software care arată clienților o defalcare a utilizării. Este posibil ca registrele lor să fie nevoite să distingă dimensiunea unui fișier încărcat de porțiunea trimisă pentru deducere. Fără această distincție, o factură ar putea părea neconformă cu documentul vizibil de utilizator sau poate face dificil de investigat litigiile privind costurile.
OpenAI Compatibilitatea nu acoperă fiecare selector
Selectorii de pagină, foaie de lucru, interval de celule, interval media și strat de conținut nu se mapează perfect într-un fișier de intrare convențional OpenAI compatibil.Un gateway multi-model API pentru echipe are, prin urmare, mai multe opțiuni: expunerea extensiilor specifice Gemini, traducerea unui subset portabil de selectoare sau solicitarea aplicațiilor să preproceseze fișierele înainte de a utiliza furnizori care nu dispun de controale echivalente.
Ar fi riscant să elimini în tăcere selectoarele neacceptate. Ar putea determina un furnizor să proceseze un document întreg, schimbând atât răspunsul, cât și factura. Gateway-urile ar trebui să valideze cererile, să identifice tipurile de selecție neacceptate și să înregistreze solicitarea normalizată care a fost trimisă în final în amonte.
Aceeași problemă afectează rutarea. Două modele pot face publicitate pentru introducerea documentelor, în timp ce acceptă tipuri de fișiere, controale de selecție și reguli de facturare semnificativ diferite. Un plan de control AI API pentru echipele de dezvoltatori ar trebui să reprezinte aceste capacități în mod explicit, în loc să trateze „introducerea fișierului” ca o singură caracteristică interschimbabilă.
Ceea ce dezvoltatorii ar trebui să verifice
Echipele care folosesc Gemini ar trebui să testeze fișiere reprezentative Word, PowerPoint, Excel și fișiere media complexe încorporate, cu formulare și format OpenDocument. Aceștia ar trebui să compare cererile întregi și fragmentate pentru calitatea răspunsului, utilizare și latență, păstrând în același timp metadatele selectorului în jurnale.
Operatorii de gateway au o muncă suplimentară: definiți o schemă pentru noile controale, respingeți rutele neacceptate între furnizori și actualizați contorizarea orientată către clienți pentru a arăta conținutul selectat. Versiunea poate reduce munca de conversie și procesarea inutilă, dar numai atunci când acele noi solicitări și semantică de facturare supraviețuiesc fiecărui strat dintre aplicație și Gemini.