АИ АПИ рутирање са свешћу о задржавању података: Примените ЗДР, резиденцију и смернице за евидентирање на мрежном пролазу

<п>Тимови за обезбеђење не морају само да знају који је модел најјефтинији, најбржи или најспособнији. Они морају да знају да ли се одређени захтев може легално и оперативно послати одређеном добављачу, крајњој тачки, региону, функцији и режиму евидентирања. <п>То је теже него што звучи. Модел може бити прихватљив за обично интерно ћаскање, али не и за ПИИ клијента. Провајдер може понудити нулто задржавање података за једну АПИ путању, док функција уземљења претраге чува упите и излазе на фиксни период. Регион може да подржава резидентност складишта, али не и начин обраде који сте очекивали. Евиденције у власништву програмера могу да се конфигуришу, док евиденције за праћење злоупотребе добављача прате различите смернице. <п>Практичан одговор је да се одлуке о задржавању премести из појединачних апликација у <стронг>АИ АПИ капију. Мрежни пролаз треба да класификује захтев, да га процени у односу на матрицу могућности провајдера, да блокира некомпатибилне функције, да усмерава само до одобрених профила модела и да сними одлуку о политици без чувања необрађених упита по подразумеваној вредности. <х2>Проблем читача: услови приватности добављача нису контроле времена извршавања <п>Већина тимова почиње са табелом или безбедносним прегледом који каже који добављачи вештачке интелигенције су одобрени. То је корисно, али није довољно за усмеравање производње. <п>Апликације бирају време извршавања: <ул> <ли>Који ИД модела треба да обради овај захтев? <ли>Да ли у захтеву треба да се користи утемељење претраге, отпремање датотеке, извршавање кода, групна обрада, брзо кеширање или сачуване разговоре? <ли>Који регион или крајња тачка треба да обради захтев? <ли>Може ли систем да евидентира необрађени упит за отклањање грешака? <ли>Да ли резервно рутирање може да пошаље исти захтев другом добављачу? <п>Сваки од тих избора може да промени профил задржавања. Захтев који је био усаглашен у обичном режиму ћаскања може постати неусаглашен када програмер укључи уземљење или трајно складиштење разговора. Резервно правило дизајнирано за поузданост може случајно да усмери регулисане податке на путању добављача која није одобрена за нулту контролу задржавања података, резидентност података или контролу злоупотребе. <п><стронг>Препорука: третирајте понашање задржавања као првокласно ограничење рутирања, а не као документацију приложену налогу добављача. <х2>Чињенице које треба кодирати пре креирања смерница <п>Тачни услови се разликују у зависности од добављача, производа, уговора, региона, крајње тачке и функције. Немојте се ослањати на памћење или на једнократни преглед. Направите матрицу у власништву извора и ажурирајте је када се услови промене. <п>Неколико актуелних докумената јавних добављача илуструју зашто је то неопходно: <ул> <ли><стронг>ОпенАИ: Резиденција АПИ података је документована као пројектно конфигурисана, са регионалним захтевима који захтевају префиксе домена специфичне за регион. ОпенАИ такође разликује подршку за складиштење од подршке за обраду по регионима и примећује додатне захтеве за регионе који нису у САД. ОпенАИ наводи да резидентност података АПИ-ја ван САД захтева одобрење за контролу праћења злоупотребе и амандман о модификованом задржавању. <ли><стронг>Антропски: Антхропиц документује нулто задржавање података за случајеве комерцијалне употребе у вези са АПИ-јем, уз напомену да неки сродни производи или фидови усклађености имају засебне моделе задржавања, укључујући дуже задржавање за фид активности и транскрипте удаљених сесија. <ли><стронг>Гоогле Гемини: Услови Гемини АПИ-ја разликују неплаћене и плаћене услуге. За неплаћене услуге, Гоогле може да користи послати садржај и генерисане одговоре да побољша производе; за плаћене услуге, Гоогле каже да се упити и одговори не користе за побољшање производа. Гемини Девелопер АПИ ЗДР документација каже да евиденције праћења злоупотребе плаћених услуга обично задржавају упите и одговоре током ограниченог периода, док одобрени ЗДР пројекти чисте кориснички садржај и метаподатке који се могу идентификовати пре евидентирања. <ли><стронг>Складиште за специфичне функције: Гемини документација наводи да уземљење помоћу Гоогле претраге и уземљење са Гоогле мапама чувају упите, контекстуалне информације и генерисани излаз 30 дана, без начина да се то складиште онемогући када се те функције користе. <ли><стронг>Евиденције у власништву програмера: Гемини АПИ документација за евидентирање каже да се АПИ евиденције у власништву програмера подразумевано могу чувати до 55 дана за пројекте са омогућеним обрачуном и да програмери могу да изаберу краће периоде као што су 7, 14 или 28 дана. <ли><стронг>Управљање ризиком: НИСТ-ов генеративни АИ профил препоручује праћење садржаја генерисаног вештачком интелигенцијом у погледу ризика приватности и повезивање генеративних АИ политика са постојећим подацима, софтвером, правним процесима, усаглашеношћу и процесима управљања ризиком. <п>Ово су чињенице које треба проверити у односу на актуелну документацију добављача пре увођења. Архитектонска лекција је стабилна: задржавање није један Боолеан на нивоу добављача.<х2>Архитектура: механизам политике мрежног пролаза у путањи захтева <п>Гејтвеј који је свестан задржавања има пет основних компоненти: <ол> <ли><стронг>Класификатор осетљивости захтева: означава радно оптерећење пре рутирања. <ли><стронг>Матрица могућности добављача: описује добављача, модел, крајњу тачку, регион, задржавање, евидентирање и понашање функција. <ли><стронг>Правила „Политика као код“: претворите безбедносне захтеве у одлуке које дозвољавају, одбијају или прегледају током извршавања. <ли><стронг>Слој капије функција: блокира функције које мењају задржавање осим ако није изричито дозвољено. <ли><стронг>Слој ревизије и аналитике: бележи корисне метаподатке без складиштења необрађених упита према подразумеваним вредностима. <п>Гатеваи не мора да разуме сваку правну нијансу. Потребно је да спроведе одлуке које су одобрили ваши тимови за правну, безбедносну, усклађеност и платформу. <х2>Корак 1: класификујте осетљивост захтева пре избора модела <п>Почните са малом таксономијом класификације. Требало би да буде довољно једноставно да га програмери користе, али довољно експресивно да води политику. <п>Примери ознака осетљивости: <ул> <ли><цоде>јавни: јавна документација, маркетиншки примерак, јавни садржај веб сајта. <ли><цоде>интерно: информације о предузећу које нису јавне са ниском осетљивошћу. <ли><цоде>поверљиво: стратегија, уговори, контекст корисника, детаљи о производу који нису објављени. <ли><цоде>цустомер_пии: имена, имејлови, адресе, идентификатори налога, транскрипти подршке. <ли><цоде>регулисано: здравствени, финансијски, правни, образовни или заштићени подаци специфични за јурисдикцију. <ли><цоде>изворни_код: власнички код, конфигурација, датотеке архитектуре. <ли><цоде>акредитиви: тајне, токени, лозинке, приватни кључеви. У већини система ово би требало да буде блокирано, а не рутирано. <п>Класификација може доћи из више извора: <ул> <ли>Заглавље које доставља апликација, као што је <цоде>Кс-Дата-Цласс: цустомер_пии. <ли>Политика закупца, где се сав саобраћај од регулисаног корисника третира као регулисан осим ако се одобреним правилом не врати на нижи ниво. <ли>Политика крајње тачке, где је сумирање тикета за подршку подразумевано на <цоде>цустомер_пии. <ли>Лагано скенирање садржаја у потрази за акредитивима, очигледним идентитетом или кршењем смерница. <п><стронг>Препорука: немојте у потпуности зависити од аутоматског откривања. Захтевајте од апликација да декларишу предвиђену класу података, а затим користите скенирање да бисте ухватили очигледне неподударности или форсирали безбеднију класу. <х2>Корак 2: изградите матрицу могућности добављача <п>Матрица способности је извор истине који рутер процењује. Требало би да буде верзионисано, прегледано и тестирано као конфигурација производње. <п>Примери поља: <пре><цоде>{ "профиле_ид": "провидер_к.цхат.еу.здр", "провидер": "провидер_к", "модел": "модел-велики", "апи_фамили": "цхат_цомплетионс", "крајња тачка": "хттпс://еу.екампле-провидер.цом/в1", "регион": "еу", "процессинг_ресиденци": ["еу"], "стораге_ресиденци": ["еу"], "здр_елигибле": истина, "здр_цонтрацт_рекуиред": тачно, "траининг_усе": "нот_усед_фор_траининг_он_паид_апи", "абусе_мониторинг": "аппровед_модифиед_ретентион_рекуиред", "девелопер_лог_ретентион_даис": 0, "рав_промпт_логгинг_алловед": нетачно, "суппортед_феатурес": { "плаин_цхат": истина, "стриминг": истина, "тоол_цаллс": тачно, "сеарцх_гроундинг": нетачно, "мапс_гроундинг": нетачно, "филе_уплоад": нетачно, "батцх": фалсе, "сторед_цонверсатионс": нетачно }, "ласт_ревиевед": "2026-08-01", "соурце_рефс": ["сецурити-ревиев-123", "вендор-доц-версион-абц"] } <п>Користите профиле модела уместо необрађених ИД-ова модела. Профил комбинује модел, добављача, крајњу тачку, регион, скуп функција и положај задржавања. Програмери захтевају <цоде>модел_профиле: цомплиант_суммаризатион, а не само <цоде>модел: фастест-ларге-модел. <п><стронг>Препорука: укључите уговорне предуслове у матрицу. Рута није ЗДР одобрена само зато што продавац негде нуди ЗДР. Одобрава се само када ваш налог, пројекат, регион и крајња тачка испуњавају потребне услове. <х2>Корак 3: напишите правила политике као кода <п>Правила смерница треба да буду експлицитна, тестирана и читљива од стране безбедносних и платформских тимова. <п>Пример правила у псеудокоду: <пре><цоде>одбиј ако дата_цласс == "акредитиви" разлог "акредитиви_не морају_бити_послати_моделу" дозволи само ако дата_цласс у ["регулатед", "цустомер_пии"] и профил.здр_елигибле == истина и профил.здр_цонтрацт_рекуиред_сатисфиед == истина реасон_он_фаилуре "модел_профиле_нот_здр_елигибле" одбити ако је ресиденци_рекуиред == "еу" а „еу“ није у профилу.процессинг_ресиденци разлог „регион_процессинг_нот_суппортед“ одбити ако дата_цласс у ["поверљиво", "цустомер_пии", "регулисано"]и рекуест.рав_промпт_логгинг == истина разлог "рав_промпт_логгинг_нот_алловед" одбити ако рекуест.феатурес.сеарцх_гроундинг == истина анд полици.рекуирес_здр == труе и профиле.феатуре_стораге.сеарцх_гроундинг_даис > 0 разлог "гроундинг_рекуирес_ретаинед_цонтент" дени иф фаллбацк_профиле.ретентион_левел < примарни_профил.ретентион_левел разлог „фаллбацк_веакенс_ретентион_полици“ <п>Ова правила би требало да се покрећу пре избора добављача и поново пре резервног. Резервно рутирање је уобичајен извор случајног одступања смерница: примарна рута може бити усаглашена, док је резервна рута само доступна. <х2>4. корак: третирајте алате и функције као могућности које мењају задржавање <п>Немојте моделирати задржавање само као својство основног модела. Функције често мењају понашање складиштења, евидентирања или прегледа. <п>Дајте свакој функцији сопствене ознаке смерница: <ул> <ли><стронг>Уземљење претраге: може да складишти упите, преузети контекст и генерисани излаз у зависности од услова добављача. <ли><стронг>Мапе или уземљење локације: могу увести евиденције специфичне за локацију или правила задржавања. <ли><стронг>Отпремање датотека: може да складишти датотеке одвојено од упита и одговора. <ли><стронг>Извршавање кода: може да креира привремене датотеке, евиденције извршења или артефакте у заштићеном окружењу. <ли><стронг>Пакетни послови: могу имати другачије понашање у вези са задржавањем, стављањем у ред и складиштењем резултата од синхроних АПИ позива. <ли><стронг>Сачуване конверзације: намерно задржавају садржај и никада не би требало да буду сакривене иза генеричке опције ћаскања. <ли><стронг>Контролне табле за процену или преглед: могу да креирају токове рада за преглед људи или дуговечне скупове података. <п><стронг>Препорука: омогућите функције које мењају задржавање на нивоу закупца и руте. Ако програмер омогући <цоде>гроундинг_сеарцх=труе, мрежни пролаз треба поново да процени захтев у односу на правила за складиштење функција пре него што га пошаље узводно. <х2>Корак 5: сачувајте аналитику без чувања необрађених упита <п>Рутирање са свешћу о задржавању не би требало да заслепи тим платформе. Можете да задржите корисну <стронг>аналитику коришћења АИ док минимизирате складиште садржаја. <п>Сигурна подразумевана поља телеметрије: <ул> <ли>ИД станара и ИД пројекта <ли>хеширани или интерни ИД АПИ кључа <ли>ИД профила модела и ИД добављача <ли>захтева временску ознаку и регион <ли>улаз, излаз, кеширани и токен за образложење се рачунају када су доступни <ли>кашњење, статусни код, број поновних покушаја и резервна одлука <ли>процењени и измирени трошкови <ли>ознака класификације података <ли>верзија политике и разлог одлуке о политици <ли>тражене заставице функција и дозвољене заставице функција <п>Избегавајте подразумевано складиштење необрађених упита и излаза модела ради поверљивог саобраћаја. Ако је за отклањање грешака потребан садржај, користите контролисани ток посла: <ул> <ли>одобрење клијента или станара <ли>уски временски оквир <ли>ограничење узорковања <ли>редакциона пропусница <ли>засебна контрола приступа <ли>кратак рок трајања <ли>Евиденција ревизије ко је то омогућио и зашто <п>Ово је компромис. Блокирање необрађених евиденција обавештења отежава отклањање грешака, подршку, преглед квалитета и истрагу злоупотребе. Али подразумевано складиштење свега ствара већу површину приватности, кршења и усклађености. <х2>Корак 6: вратите оправдане разлоге за одбијање <п>Генерички <цоде>403 забрањено фрустрира програмере и подстиче решења. Врати стабилан машински читљив разлог и човеку читљиво објашњење. <п>Пример одговора: <пре><цоде>{ "грешка": { "типе": "полици_дениед", "цоде": "гроундинг_рекуирес_30_даи_стораге", "мессаге": "Уземљење претраге није дозвољено за радна оптерећења означена као рекуирес_здр јер ова функција провајдера чува промпт, контекст и излазни садржај." "рекуест_ид": "рек_123", "полици_версион": "полици-ретентион-2026-08-01", "алловед_ацтионс": [ "дисабле_сеарцх_гроундинг", "цхоосе_профиле:здр_плаин_цхат", "рекуест_екцептион" ] } } <п>Корисни кодови за одбијање укључују: <ул> <ли><цоде>модел_профиле_нот_здр_елигибле <ли><цоде>регион_процессинг_нот_суппортед <ли><цоде>стораге_ресиденци_нот_суппортед <ли><цоде>рав_промпт_логгинг_нот_алловед <ли><цоде>феатуре_рекуирес_цонтент_стораге <ли><цоде>фаллбацк_веакенс_ретентион_полици <ли><цоде>цонтрацт_пререкуисите_миссинг <ли><цоде>цредентиалс_детецтед <х2>Корак 7: додајте ток рада изузетака, а не скривено заобилазницу<п>Неки изузеци су легитимни: одговор на инцидент, отклањање грешака које је одобрио корисник, тестирање миграције или привремено ограничење добављача. Мрежни пролаз треба да подржава изузетке без претварања у сталну политику сенке. <п>Сваки изузетак треба да садржи: <ул> <ли>идентитет одобраваоца <ли>захтева тим или закупца <ли>карта или линк за преглед ризика <ли>пословно оправдање <ли>дозвољени профили и функције модела <ли>покривене класе података <ли>датум истека <ли>додатни захтеви за евидентирање <п><стронг>Препорука: учините изузетке уже од уобичајених смерница. Избегавајте глобалне прекидаче као што је <цоде>дисабле_ретентион_полици=труе. Дајте предност надјачавању опсега, као што је „дозволи евидентирање промпта за отклањање грешака за закупца А, крајњу тачку Б, у трајању од 24 сата, са редиговањем и безбедносним одобрењем“. <х2>Оперативна контролна листа <ул> <ли>Креирајте верзионисану матрицу могућности добављача. <ли>Доделите власника за услове добављача, предуслове уговора и прегледе задржавања. <ли>Захтева да апликације декларишу класу података, услове боравка и тражене функције. <ли>Подразумевано поверљиви и регулисани саобраћај без необрађеног евидентирања. <ли>Представља алатке, уземљење, отпремање датотека, групне и сачуване разговоре као засебне ознаке могућности. <ли>Покрените проверу смерница пре примарног рутирања и пре резервног рутирања. <ли>Верзија смерница евиденције, профил модела, класа података, ознаке обележја и разлог одбијања. <ли>Држите метаподатке аналитике одвојено од садржаја упита и излаза. <ли>Представник теста дозвољава и одбија случајеве у ЦИ. <ли>Прегледајте промену смерница кад год добављач промени услове, регионе, крајње тачке или функције. <х2>Разговарање о експлицитности <п><стронг>Строго рутирање смањује избор. Ограничења ЗДР-а и пребивалишта могу да спрече коришћење најновијег модела, најјефтиније руте или крајње тачке богате функцијама. <п><стронг>Регионално рутирање може повећати кашњење или трошкове. Најближи усаглашен регион можда неће подржавати жељени режим обраде или ће можда захтевати другу путању добављача. <п><стронг>Капија функција изненађује програмере. Програмер може мислити да само омогућава претрагу, али безбедност види ново понашање задржавања. Документација и поруке одбијања смањују трење. <п><стронг>Брзо минимизирање компликује отклањање грешака. Тимовима су потребни редиговани узорци, прозори за отклањање грешака које је одобрио закупац и јаки метаподаци да би истражили проблеме без складиштења свега. <п><стронг>Матрица захтева одржавање. Услови добављача се мењају. Лансирање нових модела. Региони се шире. Функције прелазе из бета верзије у продукцију. Устајала матрица је гора од нема матрице јер ствара лажно поверење. <х2>Шта је препорука, а шта предвиђање? <п><стронг>Препоруке: примените задржавање на мрежном пролазу, класификујте захтеве пре рутирања, направите матрицу могућности провајдера, блокирајте функције које мењају задржавање према смерницама, избегавајте подразумевано евидентирање необрађених промптова и верзију сваке одлуке о политици. <п><стронг>Предвиђање: Тимови платформе АИ ће све више третирати став о приватности као део избора модела. Уместо да се питамо „који модел да користимо?“ апликације ће тражити профил модела који задовољава ограничења могућности, цене, кашњења, пребивалишта и задржавања. <п><стронг>Предвиђање: карактеристике приватности специфичне за провајдера ће наставити да се разликују. Гатеваи-и који нормализују само формате захтева и одговора неће бити довољни; продукцијским тимовима ће такође бити потребна нормализација политике. <х2>Закључак који се може применити <п>Рутирање са свешћу о задржавању података није посебна контролна табла за усклађеност. Припада путањи захтева. <п>Почните са три резултата: таксономијом осетљивости на захтеве, верзионисаном матрицом могућности добављача и малим скупом правила политике као кода за ЗДР, резиденцију, необрађено евидентирање, резервне функције и функције које мењају задржавање. Затим учините да мрежни пролаз врати јасне разлоге одбијања и сачувајте аналитику без подразумеваног складиштења сировог садржаја.<п>Тај дизајн централизује одлуке које би иначе биле разбацане по опцијама СДК-а, варијаблама окружења, конзолама добављача и конвенцијама специфичним за тим. Такође даје тимовима за безбедност и платформу практичан траг ревизије: који је захтев био дозвољен, која верзија политике је примењена, који профил модела је изабран и зашто.<х2>Повезано читање<ул><ли><а хреф="хттпс://модел-гате.цом/ен/блог/ллм-обсервабилити-мулти-модел-апи-гатеваи-трацес-токен-промфем промптсалогфе-ледгерс" евидентирање и аналитику коришћења на нивоу мрежног пролаза<ли><а хреф="хттпс://модел-гате.цом/ен/блог/мигратинг-опенаи-цомпатибле-апи-гатеваи-цомпатибилити-цонтрацт-13/">изградња матрице могућности добављача током миграције АПИ-ја компатибилног са ОпенАИ-ом><ли><а>< хреф="хттпс://модел-гате.цом/ен/блог/агент-тоол-говернанце-аи-апи-гатеваи-сцопес-аппровалс-будгетс-аудит-траилс-12/">управљачке алатке за агенте са обимима, одобрењима и траговима ревизије