LiteLLM ના વિકલ્પો: 2025 માં તેના બદલે શું વાપરવું
જો તમે LLM API કોલ્સને પ્રમાણિત કરવા અને પ્રદાતાઓ વચ્ચે ટ્રાફિકને રૂટ કરવા માટે LiteLLM નો ઉપયોગ કરી રહ્યા છો, તો તમે એકલા નથી. આ એક હોંશિયાર વિચાર છે: OpenAI, Anthropic, Google, Azure અને તેનાથી આગળ માટે એક API ઇન્ટરફેસ. પરંતુ જેમ જેમ ટીમો વધે છે, તેમ તેમ તેઓ ઘણીવાર ઊંડી દેખરેખ, કડક દર નિયંત્રણ, વપરાશ વિશ્લેષણ, ઝીણવટભરી નીતિઓ અથવા એન્ટરપ્રાઇઝ-ગ્રેડ વિશ્વસનીયતા ઇચ્છે છે—જે વસ્તુઓ હળવા લાઇબ્રેરી હંમેશા ઓફર કરતી નથી. ત્યાં LiteLLM ના વિકલ્પો આવે છે.
આ માર્ગદર્શિકામાં, અમે વ્યવહારુ LiteLLM વિકલ્પોનું અન્વેષણ કરીશું—ઓપન-સોર્સ ગેટવે અને રાઉટર્સથી લઈને એન્ટરપ્રાઇઝ સુવિધાઓવાળા હોસ્ટેડ પ્લેટફોર્મ્સ સુધી—જે તમને મોડેલ રૂટીંગ, કેશીંગ, એનાલિટિક્સ અને ગવર્નન્સ માટે યોગ્ય સ્ટેક પસંદ કરવામાં મદદ કરશે.
નોંધનીય બાબત: જ્યારે સાર્વજનિક સરખામણી પૃષ્ઠો અસ્તિત્વમાં છે, ત્યારે કેટલાક LiteLLM ને વ્યાપક AI પ્લેટફોર્મ કેટેગરીમાં મૂકે છે, તેથી હંમેશા તપાસો કે કોઈ સાધન ખરેખર ડ્રોપ-ઇન વિકલ્પ છે કે પછી સ્ટેકનું એક અલગ સ્તર છે.
અમે આને ઉપયોગના કિસ્સાઓ, મજબૂતાઈ અને વેપાર-ઓફમાં વિભાજિત કરીશું અને સ્થિતિસ્થાપક, ખર્ચ-કાર્યક્ષમ LLM ગેટવે બનાવવા માટે ટિપ્સ શેર કરીશું.
ઝડપી પ્રાઈમર: LiteLLM શું ઉકેલે છે (અને શું નથી)
LiteLLM તમને બહુવિધ LLM પ્રદાતાઓ અને મોડેલો માટે એકીકૃત ઇન્ટરફેસ આપે છે. તે આ માટે સરળ છે:
- વિનંતી/પ્રતિસાદ સ્કીમાને સામાન્ય બનાવવી
- ન્યૂનતમ કોડ ફેરફારો સાથે પ્રદાતાઓ/મોડેલો વચ્ચે સ્વિચ કરવું
- મૂળભૂત પુનઃપ્રયાસો અને ફોલબેક્સ
પરંતુ જ્યારે ટીમોને જરૂર પડે ત્યારે તે વધી જાય છે:
- કેન્દ્રિય વપરાશ વિશ્લેષણ, પ્રતિ-કી ક્વોટા અને ખર્ચ ટ્રેકિંગ
- દરેક પ્રદાતા/મોડેલ દીઠ ઝીણવટભરી દર મર્યાદાઓ અને ટ્રાફિક આકારણી
- સર્કિટ બ્રેકિંગ, હેલ્થ ચેક્સ અને સ્વયંસંચાલિત ફેઇલઓવર મોટા પાયે
- પ્રોમ્પ્ટ/વર્ઝન ગવર્નન્સ, A/B પરીક્ષણ, ઇવેલ્યુએશન અને ગાર્ડ્રેલ્સ
- સતત કેશીંગ, સામગ્રી નીતિઓ અને રેડ ટીમિંગ
ત્યાં જ વિકલ્પો આવે છે.
LiteLLM વિકલ્પોના પ્રકારો
- હોસ્ટેડ LLM ગેટવે અને રાઉટર્સ: સંપૂર્ણપણે સંચાલિત સેવાઓ જે ઘણા પ્રદાતાઓને પ્રોક્સી કરે છે, એનાલિટિક્સ, કેશીંગ, દર મર્યાદાઓ અને ટીમ સુવિધાઓ ઉમેરે છે.
- ઓપન-સોર્સ ગેટવે/સર્વિંગ: OSS ટૂલ્સ સાથે તમારું પોતાનું નિયંત્રણ પ્લેન બનાવો, પછી ટોચ પર દેખરેખ અને નીતિઓ ઉમેરો.
- દેખરેખ/એનાલિટિક્સ લેયર્સ: તમારી વર્તમાન ક્લાયંટ લાઇબ્રેરી રાખો પરંતુ એક શક્તિશાળી એનાલિટિક્સ, ઇવેલ્યુએશન અને પ્રતિસાદ સ્ટેક ઉમેરો.
- સંપૂર્ણ MLOps/LLMOps પ્લેટફોર્મ: જો તમને ફાઇન-ટ્યુનિંગ, વેક્ટર સ્ટોર્સ, વર્કફ્લો અથવા એન્ટરપ્રાઇઝ ગવર્નન્સની પણ જરૂર હોય.
સમુદાયની સૂચિઓ લેન્ડસ્કેપને મેપ કરવામાં મદદ કરી શકે છે, જો કે તેઓ કેટેગરી અને પરિપક્વતા સ્તરોને મિશ્રિત કરે છે.
શ્રેષ્ઠ LiteLLM વિકલ્પો (દૃશ્ય દ્વારા)
નીચે વિકલ્પોની એક વ્યવહારિક લાઇનઅપ છે જે સામાન્ય રીતે સંસ્થાઓ વધે તેમ અપનાવવામાં આવે છે. આને પ્રાથમિક કાર્ય-થી-કરવાના આધારે વર્ગીકૃત કરવામાં આવ્યા છે જેથી તમે તેમને તમારી જરૂરિયાતો સાથે મેચ કરી શકો.
1) મલ્ટી-પ્રોવાઇડર ગેટવે અને મોડેલ રાઉટર્સ
- OpenRouter: એક લોકપ્રિય હોસ્ટેડ ગેટવે જે બહુવિધ પ્રદાતાઓને (OpenAI, Anthropic, Google, ઓપન-સોર્સ મોડેલ્સ) ને એબ્સ્ટ્રેક્ટ કરે છે. ઘણીવાર એક જ પ્રદાતા સેટઅપથી મલ્ટી-પ્રોવાઇડર રૂટીંગમાં વપરાશ ટ્રેકિંગ અને પ્રતિ-કી નિયંત્રણો સાથે સરળ સ્થળાંતર માટે વપરાય છે.
- Eden AI: એક બિલિંગ અને એક ઇન્ટરફેસ પાછળ ઘણા AI API (LLM, અનુવાદ, વાણી, OCR) ને એકત્રિત કરે છે—જો તમને LLM કરતાં વધુની જરૂર હોય તો સરળ.
- Vellum: મજબૂત પ્રયોગ ટ્રેકિંગ, રૂટીંગ નીતિઓ અને મૂલ્યાંકન વર્કફ્લો સાથે પ્રોમ્પ્ટ અને મોડેલ મેનેજમેન્ટ પર ધ્યાન કેન્દ્રિત કર્યું. ભારે પુનરાવર્તન કરતી ટીમો માટે મજબૂત.
- Baseten: જ્યારે મુખ્યત્વે અનુમાન પ્લેટફોર્મ છે, તે ઉત્પાદન વિશ્વસનીયતા, સ્કેલિંગ અને દેખરેખ સાથે મોડેલો (ઓપન-સોર્સ સહિત) ને જમાવવાનું અને સેવા આપવાનું સમર્થન કરે છે.
- Laminar: નીતિ-સંચાલિત મોડેલ પસંદગી, સલામતી ફિલ્ટર્સ અને ગવર્નન્સ તરફ લક્ષી—જ્યાં પાલન અને સામગ્રી નીતિ મહત્વપૂર્ણ છે ત્યાં ઉપયોગી.
ક્યારે પસંદ કરવું: તમને LiteLLM ની સરળતા જોઈએ છે, પરંતુ ડેશબોર્ડ્સ, વિનંતી લોગ્સ, દર મર્યાદાઓ, કેશીંગ અને એન્ટરપ્રાઇઝ સુવિધાઓ બોક્સની બહાર સાથે.
2) દેખરેખ, એનાલિટિક્સ અને ઇવેલ્યુએશન લેયર્સ
- LangFuse: ટ્રેસિંગ, પ્રોમ્પ્ટ/વર્ઝન એનાલિટિક્સ, લેટન્સી અને ખર્ચની આંતરદૃષ્ટિ માટે ઉત્તમ. કામગીરીને સમજવા અને A/B ચલાવવા માટે કોઈપણ ગેટવે સાથે સારી રીતે જોડી બનાવે છે.
- Helicone: હોસ્ટેડ એનાલિટિક્સ પ્રોક્સી જે વિનંતી/પ્રતિસાદ મેટાડેટા, ખર્ચ, લેટન્સી કેપ્ચર કરે છે અને ભારે ઇન્સ્ટ્રુમેન્ટેશન વિના ડેશબોર્ડ્સને સક્ષમ કરે છે.
- PromptLayer: પ્રોમ્પ્ટ્સ, વર્ઝન અને પ્રયોગ પરિણામોને ટ્રેક કરે છે; પ્રોમ્પ્ટ પુનરાવર્તનોમાં પ્રજનનક્ષમતા અને સહયોગની જરૂર હોય તેવી ટીમો માટે ઉપયોગી.
ક્યારે પસંદ કરવું: તમે LiteLLM (અથવા તમારા હાલના ક્લાયંટ) ને રાખવા માંગો છો પરંતુ ઊંડી દૃશ્યતા, માપન અને ગવર્નન્સ ઉમેરવા માંગો છો.
3) ઓપન-સોર્સ સર્વિંગ અને સ્વ-હોસ્ટેડ કંટ્રોલ પ્લેન્સ
- BentoML: ઉત્પાદનમાં મોડેલોને પેકેજિંગ, સર્વિંગ અને સ્કેલિંગ કરવા માટેનું પરિપક્વ ફ્રેમવર્ક. આદર્શ જ્યારે તમને ચુસ્ત નિયંત્રણ અને ઓન-પ્રેમ/એર-ગેપ્ડ જમાવટ જોઈએ છે.
- Ray Serve / Anyscale: જો તમે બહુવિધ કસ્ટમ અથવા OSS મોડેલોને મોટા પાયે સર્વ કરી રહ્યા છો, તો Ray Serve પ્રોગ્રામેબલ રૂટીંગ, ઓટોસ્કેલિંગ અને ઉચ્ચ થ્રુપુટ પ્રદાન કરે છે.
- Beam / Banana: ઝડપી જમાવટ પ્રવાહો સાથે સર્વરલેસ-શૈલી મોડેલ હોસ્ટિંગ, જે ટીમો માટે યોગ્ય છે જે ન્યૂનતમ ઓપ્સ સાથે કસ્ટમ મોડેલો ચલાવવા માંગે છે.
- Ollama: ઓપન-સોર્સ મોડેલોના સ્થાનિક/એજ અનુમાન માટે ઉત્તમ; ગેટવેનું અનુકરણ કરવા માટે તમારા પોતાના રિવર્સ પ્રોક્સી અને મેટ્રિક્સ સાથે જોડો.
ક્યારે પસંદ કરવું: તમારે પાલન માટે સ્વ-હોસ્ટ કરવાની જરૂર છે, OSS મોડેલો ચલાવવા માંગો છો અથવા તમારા પોતાના ઇન્ફ્રામાં કસ્ટમ રૂટીંગ લોજિક અને SLAs ની જરૂર છે.
4) વર્કફ્લો, નીતિઓ અને એન્ટરપ્રાઇઝ ગવર્નન્સ પ્લેટફોર્મ
- Vellum (ફરીથી): પ્રયોગ વ્યવસ્થાપન, ઇવેલ્યુએશન અને નીતિ-સંચાલિત રૂટીંગ માટે મજબૂત.
- Laminar (ફરીથી): સલામતી, ગાર્ડ્રેલ્સ અને મોડેલ નીતિઓ પર ભાર મૂકે છે.
- Vertex AI, watsonx, વગેરે: મોટા ક્લાઉડ પ્લેટફોર્મ ક્યારેક ડિરેક્ટરીઓમાં LiteLLM "વિકલ્પો" તરીકે દેખાય છે, પરંતુ તે ખૂબ જ અલગ અવકાશ સાથે વ્યાપક ઇકોસિસ્ટમ્સ છે.
ક્યારે પસંદ કરવું: તમે ટીમોમાં પ્રમાણિત કરી રહ્યા છો, ઓડિટ ટ્રેલ્સ, નીતિ અમલીકરણ અને પુનરાવર્તિત પ્રકાશનની જરૂર છે.
યોગ્ય વિકલ્પ કેવી રીતે પસંદ કરવો
ઘોંઘાટને કાપવા માટે આ ચેકલિસ્ટનો ઉપયોગ કરો:
- પ્રદાતાઓ અને મોડેલો: શું તે OpenAI, Anthropic, Google, Azure OpenAI, Cohere, ઓપન-સોર્સ મોડેલો અને તમારા પ્રદેશની જરૂરિયાતોને સમર્થન આપે છે?
- દર મર્યાદાઓ અને ક્વોટા: પ્રતિ-મોડેલ અને પ્રતિ-કી થ્રોટલિંગ, બર્સ્ટ કંટ્રોલ અને બેકઓફ વ્યૂહરચના.
- વિશ્વસનીયતા: જિટર સાથે પુનઃપ્રયાસો, સર્કિટ બ્રેકર્સ, હેલ્થ ચેક્સ, પ્રદાતા ફેઇલઓવર અને સ્વચાલિત ડિગ્રેડેશન.
- કેશીંગ: લેટન્સી અને ખર્ચ ઘટાડવા માટે સિમેન્ટિક અથવા પ્રોમ્પ્ટ-સામાન્ય કેશીંગ. કેશ અમાન્યતા અને TTL નિયંત્રણો.
- દેખરેખ: ટ્રેસ, પ્રોમ્પ્ટ વર્ઝન, ટોકન વપરાશ, લેટન્સી પર્સેન્ટાઇલ, ટીમ અને સુવિધા દ્વારા ખર્ચ વિરામ.
- ગવર્નન્સ અને સલામતી: રિડેક્શન, PII હેન્ડલિંગ, સામગ્રી ફિલ્ટર્સ, જેલબ્રેક સુરક્ષા અને નીતિ અમલીકરણ.
- ઇવેલ્યુએશન અને પ્રયોગ: પ્રોમ્પ્ટ/વર્ઝન પ્રયોગો, રીગ્રેસન પરીક્ષણો અને ઓફલાઇન/ઓનલાઇન ઇવેલ્યુએશન.
- ડેટા રેસિડેન્સી અને પાલન: SOC 2, HIPAA, GDPR; જરૂર પડે ત્યારે સ્વ-હોસ્ટેડ વિકલ્પો.
- કિંમત અને આગાહી: પારદર્શક પ્રતિ-વિનંતી અથવા પ્રતિ-સીટ કિંમત; રનઅવે ખર્ચને ટાળવા માટે કેપ્સ.
- વિકાસકર્તા અનુભવ: SDKs, ન્યૂનતમ વેન્ડર લોક-ઇન, સરળ સ્થળાંતર પાથ.
ઉદાહરણ આર્કિટેક્ચર્સ
લવચીકતા ગુમાવ્યા વિના LiteLLM ને બદલવા અથવા વધારવા માટે અહીં ત્રણ સામાન્ય પેટર્ન છે.
- હોસ્ટેડ ગેટવે + એનાલિટિક્સ લેયર
- મલ્ટી-પ્રોવાઇડર રૂટીંગ, દર મર્યાદા અને કેશીંગ માટે OpenRouter અથવા Eden AI નો ઉપયોગ કરો.
- ટ્રેસિંગ, ડેશબોર્ડ્સ અને ખર્ચ એનાલિટિક્સ માટે LangFuse અથવા Helicone ઉમેરો.
- પરિણામ: સેટઅપ કરવા માટે ઝડપી, મજબૂત દૃશ્યતા, ન્યૂનતમ કોડ ફેરફારો.
- સિંગલ રિવર્સ પ્રોક્સી પાછળ OSS અને પ્રદાતા-સપોર્ટેડ એન્ડપોઇન્ટ્સને હોસ્ટ કરવા માટે BentoML અથવા Ray Serve નો ઉપયોગ કરો.
- દેખરેખ માટે LangFuse અને ગવર્નન્સ માટે આંતરિક નીતિ એન્જિન (દા.ત., OPA) ઉમેરો.
- પરિણામ: મહત્તમ નિયંત્રણ અને પાલન; વધુ ઇન્ફ્રા કામ.
- વિકાસની ઝડપ માટે LiteLLM (અથવા સમાન પાતળા ક્લાયંટ) રાખો.
- પ્રયોગો, ઇવેલ્યુએશન અને નીતિ રૂટીંગ માટે Vellum નો ઉપયોગ કરો; એનાલિટિક્સ માટે Helicone/LangFuse.
- પરિણામ: ગેટવે માટે પ્રતિબદ્ધતા કરતા પહેલા પ્રોમ્પ્ટ્સ અને પ્રદાતાઓને ઑપ્ટિમાઇઝ કરો.
સ્થળાંતર ટિપ્સ: LiteLLM થી વિકલ્પ પર
- ટ્રાફિકને મિરર કરીને પ્રારંભ કરો. નવા ગેટવે/સેવા પર થોડો ટકાવારી મોકલો અને લેટન્સી, ટોકન ખર્ચ અને ભૂલ દરોની તુલના કરો.
- પ્રતિસાદોને સામાન્ય બનાવો. ખાતરી કરો કે તમારો ડાઉનસ્ટ્રીમ કોડ સમાન ફીલ્ડ્સ અને ભૂલ સિમેન્ટિક્સની અપેક્ષા રાખે છે.
- રૂટીંગ નિયમોને બાહ્ય બનાવો. મોડેલ પસંદગી અને નીતિઓને એપ્લિકેશન કોડમાંથી ગેટવે અથવા રૂપરેખાંકનમાં ખસેડો.
- શરૂઆતમાં ઇન્સ્ટ્રુમેન્ટ કરો. પહેલા દિવસથી જ ટ્રેસિંગ અને ખર્ચ ટ્રેકિંગ ઉમેરો—રેટ્રોએક્ટિવ દૃશ્યતા પીડાદાયક છે.
- ફોલબેક લોજિક ઉમેરો. ગેટવે સાથે પણ, નિર્ણાયક પાથ માટે ક્લાયંટ-સાઇડ ફોલબેક્સ રાખો.
જ્યાં સમુદાયની આંતરદૃષ્ટિ મદદ કરે છે
વિકાસકર્તા મંચો અને ક્યુરેટેડ સૂચિઓ ઓછી જાણીતી પરંતુ આશાસ્પદ સાધનોને સપાટી પર લાવી શકે છે. ઉદાહરણ તરીકે, વિકલ્પો (અથવા અન્ય ભાષાઓમાં પોર્ટ્સ) ને ધ્યાનમાં લેતા વિકાસકર્તાઓ સમુદાય થ્રેડોમાં સમાન લાઇબ્રેરીઓ અને અભિગમોની ચર્ચા કરે છે. અને વ્યાપક LLMOps સૂચિઓ તમને એક જ જગ્યાએ ગેટવે, દેખરેખ સાધનો અને સેવા આપતા ફ્રેમવર્ક શોધવામાં મદદ કરે છે.
ભલામણ કરેલ શોર્ટલિસ્ટ (ધ્યેય દ્વારા)
- સૌથી ઝડપી ડ્રોપ-ઇન: OpenRouter અથવા Eden AI
- શ્રેષ્ઠ એનાલિટિક્સ એડ-ઓન: LangFuse અથવા Helicone
- સૌથી કડક ગવર્નન્સ/નીતિ નિયંત્રણ: Vellum અથવા Laminar
- સ્વ-હોસ્ટેડ, ઉચ્ચ નિયંત્રણ: BentoML અથવા Ray Serve
- સ્થાનિક/એજ પ્રયોગો: Ollama
માર્ગ દ્વારા, જો તમારી ટીમ પ્રોમ્પ્ટ્સ પર ભારે સહયોગ કરે છે અને Chrome/Edge માં રોજિંદા કોપાયલોટની જરૂર હોય, તો Sider.AI એક જગ્યાએ સંદર્ભ રાખીને ટૂલ્સમાં પ્રોમ્પ્ટ્સ લખવામાં, પરીક્ષણ કરવામાં અને સુધારવામાં મદદ કરી શકે છે. તે રાઉટર નથી, પરંતુ તે પ્રોમ્પ્ટ પુનરાવર્તન અને ઝડપી સામગ્રી વર્કફ્લો માટે ઉત્તમ છે, અને તમે તેને અહીં અજમાવી શકો છો: મુખ્ય ટેકઅવે
- LiteLLM મોડેલ કોલ્સને એકીકૃત કરવા માટે ઉત્તમ છે, પરંતુ મોટાભાગની ટીમોને આખરે મજબૂત રૂટીંગ, એનાલિટિક્સ, ગવર્નન્સ અને વિશ્વસનીયતાની જરૂર પડે છે.
- તમે હોસ્ટેડ ગેટવે, OSS કંટ્રોલ પ્લેન અથવા એનાલિટિક્સ/ઇવેલ્યુએશન લેયર ઇચ્છો છો કે કેમ તે નક્કી કરો—દરેક એક અલગ પીડાને હલ કરે છે.
- એક સાંકડા ધ્યેયથી પ્રારંભ કરો (દા.ત., દર મર્યાદાઓ + ખર્ચ ટ્રેકિંગ) અને જેમ જેમ તમારો વપરાશ પરિપક્વ થાય તેમ વિસ્તૃત કરો.
- ટ્રાફિકને મિરર કરીને, સંપૂર્ણ રીતે ઇન્સ્ટ્રુમેન્ટ કરીને અને રૂટીંગ નિયમોને બાહ્ય બનાવીને સ્થળાંતરને ઓછું જોખમી રાખો.
FAQ
Q1: મલ્ટી-પ્રોવાઇડર રૂટીંગ માટે શ્રેષ્ઠ LiteLLM વિકલ્પ શું છે?
જો તમે વપરાશ નિયંત્રણો સાથે પ્રદાતાઓ વચ્ચે રૂટ કરવા માટે હોસ્ટેડ ગેટવે ઇચ્છતા હોવ તો OpenRouter અને Eden AI મજબૂત વિકલ્પો છે. તેઓ એક જ API સપાટી રાખીને સરળ સેટઅપ અને એકીકૃત બિલિંગ ઓફર કરે છે.
Q2: હું મારા હાલના LiteLLM સેટઅપમાં એનાલિટિક્સ કેવી રીતે ઉમેરી શકું?
LangFuse અથવા Helicone જેવા દેખરેખ લેયર ઉમેરો. તેઓ ટ્રેસ, ટોકન વપરાશ, લેટન્સી અને ખર્ચ ડેટા કેપ્ચર કરે છે જેથી તમે તમારા ક્લાયંટને ફરીથી લખ્યા વિના પ્રોમ્પ્ટ્સ અને મોડેલોનું વિશ્લેષણ કરી શકો.
Q3: સ્વ-હોસ્ટિંગ અને પાલન માટે કયો LiteLLM વિકલ્પ શ્રેષ્ઠ છે?
કસ્ટમાઇઝ કરી શકાય તેવા રૂટીંગ સાથે સ્વ-હોસ્ટેડ, ઉત્પાદન-ગ્રેડ સર્વિંગ માટે BentoML અથવા Ray Serve મજબૂત પસંદગીઓ છે. દેખરેખ માટે LangFuse અને ગવર્નન્સ માટે તમારા પોતાના નીતિ એન્જિન સાથે તેમને જોડો.
Q4: શું હું LiteLLM રાખી શકું અને હજુ પણ વિશ્વસનીયતા અને ગવર્નન્સ સુધારી શકું?
હા. વિકાસની ઝડપ માટે LiteLLM રાખો અને નીતિ રૂટીંગ અને ઇવેલ્યુએશન માટે Vellum ઉમેરો, વત્તા એનાલિટિક્સ માટે Helicone અથવા LangFuse. સમય જતાં, જો જરૂરી હોય તો તમે રૂટીંગને ગેટવે પર સ્થળાંતર કરી શકો છો.
Q5: હું ન્યૂનતમ જોખમ સાથે LiteLLM થી કેવી રીતે સ્થળાંતર કરી શકું?
નવા ગેટવે પર ટ્રાફિકની થોડી ટકાવારી મિરર કરો, મેટ્રિક્સની તુલના કરો અને પ્રતિસાદોને સામાન્ય બનાવો. રૂપરેખાંકનમાં રૂટીંગ નીતિઓને બાહ્ય બનાવો, શરૂઆતમાં વિનંતીઓને ઇન્સ્ટ્રુમેન્ટ કરો અને ક્લાયંટ-સાઇડ ફોલબેક્સ રાખો.
