आइए, बिना अपनी जेब (या दिमाग) खाली किए, अपनी ऐप में AI जोड़ें।
क्या आपने कभी बिना एलन रिंच के IKEA का फर्नीचर जोड़ने की कोशिश की है? AI जोड़ने का अनुभव ऐसा ही होता है जब आपसे कहा जाता है, "बस अपनी API कुंजी लगाओ और बिलिंग खाता शुरू करो।" ज़रूर, और जब मैं यह कर ही रहा हूँ, तो मैं घर की वायरिंग भी बदल दूँगा और एक सैटेलाइट भी लॉन्च कर दूँगा।
अच्छी खबर: स्मार्ट, उपयोगी AI सुविधाओं को एक प्यारे ऐप में जोड़ने के लिए आपको API कुंजियों, उपयोग डैशबोर्ड या दूसरे मॉर्गेज की आवश्यकता नहीं है। इस गाइड में, हम व्यावहारिक पैटर्न, प्लेटफ़ॉर्म-नेटिव सुविधाओं और कुछ चालाकी भरे वर्कअराउंड का उपयोग करके, एक प्यारे ऐप में AI जोड़ने के बारे में बात करने जा रहे हैं (कोई API कुंजी नहीं, कोई अतिरिक्त बिलिंग नहीं)। अनुवाद: आप उपयोगकर्ताओं के लिए जादुई लगने वाली सहायक AI सुविधाएँ भेज सकते हैं, बिना $3,842 के बिल के डर से जागे क्योंकि किसी ने आपके चैट बॉक्स का उपयोग आलू के बारे में एक महाकाव्य लिखने के लिए किया था।
यह एक हैंड्स-ऑन वॉकथ्रू है। मैं आपको स्मार्ट सुविधाएँ डिज़ाइन करना, बिना कुंजियों के मॉडल कहाँ से प्राप्त करना है, और ऑन-डिवाइस AI, सर्वर-साइड रैपर और थोड़ी सी प्रोडक्ट समझ के साथ लागत को शून्य (या उसके करीब) कैसे रखना है, यह दिखाऊँगा।
"कोई API कुंजी नहीं" और "कोई अतिरिक्त बिलिंग नहीं" से हमारा क्या मतलब है
त्वरित डिकोडर रिंग:
- कोई API कुंजी नहीं: आप उपयोगकर्ताओं को अपनी स्वयं की कुंजियाँ पेस्ट करने के लिए नहीं कह रहे हैं, और आप उनकी ओर से कुंजियाँ संग्रहीत या घुमा नहीं रहे हैं।
- कोई अतिरिक्त बिलिंग नहीं: आप अपने उपयोगकर्ताओं को टोकन-आधारित मीटर पर नहीं भेज रहे हैं। आप या तो ऑन-डिवाइस AI चलाते हैं, लागतों को अपनी मौजूदा योजना में बंडल करते हैं, या उदार मुफ्त स्तरों का उपयोग करते हैं जिन्हें आप नियंत्रित करते हैं।
बात हमेशा के लिए भुगतान से बचने की नहीं है। बात स्मार्ट AI के साथ एक प्यारा ऐप डिज़ाइन करने की है जो अनुमान लगाने योग्य, निजी और आपको CFO जेल में नहीं डालता है।
प्यारा ऐप चेकलिस्ट: AI को वास्तव में क्या करना चाहिए
इससे पहले कि हम कुछ भी प्लग इन करें, परिभाषित करें कि आपके ऐप के लिए "प्यारा" का क्या अर्थ है:
- यह एक दर्दनाक, लगातार काम को तुरंत हल करता है। वन-टैप सारांश। वन-क्लिक पुनर्लेखन। एक स्मार्ट खोज।
- यह स्थानीय महसूस कराने के लिए काफी तेज़ है। यदि आपका AI लोडिंग डोनट की तरह घूमता है, तो आप पहले ही हार चुके हैं।
- यह डिफ़ॉल्ट रूप से गोपनीयता का सम्मान करता है। बुनियादी सुविधाओं के लिए उपयोगकर्ताओं को एक रहस्यमय क्लाउड पर भरोसा करने की आवश्यकता नहीं होनी चाहिए।
- यह व्याख्या योग्य है। "टोन साफ़ किया और व्याकरण ठीक किया" जैसा एक छोटा सा संकेत जादू को विश्वास में बदल देता है।
यदि आपके सुविधा विचार उन बॉक्सों की जाँच नहीं करते हैं, तो आपको AI की आवश्यकता नहीं है। आपको झपकी की ज़रूरत है।
रणनीति #1: ऑन-डिवाइस AI (a.k.a. नो-कीज़, नो-बिल्स MVP)
"नो कीज़, नो बिल्स" के लिए सबसे आसान रास्ता चाहते हैं? मॉडल को उपयोगकर्ता के डिवाइस पर चलाएँ। यह $12 का व्हीटग्रास शॉट वाला स्मूदी ऑर्डर करने के बजाय घर पर स्मूदी बनाने जैसा है।
ऑन-डिवाइस AI कहाँ जीतता है:
- गोपनीयता: डेटा डिवाइस नहीं छोड़ता है।
- अनुमानित लागत: प्रति अनुरोध $0। आपकी लागत इंजीनियरिंग समय और ऐप के आकार का एक बिट है।
- गति: कई कार्यों - सारांश, सुधार, वर्गीकरण - के लिए, आधुनिक डिवाइस पर्याप्त तेज़ हैं।
व्यावहारिक विकल्प:
- प्लेटफ़ॉर्म-नेटिव फ्रेमवर्क का उपयोग करें:
- iOS/macOS: Apple का Core ML एक छोटे भाषा मॉडल के साथ। वर्गीकरण, टोन ट्विक्स और छोटे सारांश के लिए बढ़िया।
- Android: एक कॉम्पैक्ट LLM या कार्य-विशिष्ट मॉडल के साथ TensorFlow Lite।
- डेस्कटॉप/वेब: ब्राउज़र में 7B और छोटे मॉडल चलाने के लिए WebGPU + WebAssembly रनटाइम (हाँ, वास्तव में)।
- छोटे-लेकिन-शक्तिशाली मॉडल चुनें:
- 3B–7B पैरामीटर मॉडल व्याकरण सुधार, बुलेट-पॉइंट सारांश और बुनियादी Q&A कर सकते हैं।
- मेमोरी और लोडिंग समय को कम करने के लिए परिमाणित संस्करणों (जैसे, 4-बिट) का उपयोग करें।
- UX पैटर्न जो ऑन-डिवाइस पर चमकते हैं:
- चयन योग्य टोन के साथ “पुनर्लेखन” बटन: अनुकूल, संक्षिप्त, औपचारिक।
- डॉक्स, ईमेल या नोट्स के लिए "चयन का सारांश"
- मीटिंग नोट्स से "एक्शन आइटम निकालें"
- "इस पृष्ठ को खोजें" सिमेंटिक खोजक।
प्रो टिप: एक "त्वरित मोड" (ऑन-डिवाइस) और एक वैकल्पिक "पावर मोड" (क्लाउड) प्रदान करें - किसी कुंजी की आवश्यकता नहीं है। उस पर थोड़ी देर में।
रणनीति #2: अपना मॉडल लाओ... लेकिन अपने उपयोगकर्ताओं की कुंजियाँ नहीं
आप अपने उपयोगकर्ताओं को कीरिंग सौंपे बिना क्लाउड मॉडल का उपयोग कर सकते हैं। आप कुंजी को अपने सर्वर पर छिपाते हैं, कॉल को दर-सीमित करते हैं और लागतों को सीमित करते हैं। उपयोगकर्ता के दृष्टिकोण से, कोई API कुंजी नहीं है, और आपके दृष्टिकोण से, कोई अनियंत्रित बिलिंग नहीं है।
इसे सुरक्षित रूप से कैसे करें:
- सर्वर-साइड प्रॉक्सी: आपका ऐप आपके सर्वर को कॉल करता है; आपका सर्वर मॉडल प्रदाता को कॉल करता है। आप थ्रॉटल के स्वामी हैं।
- बजट गार्डरेल: दैनिक या मासिक खर्च कैप, प्रति-उपयोगकर्ता कोटा और टाइमआउट सेट करें।
- कैशिंग: कॉल को कम करने के लिए लगातार प्रॉम्प्ट और परिणामों को कैश करें।
- जब आप सीमाएँ मारते हैं, तो एक त्रुटि स्क्रीन नहीं, ऑन-डिवाइस पर वापस जाएँ।
इसका उपयोग कब करें:
- आपको एक छोटे स्थानीय मॉडल की तुलना में बेहतर तर्क, लंबी संदर्भ या मल्टीमॉडल समर्थन की आवश्यकता है।
- आप एक मुफ्त योजना को सरल रखना चाहते हैं, जबकि अधिक जूस के साथ भुगतान किए गए स्तरों की पेशकश करना चाहते हैं - फिर भी एक कुंजी को उजागर किए बिना।
रणनीति #3: बुद्धिमत्ता को पहले से बेक करें (टेम्प्लेट टोकन को हराते हैं)
यहाँ वह रहस्य है जो हर महान AI प्रोडक्ट मैनेजर सीखता है: अधिकांश उपयोगकर्ता "प्रॉम्प्ट" नहीं करना चाहते हैं। वे ऐसे बटन चाहते हैं जो सही काम करें।
कच्चे चैट बॉक्स के बजाय टेम्पलेट्स और संरचित कार्यों के आसपास अपने AI का निर्माण करें। आपको बेहतर परिणाम, कम टोकन और कम किनारे के मामले मिलेंगे।
टेम्पलेट उदाहरण जो प्यारे लगते हैं:
- "इसे अधिक अनुकूल बनाएं लेकिन अर्थ वही रखें।"
- "इस पाठ से तिथियां, नाम और कार्रवाई आइटम निकालें।"
- "60 अक्षरों से कम के तीन वैकल्पिक शीर्षक उत्पन्न करें।"
- "इस मीटिंग ट्रांसक्रिप्ट को मालिकों और नियत तिथियों के साथ एक एजेंडा में बदलें।"
आप इन्हें छोटे मॉडल के साथ ऑन-डिवाइस पर चला सकते हैं या जरूरत पड़ने पर क्लाउड में भेज सकते हैं। किसी भी तरह से, आप प्रॉम्प्ट को नियंत्रित कर रहे हैं - इसलिए आप लागत और गुणवत्ता को नियंत्रित कर रहे हैं।
रणनीति #4: बिना ज़्यादा मेहनत किए स्मार्ट दिखने के लिए पुनर्प्राप्ति का उपयोग करें
बड़े मॉडल मतिभ्रम करते हैं। छोटे मॉडल तेजी से मतिभ्रम करते हैं। पुनर्प्राप्ति दोनों को सामग्री बनाने से रोकता है।
- उपयोगकर्ता की सामग्री (डॉक्स, नोट्स, टिकट) का एक स्थानीय इंडेक्स बनाएँ और पहले सिमेंटिक खोज करें।
- अपने मॉडल को केवल शीर्ष स्निपेट्स फ़ीड करें। छोटा प्रॉम्प्ट, बेहतर सटीकता।
- गोपनीयता-पहले ऐप्स के लिए, इंडेक्स को स्थानीय रखें ताकि कुछ भी डिवाइस न छोड़े।
परिणाम: आपका ऐप शानदार दिखता है जबकि आपका मॉडल कम काम करता है। इसे AI को पूरी लाइब्रेरी को याद रखने के लिए कहने के बजाय एक खुली किताब परीक्षा देने के रूप में सोचें।
रणनीति #5: वैकल्पिक ऑनलाइन सुपरपावर के साथ ऑफ़लाइन-पहले ऑफ़र करें
आपके उपयोगकर्ता विमानों, ट्रेनों और कभी-कभी एक बार वाले बेसमेंट में होते हैं। अपने AI को ऑफ़लाइन काम करवाएँ। फिर, जब कोई कनेक्शन हो, तो ऑप्ट-इन "पावर मोड" ऑफ़र करें।
यह कैसे चलता है:
- ऑफ़लाइन: ऑन-डिवाइस मॉडल के माध्यम से बुनियादी पुनर्लेखन, सारांश और निष्कर्षण।
- ऑनलाइन: आपके सर्वर प्रॉक्सी के माध्यम से बड़े संदर्भ विंडो, बेहतर तर्क और छवि समझ।
- UI: एक छोटा सा "लाइटनिंग" टॉगल जो ट्रेड-ऑफ़ की व्याख्या करता है: "तेज़ और निजी (ऑफ़लाइन)" बनाम "स्मार्टर लेकिन क्लाउड का उपयोग करता है (ऑनलाइन)।"
किसी कुंजी की आवश्यकता नहीं है; कोई आश्चर्य बिल नहीं। बस एक विकल्प।
रणनीति #6: गार्डरेल जो सुविधाओं को प्यारा रखते हैं, न कि मुकदमेबाजी योग्य
एक प्यारा ऐप सहायक, अनुमान लगाने योग्य और... उबाऊ रूप से सुरक्षित है। गार्डरेल में बेक करें:
- सामग्री फ़िल्टर: किसी भी मॉडल को हिट करने से पहले हानिकारक या ऑफ़-पॉलिसी प्रॉम्प्ट को ब्लॉक करें।
- पारदर्शी लेबल: संपादन इतिहास के साथ "AI-जनरेटेड" टैग।
- पुनरुत्पादकता: परिणामों को दोहराया जा सकता है, इसलिए (उपयोगकर्ता की सहमति से) स्थानीय रूप से प्रॉम्प्ट और सेटिंग्स लॉग करें।
- प्रशिक्षण के लिए ऑप्ट-आउट: यदि आप कुछ भी फाइन-ट्यून करते हैं, तो पूछें। और "नहीं" को आसान बटन बनाएं।
ब्लूप्रिंट: एक प्यारा ऐप में AI कैसे जोड़ें (कोई API कुंजी नहीं, कोई अतिरिक्त बिलिंग नहीं)
आइए इसे नैपकिन स्केच से शिप की गई सुविधा तक, चरण-दर-चरण में बदल दें।
- स्वचालित करने के लिए एक कार्य चुनें
- एक एकल, लगातार कार्य चुनें जो आपके उपयोगकर्ता दैनिक करते हैं। उदाहरण: "चयनित पाठ को पाँच बुलेट में सारांशित करें।"
- सफलता रेखा को सादे अंग्रेजी में लिखें: "उपयोगकर्ता पाठ को हाइलाइट करता है, सारांश पर टैप करता है, दो सेकंड से कम समय में पाँच स्पष्ट बुलेट प्राप्त करता है।"
- अपने पदचिह्न का चयन करें: ऑन-डिवाइस पहले
- एक छोटे परिमाणित मॉडल से शुरू करें। पेलोड को छोटा रखें, पहली बार चलाने के बाद मॉडल को कैश करें।
- एक सख्त टोकन कैप सेट करें। यदि पाठ लंबा है, तो इसे चंक करें और प्रति चंक सारांशित करें।
- एक टेम्पलेट बनाएं, चैट बॉक्स नहीं
- कुछ कुरकुरी उदाहरणों के साथ निर्देश को हार्ड-कोड करें। केवल उपयोगकर्ता-सामना करने वाले नॉब्स को उजागर करें जो मायने रखते हैं: टोन, लंबाई।
- परिणामों में एक स्पष्टीकरण पंक्ति जोड़ें: "स्पष्टता के लिए संघनित। भराव हटाया गया।"
- संदर्भ के लिए पुनर्प्राप्ति जोड़ें
- यदि किसी दस्तावेज़ को सारांशित किया जा रहा है जो अन्य डॉक्स को संदर्भित करता है, तो स्थानीय रूप से इंडेक्स करें और प्रासंगिक बिट्स को खींचें।
- टैप करने योग्य उद्धरणों के साथ स्रोत दिखाएं। विश्वास एक सुविधा है।
- पावर मोड डिज़ाइन करें (वैकल्पिक)
- यदि किनारे के मामलों के लिए ऑफ़लाइन परिणाम कमजोर हैं, तो एक क्लाउड "पावर मोड" जोड़ें।
- अपने सर्वर के माध्यम से रूट करें, अपने उपयोगकर्ता की कुंजी के माध्यम से नहीं। कोटा और दैनिक कैप जोड़ें।
- खुशी के लिए परीक्षण करें, न कि केवल सटीकता के लिए
- समय-से-पहले-टोकन और पूर्णता समय को मापें।
- A/B परीक्षण प्रतिलिपि: "पुनर्लेखन" बनाम "पॉलिश।" स्पॉइलर: शब्द मायने रखते हैं।
- AI आउटपुट के बाद उपयोगकर्ता संपादन लॉग करें (सहमति के साथ)। यदि हर कोई पहले बुलेट को संपादित करता है, तो आपके टेम्पलेट को एक बड़े मॉडल की नहीं, काम करने की आवश्यकता है।
- अतिरिक्त बिलिंग नाटक के बिना इसकी कीमत
- अपनी मौजूदा योजनाओं में AI सुविधा को बंडल करें।
- नरम सीमाओं का उपयोग करें: "प्रो पर 20 पावर मोड रन/दिन।"
- असीमित ऑफ़लाइन रन ऑफ़र करें - क्योंकि ऑन-डिवाइस मुफ़्त है।
वास्तविक दुनिया के परिदृश्य जो वास्तव में काम करते हैं
तीन काटने के आकार की रेसिपी जिन्हें आप इस महीने भेज सकते हैं, मुख्य अनुभव के लिए किसी कुंजी की आवश्यकता नहीं है:
- नौकरी: ईमेल और संदेशों में टोन को साफ करें।
- कैसे: अर्थ रखने, व्याकरण संबंधी मुद्दों को दूर करने और टोन को समायोजित करने के लिए एक निश्चित प्रॉम्प्ट के साथ ऑन-डिवाइस मॉडल।
- UX: फ्रेंडली, फॉर्मल, संक्षिप्त के लिए एक टॉगल के साथ इनलाइन संपादन पूर्वावलोकन। एक डिफ दिखाएं ताकि उपयोगकर्ता सीखें।
- नौकरी: मीटिंग नोट्स को एक्शन आइटम में बदलें।
- कैसे: ऑन-डिवाइस पर चंकेड सारांश, फिर लंबे ट्रांसक्रिप्ट के लिए वैकल्पिक पावर मोड।
- UX: नियत-तिथि सुझावों के साथ मालिक द्वारा समूहीकृत परिणाम। अपने कार्य उपकरण में कॉपी करने के लिए टैप करने योग्य।
- नौकरी: किसी उपयोगकर्ता के डॉक्स में प्रासंगिक जानकारी खोजें।
- कैसे: संश्लेषण के लिए स्थानीय वेक्टर इंडेक्स + उथला LLM।
- UX: स्रोत लिंक और एक "यह परिणाम क्यों?" नोट के साथ हाइलाइट। ऐसा लगता है जैसे Ctrl+F ने PhD प्राप्त कर ली है।
प्रदर्शन युक्तियाँ ताकि आपका AI डायल-अप जैसा न लगे
- पहली अनुरोध सुस्त न हो इसलिए ऐप लॉन्च पर एक छोटे डमी अनुमान के साथ मॉडल को गर्म करें।
- एम्बेडिंग और आंशिक परिणामों को कैश करें; उन्हें सत्रों के बीच पुन: उपयोग करें।
- प्रतिक्रियाओं को स्ट्रीम करें और लाइन-बाय-लाइन रेंडर करें। इंसानों को प्रगति महसूस करना पसंद है, भले ही वह सिर्फ तीन डॉट्स नाच रहे हों।
- प्रॉम्प्ट को नियंत्रण में रखें। टेम्पलेट > निबंध।
10-पृष्ठ घोषणापत्र के बिना गोपनीयता
- स्थानीय प्रसंस्करण के लिए डिफ़ॉल्ट। प्रति सुविधा क्लाउड प्रसंस्करण को ऑप्ट-इन करें।
- एक वाक्य में समझाएं: "यह आपके डिवाइस पर चलता है। कुछ भी अपलोड नहीं किया गया है।" या: "यह हमारे सर्वर का उपयोग करता है। गुमनाम, कभी नहीं बेचा गया।"
- एक-टैप डेटा डिलीट बटन प्रदान करें। कोई भी 2021 से अपनी किराने की सूची को मिटाने के लिए एक ईमेल श्रृंखला नहीं चाहता है।
उल्लेख करने योग्य: इस यात्रा के लिए एक आसान सह-पायलट
उल्लेख करने योग्य: यदि आप प्रॉम्प्ट को प्रोटोटाइप करते समय AI सैनिटी चेक चाहते हैं, तो Sider.AI आपके ब्राउज़र में एक दोस्ताना पड़ोसी की तरह बैठ सकता है जो वास्तव में HOA नियमों को पढ़ता है। आप एक दर्जन डैशबोर्ड के साथ हेरफेर किए बिना, प्रॉम्प्ट का मसौदा तैयार कर सकते हैं, आउटपुट की तुलना कर सकते हैं और अपने ऐप में बेक करने से पहले टेम्पलेट पर जल्दी से पुनरावृति कर सकते हैं। यह कोई विज्ञापन नहीं है; यह एक शॉर्टकट है। पांच मिनट की एकीकरण योजना (a.k.a. आपका चिपचिपा नोट)
- एक कार्य से शुरू करें। सबसे छोटा प्यारा संस्करण भेजें।
- इसे एक कॉम्पैक्ट, परिमाणित मॉडल के साथ ऑन-डिवाइस पर चलाएं।
- इसे एक टेम्पलेट में लपेटें, चैट बॉक्स में नहीं।
- स्मार्ट दिखने के लिए पुनर्प्राप्ति जोड़ें, मानसिक नहीं।
- कठोर कैप के साथ अपने सर्वर के माध्यम से पावर मोड ऑफ़र करें।
- सब कुछ स्पष्ट रूप से लेबल करें। गोपनीयता पहले। खुशी दूसरा। बाकी सब तीसरा।
क्या बचें ताकि आपका ऐप एक AI इन्फोमर्सियल न बन जाए
- मैजिक वांड ट्रैप: यह वादा न करें कि यह "एक इंसान की तरह लिखता है।" यह एक AI की तरह लिखता है जिसने कॉफी पी है।
- असीमित दावे: टोकन मीटर हमेशा एक अच्छा दिन बर्बाद करने का एक तरीका ढूंढते हैं।
- अंतिम उपयोगकर्ताओं के लिए प्रॉम्प्ट प्लेग्राउंड: डेमो के लिए बढ़िया, दैनिक उपयोग के लिए मेहा।
- वन-साइज़-फिट-ऑल मॉडल: सबसे छोटी चीज़ चुनें जो काम करती है। बड़ा बेहतर नहीं है; बेहतर बेहतर है।
संदेहवादी उत्पाद प्रबंधक के लिए त्वरित Q&A
- "क्या हम वास्तव में इसे API कुंजियों के बिना कर सकते हैं?" हाँ। ऑन-डिवाइस पहले, सर्वर-प्रॉक्सी वैकल्पिक। उपयोगकर्ता कभी भी कुंजियाँ नहीं देखते हैं।
- "गुणवत्ता के बारे में क्या?" केंद्रित कार्यों के लिए, छोटे मॉडल आश्चर्यजनक रूप से महान हैं - विशेष रूप से पुनर्प्राप्ति और टेम्पलेट के साथ।
- "क्या हम स्थानीय मॉडल से आगे निकल जाएंगे?" शायद। पावर मोड उसी के लिए है। इसे अपनी योजना से बांधें, अपने उपयोगकर्ता के क्रेडिट कार्ड से नहीं।
- "हम आश्चर्य को कैसे रोकते हैं?" कैप, कैशिंग और एक स्पष्ट ऑफ़लाइन डिफ़ॉल्ट। आप कमरे में वयस्क हैं।
तीन पैराग्राफ में एक छोटा केस स्टडी
एक छोटे नोट्स ऐप ने एक ऑन-डिवाइस "सारांश" बटन जोड़ा। इसने एक निश्चित टेम्पलेट और 500-टोकन कैप के साथ 4-बिट 3B मॉडल चलाया। औसत प्रतिक्रिया समय: हाल के फोन पर 1.6 सेकंड।
उपयोगकर्ताओं को दैनिक स्निपेट्स के लिए यह पसंद आया लेकिन लंबी शोध नोट्स के बारे में शिकायत की। टीम ने प्रति-उपयोगकर्ता दैनिक कोटा के साथ अपने सर्वर के माध्यम से रूट किए गए एक वैकल्पिक पावर मोड को जोड़ा। संतुष्टि बढ़ गई, लागत अनुमान लगाने योग्य रही।
किकर: समर्थन टिकट कम हो गए क्योंकि रेंगल करने के लिए कोई API कुंजी नहीं थी, कोई "मुझे $27 क्यों चार्ज किया गया?" ईमेल नहीं थे, और कोई डरावनी दर-सीमा स्क्रीन नहीं थी।
निष्कर्ष: आपका प्यारा AI ऐप, बिलिंग हैंगओवर माइनस
यहाँ नाटक है: एक केंद्रित AI सुविधा बनाएँ जो ऑफ़लाइन चलती है। इसे एक टेम्पलेट में लपेटें जिसे उपयोगकर्ता समझते हैं। इसे पुनर्प्राप्ति के साथ बढ़ाएँ। एक कैप्ड पावर मोड ऑफ़र करें जिसे आपका सर्वर नियंत्रित करता है। गोपनीयता के बारे में ईमानदार रहें। और खुशी के लिए परीक्षण करें जैसे कि यह आपका काम है - क्योंकि यह है।
इस तरह आप एक प्यारे ऐप में AI जोड़ते हैं (कोई API कुंजी नहीं, कोई अतिरिक्त बिलिंग नहीं)। अब अगर IKEA ने एक परिमाणित एलन रिंच भेज दिया होता।
FAQ
Q1: क्या मैं उपयोगकर्ताओं से API कुंजियों के लिए पूछे बिना AI सुविधाएँ जोड़ सकता हूँ?
हाँ। मुख्य सुविधाओं के लिए छोटे ऑन-डिवाइस मॉडल चलाएँ और, यदि आवश्यक हो, तो कैप के साथ अपने स्वयं के सर्वर प्रॉक्सी के माध्यम से क्लाउड कॉल को रूट करें। उपयोगकर्ता कभी भी कुंजियों को नहीं छूते हैं, और आप खर्च को अनुमान लगाने योग्य रखते हैं।
Q2: क्या ऑन-डिवाइस AI मेरे ऐप के लिए पर्याप्त सटीक होगा?
पुनर्लेखन, सारांश और निकालने जैसे केंद्रित नौकरियों के लिए, कॉम्पैक्ट मॉडल बहुत अच्छा करते हैं - विशेष रूप से टेम्पलेट और पुनर्प्राप्ति के साथ। जटिल तर्क या विशाल संदर्भ को एक वैकल्पिक पावर मोड के लिए सहेजें।
Q3: मैं अतिरिक्त बिलिंग के बिना आश्चर्य AI लागत से कैसे बचूँ?
ऑन-डिवाइस प्रोसेसिंग और कैश को आक्रामक रूप से डिफ़ॉल्ट करें। क्लाउड बूस्ट के लिए, सर्वर-साइड कोटा, दैनिक कैप और टाइमआउट सेट करें - फिर स्थानीय परिणामों में आसानी से वापस आ जाएं।
Q4: AI के लिए सबसे अच्छा UX क्या है जिसे उपयोगकर्ता वास्तव में पसंद करते हैं?
बटन जो एक काम को अच्छी तरह से करते हैं, खुले चैट को हराते हैं। स्पष्ट टोन और लंबाई वाले टेम्पलेट का उपयोग करें, एक डिफ या स्पष्टीकरण दिखाएं और गोपनीयता को लेबल करें: ऑफ़लाइन बनाम क्लाउड पावर मोड।
Q5: मैं AI को निजी और अनुरूप कैसे रखूँ?
डिफ़ॉल्ट रूप से स्थानीय रूप से संसाधित करें, जब आप क्लाउड का उपयोग करते हैं तो खुलासा करें, और एक-टैप डेटा हटाने की सुविधा प्रदान करें। गोपनीयता उपन्यास के बिना विश्वास बनाने के लिए सामग्री फ़िल्टर जोड़ें और स्रोतों का हवाला दें।
