"మీ వాలెట్ (లేదా మెదడు) కరిగించకుండా మీ యాప్కు AIని జోడిద్దాం"
"అలెన్ రెంచ్ లేకుండా IKEA ఫర్నిచర్ను సమీకరించడానికి ఎప్పుడైనా ప్రయత్నించారా? "మీ API కీని ప్లగ్ ఇన్ చేసి బిల్లింగ్ ఖాతాను తిప్పండి" అని మీకు చెప్పినప్పుడు AIని జోడించడం అలాగే ఉంటుంది. ఖచ్చితంగా, నేను చేస్తాను, నేను ఇంటిని కూడా రీవైర్ చేసి ఉపగ్రహాన్ని ప్రారంభిస్తాను."
"శుభవార్త: తెలివైన, ఉపయోగకరమైన AI ఫీచర్లను ప్రేమించదగిన యాప్కు జోడించడానికి మీకు API కీలు, వినియోగ డాష్బోర్డ్లు లేదా సెకండ్ తనఖా అవసరం లేదు. ఈ గైడ్లో, ఆచరణాత్మక నమూనాలు, ప్లాట్ఫారమ్-స్థానిక ఫీచర్లు మరియు కొన్ని తెలివైన పరిష్కారాలను ఉపయోగించి, ఒక ప్రేమించదగిన యాప్కు AIని ఎలా జోడించాలో (API కీలు లేవు, అదనపు బిల్లింగ్ లేదు) గురించి మాట్లాడబోతున్నాం. అనువాదం: బంగాళాదుంప గురించి ఎవరైనా ఒక ఇతిహాసాన్ని వ్రాయడానికి మీ చాట్ బాక్స్ను ఉపయోగించినందున మీరు $3,842 ఇన్వాయిస్తో మేల్కొనకుండానే మీరు వినియోగదారులకు మాయాజాలంగా అనిపించే సహాయకరమైన AI ఫీచర్లను రవాణా చేయవచ్చు."
"ఇది చేతులతో చేసే నడక. తెలివైన ఫీచర్లను ఎలా డిజైన్ చేయాలో, కీలు లేకుండా మోడల్లను ఎక్కడ పొందాలనే దాని గురించి మరియు ఆన్-డివైస్ AI, సర్వర్-సైడ్ ర్యాపర్లు మరియు కొంచెం ఉత్పత్తి భావనతో ఖర్చులను సున్నా వద్ద (లేదా దగ్గరగా) ఎలా ఉంచాలనే దాని గురించి నేను మీకు చూపుతాను."
""API కీలు లేవు" మరియు "అదనపు బిల్లింగ్ లేదు" అంటే ఏమిటి"
"శీఘ్ర డీకోడర్ రింగ్:"
- "API కీలు లేవు: వినియోగదారులు వారి స్వంత కీలను అతికించమని మీరు అడగడం లేదు మరియు మీరు వారి తరపున కీలను నిల్వ చేయడం లేదా తిప్పడం లేదు."
- "అదనపు బిల్లింగ్ లేదు: మీరు మీ వినియోగదారులను టోకెన్-ఆధారిత మీటర్కు ఫార్వార్డ్ చేయడం లేదు. మీరు ఆన్-డివైస్ AIని అమలు చేస్తారు, మీ ప్రస్తుత ప్లాన్లో ఖర్చులను కట్టడి చేస్తారు లేదా మీరు నియంత్రించే ఉదారమైన ఉచిత శ్రేణులను ఉపయోగిస్తారు."
"శాశ్వతంగా చెల్లించకుండా తప్పించుకోవడం పాయింట్ కాదు. ఇది తెలివైన AIతో ఒక ప్రేమించదగిన యాప్ను రూపొందించడం, ఇది ఊహించదగినది, వ్యక్తిగతమైనది మరియు మిమ్మల్ని CFO జైలులో ల్యాండ్ చేయదు."
"ప్రేమించదగిన యాప్ చెక్లిస్ట్: AI నిజానికి ఏమి చేయాలి"
"మేము ఏదైనా ప్లగ్ చేయడానికి ముందు, మీ యాప్ కోసం "ప్రేమించదగినది" అంటే ఏమిటో నిర్వచించండి:"
- "ఇది ఒక బాధాకరమైన, తరచుగా చేసే పనిని తక్షణమే పరిష్కరిస్తుంది. వన్-ట్యాప్ సారాంశం. వన్-క్లిక్ రీరైట్. ఒక స్మార్ట్ శోధన."
- "ఇది స్థానికంగా అనిపించేంత వేగంగా ఉంటుంది. మీ AI లోడింగ్ డోనట్ లాగా తిరుగుతుంటే, మీరు ఇప్పటికే ఓడిపోయారు."
- "ఇది డిఫాల్ట్గా గోప్యతను గౌరవిస్తుంది. ప్రాథమిక ఫీచర్ల కోసం వినియోగదారులు మిస్టరీ క్లౌడ్ను విశ్వసించాల్సిన అవసరం లేదు."
- "ఇది వివరించదగినది. "టోన్ను క్లీన్ చేసి, వ్యాకరణాన్ని పరిష్కరించారు" వంటి చిన్న సూచన మాయాజాలాన్ని నమ్మకంగా మారుస్తుంది."
"మీ ఫీచర్ ఆలోచన ఆ పెట్టెలను తనిఖీ చేయకపోతే, మీకు AI అవసరం లేదు. మీకు ఒక కునుకు అవసరం."
"వ్యూహం #1: ఆన్-డివైస్ AI (a.k.a. కీలు లేని, బిల్లులు లేని MVP)"
""కీలు లేవు, బిల్లులు లేవు"కి సులభమైన మార్గం కావాలా? వినియోగదారు పరికరంలో మోడల్ను అమలు చేయండి. ఇది వీట్గ్రాస్ షాట్తో $12 స్మూతీని ఆర్డర్ చేసే బదులు ఇంట్లో స్మూతీలు చేసుకున్నట్లు ఉంటుంది."
"ఆన్-డివైస్ AI ఎక్కడ గెలుస్తుంది:"
- "గోప్యత: డేటా పరికరాన్ని విడిచిపెట్టదు."
- "ఊహించదగిన ఖర్చు: అభ్యర్థనకు $0. మీ ఖర్చు ఇంజనీరింగ్ సమయం మరియు కొంచెం యాప్ సైజు."
- "వేగం: సారాంశాలు, దిద్దుబాట్లు, వర్గీకరణ వంటి అనేక పనుల కోసం ఆధునిక పరికరాలు చాలా వేగంగా ఉన్నాయి."
"ఆచరణాత్మక ఎంపికలు:"
- "ప్లాట్ఫారమ్-స్థానిక ఫ్రేమ్వర్క్లను ఉపయోగించండి:"
- "iOS/macOS: చిన్న భాషా నమూనాతో Apple యొక్క Core ML. వర్గీకరణ, టోన్ ట్వీక్లు మరియు చిన్న సారాంశాలకు గొప్పది."
- "Android: కాంపాక్ట్ LLM లేదా టాస్క్-స్పెసిఫిక్ మోడల్తో TensorFlow Lite."
- "డెస్క్టాప్/వెబ్: బ్రౌజర్లో 7B మరియు చిన్న మోడల్లను అమలు చేయడానికి WebGPU + WebAssembly రన్టైమ్స్ (అవును, నిజంగానే)."
- "చిన్న-కానీ-శక్తివంతమైన మోడల్లను ఎంచుకోండి:"
- "3B–7B పారామీటర్ మోడల్లు వ్యాకరణ దిద్దుబాట్లు, బుల్లెట్-పాయింట్ సారాంశాలు మరియు ప్రాథమిక Q&A చేయగలవు."
- "మెమరీ మరియు లోడ్ సమయాలను తగ్గించడానికి క్వాంటైజ్డ్ వెర్షన్లను (ఉదా., 4-బిట్) ఉపయోగించండి."
- "UX నమూనాలు ఆన్-డివైస్లో ప్రకాశిస్తాయి:"
- "ఎంచుకోదగిన టోన్లతో "రీరైట్" బటన్: స్నేహపూర్వక, సంక్షిప్త, అధికారిక."
- "డాక్స్, ఇమెయిల్లు లేదా నోట్స్ కోసం "ఎంపికను సంగ్రహించండి"."
- "సమావేశ గమనికల నుండి "యాక్షన్ ఐటెమ్లను సంగ్రహించండి"."
- "ఈ పేజీని శోధించండి" సెమాంటిక్ ఫైండర్."
"ప్రో చిట్కా: "శీఘ్ర మోడ్" (ఆన్-డివైస్) మరియు ఐచ్ఛిక "పవర్ మోడ్" (క్లౌడ్) అందించండి—కీలు అవసరం లేదు. దాని గురించి మరిన్ని నిమిషాల్లో."
"వ్యూహం #2: మీ స్వంత మోడల్ను తీసుకురండి... కానీ మీ వినియోగదారుల కీలు కాదు"
"మీరు మీ వినియోగదారులకు కీరింగ్ను అందజేయకుండానే క్లౌడ్ మోడల్లను ఉపయోగించవచ్చు. మీరు మీ సర్వర్లో కీని దాచిపెడతారు, రేట్-పరిమితి కాల్లు మరియు ఖర్చులను పరిమితం చేస్తారు. వినియోగదారు దృక్కోణం నుండి API కీ లేదు మరియు మీ దృక్కోణం నుండి పారిపోయే బిల్లింగ్ లేదు."
"దీన్ని సురక్షితంగా ఎలా చేయాలి:"
- "సర్వర్-సైడ్ ప్రాక్సీ: మీ యాప్ మీ సర్వర్కు కాల్ చేస్తుంది; మీ సర్వర్ మోడల్ ప్రొవైడర్కు కాల్ చేస్తుంది. మీరు థొటల్ను కలిగి ఉన్నారు."
- "బడ్జెట్ గార్డ్రెయిల్లు: రోజువారీ లేదా నెలవారీ ఖర్చు పరిమితులు, ఒక్కో వినియోగదారుకు కోటాలు మరియు గడువులు సెట్ చేయండి."
- "కాషింగ్: కాల్లను తగ్గించడానికి తరచుగా ప్రాంప్ట్లను మరియు ఫలితాలను కాష్ చేయండి."
- "మీరు పరిమితులను తాకినప్పుడు ఎర్రర్ స్క్రీన్ కాదు, ఆన్-డివైస్కు తిరిగి వెళ్లండి."
"దీన్ని ఎప్పుడు ఉపయోగించాలి:"
- "చిన్న స్థానిక మోడల్ నిర్వహించగల దానికంటే మీకు మెరుగైన రీజనింగ్, ఎక్కువ సందర్భం లేదా మల్టీమోడల్ మద్దతు అవసరం."
- "కీని బహిర్గతం చేయకుండానే మీరు ఉచిత ప్లాన్ను సరళంగా ఉంచాలనుకుంటున్నారు, అయితే ఎక్కువ జ్యూస్తో చెల్లింపు శ్రేణులను అందిస్తున్నారు."
"వ్యూహం #3: ఇంటెలిజెన్స్ను ప్రీబేక్ చేయండి (టోకెన్లను టెంప్లేట్లు కొడతాయి)"
"ప్రతి గొప్ప AI ఉత్పత్తి నిర్వాహకుడు నేర్చుకునే రహస్యం ఇక్కడ ఉంది: చాలా మంది వినియోగదారులు "ప్రాంప్ట్" చేయకూడదనుకుంటున్నారు. వారు సరైన పని చేసే బటన్లను కోరుకుంటున్నారు."
"ముడి చాట్ బాక్స్లకు బదులుగా టెంప్లేట్లు మరియు నిర్మాణాత్మక చర్యల చుట్టూ మీ AIని రూపొందించండి. మీకు మంచి ఫలితాలు, తక్కువ టోకెన్లు మరియు తక్కువ ఎడ్జ్ కేసులు వస్తాయి."
"ప్రేమించదగిన టెంప్లేట్ ఉదాహరణలు:"
- "దీన్ని స్నేహపూర్వకంగా చేయండి, కానీ అదే అర్థాన్ని ఉంచండి."
- "ఈ టెక్స్ట్ నుండి తేదీలు, పేర్లు మరియు యాక్షన్ ఐటెమ్లను తీయండి."
- "60 అక్షరాల లోపు మూడు ప్రత్యామ్నాయ ముఖ్యాంశాలను రూపొందించండి."
- "ఈ సమావేశ లిపిని యజమానులు మరియు గడువు తేదీలతో ఎజెండాగా మార్చండి."
"మీరు వీటిని చిన్న మోడల్లతో ఆన్-డివైస్లో అమలు చేయవచ్చు లేదా అవసరమైనప్పుడు క్లౌడ్కు బర్స్ట్ చేయవచ్చు. ఏ విధంగానైనా, మీరు ప్రాంప్ట్ను నియంత్రిస్తున్నారు—కాబట్టి మీరు ఖర్చులు మరియు నాణ్యతను నియంత్రిస్తున్నారు."
"వ్యూహం #4: కష్టపడకుండా తెలివిగా కనిపించడానికి తిరిగి పొందడాన్ని ఉపయోగించండి"
"పెద్ద మోడల్లు భ్రమ కలిగిస్తాయి. చిన్న మోడల్లు వేగంగా భ్రమ కలిగిస్తాయి. తిరిగి పొందడం రెండింటినీ తయారు చేయకుండా నిరోధిస్తుంది."
- "వినియోగదారు కంటెంట్ (డాక్స్, నోట్స్, టిక్కెట్లు) యొక్క స్థానిక సూచికను రూపొందించండి మరియు ముందుగా సెమాంటిక్ శోధన చేయండి."
- "మీ మోడల్కు అగ్ర స్నిప్పెట్లను మాత్రమే ఫీడ్ చేయండి. చిన్న ప్రాంప్ట్, మంచి ఖచ్చితత్వం."
- "గోప్యత-మొదటి యాప్ల కోసం, సూచికను స్థానికంగా ఉంచండి, తద్వారా ఏదీ పరికరాన్ని విడిచిపెట్టదు."
"ఫలితం: మీ మోడల్ తక్కువ పని చేస్తున్నప్పుడు మీ యాప్ అద్భుతంగా కనిపిస్తుంది. AIకి మొత్తం లైబ్రరీని గుర్తుంచుకోమని అడగడానికి బదులుగా ఓపెన్-బుక్ పరీక్షను ఇవ్వడం గురించి ఆలోచించండి."
"వ్యూహం #5: ఐచ్ఛిక ఆన్లైన్ సూపర్పవర్లతో ఆఫ్లైన్-మొదటి ఆఫర్ చేయండి"
"మీ వినియోగదారులు విమానాలు, రైళ్లు మరియు అప్పుడప్పుడు ఒక బార్ ఉన్న బేస్మెంట్లో ఉంటారు. మీ AI ఆఫ్లైన్లో పని చేసేలా చేయండి. ఆపై కనెక్షన్ ఉన్నప్పుడు ఆప్ట్-ఇన్ "పవర్ మోడ్"ను అందించండి."
"ఇది ఎలా ప్లే అవుతుంది:"
- "ఆఫ్లైన్: ఆన్-డివైస్ మోడల్ల ద్వారా ప్రాథమిక రీరైటింగ్, సారాంశం మరియు సంగ్రహణ."
- "ఆన్లైన్: మీ సర్వర్ ప్రాక్సీ ద్వారా పెద్ద కాంటెక్స్ట్ విండోలు, మెరుగైన రీజనింగ్ మరియు ఇమేజ్ అండర్స్టాండింగ్."
- "UI: "మెరుపు" టోగుల్, ఇది ట్రేడ్-ఆఫ్ను వివరిస్తుంది: "వేగవంతమైన మరియు వ్యక్తిగత (ఆఫ్లైన్)" వర్సెస్ "స్మార్టర్ కానీ క్లౌడ్ను ఉపయోగిస్తుంది (ఆన్లైన్).""
"కీలు అవసరం లేదు; ఆశ్చర్యకరమైన బిల్లులు లేవు. ఒక ఎంపిక మాత్రమే."
"వ్యూహం #6: లక్షణాలను ప్రేమించదగినవిగా ఉంచే గార్డ్రెయిల్లు, దావా వేయదగినవి కాదు"
"ప్రేమించదగిన యాప్ సహాయకరంగా, ఊహించదగినది మరియు... విసుగుగా సురక్షితంగా ఉంటుంది. గార్డ్రెయిల్లను బేక్ చేయండి:"
- "కంటెంట్ ఫిల్టర్లు: హానికరమైన లేదా పాలసీకి విరుద్ధమైన ప్రాంప్ట్లు ఏదైనా మోడల్ను తాకడానికి ముందు వాటిని బ్లాక్ చేయండి."
- "పారదర్శక లేబుల్లు: సవరణ చరిత్రతో "AI- రూపొందించబడిన" ట్యాగ్లు."
- "పునరుత్పత్తి: ఫలితాలను పునరావృతం చేయడానికి ప్రాంప్ట్లను మరియు సెట్టింగ్లను స్థానికంగా లాగ్ చేయండి (వినియోగదారు సమ్మతితో)."
- "శిక్షణ కోసం ఆప్ట్-అవుట్లు: మీరు ఏదైనా చక్కగా ట్యూన్ చేస్తే, అడగండి. మరియు "లేదు" సులభమైన బటన్గా చేయండి."
"బ్లూప్రింట్: ప్రేమించదగిన యాప్కు AIని ఎలా జోడించాలి (API కీలు లేవు, అదనపు బిల్లింగ్ లేదు)"
"దీన్ని దశల వారీగా మార్చుకుందాం, నాప్కిన్ స్కెచ్ నుండి రవాణా చేయబడిన ఫీచర్ వరకు."
- "ఆటోమేట్ చేయడానికి ఒక ఉద్యోగాన్ని ఎంచుకోండి"
- "మీ వినియోగదారులు ప్రతిరోజూ చేసే ఒకే, తరచుగా పనిని ఎంచుకోండి. ఉదాహరణ: "ఎంచుకున్న వచనాన్ని ఐదు బుల్లెట్లలో సంగ్రహించండి."
- "విజయాన్ని సాధారణ ఆంగ్లంలో వ్రాయండి: "వినియోగదారు వచనాన్ని హైలైట్ చేస్తారు, సారాంశాన్ని నొక్కండి, రెండు సెకన్లలోపు ఐదు స్పష్టమైన బుల్లెట్లను పొందుతారు."
- "మీ పాదముద్రను ఎంచుకోండి: ఆన్-డివైస్ మొదటిది"
- "చిన్న క్వాంటైజ్డ్ మోడల్తో ప్రారంభించండి. పేలోడ్లను చిన్నగా ఉంచండి, మొదటి రన్ తర్వాత మోడల్ను కాష్ చేయండి."
- "ఖచ్చితమైన టోకెన్ పరిమితిని సెట్ చేయండి. టెక్స్ట్ ఎక్కువసేపు ఉంటే, దాన్ని చంక్ చేసి చంక్కు సంగ్రహించండి."
- "చాట్ బాక్స్ కాదు, టెంప్లేట్ను రూపొందించండి"
- "ఖచ్చితమైన ఉదాహరణలతో సూచనను హార్డ్-కోడ్ చేయండి. టోన్, లెంగ్త్ వంటి వినియోగదారు- ఎదుర్కొనే నాబ్లను మాత్రమే బహిర్గతం చేయండి."
- "ఫలితాలకు వివరణ పంక్తిని జోడించండి: "స్పష్టత కోసం సంగ్రహించబడింది. ఫిల్లర్ను తొలగించారు."
- "సందర్భం కోసం తిరిగి పొందడాన్ని జోడించండి"
- "ఇతర డాక్స్ను సూచించే డాక్యుమెంట్ను సంగ్రహిస్తే, స్థానికంగా సూచిక చేసి సంబంధిత బిట్లను లాగండి."
- "నొక్కగల ఉల్లేఖనలతో మూలాలను చూపండి. నమ్మకం ఒక ఫీచర్."
- "పవర్ మోడ్ను డిజైన్ చేయండి (ఐచ్ఛికం)"
- "ఎడ్జ్ కేసులకు ఆఫ్లైన్ ఫలితాలు బలహీనంగా ఉంటే, క్లౌడ్ "పవర్ మోడ్"ను జోడించండి."
- "మీ వినియోగదారు కీ కాదు, మీ సర్వర్ ద్వారా రూట్ చేయండి. కోటాలు మరియు రోజువారీ పరిమితులను జోడించండి."
- "ఖచ్చితత్వం కోసం మాత్రమే కాకుండా ఆనందం కోసం పరీక్షించండి"
- "మొదటి-టోకెన్కు సమయం మరియు పూర్తి సమయాన్ని కొలవండి."
- "A/B పరీక్ష కాపీ: "రీరైట్" వర్సెస్ "పాలిష్". స్పాయిలర్: పదాలు ముఖ్యం."
- "AI అవుట్పుట్ తర్వాత వినియోగదారు సవరణలను లాగ్ చేయండి (సమ్మతితో). ప్రతి ఒక్కరూ మొదటి బుల్లెట్ను సవరిస్తే, మీ టెంప్లేట్కు పని అవసరం, పెద్ద మోడల్కు కాదు."
- "అదనపు బిల్లింగ్ డ్రామా లేకుండా దీనికి ధర నిర్ణయించండి"
- "మీ ప్రస్తుత ప్లాన్లలో AI ఫీచర్ను కట్టడి చేయండి."
- "సాఫ్ట్ పరిమితులను ఉపయోగించండి: "Proలో 20 పవర్ మోడ్ రన్లు/రోజు."
- "అపరిమిత ఆఫ్లైన్ రన్లను అందించండి—ఎందుకంటే ఆన్-డివైస్ ఉచితం."
"నిజ-ప్రపంచ దృశ్యాలు వాస్తవానికి పని చేస్తాయి"
"మీరు ఈ నెలలో రవాణా చేయగల మూడు బైట్-సైజ్ వంటకాలు, కోర్ అనుభవం కోసం కీలు అవసరం లేదు:"
- "ఉద్యోగం: ఇమెయిల్లు మరియు సందేశాలలో టోన్ను క్లీన్ చేయండి."
- "ఎలా: అర్థాన్ని ఉంచడానికి, వ్యాకరణ సమస్యలను తొలగించడానికి మరియు టోన్ను సర్దుబాటు చేయడానికి స్థిర ప్రాంప్ట్తో ఆన్-డివైస్ మోడల్."
- "UX: స్నేహపూర్వక, అధికారిక, సంక్షిప్త కోసం టోగుల్తో ఇన్లైన్ ఎడిట్ ప్రివ్యూ. వినియోగదారులు తెలుసుకునేలా డిఫ్ చూపండి."
- "ఉద్యోగం: సమావేశ గమనికలను చర్య అంశాలుగా మార్చండి."
- "ఎలా: ఆన్-డివైస్లో చంక్డ్ సారాంశం, ఆపై పొడవైన లిపిల కోసం ఐచ్ఛిక పవర్ మోడ్."
- "UX: గడువు-తేదీ సూచనలతో యజమాని ద్వారా సమూహం చేయబడిన ఫలితాలు. మీ టాస్క్ టూల్లోకి కాపీ చేయడానికి నొక్కవచ్చు."
- "ఉద్యోగం: వినియోగదారు డాక్స్లో సంబంధిత సమాచారాన్ని కనుగొనండి."
- "ఎలా: సంశ్లేషణ కోసం స్థానిక వెక్టర్ సూచిక + నిస్సారమైన LLM."
- "UX: మూల లింక్లతో ముఖ్యాంశాలు మరియు "ఈ ఫలితం ఎందుకు?" గమనిక. Ctrl+F PhD పొందినట్లు అనిపిస్తుంది."
"మీ AI డయల్-అప్ లాగా అనిపించకుండా పనితీరు చిట్కాలు"
- "మొదటి అభ్యర్థన మందకొడిగా ఉండకుండా యాప్ ప్రారంభంలో చిన్న డమ్మీ ఇన్ఫెరెన్స్తో మోడల్ను వేడెక్కించండి."
- "ఎంబెడింగ్లను మరియు పాక్షిక ఫలితాలను కాష్ చేయండి; వాటిని సెషన్ల మధ్య మళ్లీ ఉపయోగించండి."
- "ప్రతిస్పందనలను ప్రసారం చేయండి మరియు లైన్-బై-లైన్ను రెండర్ చేయండి. మనుషులు పురోగతిని అనుభవించడానికి ఇష్టపడతారు, అది కేవలం మూడు చుక్కలు నృత్యం చేస్తున్నప్పటికీ."
- "ప్రాంప్ట్లను నియంత్రణలో ఉంచుకోండి. టెంప్లేట్లు > వ్యాసాలు."
"10 పేజీల మేనిఫెస్టో లేకుండా గోప్యత"
- "స్థానిక ప్రాసెసింగ్కు డిఫాల్ట్ చేయండి. క్లౌడ్ ప్రాసెసింగ్ను ఫీచర్కు ఆప్ట్-ఇన్గా చేయండి."
- "ఒక వాక్యంలో వివరించండి: "ఇది మీ పరికరంలో నడుస్తుంది. ఏమీ అప్లోడ్ చేయబడలేదు." లేదా: "ఇది మా సర్వర్ను ఉపయోగిస్తుంది. అనామకీకరించబడింది, ఎప్పుడూ విక్రయించబడలేదు."
- "ఒక-ట్యాప్ డేటా డిలీట్ బటన్ను అందించండి. 2021 నుండి వారి కిరాణా జాబితాను తొలగించడానికి ఎవరికీ ఇమెయిల్ గొలుసు అవసరం లేదు."
"గుర్తించదగినది: ఈ ప్రయాణానికి ఒక సులభమైన సహ-పైలట్"
"గుర్తించదగినది: మీరు ప్రాంప్ట్లను నమూనా చేసేటప్పుడు మీరు AI యొక్క వివేకాన్ని తనిఖీ చేయాలనుకుంటే, Sider.AI HOA నియమాలను వాస్తవంగా చదివే స్నేహపూర్వక పొరుగువారిలా మీ బ్రౌజర్లో కూర్చోవచ్చు. మీరు డజన్ల కొద్దీ డ్యాష్బోర్డ్లను గారడీ చేయకుండా, మీ యాప్లో బేక్ చేసే ముందు మీరు ప్రాంప్ట్లను రూపొందించవచ్చు, అవుట్పుట్లను పోల్చవచ్చు మరియు టెంప్లేట్లను త్వరగా పునరావృతం చేయవచ్చు. ఇది ప్రకటన కాదు; ఇది సత్వరమార్గం." "ఐదు నిమిషాల ఇంటిగ్రేషన్ ప్లాన్ (a.k.a. మీ స్టిక్కీ నోట్)"
- "ఒక ఉద్యోగంతో ప్రారంభించండి. అతి చిన్న ప్రేమించదగిన సంస్కరణను రవాణా చేయండి."
- "కాంపాక్ట్, క్వాంటైజ్డ్ మోడల్తో ఆన్-డివైస్లో అమలు చేయండి."
- "చాట్ బాక్స్ కాదు, టెంప్లేట్లో చుట్టండి."
- "మానసికంగా కాకుండా తెలివిగా కనిపించడానికి తిరిగి పొందడాన్ని జోడించండి."
- "హార్డ్ క్యాప్లతో మీ సర్వర్ ద్వారా పవర్ మోడ్ను అందించండి."
- "ప్రతిదీ స్పష్టంగా లేబుల్ చేయండి. గోప్యత మొదటిది. ఆనందం రెండవది. మిగిలినవన్నీ మూడవది."
"మీ యాప్ AI ఇన్ఫోమెర్షియల్గా మారకుండా ఉండటానికి ఏమి నివారించాలి"
- "మ్యాజిక్ వాండ్ ట్రాప్: ఇది "మనిషిలా వ్రాస్తుందని" వాగ్దానం చేయవద్దు. ఇది కాఫీ తాగిన AIలా వ్రాస్తుంది."
- "అపరిమిత వాదనలు: టోకెన్ మీటర్లు ఎల్లప్పుడూ మంచి రోజును నాశనం చేయడానికి ఒక మార్గాన్ని కనుగొంటాయి."
- "తుది వినియోగదారుల కోసం ప్రాంప్ట్ ప్లేగ్రౌండ్లు: డెమోల కోసం గొప్పది, రోజువారీ ఉపయోగం కోసం మెహ్."
- "ఒక-పరిమాణానికి సరిపోయే-అన్ని మోడల్లు: పని చేసే అతి చిన్న వస్తువును ఎంచుకోండి. పెద్దది మంచిది కాదు; మంచిది మంచిది."
"సందేహాస్పద ఉత్పత్తి నిర్వాహకుడి కోసం శీఘ్ర Q&A"
- ""మేము నిజంగా API కీలు లేకుండా దీన్ని చేయగలమా?" అవును. ఆన్-డివైస్ మొదటిది, సర్వర్-ప్రాక్సీ ఐచ్ఛికం. వినియోగదారులు ఎప్పుడూ కీలను చూడరు."
- ""నాణ్యత గురించి ఏమిటి?" కేంద్రీకృత పనుల కోసం చిన్న మోడల్లు ఆశ్చర్యకరంగా గొప్పవి—ముఖ్యంగా తిరిగి పొందడం మరియు టెంప్లేట్లతో."
- ""మేము స్థానిక మోడల్లను అధిగమిస్తామా?" బహుశా. దాని కోసమే పవర్ మోడ్ ఉంది. మీ వినియోగదారు క్రెడిట్ కార్డ్కు కాదు, మీ ప్లాన్కు కట్టండి."
- ""మేము ఆశ్చర్యాలను ఎలా నివారించాలి?" టోపీలు, కాషింగ్ మరియు స్పష్టమైన ఆఫ్లైన్ డిఫాల్ట్. మీరు గదిలో పెద్దవారు."
"మూడు పేరాల్లో చిన్న కేస్ స్టడీ"
"ఒక చిన్న నోట్స్ యాప్ ఆన్-డివైస్ "సంగ్రహించు" బటన్ను జోడించింది. ఇది స్థిర టెంప్లేట్ మరియు 500-టోకెన్ పరిమితితో 4-బిట్ 3B మోడల్ను అమలు చేసింది. సగటు ప్రతిస్పందన సమయం: ఇటీవలి ఫోన్లలో 1.6 సెకన్లు."
"వినియోగదారులు రోజువారీ స్నిప్పెట్ల కోసం దీనిని ఇష్టపడ్డారు, కాని పొడవైన పరిశోధన గమనికల గురించి ఫిర్యాదు చేశారు. బృందం ఒక్కో వినియోగదారుకు రోజువారీ కోటాలతో వారి సర్వర్ ద్వారా రూట్ చేయబడిన ఐచ్ఛిక పవర్ మోడ్ను జోడించింది. సంతృప్తి పెరిగింది, ఖర్చులు ఊహించదగినవిగా ఉన్నాయి."
"కిక్కర్: పరిష్కరించడానికి API కీలు లేనందున, "నాకు $27 ఎందుకు వసూలు చేయబడింది?" అనే ఇమెయిల్లు మరియు భయానక రేట్-పరిమితి స్క్రీన్లు లేనందున మద్దతు టిక్కెట్లు తగ్గాయి."
"ముగింపు: మీ ప్రేమించదగిన AI యాప్, బిల్లింగ్ హ్యాంగోవర్ మైనస్"
"ప్లే ఇక్కడ ఉంది: ఆఫ్లైన్లో నడిచే ఒక కేంద్రీకృత AI ఫీచర్ను రూపొందించండి. వినియోగదారులు అర్థం చేసుకునే టెంప్లేట్లో చుట్టండి. తిరిగి పొందడంతో దాన్ని మెరుగుపరచండి. మీ సర్వర్ నియంత్రించే పరిమిత పవర్ మోడ్ను అందించండి. గోప్యత గురించి నిజాయితీగా ఉండండి. మరియు ఇది మీ ఉద్యోగం లాగా ఆనందం కోసం పరీక్షించండి—ఎందుకంటే ఇది ఉంది."
"ప్రేమించదగిన యాప్కు AIని ఎలా జోడించాలి (API కీలు లేవు, అదనపు బిల్లింగ్ లేదు) ఇదిగోండి. IKEA క్వాంటైజ్డ్ అలెన్ రెంచ్ను మాత్రమే రవాణా చేసింది."
"FAQ"
"Q1:వినియోగదారులను API కీలను అడగకుండా నేను AI ఫీచర్లను జోడించవచ్చా?
అవును. కోర్ ఫీచర్ల కోసం చిన్న ఆన్-డివైస్ మోడల్లను అమలు చేయండి మరియు అవసరమైతే పరిమితులతో మీ స్వంత సర్వర్ ప్రాక్సీ ద్వారా క్లౌడ్ కాల్లను రూట్ చేయండి. వినియోగదారులు ఎప్పుడూ కీలను తాకరు మరియు మీరు ఖర్చును ఊహించదగినదిగా ఉంచుతారు.
""Q2:నా యాప్ కోసం ఆన్-డివైస్ AI తగినంత ఖచ్చితమైనదా?
రీరైట్, సారాంశం మరియు సంగ్రహణ వంటి కేంద్రీకృత ఉద్యోగాల కోసం కాంపాక్ట్ మోడల్లు గొప్పగా చేస్తాయి—ముఖ్యంగా టెంప్లేట్లు మరియు తిరిగి పొందడంతో. ఐచ్ఛిక పవర్ మోడ్ కోసం సంక్లిష్టమైన రీజనింగ్ లేదా పెద్ద సందర్భాన్ని సేవ్ చేయండి.
""Q3:అదనపు బిల్లింగ్ లేకుండా నేను ఆశ్చర్యకరమైన AI ఖర్చులను ఎలా నివారించాలి?
ఆన్-డివైస్ ప్రాసెసింగ్కు డిఫాల్ట్ చేయండి మరియు దూకుడుగా కాష్ చేయండి. క్లౌడ్ బూస్ట్ల కోసం సర్వర్-సైడ్ కోటాలు, రోజువారీ పరిమితులు మరియు గడువులను సెట్ చేయండి—ఆపై స్థానిక ఫలితాలకు సజావుగా తిరిగి వెళ్లండి.
""Q4:వినియోగదారులు వాస్తవానికి ఇష్టపడే AI కోసం ఉత్తమ UX ఏమిటి?
బాగా పనిచేసే బటన్లు ఓపెన్-ఎండెడ్ చాట్ను కొడతాయి. స్పష్టమైన టోన్లు మరియు లెంగ్త్లతో టెంప్లేట్లను ఉపయోగించండి, డిఫ్ లేదా వివరణను చూపండి మరియు గోప్యతకు లేబుల్ చేయండి: ఆఫ్లైన్ వర్సెస్ క్లౌడ్ పవర్ మోడ్.
""Q5:నేను AIని ఎలా వ్యక్తిగతంగా మరియు కట్టుబడి ఉండేలా ఉంచుకోవాలి?
డిఫాల్ట్గా స్థానికంగా ప్రాసెస్ చేయండి, మీరు క్లౌడ్ను ఎప్పుడు ఉపయోగిస్తున్నారో బహిర్గతం చేయండి మరియు ఒక-ట్యాప్ డేటా తొలగింపును అందించండి. గోప్యతా నవల లేకుండా నమ్మకాన్ని పెంపొందించడానికి కంటెంట్ ఫిల్టర్లను జోడించండి మరియు మూలాలను పేర్కొనండి.
"
