Can I add AI features without asking users for API keys?

Yes. Run small on-device models for core features and, if needed, route cloud calls through your own server proxy with caps. Users never touch keys, and you keep spend predictable.

Will on-device AI be accurate enough for my app?

For focused jobs like rewrite, summarize, and extract, compact models do great—especially with templates and retrieval. Save complex reasoning or giant context for an optional Power Mode.

How do I avoid surprise AI costs without extra billing?

Default to on-device processing and cache aggressively. For cloud boosts, set server-side quotas, daily caps, and timeouts—then fall back gracefully to local results.

What’s the best UX for AI that users actually love?

Buttons that do one job well beat open-ended chat. Use templates with clear tones and lengths, show a diff or explanation, and label privacy: offline vs. cloud Power Mode.

How do I keep AI private and compliant?

Process locally by default, disclose when you use the cloud, and provide one-tap data deletion. Add content filters and cite sources to build trust without a privacy novel.

ಒಂದು ಪ್ರೀತಿಪಾತ್ರವಾದ ಅಪ್ಲಿಕೇಶನ್‌ಗೆ AI ಅನ್ನು ಹೇಗೆ ಸೇರಿಸುವುದು (API ಕೀಲಿಗಳಿಲ್ಲ, ಹೆಚ್ಚುವರಿ ಬಿಲ್ಲಿಂಗ್ ಇಲ್ಲ)

ನಿಮ್ಮ ಆ್ಯಪ್‌ಗೆ ನಿಮ್ಮ ಖರ್ಚು ಅಥವಾ ದಿಮ್ಮಿಗೆ ಹೊಡೆದಿಲ್ಲದೆ AI ಶೇರ್ ಮಾಡೋಣ

ನೀವು Allan ರೆಂಚ್ ಇಲ್ಲದೆ IKEA ಫರ್ನಿಚರ್ ಅಸೆಂಬಲ್ ಮಾಡಲು ಪ್ರಯತ್ನಿಸಿದ್ದೀರಾ? ಆ ರೀತಿಯೇ AI ಸೇರಿಸುವಾಗ “ನಿಮ್ಮ API ಕೀ ಪ್ಲಗ್ ಮಾಡಿ, ಬಿಲ್ಲಿಂಗ್ ಖಾತೆ ತೆರೆಯಿರಿ” ಎಂದರೆ ಅನಿಸುತ್ತದೆ. ಹೌದು, ಅದೇ ವೇಳೆ ನಾನು ಮನೆ ವಿದ್ಯುತ್ ವ್ಯವಸ್ಥೆ ಬದಲಾಯಿಸಿ, ಉಪಗ್ರಹವನ್ನು ಬೀಳ್ಕೊಳಿಸುವ ಕೆಲಸವೂ ಮಾಡುತ್ತೇನೆಂದುಕೊಳ್ಳಿ.

ನಂದಿ ಸುದ್ದಿ: ನೀವು API ಕೀಗಳು, ಬಳಕೆ ಡ್ಯಾಶ್‌ಬೋರ್ಡ್‌ಗಳು ಅಥವಾ ಎರಡನೇ ಬದ್ದಿಪಾವತಿ ಇಲ್ಲದೆ ಸುಂದರ ಮತ್ತು ಉಪಯುಕ್ತ AI ವೈಶಿಷ್ಟ್ಯಗಳನ್ನು ಆ್ಯಪ್ ಗೆ ಸೇರಿಸಬಹುದು. ಈ ಮಾರ್ಗದರ್ಶಿಯಲ್ಲಿ ನಾವು ಪ್ರಾಯೋಗಿಕ ಮಾದರಿಗಳು, ಪ್ಲಾಟ್‌ಫಾರ್ಮ್-ಸ್ವಾಭಾವಿಕ ವೈಶಿಷ್ಟ್ಯಗಳು ಮತ್ತು ಕೆಲವು ತಂತ್ರಗಳ ಮೂಲಕ API ಕೀ ಇಲ್ಲದೆ ಮತ್ತು ಹೆಚ್ಚುವರಿ ಬಿಲ್ಲಿಂಗ್ ಇಲ್ಲದೆ ಸುಂದರ ಆ್ಯಪ್ ಗೆ AI ಹೇಗೆ ಸೇರಿಸುವುದನ್ನು ಚರ್ಚಿಸೋಣ. ಅನುವಾದ: ಯಾರಾದರೂ ನಿಮ್ಮ ಚಾಟ್ ಬಾಕ್ಸ್ ಉಪಯೋಗಿಸಿ ಕಂದ ಭಟೂರ್ನ ಬಗ್ಗೆ ಮಹಾಸಂಪುಟ ಬರೆಯಲಿಲ್ಲ ಅಂದರೆ $3,842 ಬಿಲ್ ತಪ್ಪಿಸಬಹುದು.

ಇದು ಕೈಯಿಂದ ಮಾಡಬಹುದಾದ ನಡೆವಣಿಗೆಯಾಗಿದೆ. ನಾನು ನಿಮ್ಮಗೆ ಸ್ಮಾರ್ಟ್ ವೈಶಿಷ್ಟ್ಯಗಳನ್ನು ಹೇಗೆ ವಿನ್ಯಾಸಗೊಳಿಸುವುದು, ಎಲ್ಲಿ API ಕೀ ಇಲ್ಲದೆ ಮಾದರಿಗಳನ್ನು ಪಡೆಯುವುದು ಮತ್ತು ವೆಚ್ಚವನ್ನು ಶೂನ್ಯ ಅಥವಾ ಸಮೀಪದಲ್ಲಿರಿಸುವುದನ್ನು ನಾವು on-device AI, ಸರ್ವರ್-ಸೈಡ್ ರ್ಯಾಪ್ಪರ್‌ಗಳು ಮತ್ತು ಕೆಲವು ಉತ್ಪನ್ನ ತಿಳಿವಳಿಕೆಗಳಿಂದ ತೋರಿಸುತ್ತೇನೆ.

''API ಕೀ ಇಲ್ಲ'' ಮತ್ತು ''ಹೆಚ್ಚುವರಿ ಬಿಲ್ಲಿಂಗ್ ಇಲ್ಲ'' ಎಂದರೆ ನಾವು ಏನು ಅರ್ಥ ಮಾಡಿಕೊಳ್ಳುತ್ತೇವೆ

ತ್ವರಿತ ಡಿಕೋಡರ್ ರಿಂಗ್:

API ಕೀ ಇಲ್ಲ: ನೀವು ಬಳಕೆದಾರರಿಂದ ತಮ್ಮದೇ ಕೀಗಳನ್ನು ಹಾಕಿಕೊಳ್ಳುವುದಿಲ್ಲ, ಹಾಗು ನೀವು ಅವರ ಪರವಾಗಿ ಕೀಗಳನ್ನು ಸಂಗ್ರಹಿಸಲೂ ಅಥವಾ ತಿರುಗಿಸುವುದೂ ಇಲ್ಲ.

ಹೆಚ್ಚುವರಿ ಬಿಲ್ಲಿಂಗ್ ಇಲ್ಲ: ನೀವು ಬಳಕೆದಾರರನ್ನು ಟೋಕನ್ ಆಧಾರಿತ ಮೀಟರ್ ಗೆ ಕಳುಹಿಸುವುದಿಲ್ಲ. ನೀವು on-device AI ನವರೆಗೆ ಓಡಿಸುತ್ತೀರಿ, ನಿಮ್ಮ ಈಗಿನ ಯೋಜನೆಯಲ್ಲಿ ವೆಚ್ಚ ಸೇರಿಸುವಿರಿ ಅಥವಾ ನೀವು ನಿಯಂತ್ರಣೆ ಮಾಡುವ ಮುಕ್ತ ಉಚಿತ ಟಿಯರ್ ಗಳನ್ನು ಉಪಯೋಗಿಸುತ್ತೀರಿ.

ಉದ್ದೇಶ ಎಂದರೆ ಸದಾಕಾಲ ಹಣ ಪಾವತಿಸಲು ತಪ್ಪಿಸುವುದಲ್ಲ. ಅದು ಒಂದು ಸುಂದರ ಆ್ಯಪ್ ವಿನ್ಯಾಸ ಮಾಡೋದು ಸ್ಮಾರ್ಟ್ AI ಜೊತೆ – ನಿರೀಕ್ಷಿತ, ಖಾಸಗಿ ಮತ್ತು CFO ಜೈಲುಗೆ ಹೋಗದಂತೆ ಇರುವುದು.

ಸುಂದರ ಆ್ಯಪ್ ಚೆಕ್‌ಲಿಸ್ಟ್: AI ನ ನಿಜವಾದ ಕರ್ತವ್ಯಗಳು ಏನು

ಯಾವುದೇ ವಿಷಯ ಅಳವಡಿಸುವ ಮೊದಲು, ನಿಮ್ಮ ಆ್ಯಪ್‌ಗೆ 'ಸುಂದರ' ಅಂದರೆ ಏನು ಎಂದು ವ್ಯಾಖ್ಯಾನಿಸಿ:

ಒಂದು ನೋವು ತುಂಬಾ ಬಿಡಿ ಉದ್ಯೋಗವನ್ನು ತಕ್ಷಣವೇ ಸರಿಪಡಿಸುತ್ತದೆ. ಒಂದು ಟ್ಯಾಪ್ ಸಂಗ್ರಹಣೆ. ಒಂದು ಕ್ಲಿಕ್ ಪುನರಾಚರಣೆ. ಒಂದು ಸ್ಮಾರ್ಟ್ ಹುಡುಕುವಿಕೆ.

ಇದು ಸ್ಥಳೀಯ ಅನುಭವವಾಗಿಷ್ಟು ವೇಗದ್ದಾಗಿರಬೇಕು. ನಿಮ್ಮ AI ಲೋಡಿಂಗ್ ಡೋನಟ್ ವಂತೆ ಸುತ್ತಿದರೆ ನೀವು ಸೋತಿದ್ದೀರ.

ಇದು ಸ್ವಯಂ ಪ್ರಥಮವಾಗಿ ಗೌಪ್ಯತೆಯನ್ನು ಗೌರವಿಸುತ್ತದೆ. ಮೂಲಭೂತ ವೈಶಿಷ್ಟ್ಯಗಳಿಗೆ ಬಳಕೆದಾರರು ಯಾವುದೇ ಮಿಸ್ಟರಿ ಕ್ಲೌಡ್ ಮೇಲೆ ನಂಬಿಕೆ ಇಡುವ ಅಗತ್ಯವಿಲ್ಲ.

ಇದು ವಿವರಿಸಬಹುದಾಗಿರಬೇಕು. 'ಟೋನನ್ನು ಶುಭ್ರಗೊಳಿಸಿರುವುದ ಮತ್ತು ವ್ಯಾಕರಣವನ್ನು ಸರಿಪಡಿಸಿರುವುದು' ಎಂಬ ಚಿಕ್ಕ ಸೂಚನೆಯಿಂದ ಅದೃಶ್ಯವು ನಂಬಿಕೆಗೆ ಪರಿವರ್ತಿಸುತ್ತದೆ.

ನಿಮ್ಮ ವೈಶಿಷ್ಟ್ಯದ ಆಲೋಚನೆ تلك ಟೋಪುಗಳಲ್ಲಿರುವುದಿಲ್ಲವಾದ್ರೆ, ನಿಮಗೆ AI ಅಗತ್ಯವಿಲ್ಲ. ನಿಮಗೆ ವಿಶ್ರಾಂತಿ ಬೇಕು.

ತಂತ್ರ #1: on-device AI (ಅಂದರೆ ಕೀ ಇಲ್ಲ, ಬಿಲ್ ಇಲ್ಲ MVP)

'ಕೀ ಇಲ್ಲ, ಬಿಲ್ ಇಲ್ಲ' ಗೆ ಸುಲಭ ಮಾರ್ಗ ಬೇಕಾದ್ರೆ ಕೋಟಿ ಮುಖದಲ್ಲಿ ಮಾದರಿಯನ್ನು ಬಳಕೆದಾರರ ಸಾಧನದಲ್ಲಿ ಓಡಿಸಿ. ಇದು ಮನೆಯಲ್ಲೇ ಸ್ಮೂದಿ ಮಾಡೋದು ಹಾಗೆ, 12 ಡಾಲರ್ ಬಾಳಿಗೆಯಲ್ಲಿ ಗೋಧಿಹಸಿ ಹಾಕಿಸಿ ಆರ್ಡರ್ ಮಾಡುವುದಿಲ್ಲ.

on-device AI ಗೆಲುವಿನ ಸ್ಥಳಗಳು:

ಗೌಪ್ಯತೆ: ಡೇಟಾ ಸಾಧನ ಬಿಡುವುದಿಲ್ಲ.

ನಿರೀಕ್ಷಿತ ವೆಚ್ಚ: ಪ್ರತಿ ವಿನಂತಿಗೆ $0. ನಿಮ್ಮ ವೆಚ್ಚ ಎಂಜಿನಿಯರಿಂಗ್ ಸಮಯ ಮತ್ತು ಆ್ಯಪ್ ಗಾತ್ರ ಮಾತ್ರ.

ವೇಗ: ಬಹುತೇಕ ಕೆಲಸಗಳಿಗೆ—ಸಂಕ್ಷೇಪಣೆ, ಸರಿಪಡಣೆ, ವರ್ಗೀಕರಣ—ಆಧುನಿಕ ಸಾಧನಗಳು ಸಾಕಷ್ಟು ವೇಗವಾಗಿವೆ.

ಪ್ರಾಯೋಗಿಕ ಆಯ್ಕೆ:

ಪ್ಲಾಟ್‌ಫಾರ್ಮ್-ಸ್ವಾಭಾವಿಕ ಫ್ರೇಮ್ವರ್ಕ್‌ಗಳನ್ನು ಉಪಯೋಗಿಸಿ:

iOS/macOS: Apple Core ML ಅಂತೆ ಒಂದು ಸಣ್ಣ ಭಾಷಾ ಮಾದರಿ. ವರ್ಗೀಕರಣ, ಟೋನ್ ತಿದ್ದುಪಡಿ ಮತ್ತು ಚಿಕ್ಕ ಸಂಗ್ರಹಣೆಗಾಗಿ ಉತ್ತಮ.

Android: TensorFlow Lite ಬಳಸಿಕೊಂಡು ಸಂಕೀರ್ಣ LLM ಅಥವಾ ಕೆಲಸ مخصوص ಮಾದರಿ.

ಡೆಸ್ಕ್‌ಟಾಪ್/ವೆಬ್: WebGPU + WebAssembly ರನ್‌ಟೈಮ್ ಮೂಲಕ 7B ಅಥವಾ ಇಷ್ಟು ಗಾತ್ರದ ಮಾದರಿಗಳನ್ನು ಬ್ರೌಸರ್‌ನಲ್ಲಿ ಓಡಿಸಬಹುದು (ನಿಜಕ್ಕೂ).

ಸಣ್ಣತೆ-ಆದರೂ ಶಕ್ತಿಯುತ ಮಾದರಿಗಳನ್ನು ಆಯ್ಕೆಮಾಡಿ:

3B–7B ಪ್ಯಾರಾಮೀಟರ್ ಮಾದರಿಗಳು ವ್ಯಾಕರಣ ಸರಿಪಡಿಸುವುದು, ಬುಲೆಟ್ ಪಾಯಿಂಟ್ ಸಂಗ್ರಹಣೆ ಮತ್ತು ಮೂಲ ಪ್ರಶ್ನೋತ್ತರ ನಿಧಾನತೆ ಮಾಡಬಹುದು.

ಕ್ವಾಂಟೈಸ್ ಮಾಡಿದ ಆವೃತ್ತಿಗಳನ್ನು (ಉದಾ, 4-бಿಟ್) ಉಪಯೋಗಿಸಿ ನೆನಪು ಮತ್ತು ಲೋಡ್ ಸಮಯಗಳನ್ನು ಕುಗ್ಗಿಸಿ.

on-device ನಲ್ಲಿ ಮೆಲುಕು ಹಾಕುವ UX ಮಾದರಿಗಳು:

'Rewrite' ಬಟನ್ ಟೋನ್ ಆಯ್ಕೆಗಳಿಗೆ: ಸ್ನೇಹಪರ, ಸಂಕೀರ್ಣ, ಅಧಿಕೃತ.

'ಸಂಗ್ರಹಿಸುವ ಆಯ್ಕೆ' ದస్తಾವೇಜು, ಇಮೇಲ್ ಅಥವಾ ಟಿಪ್ಪಣಿಗಳಿಗೆ.

'ಕಾರ್ಯಾಂಶಗಳನ್ನು ಹೊರತೆಗೆದು ಹಾಕುವುದು' ಸಭೆಯ ಟಿಪ್ಪಣಿಯಿಂದ.

'ಈ ಪುಟವನ್ನು ಹುಡುಕಿ' ಅರ್ಥಪೂರ್ಣ ಹುಡುಕಾಟ.

ಪ್ರೋ ಟಿಪ್: “Quick Mode” (on-device) ಮತ್ತು ಆಯ್ಕೆಮಾಡಬಹುದಾದ “Power Mode” (ಕ್ಲೌಡ್) ಆಫರ್ ಮಾಡು—ಕೀ ಅಗತ್ಯವಿಲ್ಲ. ಅದಕ್ಕೆ ಇನ್ನಷ್ಟು ವಿವರಗಳು ಇರುತ್ತವೆ.

ತಂತ್ರ #2: ನಿಮ್ಮ ಮಾದರಿಯನ್ನು ತರಿಕೊಳ್ಳಿ… ಆದರೆ ಬಳಕೆದಾರರ ಕೀಸ್ ಇಲ್ಲ

ನೀವು ಕ್ಲೌಡ್ ಮಾದರಿಗಳನ್ನು ಬಳಕೆದಾರರ ಕೀ ಕೊಡದೆ ಸಹ ಬಳಸಬಹುದು. ನೀವು ಕೀ ನಿಮ್ಮ ಸರ್ವರ್‌ನಲ್ಲಿ ಮರೆಮಾಡಿ, ಕರೆಗಳನ್ನು ನಿಯಂತ್ರಿಸಿ, ವೆಚ್ಚವನ್ನು ಮಿತಿಗೊಳಿಸಿ. ಬಳಕೆದಾರರಿಗೆ API ಕೀ ಇಲ್ಲ ಎಂದು ತೋರುತ್ತದೆ ಮತ್ತು ನಿಮ್ಮಕ್ಕೆ ಬಿಲಿಂಗ್ ನಿಯಂತ್ರಿಸಲಾಗಿದೆ.

ಎಂತಹದಾಗಿಸಬೇಕು:

ಸರ್ವರ್-ಸೈಡ್ ಪ್ರಾಕ್ಸಿ: ನಿಮ್ಮ ಆ್ಯಪ್ ನಿಮ್ಮ ಸರ್ವರ್ ಕರೆಮಾಡುತ್ತದೆ; ನಿಮ್ಮ ಸರ್ವರ್ ಮಾದರಿ ಪ್ರೊವೈಡರ್ ಅನ್ನು ಕರೆಮಾಡುತ್ತದೆ. ನಿಮ್ಮ ನಿಯಂತ್ರಣದಲ್ಲಿ.

ಬಜೆಟ್ ಗಾರ್ಡ್ ರೈಲ್ಸ್: ದೈನಂದಿನ ಅಥವಾ ಮಾಸಿಕ ವೆಚ್ಚ ಮಿತಿ, ಬಳಕೆದಾರರ ಪ್ರತಿ ಖಾತಾ ಮಿತಿ, ಟೈಮ್ ಔಟ್ ಗಳು ಸೆಟ್ ಮಾಡಿ.

ಕ್ಯಾಶಿಂಗ್: ಅತಿರೇಕ ಕೇಳುವ ಪ್ರಶ್ನೆಗಳು ಮತ್ತು ಫಲಿತಾಂಶಗಳು ಕ್ಯಾಶ್ ಮಾಡಿ ಕರೆ ಕಡಿಮೆಮಾಡಿ.

ನಿಮ್ಮ ಮಿತಿ ತಲುಪಿದಾಗ on-device ಗೆ fallback ಆಗುವಂತೆ, error ಸ್ಕ್ರೀನ್ ತೋರಿಸಬೇಡಿ.

ಯಾವಾಗ ಬಳಸಬೇಕು:

ಸಣ್ಣ ಸ್ಥಳೀಯ ಮಾದರಿ ಮಾಡಲಾರದ ಉತ್ತಮ ನಿರ್ಣಯ, ದೀರ್ಘುದುರ್ಧ, ಅಥವಾ ಮಲ್ಟಿಮೋಡಲ್ ಬೆಂಬಲ ಬೇಕಾದಾಗ.

ಉಚಿತ ಯೋಜನೆಯನ್ನು ಸರಳವಾಗಿರಿಸಲು, ಆದ್ರೆ ಹಣ ಬಳಕೆದಾರರಿಗೆ ಹೆಚ್ಚು ಆಯ್ಕೆಗಳ ಸಹಿತ ನೀಡಲು ಆಗಾಗಲೇ ಕೀಯನ್ನು ಬಿಚ್ಚದೆ.

ತಂತ್ರ #3: ಬುದ್ಧಿಮತ್ತೆಯನ್ನು ಪೂರ್ವದಾಗಿಸಿ (ಟೆಂಪ್ಲೇಟುಗಳು ಟೋಕೆನ್ ಗಳಿಗಿಂತ ಉತ್ತಮ)

ಪ್ರತಿಯೊಂದು ಉತ್ತಮ AI ಉತ್ಪನ್ನ ನಿರ್ವಹಕನು ತಿಳಿದುಕೊಳ್ಳುವ ರಹಸ್ಯ: ಹೆಚ್ಚಿನ ಬಳಕೆದಾರರು 'ಪ್ರಾಂಪ್ಟ್' ಮಾಡಬೇಕೆನ್ನುವುದಿಲ್ಲ. ಅವರಿಗೆ ಬಟನ್ಗಳಾಗೇ ಬೇಕು, ಅದು ಸರಿಯಾದ ಕಾರ್ಯಗಳನ್ನು ಮಾಡುತ್ತಲೇ ಇರಬೇಕು.

ನೀವು ನಿಮ್ಮ AI ಯನ್ನು ಟೆಂಪ್ಲೇಟುಗಳು ಮತ್ತು ರಚನೆಯ ಕಾರ್ಯಗಳ ಸುತ್ತಡೆ ರೂಪಿಸಿ ಬದಲಾಗಿ ಕಚ್ಚಾ ಚಾಟ್ ಬಾಕ್ಸ್ ಅಲ್ಲ. ನೀವು ಉತ್ತಮ ಫಲಿತಾಂಶ, ಕಡಿಮೆ ಟೋಕನ್ ಮತ್ತು ಕಡಿಮೆ ಎಡ್ಜ್ ಪ್ರಕರಣಗಳನ್ನು ಪಡೆಯುತ್ತೀರಿ.

ಟೆಂಪ್ಲೇಟು ಉದಾಹರಣೆಗಳು ಸುಂದರವಾಗುತ್ತವೆ:

'ಇದನ್ನು ಸ್ನೇಹಪರವಾಗಿ ಮಾಡಿ ಆದರೆ ಅರ್ಥ ಉಳಿಸಿ.'

'ಈ ಪಠ್ಯದಿಂದ ದಿನಾಂಕಗಳು, ಹೆಸರುಗಳು ಮತ್ತು ಕಾರ್ಯಾಂಶಗಳನ್ನು ಎಳೆಯಿರಿ.'

'60 ಅಕ್ಷರಗಳೊಳಗಿನ ಮೂರು ಪರ್ಯಾಯ ಶೀರ್ಷಿಕೆಗಳನ್ನು ರಚಿಸಿ.'

'ಈ ಸಭೆಯ ಲೈವ್ ನಿರ್ವಹಣೆಯನ್ನು ಮಾಲೀಕರು ಮತ್ತು ನಿಗದಿತ ದಿನಾಂಕಗಳ ಜತೆ ಏಜೆಂಡಾ ಆಗಿ ಪರಿವರ್ತಿಸಿ.'

ಇವೆಲ್ಲಾ ನೀವು ಸಣ್ಣ ಮಾದರಿಗಳೊಂದಿಗೆ on-device ನಲ್ಲಿ ನಡೆಸಬಹುದು ಅಥವಾ ಬೇಕಾದರೆ ಕ್ಲೌಡ್ ಗೆ ಕತ್ತಿ ಮಾಡಬಹುದು. ಯಾವುದೇ ರೀತಿಯಾಗಲಿ ನೀವು ಪ್ರಾಂಪ್ಟ್ ಅನ್ನು ನಿಯಂತ್ರಿಸುತ್ತಿದ್ದೀರಿ—ಹಾಗಾಗಿ ವೆಚ್ಚ ಮತ್ತು ಗುಣಮಟ್ಟ ನಿಗ್ರಹ ಮಾಡಬಹುದು.

ತಂತ್ರ #4: ತೀವ್ರವಾಗಿ ವಿಚಾರಿಸದೆ ಕೂಡ ಸ್ಮಾರ್ಟ್ ಕಾಣಲು ರೆಟ್ರಿವಲ್ ಬಳಸಿ

ದೊಡ್ಡ ಮಾದರಿಗಳು ಹುಲೆರ್ಡೋಪ್ ಮಾಡುವವು. ಸಣ್ಣ ಮಾದರಿಗಳು ಅತಿ ವೇಗವಾಗಿ ಹುಲೆರ್ಡೋಪ್ ಮಾಡುವವು. ರೆಟ್ರಿವಲ್ ಎರಡನ್ನೂ ತಪ್ಪಿಸುತ್ತದೆ.

ಬಳಕೆದಾರರ ವಿಷಯ (ದಸ್ತಾವೇಜು, ಟಿಪ್ಪಣಿಗಳು, ಟಿಕೆಟ್‌ಗಳು) ನ ಸ್ಥಳೀಯ ಸೂಚಿಕೆಯನ್ನು ನಿರ್ಮಿಸಿ ಮೊದಲು ಅರ್ಥಪೂರ್ಣ ಹುಡುಕಾಟ ಮಾಡಿ.

ಮೊದಲ ಕೆಲ.snippets ಗಳನ್ನು ಮಾತ್ರ ನಿಮ್ಮ ಮಾದರಿಗೆ ಫೀಡ್ ಮಾಡಿ. ಚಿಕ್ಕ ಪ್ರಾಂಪ್ಟ್, ಉತ್ತಮ ನಿಖರತೆ.

ಗೌಪ್ಯತೆಯು ಮುಖ್ಯವಾದ ಆ್ಯಪ್ ಗಳಿಗೆ ಸೂಚಿಕೆ ಸ್ಥಳೀಯವಾಗಿರಲಿ, ಏಕೆಂದರೆ ಯಾವುದೇ ಒಳ್ಳೆಯ ಮಾಹಿತಿ ಸಾಧನ ಹೊರಗೆ ಹೋಗಬಾರದು.

ಫಲಿತಾಂಶ: ನಿಮ್ಮ ಆ್ಯಪ್ ಕಮಲ್ವಂತಿ ಆಗಿರುವಂತೆ ಕಾಣುತ್ತದೆ ಮತ್ತು ನಿಮ್ಮ ಮಾದರಿ ಕಡಿಮೆ ಕೆಲಸ ಮಾಡುತ್ತದೆ. ಇದು AI ಗೆ முழು ಗ್ರಂಥಾಲಯ ನೆನಪಿಸುವುದರ ಬದಲು ಓಪನ್-ಪುಸ್ತಕ ಪರೀಕ್ಷೆಯನ್ನೇ ಕೊಟ್ಟಂತೆ.

ತಂತ್ರ #5: ಆಫ್‌ಲೈನ್-ಪ್ರಥಮವನ್ನು ಆಯ್ಕೆಮಾಡಿ - ಆಯ್ಕೆಮಾಡಬಹುದಾದ ಆನ್ಲೈನ್ ಸೂಪರ್ ಶಕ್ತಿಗಳು

ನಿಮ್ಮ ಬಳಕೆದಾರರು ವಿಮಾನ, ರೈಲುಮರಂತೆ ಪ್ರಯಾಣಿಸುತ್ತಿದ್ದಾರೆ ಮತ್ತು ಕೆಲವೊಮ್ಮೆ ಕಡಿಮೆ ಸಿಗ್ನಲ್ ಇರುವ ಸ್ಥಳದಲ್ಲಿರುತ್ತಾರೆ. ನಿಮ್ಮ AI ಅನ್ನು ಆಫ್‌ಲೈನ್ ಕೆಲಸ ಮಾಡಲಿ. ನಂತರ, ಸಂಪರ್ಕ ಬರುತ್ತದೆಂದು 'ಪವರ್ ಮೋಡ್' ಆಯ್ಕೆಯನ್ನು ಕೊಡಿ.

ಇದರಿಂದ:

ಆಫ್‌ಲೈನ್: ಮೂಲ ಪುನರಾಚರಣೆ, ಸಂಗ್ರಹಣೆ ಮತ್ತು ತೆಗೆದುಹಾಕುವಿಕೆ on-device ಮಾದರಿಗಳ ಮೂಲಕ.

ಆನ್ಲೈನ್: ದೊಡ್ಡ ಸಂಕೇತ ವಿಂಡೋ, ಉತ್ತಮ ನಿರ್ಣಯ ಮತ್ತು ಚಿತ್ರ ಅರಿತುಕೊಳ್ಳುವಿಕೆ ಸರ್ವರ್ ಪ್ರಾಕ್ಸಿ ಮೂಲಕ.

ಯೂಐ: ಒಂದು ಸಣ್ಣ 'ಲೈಟ್ನಿಂಗ್' ಸ್ವಿಚ್, 'ವೇಗವಾಗಿ ಮತ್ತು ಖಾಸಗಿ (ಆಫ್‌ಲೈನ್)' ಮತ್ತು 'ಸ್ಮಾರ್ಟ್ ಆದರೆ ಕ್ಲೌಡ್ ಬಳಸುವ (ಆನ್ಲೈನ್)' ಎರಡರ ವ್ಯತ್ಯಾಸದ ವಿವರಣೆ.

ಕೀ ಇಲ್ಲ; ಅಚಿರಿಕ್ಷಿತ ಬಿಲ್ ಇಲ್ಲ. ಕೇವಲ ಆಯ್ಕೆ.

ತಂತ್ರ #6: ವೈಶಿಷ್ಟ್ಯಗಳನ್ನು ಸುಂದರವಾಗಿಟ್ಟುಕೊಳ್ಳಲು ಕಾಪುಕಡ್ಡಿಗಳು ಬಾಕಿ, ಕಾನೂನಿನ ಸಮಸ್ಯೆಗೆ ಇಲ್ಲ

ಸುಂದರ ಆ್ಯಪ್ ಉಪಯುಕ್ತ, ನಿರೀಕ್ಷಿತ ಮತ್ತು ಸುರಕ್ಷಿತವಾಗಿರಬೇಕು. ಕಾಪುಕಡ್ಡಿಗಳನ್ನು ಅಳವಡಿಸಿ:

ವಿಷಯ ಫಿಲ್ಟರ್: ಕೇಡು ನಿಟ್ಟಾದ ಅಥವಾ ನಿಯಮಗಳಿಗೆ ವಿರುದ್ಧವಾದ ಪ್ರಶ್ನೆಗಳನ್ನು ಮಾದರಿಗಳು ಮುಟ್ಟುವುದற்கு ಮೊದಲು ನಿಲ್ಲಿಸಿ.

ಪಾರದರ್ಶಕ ಲೇಬಲ್ಗಳು: 'AI-ರಚಿಸಲಾದ' ಟ್ಯಾಗ್ಸ್ ಮತ್ತು ಸಂಪಾದನಾ ಇತಿಹಾಸ.

ಪುನರಾವರ್ತಿಸಬಹುದಾದುದು: ಬಳಕೆದಾರರ ಒಪ್ಪಿಗೆಯಿಂದ ಪ್ರಾಂಪ್ಟ್‌ಗಳು ಮತ್ತು ಸೆಟ್ಟಿಂಗ್‌ಗಳ ಲಾಗ್ ಸ್ಥಳೀಯವಾಗಿ ನಿಡಿ, ಫಲಿತಾಂಶಗಳು ಪುನರಾವರ್ತಿಸಬಹುದು.

ತರಬೇತಿ‌ಗೆ ನಿರಾಕರಣೆ: ನೀವು ಯಾವುದಾದರೂ ಫೈನ್ಟ್ ಟ್ಯೂನ್ ಮಾಡುತ್ತಿದ್ದರೆ ಕೇಳಿ. ಮತ್ತು 'ಇಲ್ಲ' ಸುಲಭ ಆಯ್ಕೆಯಾಗಿರಲಿ.

ನಕ್ಷೆ: ಸುಂದರ ಆ್ಯಪ್ ಗೆ AI ಹೇರಿಸುವುದಕ್ಕೆ (API ಕೀ ಇಲ್ಲ, ಹೆಚ್ಚುವರಿ ಬಿಲ್ಲಿಂಗ್ ಇಲ್ಲ)

ನವಿ ಲೆಕ್ಕಾಚಾರದಿಂದ դրանք ಅಂಗೀಕರಿಸಿದ ವೈಶಿಷ್ಟ್ಯವನ್ನು ಹಂತ ಹಂತವಾಗಿ ಮಾಡೋಣ.

ಒಂದು ಕೆಲಸವನ್ನು ಆಯ್ಕೆಮಾಡಿ ಸ್ವಯಂಚಾಲಿತಗೊಳಿಸಲು

ಪ್ರತಿ ದಿನ ಬಳಕೆದಾರರು ಮಾಡುವ ಒಂದೇ, ಸಾಮಾನ್ಯ ಕೆಲಸ ಆಯ್ಕೆಮಾಡಿ. ಉದಾ: 'ಆಯ್ದ ಪಠ್ಯವನ್ನು ಐದು ಬುಲೆಟ್ point ಗಳು ಆಗಿ ಸಂಗ್ರಹಿಸಿ.'

ಯಶಸ್ಸಿನ ಸಾಲನ್ನು ಸಾಮಾನ್ಯ ಇಂಗ್ಲಿಷ್ ನಲ್ಲಿ ಬರೆಯಿರಿ: 'ಬಳಕೆದಾರರು ಪಠ್ಯವನ್ನು ಹೈಲೈಟ್ ಮಾಡಿ, ಸಂಗ್ರಹಿಸು ಯನ್ನು ಟ್ಯಾಪ್ ಮಾಡುತ್ತಾರೆ ಮತ್ತು ಎರಡು ಸೆಕೆಂಡ್ ಒಳಗೆ ಐದು ಸ್ಪಷ್ಟ ಬುಲೆಟ್‌ಗಳು ಬರುತ್ತವೆ.'

ನಿಮ್ಮ ಪ್ರಭಾವವನ್ನು ಆರಿಸಿ: ಮೊದಲಿಗೆ on-device

ಸಣ್ಣ ಕ್ವಾಂಟೈಸ್ ಮಾಡಲಾದ ಮಾದರಿಯಿಂದ ಪ್ರಾರಂಭಿಸಿ. ಪೇಲೋಡ್‌ಗಳು ಸಣ್ಣ ಇರಲಿ, ಮೊದಲ ಓಟದನಂತರ ಮಾದರಿಯನ್ನು ಕ್ಯಾಶ್ ಮಾಡಿ.

ಕಠಿಣ ಟೋಕನ್ ಮಿತಿ ನಿಡಿ. ಪಠ್ಯ ದೀರ್ಘವಾಗಿದ್ದರೆ ಭಾಗಿಸು ಮತ್ತು ಪ್ರತಿ ಭಾಗವನ್ನು ಸಂಗ್ರಹಿಸಿ.

ಚಾಟ್ ಬಾಕ್ಸ್ ಬದಲಾಗಿ ಟೆಂಪ್ಲೇಟು ನಿರ್ಮಿಸಿ

ನಾಯಿತಾನಿಯೋಜಿತ ಸೂಚನೆಯನ್ನು ಕೆಲವೂ ಸ್ಪಷ್ಟ ಉದಾಹರಣೆಗಳೊಂದಿಗೆ ನೇರಸ್ಥಾಪಿಸಿ. ಬಳಸುವವರಿಗೆ ಮಾತ್ರ ಅಗತ್ಯವಿರುವ ನಿಯಂತ್ರಕಗಳನ್ನು ಹೊರಮಾಡಿ: ಟೋನ, ಉದ್ದ.

ಫಲಿತಾಂಶಗಳಿಗೆ ವಿವರಣೆಯ ಸಾಲು ಸೇರಿಸಿ: ‘ಸ್ಪಷ್ಟತೆಗಾಗಿ ಸಂಕ್ಷಿಪ್ತು. ಅನावಶ್ಯಕ ಪದಗಳನ್ನು ತೆಗೆದಿದೆ.’

ಸಂದರ್ಭಕ್ಕಾಗಿ ರೆಟ್ರಿವಲ್ ಸೇರಿಸಿ

ಒಂದು ದಸ್ತಾವೇಜಿನ ಸಂಗ್ರಹಣೆ ಯಾವುದಾದರೂ ಇತರ ದಸ್ತಾವೇಜುಗಳನ್ನು ಉಲ್ಲೇಖಿಸಿದ್ರೆ, ಸ್ಥಳೀಯವಾಗಿ ಸೂಚಿತ ಮಾಡಿ ಸಂಬಂಧಿತ ಭಾಗಗಳನ್ನು ಎಳೆಬೇಕಾಗುತ್ತದೆ.

ಮೂಲಗಳನ್ನು ಟ್ಯಾಪ್ ಮಾಡುವ ಮೂಲಕ ಪ್ರದರ್ಶಿಸಿ. ನಂಬಿಕೆ ಒಂದು ವೈಶಿಷ್ಟ್ಯ.

ಪವರ್ ಮೋಡ್ ವಿನ್ಯಾಸ (ಐಚ್ಛಿಕ)

ಆಫ್‌ಲೈನ್ ಫಲಿತಾಂಶಗಳು ದುರ್ಬಲವಾದರೆ ಕ್ಲೌಡ್ “ಪವರ್ ಮೋಡ್” ಸೇರಿಸಿ.

ಬಳಕೆದಾರರ ಕೀ ಉಪಯೋಗಿಸದೆ ನಿಮ್ಮ ಸರ್ವರ್ ಮೂಲಕ ಕಳುಹಿಸಿ. ಹಕ್ಕುಗಳು ಮತ್ತು ದೈನಂದಿನ ಮಿತಿಗಳನ್ನು ಸೇರಿಸಿ.

ಕೇವಲ ಸರಿಯಾದುದಾಗಿ ಅಲ್ಲ, ಸಂತೋಷಕ್ಕಾಗಿ ಪರೀಕ್ಷಿಸಿ

ಮೊದಲ ಟೋಕನ್ ಮತ್ತು ಪೂರ್ಣಗೊಳಿಸುವ ಸಮಯ ಅಳೆಯಿರಿ.

ಎ/ಬಿ ಪರೀಕ್ಷೆ ಪಠ್ಯ: ‘Rewrite’ ವಿರುದ್ಧ ‘Polish.’ ವೆಳಿತ ಮಾಯಾಂಶ ತುಂಬಾ ಮುಖ್ಯ.

AI ಔಟ್ಪುಟ್ ನಂತರ ಬಳಕೆದಾರರ ಸಂಪಾದನೆಯನ್ನು ಲಾಗ್ ಮಾಡಿ (ಒಪ್ಪಿಗೆ ಸಹಿತ). ಯಾರು ಮೊದಲ ಬುಲೆಟ್ ಹೆಚ್ಚು ಸಂಪಾದಿಸಿದರೆ, ನಿಮ್ಮ ಟೆಂಪ್ಲೇಟಿಗೆ ತಿದ್ದುಪಡಿ ಬೇಕು, ದೊಡ್ಡ ಮಾದರಿಗೆ ಅಲ್ಲ.

ಹೆಚ್ಚುವರಿ ಬಿಲ್ಲಿಂಗ್ ಡ್ರಾಮಾ ಇಲ್ಲದೆ ಬೆಲೆ ನಿಗದಿಮಾಡಿ

AI ವೈಶಿಷ್ಟ್ಯವನ್ನು ಈಗಿನ ಯೋಜನೆಯಲ್ಲಿ ಸೇರಿಸಿ.

ಮೃದು ಮಿತಿಗಳನ್ನು ಉಪಯೋಗಿಸಿ: 'ಪ್ರೊನಲ್ಲಿ ದೈನಂದಿನ 20 ಪವರ್ ಮೋಡ್ ರನ್‌ಗಳಿಗೂ.'

ಆಫ್‌ಲೈನ್ ರನ್‌ಗಳನ್ನು ಅಸೀಮಿತವಾಗಿ ಕೊಡಿ—ಏಕೆಂದರೆ on-device ಉಚಿತವಾಗಿದೆ.

ವಾಸ್ತವಿಕ ಸನ್ನಿವೇಶಗಳು ಕಾರ್ಯರತವಾಗಿವೆ

ಈ ತಿಂಗಳು core ಅನುಭವಕ್ಕೆ ಕೀ ಅಗತ್ಯವಿಲ್ಲದ ಮೂರು ಸರಳ ವಿಧಾನದಿದ್ದಂತೆ:

ವಿನಯಪೂರ್ಣ ಬಟನ್

ಕೆಲಸ: ಇಮೇಲ್ ಮತ್ತು ಸಂದೇಶಗಳಲ್ಲಿ ಟೋನ್ ಸ್ವಚ್ಚಗೊಳಿಸಿ.

ಹೇಗೆ: on-device ಮಾದರಿ ನಿಶ್ಚಿತ ಪ್ರಾಂಪ್ಟ್ ಜೊತೆ ಅರ್ಥ ಉಳಿಸಬೇಕು, ವ್ಯಾಕರಣದ ದೋಷ ತೆಗೆದು ಹಾಕಬೇಕು ಮತ್ತು ಟೋನ್ ಸರಿಪಡಿಸಬೇಕು.

UX: ಇನ್‌ಲೈನ್ ಸಂಪಾದನೆ ಪೂರ್ವವೀಕ್ಷಣೆ ಸ್ನೇಹಪರ, ಅಧಿಕೃತ, ಸಂಕ್ಷಿಪ್ತ ಟೋಗಲ್ ಜೊತೆಗೆ. ಬದಲಾವಣೆ ತೋರಿಸಿ ಬಳಕೆದಾರರಿಗೆ ತಿಳಿಯಲು ಸಹಾಯ.

ತಕ್ಷಣದ ಸಂಜೆಗಳು

ಕೆಲಸ: ಸಭೆಯ ಟಿಪ್ಪಣಿಗಳನ್ನು ಕಾರ್ಯಾಂಶಗಳಲ್ಲಿ ಪರಿವರ್ತಿಸಿ.

ಹೇಗೆ: on-device ನಲ್ಲಿ ತುಂಡುಗಳನ್ನು ಸಂಗ್ರಹಿಸಿ, ನಂತರ ದೀರ್ಘ ಸಂವಾದಕ್ಕೆ ಐಚ್ಛಿಕ ಪವರ್ ಮೋಡ್.

UX: ಫಲಿತಾಂಶಗಳನ್ನು ಮಾಲೀಕರು ಮತ್ತು ನಿಗದಿತ ತಾರೀಖಿನೊಂದಿಗೆ ಗುಂಪುಗೊಳಿಸಿ. ಟಾಸ್ಕ್ ಟೂಲ್‌ಗೆ ನಕಲಿಸಲು ಟ್ಯಾಪ್ ಮಾಡಬಹುದಾಗಿದೆ.

ಅದು ಸೂಪರ್ ಹುಡುಕಾಟ

ಕೆಲಸ: ಬಳಕೆದಾರರ ದಸ್ತಾವೇಜುಗಳಲ್ಲಿ ಸಂಬಂಧಿತ ಮಾಹಿತಿಯನ್ನು ಹುಡುಕು.

ಹೇಗೆ: ಸ್ಥಳೀಯ ವೆಕ್ಟರ್ ಸೂಚಿಕೆ + ಸಣ್ಣ LLM ಸಂಗ್ರಹಕ್ಕೆ.

UX: ಮೂಲ ಲಿಂಕ್‌ಗಳ ಜೊತೆಗೆ ಹೈಲೈಟ್ ಮತ್ತು 'ಈ ಫಲಿತಾಂಶ ಇದಕ್ಕೆ ಕಾರಣವೇನು?' ಟಿಪ್ಪಣಿ. Ctrl+F‌ಗೆ ಪಿಎಚ್.ಡಿ ಪಡೆದಂತಿದೆ.

ನಿಮ್ಮ AI ಡಯಲ್-ಅಪ್ಂತೆ ಅನುಭವವಾಗದಂತೆ ಕಾರ್ಯಕ್ಷಮತೆಯ ಸಲಹೆಗಳು

ಆ್ಯಪ್ ಪ್ರಾರಂಭದಲ್ಲಿ ಒಂದು ಸಣ್ಣ ಡಮ್ಮಿ ಅನುಮಾನ ಬಳಸಿ ಮಾದರಿಯನ್ನು ತಾಪಿಸಿ ಆದ್ದರಿಂದ ಮೊದಲ ವಿನಂತಿ ನಿಧಾನವಾಗುವುದಿಲ್ಲ.

ಎಂಬೆಡ್ಡಿಂಗ್‌ಗಳು ಮತ್ತು ಭಾಗ ಫಲಿತಾಂಶಗಳನ್ನು ಕ್ಯಾಶೆ ಮಾಡಿ; ಅವುಗಳನ್ನು ಸೆಷನ್‌ಗಳ ನಡುವೆ ಪುನಃ ಉಪಯೋಗಿಸಿ.

ಪ್ರತಿಕ್ರಿಯೆಗಳನ್ನು ಸ್ಟ್ರೀಮ್ ಮಾಡಿ ಮತ್ತು ಸಾಲುಮಾಡಿ ಪ್ರದರ್ಶಿಸಿ. ಮಾನವರು ಪ್ರಗತಿ ಅನುಭವಿಸಲು ಇಷ್ಟಪಡುವರು, ಕೇವಲ ಮೂರು ಬಿಂದುಗಳು ನೃತ್ಯ ಮಾಡು ತ್ತಿದ್ದರೂ ಸಹ.

ಪ್ರಾಂಪ್ಟ್‌ಗಳನ್ನು ನಿಯಂತ್ರಣದಲ್ಲಿಟ್ಟುಕೊಳ್ಳಿ. ಟೆಂಪ್ಲೇಟುಗಳು > ಪ್ರಬಂಧಗಳು.

10 ಪುಟಗಳ घोषಣಾಪತ್ರವಿಲ್ಲದೆ ಗೌಪ್ಯತೆ

ಸ್ವಯಂಪ್ರಥಮವಾಗಿ ಸ್ಥಳೀಯ ಪ್ರಕ್ರಿಯೆಯನ್ನು ನಿಗದಿ ಮಾಡಿ. ಕ್ಲೌಡ್ ಪ್ರಕ್ರಿಯೆಗೆ ವೈಶಿಷ್ಟ್ಯದಿಂದ ಆಯ್ಕೆಮಾಡಿಕೊಳ್ಳುವಂತೆ ಮಾಡಿ.

ಒಂದು ವಾಕ್ಯದಲ್ಲಿ ವಿವರಣೆ: ‘ಇದು ನಿಮ್ಮ ಸಾಧನದ ಮೇಲೆ ಚಾಲನೆ ಮಾಡುತ್ತದೆ. ಏನೂ ಅಪ್ಲೋಡ್ ಆಗುತ್ತಿಲ್ಲ.’ ಅಥವಾ: ‘ನಾವು ನಮ್ಮ ಸರ್ವರ್ ಬಳಸುತ್ತೇವೆ. ಅನಾಮಧೇಯ, ಮಾರಾಟಗೊಳ್ಳದು.’

ಒಂದು ಟ್ಯಾಪ್ ಡೇಟಾ ಅಳಿಸುವ ಬಟನ್ ಕೊಡಿ. ಯಾರಿಗೂ 2021ರ ಗ್ರಾಸರಿ ಲಿಸ್ಟ್ ಇಲ್ಲಾಗಿಸಲು ಇಮೇಲ್ ಸರಣಿಗಳನ್ನು ಕಡಿಮೆಯಾಗಿ ನೋಡಬೇಕು.

ಗಮನಾರ್ಹ: ಈ ಪ್ರಯಾಣಕ್ಕೆ ಒಂದು ನೆರವಿನ ಸಹಾಯಕರಿರುವುದು

ಗಮನಾರ್ಹ: ನೀವು ಪ್ರಾಂಪ್ಟ್‌ಗಳನ್ನು ಪ್ರೋಟೋಟೈಪ್ ಮಾಡೋ ಸಮಯದಲ್ಲಿ AI ಸಮರ್ಪಕತೆಯ ಪರಿಶೀಲನೆ ಬೇಕಾದರೆ, Sider.AI ನಿಮ್ಮ ಬ್ರೌಸರ್‌ನಲ್ಲಿ ನೆರೆಹೊರೆಯವರಂತೆ ಇರಬಹುದು, ಇದುವರೆಗೆ ಮಾಡಿದ ನಿಯಮಗಳನ್ನು ಓದುವವರಂತೆ. ನೀವು ಪ್ರಾಂಪ್ಟ್‌ಗಳನ್ನು ರಚಿಸಬಹುದು, ಔಟ್ಪುಟ್‌ಗಳನ್ನು ಹೋಲಿಸಬಹುದು, ಮತ್ತು ಟೆಂಪ್ಲೇಟುಗಳಲ್ಲಿ ವೇಗವಾಗಿ ನವೀಕರಣ ಮಾಡಬಹುದು—ಹಲವಾರು ಡ್ಯಾಶ್‌ಬೋರ್ಡ್‌ ಹ್ಯಾಂಡ್ಲ್ ಮಾಡದೇ. ಇದು ಜಾಹೀರಾತು ಅಲ್ಲ; ಇದು ಸಣ್ಣ ದಾರಿಯಾಗಿದೆ.

ಐದು ನಿಮಿಷಗಳ ಏಕೀಕರಣ ಯೋಜನೆ (ಅಂದರೆ ನಿಮ್ಮ ಸ್ಟಿಕ್ಕಿ ನೋಟ್)

ಒಂದು ಕಾರ್ಯದಿಂದ ಪ್ರಾರಂಭಿಸಿ. ಅತ್ಯಂತ ಸಣ್ಣ ಸುಂದರ ಆವೃತ್ತಿ ಅನ್ನು ಪ್ರಸರಿಸು.

ಇದನ್ನು ಸಣ್ಣ, ಕ್ವಾಂಟೈಸ್ ಮಾಡಲಾದ ಮಾದರಿಯಿಂದ on-device ನಲ್ಲಿ ಓಡಿಸು.

ಇದನ್ನು ಚಾಟ್ ಬಾಕ್ಸ್ ಬದಲಾಗಿ ಟೆಂಪ್ಲೇಟಿನಲ್ಲಿ ಹಾಕಿ.

ಸ್ಮಾರ್ಟ್ ಕಾಣಲು ರೆಟ್ರಿವಲ್ ಸೇರಿಸಿ.

ನಿಮ್ಮ ಸರ್ವರ್ ಮೂಲಕ ಕಟ್ಟುನಿಟ್ಟಾದ ಮಿತಿ ಹೊಂದಿದ ಪವರ್ ಮೋಡ್ ನೀಡಿರಿ.

ಎಲ್ಲವನ್ನು ಸ್ಪಷ್ಟವಾಗಿ ಲೇಬಲ್ ಮಾಡಿ. ಗೌಪ್ಯತೆ ಮೊದಲಿಗೆ. ಸಂತೋಷ ಎರಡನೇ. ಉಳಿದುಕೊಂಡಿರುವುದನ್ನು ಮೂರನೇ ಸ್ಥಾನದಲ್ಲಿ ಇಡಿ.

ನಿಮ್ಮ ಆ್ಯಪ್ AI ಜಾಹೀರಾತುಗಾಗಿ ತಿರುಗದಂತಹ ತಪ್ಪುಗಳಿಂದ ತಪ್ಪಿರಿ

ಮ್ಯಾಜಿಕ್ ವಾಂಡ್ ಕಡೆಗೆ ಬಿದ್ದುಬಿಡಬೇಡಿ: ‘ಮನುಷ್ಯನಂತೆ ಬರೆಯುತ್ತದೆ’ ಎಂದಾಗ ವಿವೃಥಾ ಭರವಸೆ ಬೇಡಿ. ಇದು ಕಾಫಿ ಕುಡಿಯಿದ AI ವಂತೆ ಬರೆಯುತ್ತದೆ.

ಅಸೀಮಿತ ಭರವಸೆಗಳು: ಟೋಕನ್ ಮೀಟರ್‌ಗಳು ಯಾವಾಗಲೂ ಒಳ್ಳೆಯ ದಿನ ಕೆಡissatವು.

ಅಂತಿಮ ಬಳಕೆದಾರರಿಗೆ ಪ್ರಾಂಪ್ಟ್ ಪ್ಲೇಗ್ರೌಂಡ್ ಗಳು: ಪ್ರದರ್ಶನಗಳಿಗೆ bung ಅವರು, ದೈನಂದಿನ ಬಳಕೆಗೆ ಅಲ್ಪಮಟ್ಟದಲ್ಲಿ ಉಪಯುಕ್ತ.

ಎಲ್ಲರಿಗೂ ಒಂದೇ ಮಾದರಿ: ಕೆಲಸ ಮಾಡುವ ಚಿಕ್ಕ ಮಾದರಿಯನ್ನು ಸೇರಿಸು. ದೊಡ್ಡದು ಉತ್ತಮವಲ್ಲ; ಉತ್ತಮವೇ ಉತ್ತಮ.

ಶಂಕಾಸ್ಪದ ಉತ್ಪನ್ನ ನಿರ್ವಹಕರಿಗೆ ತ್ವರಿತ ಪ್ರಶ್ನೋತ್ತರ

'ನಾವು ನಿಜವಾಗಿಯೂ API ಕೀ ಗಳಿಲ್ಲದೆ ಇದನ್ನು ಮಾಡಬಹುದೆ?' ಹೌದು. on-device ಮೊದಲ, ಸರ್ವರ್-ಪ್ರಾಕ್ಸಿ ಆಯ್ಕೆ. ಬಳಕೆದಾರರು ಕೀಗಳನ್ನು ಎಂದಿಗೂ ನೋಡరు.

'ಗುಣಮಟ್ಟ ಹೇಗಿರುತ್ತದೆ?' ನಿರ್ದಿಷ್ಟ ಕೆಲಸಗಳಿಗೆ, ಸಣ್ಣ ಮಾದರಿಗಳು ಹೆಚ್ಹು ಸ್ಪಷ್ಟ ಆಗಿವೆ—ಟೆಂಪ್ಲೇಟು ಮತ್ತು ರೆಟ್ರಿವಲ್ ಜೊತೆಗೆ ವಿಶೇಷವಾಗಿ.

'ನಾವು ಸ್ಥಳೀಯ ಮಾದರಿಗಳನ್ನು ಮೀರಿಬೇಡವೆ?' ಬಹುಶಃ. ಅದಕ್ಕಾಗಿ ಪವರ್ ಮೋಡ್ ಇದೆ. ಅದನ್ನು ನಿಮ್ಮ ಯೋಜನೆಗೆ ಕಟ್ಟಿಕೊಂಡಿರಿ, ಬಳಕೆದಾರರ ಕ್ರೆಡಿಟ್ ಕಾರ್ಡ್‌ಗೆ ಅಲ್ಲ.

'ಅಚಿರീക്ഷಿತ ವರಳಿಕೆ ತಪ್ಪಿಸಲು ಹೇಗೆ?' ಮಿತಿಗಳು, ಕ್ಯಾಶಿಂಗ್ ಮತ್ತು ಸ್ಪಷ್ಟ ಆಫ್‌ಲೈನ್ ಡೀಫಾಲ್ಟ್. ನೀವು ಹಾಳಾಗದ ವ್ಯಕ್ತಿ.

ಮೂರು ಸಾಲಿನ ಸಣ್ಣ ಗಾದೆ ಅಧ್ಯಯನ

ಒಂದು ಸಣ್ಣ ಟಿಪ್ಪಣಿ ಆ್ಯಪ್ on-device “ಸಂಕ್ಷಿಪ್ತಿ” ಬಟನ್ ಸೇರಿಸಿತು. ಅದು 4-ಬಿಟ್ 3B ಮಾದರಿಯನ್ನು ನಿಶ್ಚಿತ ಟೆಂಪ್ಲೇಟು ಮತ್ತು 500 ಟೋಕನ್ ಮಿತಿಯೊಂದಿಗೆ ಓಡಿಸಿತು. ಸರಾಸರಿ ಉತ್ತರ ಸಮಯ: ಇತ್ತೀಚಿನ ಫೋನುಗಳಲ್ಲಿ 1.6 ಸೆಕೆಂಡು.

ಬಳಕೆದಾರರು ದಿನನಿತ್ಯದ ತುಣುಕುಗಳಿಗೆ ಪ್ರೀತಿಪಡಿಸಿದ್ದರು, ಆದರೆ ದೀರ್ಘ ಸಂಶೋಧನಾ ಟಿಪ್ಪಣಿಗಳನ್ನು ಕುರಿತು ಅಸಂತೃಪ್ತರಾಗಿದ್ದರು. ತಂಡವು ಆಯ್ಕೆಯಾದ ಪವರ್ ಮೋಡ್ ಸೇರಿಸಿ, ಬಳಕೆದಾರರ ಪ್ರತಿ ದಿನದ ಕೋಟ್ ರವಾನಿಸಿ. ತೃಪ್ತಿ ಹೆಚ್ಚಿತು, ವೆಚ್ಚಗಳು ನಿರೀಕ್ಷಿತವಿದ್ದವು.

ಮತ್ತೊಂದು ಲಾಭ: ಬೆಂಬಲ ಟಿಕೆಟ್‌ಗಳು ಕಡಿಮೆಆಗಿದವು ಏಕೆಂದರೆ API ಕೀಗಳನ್ನು ನಿಭಾಯಿಸಲು ಇಲ್ಲ, ‘ನನಗೆ $27 ವಸೂಲಾಯಿತೆ?’ ಇಮೇಲ್‌ಗಳು ಇಲ್ಲ, ತಪ್ಪು ದರ ಮಿತಿ ಸ್ಕ್ರೀನ್ ಗಳೂ ಇಲ್ಲ.

ಸಾರಾಂಶ: ನಿಮ್ಮ ಸುಂದರ AI ಆ್ಯಪ್, ಬಿಲ್ಲಿಂಗ್ ಸಮಸ್ಯೆ ಇಲ್ಲದೆ

ಅದೀಗ ಕ್ರಮ: ಒಂದು ಸ್ಪಷ್ಟ AI ವೈಶಿಷ್ಟ್ಯ ರಚಿಸಿ, ಅದು ಆಫ್‌ಲೈನ್ ಓடும். ಬಳಕೆದಾರರು ಅರ್ಥಮಾಡಿಕೊಳ್ಳುವ ಟೆಂಪ್ಲೇಟಿನಲ್ಲಿ ಸುತ್ತು ಹಾಕಿ. ರೆಟ್ರಿವಲ್ ಬಳಸಿ. ನಿಮ್ಮ ಸರ್ವರ್ ನಿಯಂತ್ರಿಸುವ ಕಟ್ಟಿಗೆಯ ಪವರ್ ಮೋಡ್ ಕೊಡಿ. ಗೌಪ್ಯತೆ ಬಗ್ಗೆ ಪ್ರಾಮಾಣಿಕವಾಗಿರಿ. ಸಂತೋಷಕ್ಕಾಗಿ ಪರೀಕ್ಷಿಸಿ, ಅದು ನಿಮ್ಮ ಕೆಲಸ—ಆದ್ದರಿಂದ ಆಗಬೇಕು.

ಇದೇ ರೀತಿ ನೀವು ಸುಂದರ ಆ್ಯಪ್ ಗೆ AI ಸೇರಿಸಬಹುದು (API ಕೀ ಇಲ್ಲ, ಹೆಚ್ಚುವರಿ ಬಿಲ್ಲಿಂಗ್ ಇಲ್ಲ). ಈಗ ಖಂಡಿತವಾಗಿ IKEA ಒಂದು ಕ್ವಾಂಟೈಸ್ ಮಾಡಿದ ಆಲೆನ್ ರೆಂಚ್‌ ಅನ್ನು ಸಾಗಿಸುತ್ತಿದ್ದರೆ ಚೆನ್ನಾಗಿರುತ್ತಿತ್ತು.

ಪ್ರಶ್ನೋತ್ತರ

ಪ್ರಶ್ನೆ 1: ನಾನು ಬಳಕೆದಾರರ API ಕೀ ಕೇಳದೆ AI ವೈಶಿಷ್ಟ್ಯಗಳನ್ನು ಸೇರಿಸಬಹುದೆ? ಹೌದು. On-device ಸಣ್ಣ ಮಾದರಿಗಳನ್ನು ಮುಖ್ಯ ವೈಶಿಷ್ಟ್ಯಗಳಿಗೆ ಓಡಿಸಿ ಮತ್ತು ಬೇಕಾದರೆ ಕ್ಲೌಡ್ ಕರೆಗಳನ್ನು ನಿಮ್ಮ ಸ್ವಂತ ಸರ್ವರ್ ಪ್ರಾಕ್ಸಿ ಮೂಲಕ ನಿಯಂತ್ರಿಸಿ. ಬಳಕೆದಾರರು ಎಂದಿಗೂ ಕೀಗಳನ್ನು ಸ್ಪರ್ಶಿಸಲಾರರು, ನೀವು ವೆಚ್ಚವನ್ನು ನಿರೀಕ್ಷಿತವಾಗಿರಿಸಬಹುದು.

ಪ್ರಶ್ನೆ 2:on-device AI ನನ್ನ ಆ್ಯಪ್‌ಗೆ ಸಾಕಷ್ಟು ನಿಖರವಾಗಿರುತ್ತದೆಯೇ? ಹೆಚ್ಚು ಗಮನ ನೀಡುವ ಕೆಲಸಗಳಿಗೆ ಹಳದಿ, ಸಂಗ್ರಹಣೆ ಮತ್ತು ತೆಗೆದುಹಾಕುವಿಕೆ, ಸಂಕೀರ್ಣ ಮಾದರಿಗಳು ಅತ್ಯುತ್ತಮವಾಗಿ ಕಾರ್ಯನಿರ್ವಹಿಸುತ್ತವೆ—ಟೆಂಪ್ಲೇಟು ಮತ್ತು ರೆಟ್ರಿವಲ್ ಸಹಾಯದಿಂದ. ಜಟಿಲ ನಿರ್ಣಯ ಅಥವಾ ದೀರ್ಘ ಸಂಧರ್ಭವನ್ನು ಐಚ್ಛಿಕ ಪವರ್ ಮೋಡ್ ಗೆ ಉಳಿಸಿ.

ಪ್ರಶ್ನೆ 3:ಹೆಚ್ಚುವರಿ ಬಿಲ್ಲಿಂಗ್ ಇಲ್ಲದೆ AI ವೆಚ್ಚಗಳನ್ನು ಹೇಗೆ ತಪ್ಪಿಸಬಹುದು? ಆಫ್‌ಲೈನ್ ಪ್ರಕ್ರಿಯೆಗೆ ಪೂರ್ವ ನಿಗಮ ನೀಡಿ ಮತ್ತು ಜೋರಾಗಿ ಕ್ಯಾಶಿಂಗ್ ಮಾಡಿ. ಕ್ಲೌಡ್ ಬಮ್ಮುಗಳಿಗೆ ಸರ್ವರ್-ಸೈಡ್ ಕ್ವೋಟಾ, ದೈನಂದಿನ ಮಿತಿಗಳು ಮತ್ತು ಟೈಮೌಟ್‌ಗಳನ್ನು ಹಾಕಿ—ನಂತರ ಸರಿಯಾದfallback ಮೂಲಕ ಸ್ಥಳೀಯ ಫಲಿತಾಂಶಗಳಿಗೆ ಹೋಗಿ.

ಪ್ರಶ್ನೆ 4:ಬಳಕೆದಾರರು ನಿಜವಾಗಿಯೂ ಇಷ್ಟಪಡುವ AI UX ಯಾವದು? ಒಂದು ಕೆಲಸವನ್ನು ಚೆನ್ನಾಗಿ ಮಾಡುವ ಬಟನ್‌ಗಳು ಮುಕ್ತ ಸಂವಾದ ಬಾಕ್ಸ್ ಜತೆಗೆ ಮೇಲು. ಸ್ಪಷ್ಟ ಟೋನ್ ಮತ್ತು ಉದ್ದದ ಟೆಂಪ್ಲೇಟುಗಳನ್ನು ಬಳಸಿ, ಬದಲಾವಣೆ ಅಥವಾ ವಿವರಣೆ ತೋರಿಸಿ ಮತ್ತು ಗೌಪ್ಯತೆ ಲೇಬಲ್ ಮಾಡಿ: ಆಫ್‌ಲೈನ್ vs ಕ್ಲೌಡ್ ಪವರ್ ಮೋಡ್.

ಪ್ರಶ್ನೆ 5:ನಾನು AI ನ್ನು ಖಾಸಗಿ ಮತ್ತು ಅನುಭಾವಾತ್ಮಕವಾಗಿ ಹೇಗೆ ಉಳಿಸಬಹುದು? ಮೂಲತಃ ಸ್ಥಳೀಯವಾಗಿ ಪ್ರಕ್ರಿಯೆ ಮಾಡಿ, ನೀವು ಕ್ಲೌಡ್ ಬಳಸಿದಾಗ ಬಹಿರಂಗಪಡಿಸಿ ಮತ್ತು ಒಂದೇ ಟ್ಯಾಪ್ ಮೂಲಕ ಡೇಟಾ ಅಳಿಸುವ ಸಾಮರ್ಥ್ಯ ನೀಡಿ. ವಿಷಯ ಫಿಲ್ಟರ್‌ಗಳನ್ನು ಸೇರಿಸಿ ಮತ್ತು ಮೂಲಗಳನ್ನು ಉಲ್ಲೇಖಿಸಿ, ಇದರಿಂದ ಗೌಪ್ಯತೆಗಾಗಿ ದೀರ್ಘ ಕಥೆ ಕೊಡಬೇಕಾಗುವುದಿಲ್ಲ.