பத்து நிமிட வாக்குறுதி, மற்றும் மக்கள் வெளிப்படையாகச் சொல்லாத விஷயங்கள்
"10 நிமிடங்களில் AI சாட்டை உங்கள் செயலியில் உருவாக்குங்கள்" என்பதைப் பற்றி, கடிகாரம் தொடங்கும் வரை அனைவரும் நம்புவதாக பாசாங்கு செய்கிறார்கள். பிறகு நாம் வழக்கமான கதாபாத்திரங்களைச் சந்திக்கிறோம்: API keys, token வரம்புகள், callback நரகம், மர்மமான தாமதம், இணக்கச் சரிபார்ப்புப் பட்டியல், மற்றும் தவிர்க்க முடியாத "இன்னும் ஒரு நூலகம்". பத்து நிமிடங்களா? பத்து நிமிடங்களில் நீங்கள் காபி தயாரிக்கலாம். பொதுவாக அனுப்ப முடியாது.
ஆனால் இங்கே ஒரு திருப்பம்: நீங்கள் buzzwords ஐச் சுற்றி சடங்கு நடனமாடுவதை நிறுத்திவிட்டு, "AI chat" உண்மையில் என்ன என்பதை மையமாகக் கொண்டால் ஆச்சரியப்படும் விதமாக நெருக்கமாக இருக்க முடியும் - ஒரு பயனர் இடைமுகம், ஒரு state machine, மற்றும் நீங்கள் கட்டுப்படுத்தாத ஒரு remote brain. இது மாயமில்லை; இது சிறந்த autocomplete உடன் கூடிய பிளம்பிங் மட்டுமே.
இது ஒரு எப்படி செய்வது என்பதற்கான வழிகாட்டி, ஒரு சந்தேகமான பார்வையுடன், உங்கள் அன்பான செயலியில் 10 நிமிடங்களில் AI சாட்டை உருவாக்குவதற்கானது. "ஒரு காலாண்டில் நிறுவன மாற்றம்" அல்ல. "டிஜிட்டல் உத்தி" அல்ல. வேலை செய்யக்கூடிய, அனுப்பக்கூடிய ஒரு பகுதிக்கு பத்து நிமிடங்கள்: ஒரு உரை பெட்டி, ஒரு transcript, ஒரு request, ஒரு response, ஒரு சிறிய விடாமுயற்சி, மற்றும் - நீங்கள் கடந்த காலத்தின் product managers இன் ஆவிகளை ஈர்க்க முயற்சி செய்யவில்லை என்றால் - ஒன்று அல்லது இரண்டு smart guardrails. உங்களுக்கு வேகமும் தெளிவும் வேண்டும். மற்ற அனைத்தும் விருப்பமானது, மேலும் பொதுவாக ஒரு பொறி.
"AI Chat" உண்மையில் எதைக் குறிக்கிறது (மற்றும் அது எதைச் செய்யாது)
மக்கள் "AI chat" என்று சொல்லும்போது, அவர்கள் மூன்று அடுக்குகளை ஒன்றாகக் கருதுகிறார்கள்:
- சாட் UI: பெட்டி, அனுப்பு பொத்தான், தட்டச்சு காட்டி மற்றும் scrollback transcript.
- உரையாடல் நிலை: யார் என்ன சொன்னார்கள், எந்த வரிசையில், ஒவ்வொரு பதிலிலும் குழப்பமாக இல்லாமல் இருக்க போதுமான சூழலுடன்.
- Model API: நீங்கள் செய்திகளை உள்ளிடுகிறீர்கள், அது உங்களுக்கு உரையைத் திரும்பக் கொடுக்கிறது (ஒருவேளை function calls), நீங்கள் வேகமாக உணர tokens ஐ stream செய்கிறீர்கள்.
மற்ற அனைத்தும் branding: agents, copilots, assistants - ஒரே loop க்கான சிறந்த வார்த்தைகள். உங்கள் பயன்பாட்டிற்கு வேலை செய்யும் அடுக்கு தேவைப்படும் முன் marketing அடுக்கு தேவை என்று பாசாங்கு செய்வதுதான் சாத்தியமான குறைபாடு. Loop உடன் தொடங்குங்கள். பின்னர் அனுப்புங்கள்.
10-நிமிட உருவாக்கம்: ஒரு அமர்வில் நீங்கள் உண்மையில் என்ன செய்ய முடியும்
"10 நிமிடங்களில் AI சாட்டை உங்கள் அன்பான செயலியில் உருவாக்குங்கள்" என்பது ஒரு stand-up இன் போது AI alignment ஐத் தீர்ப்பதற்கான வாக்குறுதி அல்ல. இது உங்கள் பயன்பாட்டை பயனர்கள் உடனடியாகப் புரிந்துகொள்ளும் ஒன்றைச் செய்வதற்கான வாக்குறுதி: கேள், பதில், மீண்டும் செய். நீங்கள் கவனம் செலுத்தினால், சரிபார்ப்புப் பட்டியல் குறுகியதாக இருக்கும்:
- UI: பயனர் செய்திக்கு ஒரு உரை பகுதி, ஒரு அனுப்பு பொத்தான், ஒரு transcript பட்டியல் மற்றும் ஒரு தட்டச்சு காட்டி. வேகத்திற்காக optimistic rendering ஐச் சேர்க்கவும்.
- API அழைப்பு: நீங்கள் தேர்ந்தெடுத்த model endpoint ஐ ஒரு system prompt மற்றும் rolling context window உடன் பயன்படுத்தவும். Tokens வரும்போது பதிலை UI க்கு stream செய்யவும்.
- சேமிப்பு: உரையாடலுக்கான ஒரு சிறிய நினைவகத்தை வைத்திருங்கள். தீவிரமாகச் செதுக்குங்கள். நீங்கள் ஆடம்பரமாக இருந்தால், embeddings ஐ cache செய்யவும்; இல்லையென்றால், கடைசி டஜன் திருப்பங்களைச் சேமிக்கவும்.
- Guardrails: Timeouts, retries மற்றும் ஒரு character வரம்பு. அவ்வளவுதான். முதல் நாளில் Rube Goldberg contraption எதுவும் இல்லை.
- கண்காணிப்பு: நேரம், token பயன்பாடு மற்றும் தோல்வி எண்ணிக்கையை பதிவு செய்யவும். நீங்கள் debug செய்யப்போவது முதல் விஷயம் model அல்ல - உங்கள் plumbing.
அதுதான் loop. Loop தான் செயலி.
Hype இல் மூழ்காமல் Model ஐத் தேர்ந்தெடுப்பது
நீங்கள் ஒரு model ஐ திருமணம் செய்யத் தேவையில்லை; நீங்கள் ஒரு செய்தி loop ஐ அனுப்ப வேண்டும். தெளிவான ஆவணங்கள், streaming ஆதரவு மற்றும் கணிக்கக்கூடிய தாமதம் கொண்ட ஒரு API ஐத் தேர்ந்தெடுக்கவும். "சிறந்த model" என்பது சூழ்நிலையைப் பொறுத்தது. வாடிக்கையாளர் ஆதரவு சுருக்கங்களுக்கு, சிறியதும் வேகமானதும் மிகவும் கடினமாக நினைக்கும் ஒரு clever large model ஐ விட சிறந்தது. குறியீட்டிற்கு, தரம் முக்கியமானது; UI வசதிகளுக்கு, வேகம் முக்கியமானது. சுருக்கமாக: நீங்கள் கட்டுப்படுத்தும் ஒரு இடைமுகத்தின் பின்னால் ஒரு model ஐ வைக்கவும், அதனால் உலகம் மாறும்போது அதை மாற்ற முடியும் - ஏனென்றால் அது மாறும்.
உண்மையில் உங்களுக்குத் தேவையான குறைந்தபட்ச குறியீடு
எந்த stack கிலும் இதை நீங்கள் இணைக்க முடியும், ஆனால் வடிவம் ஒருபோதும் மாறாது:
- Client: உள்ளீட்டை Debounce செய்யுங்கள், ஒரு தட்டச்சு காட்டியைக் காட்டுங்கள், tokens ஐ படிப்படியாக stream செய்யுங்கள்.
- Server: API key ஐ வைத்திருங்கள். ஒரு மெல்லிய POST endpoint ஐ உருவாக்குங்கள்: உள்ளே செய்திகள், வெளியே செய்திகள். 20-30 வினாடிகள் timeout ஐச் சேர்க்கவும்.
- Store: சமீபத்திய திருப்பங்களை வைத்திருங்கள். முழு நாவலையும் சேமிப்பதைத் தவிர்க்கவும். உங்கள் பயனர்கள் சாட் பெட்டியில் Infinite Jest எழுதுவதில்லை.
இது "உற்பத்தியா"? உங்கள் பிழை கையாளுதல் ஒரு shrug emoji இல்லையென்றால், ஆம். உற்பத்தி என்பது "நள்ளிரவு 3 மணிக்கு என்னை எழுப்பாது" என்பதற்கான மற்றொரு சொல்.
அனைவரும் தவிர்க்கும் தந்திரம்: வேகமாக உணர வைக்கவும்
வேகம் என்பது ஒரு கருத்து. Model வேகமாக இருக்கலாம், ஆனால் streaming தொடங்குவதற்கு முன்பு UI தொங்கினால், அது மெதுவாக உணரும். தந்திரங்கள் அல்லாத தந்திரங்கள்:
- முதல் token கிடைத்தவுடன் streaming ஐத் தொடங்கவும். Cursor ஐக் காட்டுங்கள். மனிதர்கள் models ஐ விட வேகமாகப் படிக்கிறார்கள் - எனவே அவர்களை அனுமதிக்கவும்.
- Streaming செய்யும் போது கட்டமைப்பைக் காட்டுங்கள். Model bullets ஐத் திருப்பினால், bullets ஐ படிப்படியாக render செய்யவும். Blank space எதிரி.
- சுற்றுப்பயணங்களைச் சுருக்கமாக வைத்திருங்கள். "நான் பதிலளிக்கும் முன் ஐந்து கருவிகளை அழைக்கிறேன்" agent demo ஒரு keynote இல் நன்றாக விளையாடுகிறது மற்றும் உண்மையான உலகில் இறந்துவிடுகிறது.
நீங்கள் வேறு எதுவும் செய்யாவிட்டாலும், முன்னரே stream செய்யுங்கள் மற்றும் எப்போதும் stream செய்யுங்கள்.
உண்மையில் உதவும் Guardrails (மற்றும் உங்கள் பயன்பாட்டை ஒரு Cop ஆக மாற்ற வேண்டாம்)
உங்களுக்கு ஒரு சில விதிகள் தேவை, ஒரு தார்மீக தத்துவம் அல்ல:
- அதிகபட்ச tokens உள்ளே, அதிகபட்ச tokens வெளியே. உங்கள் பட்ஜெட்டிற்கு வரம்புகள் உள்ளன, அதே போல் பயனர் பொறுமைக்கும்.
- சூழலைக் குறைக்கவும். அதை கடைசி N பரிமாற்றங்களுக்கும் ஒரு சிறிய system prompt க்கும் வைக்கவும். உங்களுக்கு நீண்ட கால நினைவகம் தேவைப்பட்டால், பின்னர் அதை engineer செய்யவும்.
- Timeout. Model ஸ்தம்பித்தால், நீங்கள் செய்ய வேண்டாம். கருணையுடன் தோல்வியடைந்து UI ஐ பதிலளிக்க வைக்கவும்.
ஒருபோதும் வராத ஒரு சரியான பதிலைக் காட்டிலும் ஒரு மரியாதையான பிழை சிறந்தது.
10 நிமிடங்களில் AI Chat ஐ உருவாக்குவது எப்படி: ஒரு எளிய செய்முறை
இது அனைவரும் scroll செய்யும் பகுதி.
- UI எலும்புக்கூடு (2 நிமிடங்கள்):
- உரை பெட்டி. அனுப்பு பொத்தான். Transcript பட்டியல்.
- ஒரு flex column மற்றும் sticky footer உள்ளீட்டைப் பயன்படுத்தவும். அழகான எதுவும் வேண்டாம். அதை இயல்பாக மொபைல் நட்பு ஆக்குங்கள்.
- Server endpoint (3 நிமிடங்கள்):
- POST /chat: { messages: [...] }
- Server இல் உங்கள் system prompt ஐச் சேர்க்கவும், client இல் அல்ல. Server-Sent Events அல்லது WebSockets ஆக chunks ஐ stream செய்யவும்.
- பதிவுகளை வைத்திருங்கள்: request ID, தாமதம் மற்றும் token எண்ணிக்கை.
- Model அழைப்பு (2 நிமிடங்கள்):
- செய்திகளை role: user/assistant/system ஆக அனுப்பவும். சிறியதாகத் தொடங்கவும்.
- Streaming ஐ இயக்கவும். Chunks ஐ நேரடியாக client க்கு அனுப்பவும்.
- Function-call செய்திகளை அழைக்கத் தகுந்த function உங்களிடம் இருக்கும்போது மட்டும் கையாளவும்.
- அடிப்படை நினைவகம் (1 நிமிடம்):
- கடைசி 8-12 செய்தி ஜோடிகளை வைத்திருங்கள். பழையவற்றை வெட்டுங்கள். அதிகமாக சிந்திக்க வேண்டாம்.
- நீங்கள் சூழலைச் சேர்க்க வேண்டும் என்றால், முந்தைய திருப்பங்களை ஒரு system குறிப்பில் சுருக்கவும்.
- Guardrails (2 நிமிடங்கள்):
- 20-வினாடி timeout. 512–1,024 token output வரம்பு.
- பிணையத் தோல்வியில் ஒருமுறை மீண்டும் முயற்சிக்கவும். பயனர் அனுபவத்தை ஒருபோதும் infinite-loop ஆக்க வேண்டாம்.
முடிந்தது. ஒரு rocket ship அல்ல - உங்கள் பயனர்கள் உடனடியாகப் புரிந்துகொள்ளும் ஒரு சாட் loop.
அன்பான செயலியில் உள்ள "அன்பான"
"அன்பான" என்பது ஒரு உயர்ந்த தரம். நீங்கள் ஒரு model விவரக்குறிப்புத் தாளில் இருந்து lovability ஐப் பெற முடியாது; நீங்கள் அதை சுவையில் இருந்து பெறுகிறீர்கள். ஒவ்வொரு நாளும் அனுப்பும் மெருகூட்டப்பட்ட விவரங்கள்:
- Reloads முழுவதும் நிலையை வைத்திருங்கள். பயனர் refresh செய்தால் மற்றும் அவர்களின் உரையாடல் மறைந்துவிட்டால், நீங்கள் அவர்களை உங்களை நம்ப வேண்டாம் என்று கற்பித்திருக்கிறீர்கள்.
- Sane defaults. உங்கள் பயனர் ஒரு ஆராய்ச்சியாளராக இல்லாவிட்டால், வெப்பநிலை அல்லது top_p ஐக் கேட்க வேண்டாம். பெரும்பாலான மக்கள் ஒரு நல்ல பதிலையே விரும்புகிறார்கள்.
- மனித தொனி. உங்கள் system prompt ஒரு பிணைக்கைதி குறிப்பு போல் படிக்கக்கூடாது. தெளிவாகப் பேசுங்கள். ஒவ்வொரு பதிலிலும் உங்கள் brand manifesto பயனர்களுக்குத் தேவையில்லை.
- விசைப்பலகையை மதிக்கவும். Cmd/Ctrl+Enter அனுப்ப. Escape ரத்து செய்ய. Arrow விசைகள் செயல்படுகின்றன. இது 2009 அல்ல.
UI ஐ நன்றாக ஆக்குங்கள், மேலும் பயனர்கள் ஒரு மோசமான பதிலையும் மன்னிப்பார்கள். அதைத் தடுமாறச் செய்யுங்கள், model ஒரு மேதையாக இருந்தாலும் அவர்கள் bounce ஆவார்கள்.
நீங்கள் ஆரம்பத்தில் செய்திருக்க வேண்டும் என்று நீங்கள் விரும்பும் சலிப்பான பகுதிகள்
AI சாட்டை நீடித்ததாக மாற்றும் மூன்று சலிப்பான விஷயங்கள் உள்ளன:
- கண்காணிப்பு: தாமதம், பிழை குறியீடுகள், token செலவு மற்றும் mid-stream இல் பயனர் drop-off ஐக் கண்காணிக்கவும். நீங்கள் அளவிடவில்லை என்றால், நீங்கள் யூகித்துக் கொண்டிருக்கிறீர்கள்.
- தனியுரிமை: PII ஐ பதிவுகளில் இருந்து விலக்கி வைக்கவும், மேலும் மூன்றாம் தரப்பு dashboards இல் raw prompts ஐ தெளிக்க வேண்டாம். Defaults பழமைவாதமாக இருக்க வேண்டும்.
- Rate limiting: துஷ்பிரயோகம் மற்றும் தற்செயலான loops இரண்டிலிருந்தும் உங்களைப் பாதுகாத்துக் கொள்ளுங்கள். உருவாக்க பத்து நிமிடங்கள், நீங்கள் அதைத் தவிர்த்தால் சுத்தம் செய்ய பத்து மாதங்கள்.
சிறந்த செயலிகள் சலிப்பான பகுதிகளை பயனர்களுக்குத் தெரியாததாகவும், டெவலப்பர்களுக்கு வெளிப்படையானதாகவும் ஆக்குகின்றன.
பெரிய தவறான கருத்து: உங்களுக்கு முதல் நாளில் "Agents" தேவை
உனக்கு தேவையில்லை. ஒரு deterministic கருவி இருக்கும்போது கருவி பயன்பாடு சிறந்தது. ஒரு calendar நிகழ்வை fetch செய்கிறீர்களா? சரியானது. ஒரு PDF ஐ சுருக்குகிறீர்களா? நல்லது. ஆனால் 45 வினாடிகள் யாருக்குத் தெரியும் என்று அலைந்து திரியும் pseudo-autonomous chains? பயனர்கள் அதற்கு கைதட்ட மாட்டார்கள். கருவிகளை தெளிவான நோக்கங்களுக்குப் பின்னால் வைக்கவும். Model ஒரு function ஐ அழைக்க வேண்டும் என்றால், அதை அழைக்கவும். இல்லையென்றால், பதிலளித்து நகருங்கள். "Agentic" ஒரு ஆளுமை அல்ல; இது ஒரு control flow.
RAG இல்: உதவி செய்யும் Retrieval, அறிவியல் கண்காட்சி திட்டம் அல்ல
RAG - retrieval augmented generation - ஒரு model புத்திசாலித்தனமாக ஒலிக்கிறதா அல்லது உண்மையில் இருக்கிறதா என்பதற்கு இடையிலான வேறுபாடாக இருக்கலாம். ஆனால் இது ஒரு rabbit hole உம் கூட. ஒரு விவேகமான முதல் பாஸ்:
- கட்டமைப்பு பாதுகாக்கப்பட்டு உங்கள் ஆவணங்களை chunk செய்யுங்கள். பத்திகள், தலைப்புகள், Captions முக்கியம்.
- Models மாறும்போது நீங்கள் மீண்டும் உருவாக்கக்கூடிய embeddings உடன் அட்டவணைப்படுத்தவும்.
- 5-10 தொடர்புடைய chunks ஐ மீட்டெடுக்கவும். மேற்கோள்களுடன் அவற்றைப் புகட்டவும். பொருத்தமற்ற trivia இல் model ஐ மூழ்கடிக்க வேண்டாம்.
- உங்களால் முடிந்ததை cache செய்யுங்கள். பெரும்பாலான பயனர்கள் அதே ஐந்து கேள்விகளைக் கேட்கிறார்கள்.
உங்கள் "10-நிமிட" நோக்கத்தில் RAG அடங்கும் என்றால், நீங்கள் ஏற்கனவே 20 இல் இருக்கிறீர்கள். அதை விருப்பமாக வைத்திருங்கள்; பின்னர் அதை bolt செய்யுங்கள்.
பயன்பாட்டை தலைகீழாக மாற்றாமல் பாதுகாப்பு மற்றும் இணக்கம்
தெளிவானது ஆனால் அடிக்கடி தவிர்க்கப்பட்டது:
- API keys ஐ client க்கு அனுப்ப வேண்டாம். எப்போதும். உங்கள் server model ஐ அழைக்கிறது.
- நீங்கள் கசிவதற்கு சங்கடமாக இருக்கும் எதையும் ஓய்வில் encrypt செய்யவும். பதிவுகள் கசிவதாகக் கருதுங்கள்.
- பயனர்களுக்கு "இந்த உரையாடலை மறந்து விடு" பொத்தானைக் கொடுங்கள். இது நெறிமுறை மற்றும் நடைமுறை.
இணக்கம் என்பது ஒரு vibe அல்ல; இது ஒரு சரிபார்ப்பு பட்டியல். நீங்கள் committees உள்ள நிறுவனங்களுக்கு விற்கிறீர்கள் என்றால், சரிபார்ப்பு பட்டியல்களை விரும்பும் ஒரு நபரை பணியமர்த்தவும்.
கருவிகள் உண்மையில் உதவும் பகுதி
பெரும்பாலான "AI platform" pitches மூன்று வாக்குறுதிகளாகக் கொதிக்கின்றன: வேகம், guardrails மற்றும் analytics. பாதி மூன்று விஷயங்களில் ஒன்றை வழங்குகிறது; சில அனைத்தும் வழங்குகின்றன. Sider.AI உண்மையில் வலி இருக்கும் இடத்தில் உதவுகிறது: சொந்தமாக உணரும் AI சாட்டை சுழற்றுவது, வேகமாக stream செய்வது மற்றும் உங்கள் டெவலப்பர்களை ஐந்து SDK களுடன் Twister விளையாட வைக்காது. விரைவான வயரிங், மீண்டும் பயன்படுத்தக்கூடிய prompts, விவேகமான defaults மற்றும் நீங்கள் முறைத்துப் பார்க்கத் தேவையில்லாத பதிவுகள் ஆகியவற்றில் சிறந்ததுக்காக இதைப் பயன்படுத்தவும் - பின்னர் நீங்கள் வளரும்போது உங்கள் சொந்த விவரக்குறிப்புகளை மாற்றவும். உங்களுக்கு விரைவான தொடக்கம் தேவைப்பட்டால், ஒரு பிற்பகலில் நீங்கள் செய்யக்கூடியதைச் செய்ய ஒரு வாரம் கூட்டங்களை நடத்தக் கோராத அரிதான கருவி இது. தந்திரம் உங்கள் தயாரிப்பு சுவையை outsource செய்வது அல்ல; நீங்கள் மோசமாக மீண்டும் கட்டியெழுப்பக்கூடிய drudgery ஐ outsource செய்வதாகும்: token எண்ணிக்கை, streaming முரண்பாடுகள், சலிப்பான retries மற்றும் நீங்கள் "அடுத்த sprint" இல் பெறுவேன் என்று சத்தியம் செய்யும் dashboard.
பத்து நிமிடங்களை பத்து நாட்களாக மாற்றும் பொதுவான சாத்தியக் கேடுகள்
கிளாசிக் own-goals இன் ஒரு சிறிய பட்டியல்:
- ChatGPT ஆக முயற்சிப்பது. நீங்கள் ஒரு தளத்தை அல்ல, ஒரு அம்சத்தை உருவாக்குகிறீர்கள். குறுகிய பயன்பாடு பொதுவானதை விட சிறந்தது.
- Over-prompting. இருபது பத்திகள் system prompt ஒரு குழப்பமான இடைமுகத்தை காப்பாற்றாது.
- Streaming ஐ புறக்கணிப்பது. பயனர்கள் மௌனத்தை தோல்வியாக வியாக்கியானம் செய்கிறார்கள்.
- "சரியான" model தேர்வில் தடுப்பது. உங்கள் server க்கு பின்னால் வழங்குநரை abstract செய்து நகருங்கள்.
- முதல் நாளில் ஒரு தனிப்பயன் token மீட்டரை எழுதுவது. அது ஒரு பிந்தைய பிரச்சனை. பதில்களை கேப் செய்து அனுப்புங்கள்.
பயனர் flows ஐ விட model அரசியல் பற்றி நீங்கள் வாதிடுகிறீர்கள் என்றால், நீங்கள் சதித்திட்டத்தை இழந்துவிட்டீர்கள்.
உண்மையான உலக பத்து நிமிட செய்முறை, மனநல சோதனைகளுடன்
- நிமிடம் 1–2: UI ஐ Scaffold செய்யுங்கள். உள்ளீடு கீழே, transcript மேலே, தட்டச்சு காட்டி placeholder.
- நிமிடம் 3–4: ஒரு /chat server route ஐச் சேர்க்கவும். API key ஐ வைத்திருங்கள். உதவியாளரை விவரிக்கும் ஒரு வாக்கியத்திற்கு System prompt அமைக்கப்பட்டது.
- நிமிடம் 5–6: Wire model streaming. Token chunks SSE க்கு மேல் செல்கின்றன; client கடைசி உதவியாளர் bubble ஐ இணைக்கிறது.
- நிமிடம் 7: கடைசி 10 செய்திகளை server-side இல் சேமிக்கவும் (அல்லது local-first, பின்னர் sync செய்யவும்). வெட்டு.
- நிமிடம் 8: timeout மற்றும் ஒருமுறை மீண்டும் முயற்சிக்கவும். இரண்டும் தோல்வியுற்றால், மீண்டும் முயற்சிக்கும் பொத்தானுடன் நட்புரீதியான inline பிழையைக் காட்டுங்கள்.
- நிமிடம் 9: தாமதம் மற்றும் token எண்ணிக்கையை பதிவு செய்யவும். இன்று கன்சோல் பதிவுகள், நாளை உண்மையான பதிவுகள். ஆனால் ஏதாவது பதிவு செய்யுங்கள்.
- நிமிடம் 10: உணர்வை மெருகூட்டுங்கள் - அனுப்பிய பிறகு உள்ளீட்டை மையப்படுத்தவும், transcript ஐ தானாக scroll செய்யவும், தட்டச்சு bubble ஐ உடனடியாகக் காட்டவும்.
அவ்வளவுதான். இது அன்பானதா? இன்னும் இல்லை. ஆனால் இது அனுப்பக்கூடியது, இது அன்பானதைக் கண்டுபிடிப்பதற்கான ஒரே வழி.
உங்கள் உண்மையான பயன்பாட்டிற்காக சரிசெய்தல் ("பொது சாட்" ஒரு Cop-Out ஏனெனில்)
- ஆவணங்கள் செயலி? மேற்கோள்கள் மற்றும் inline சுருக்கங்களுக்கு சார்பு. பயனர்கள் ரசீதுகளை விரும்புகிறார்கள்.
- CRM? பதில்களை சுருக்கமாகவும் செயல்படக்கூடியதாகவும் வைத்திருங்கள். AI எழுதியது போல் படிக்கும் மின்னஞ்சல்களை எழுத வேண்டாம்.
- IDE? determinism ஐ விரும்புங்கள். கருவி அழைப்புகள் மற்றும் முடிவுகளை வெளிப்படையாகக் காட்டுங்கள்; model ஐ ஒரு கயிற்றில் வைத்திருங்கள்.
- மொபைல்? தாமதம் வில்லன். தீவிரமாக Cache செய்யுங்கள். Partial rendering ஒவ்வொரு முறையும் spinners ஐ விட சிறந்தது.
முக்கியமான விஷயம்: AI சாட் என்பது ஒரு அம்சம், ஒரு இலக்கு அல்ல. ஒரு வேலையைச் சிறப்பாகச் செய்ய அதைப் பயன்படுத்துங்கள்.
வேறு யாரோ ஒருவரின் Model இல் Skin ஆக இல்லாமல், உங்கள் தயாரிப்பு போல் உணர வைப்பது எப்படி
- குரல்: உண்மையில் உங்களைப் போல் ஒலிக்கும் ஒரு பத்தி style system prompt ஐ எழுதுங்கள். பின்னர் நிறுத்துங்கள்.
- உராய்வு: ஒரு model ஐத் தேர்ந்தெடுக்க பயனர்களைக் கேட்க வேண்டாம். அவர்கள் உங்கள் பயன்பாட்டைப் பயன்படுத்த வந்தார்கள்; அவர்கள் உங்கள் ML ops குழுவாக வரவில்லை.
- நிரந்தரம்: சரியான நினைவகத்தை வைத்திருங்கள். மீதமுள்ளதை காப்பகப்படுத்தவும். ஒரு ஒழுங்கற்ற வரலாறு உங்கள் பயன்பாட்டை மலிவானதாக உணர வைப்பதற்கான விரைவான வழி.
- உள்ளூர் பழக்கங்கள்: தளம் மரபுகளை மதிக்கவும். iOS இல், swipe-gestures மற்றும் safe areas. வலையில், விசைப்பலகை குறுக்குவழிகள் மற்றும் தேர்வு நடத்தை.
சுவை மட்டுமே நீடித்த அகழி.
எப்போது AI Chat ஐ உருவாக்கக்கூடாது (அல்லது: சந்தேகவாதியின் இடைவேளை)
- உங்கள் பயனர்கள் கேள்விகள் கேட்கவில்லை என்றால். ஒரு பொத்தான் சிறப்பாக இருக்கும் இடத்தில் ஒரு சாட் பெட்டியைச் சேர்க்க வேண்டாம்.
- உங்கள் தயாரிப்பின் முக்கிய வேலை deterministic என்றால். நிகழ்தகவு கால்குலேட்டரை யாரும் விரும்புவதில்லை.
- உங்களுக்குத் தேவையான தரவு நீங்கள் இன்னும் தீர்க்காத இணக்கத்திற்குப் பின்னால் பூட்டப்பட்டிருந்தால்.
நீங்கள் AI க்கு ஆதரவாக இருக்கலாம் மற்றும் இன்னும் சாட் க்கு இல்லை என்று சொல்லலாம். அது Luddite அல்ல; அது தயாரிப்பு உணர்வு.
அமைதியான சக்தி நகர்வு: கட்டுப்பாடு
சிறந்த "AI" அம்சங்களிலிருந்து பெரிய பாடம்: அவர்கள் நிறைய இல்லை என்று கூறுகிறார்கள். உங்கள் டொமைனுக்கு model ஐ கட்டுப்படுத்துங்கள். Prompt ஐச் சுருக்கமாக வைத்திருங்கள். முடிந்தால் transcript க்கு பதிலாக உங்கள் பயன்பாட்டின் சொந்த UI இல் முடிவுகளைக் காட்டுங்கள். நீங்கள் இலக்கை எவ்வளவு குறுகலாக ஆக்குகிறீர்களோ, அவ்வளவு அதிகமாக model அதைத் தாக்குகிறது. இது "பொது நுண்ணறிவு" அல்ல; இது குறிப்பிட்ட பயன்பாடு.
அனுப்புதல், மீண்டும் பார்வையிடப்பட்டது
உத்வேகத்தை விட அனுப்பக்கூடியது சிறந்தது. ஒரு நேர்த்தியான 10-நிமிட உருவாக்கம் loop வேலை செய்வதை நிரூபிக்கிறது. பின்னர் அது முக்கியம் என்று iterate செய்யுங்கள்: வேகம், பொருத்தம் மற்றும் உணர்வு. நீங்கள் பின்னர் models ஐ மாற்றலாம். நீங்கள் பின்னர் கருவிகளைச் சேர்க்கலாம். பாதுகாக்கத் தகுந்த நினைவகம் உங்களிடம் இருக்கும்போது நீங்கள் நினைவக model ஐ மறுசீரமைக்கலாம். Keynote இலிருந்து தப்பித்த demo போல் முதல் அனுபவம் உணர்ந்ததால் இழந்த பயனர் நம்பிக்கையை நீங்கள் சரிசெய்ய முடியாது.
எனவே ஆம், நீங்கள் 10 நிமிடங்களில் AI சாட்டை உங்கள் அன்பான செயலியில் உருவாக்கலாம். நீங்கள் ஒரு உண்மையான, வேலை செய்யும் loop ஐக் கருதுகிறீர்கள் என்றால். நீங்கள் நாடகத்தை விட சுவையை கருதுகிறீர்கள் என்றால். நீங்கள் சஸ்பென்ஸை விட streaming ஐ கருதுகிறீர்கள் என்றால். மீதமுள்ளவை எல்லாம் மணல் அள்ளுவதுதான்.
Sider.AI போன்ற தளங்களில் கடைசியாக ஒரு விஷயம்
நீங்கள் boilerplate க்கு ஒவ்வாமை இருந்தால் (நியாயமான), Sider.AI போன்ற தளங்கள் உங்களுக்கு நேரத்தை வாங்குகின்றன: விரைவான வயரிங், விவேகமான streaming defaults, மற்றும் நீங்கள் scaffolding ஐ விட அதிகமாக வளரும்போது ஒரு தப்பிக்கும் hatch. ஒரு நல்ல UI kit ஐப் பயன்படுத்துவது போல் இதைப் பயன்படுத்தவும் - நேர்த்தியாக இருப்பதை வைத்திருங்கள், இல்லாததை மாற்றவும். விசுவாசம் செலுத்துவது குறிக்கோள் அல்ல; குறைந்தபட்ச சக்கர மறு கண்டுபிடிப்புடன் "வேலை செய்கிறது" மற்றும் பின்னர் "சரியாக உணர்கிறது" என்பதற்கு செல்வதே குறிக்கோள். அல்லது நீங்கள் முழு விஷயத்தையும் கைமுறையாக உருட்டலாம். அது நல்லது. தட்டச்சு காட்டிய மறக்க வேண்டாம்.
ஒரு முடிவு இல்லை
AI உங்கள் தயாரிப்பை அறிவியல் புனைகதையாக மாற்றுகிறது என்பது வாக்குறுதி அல்ல. ஒரு பயனுள்ள மனிதர் போல் உங்கள் பயன்பாடு ஒரு கேள்விக்கு பதிலளிக்க முடியும் - மேலும் அடுத்த காலாண்டில் அல்ல, இப்போது அதைச் செய்யுங்கள் என்பது வாக்குறுதி. பத்து நிமிடங்கள் உங்களுக்கு loop ஐ வாங்குகிறது, மற்றும் loop உங்களுக்கு கருத்தை வாங்குகிறது. அதற்குப் பிறகு, அது சுவை மற்றும் iteration.
அது சலிப்பாக இருந்தால், நல்லது. சலிப்புதான் அன்பான வாழ்க்கை.
FAQ
Q1: 10 நிமிடங்களில் ஒரு செயலியில் AI சாட்டை உருவாக்க முடியுமா?
ஆம் - "AI சாட்டை உருவாக்குங்கள்" என்பதன் மூலம் நீங்கள் ஒரு வேலை செய்யும் loop ஐக் கருதுகிறீர்கள் என்றால்: உள்ளீடு, சூழல், model அழைப்பு, streaming மற்றும் ஒரு transcript. Sprint என்பது வேகம் மற்றும் தெளிவு பற்றியது, பதிலளிக்கும் முன் பன்னிரண்டு கருவிகளை வினவும் baroque agent அல்ல.
Q2: streaming AI பதில்களைச் சேர்ப்பதற்கான எளிய வழி எது?
Model இலிருந்து உங்கள் சாட் UI க்கு tokens ஐ stream செய்ய server-sent நிகழ்வுகள் அல்லது WebSockets ஐப் பயன்படுத்தவும். முதல் chunk இல் rendering ஐத் தொடங்கவும் - ஒரு சில மில்லி விநாடிகள் பின்னர் பிழிவதை விட உணரப்பட்ட வேகம் முக்கியமானது.
Q3: எனக்கு ஒரு அடிப்படை AI சாட் அம்சம் RAG அல்லது agents தேவையா?
இல்லை. Retrieval மற்றும் கருவி பயன்பாடு மேம்பாடுகள், தேவைகள் அல்ல. முதலில் சாட் loop ஐ அனுப்பவும்; உங்களிடம் உண்மையான உள்ளடக்கம் மற்றும் "ஒரு demo இல் குளிர்ச்சியாக ஒலித்தது" க்கு அப்பால் ஒரு காரணம் இருக்கும்போது retrieval ஐச் சேர்க்கவும்.
Q4: AI சாட்டை வேகமாகவும் மலிவாகவும் வைத்திருப்பது எப்படி?
சூழலைக் கேப் செய்யுங்கள், தீவிரமாகச் செதுக்குங்கள் மற்றும் பதில்களை stream செய்யுங்கள். சிறிய, வேகமான models பொதுவான பணிகளுக்கு அடிக்கடி வெற்றி பெறுகின்றன, மேலும் ஒரு server abstraction வழியாக models ஐ மாற்றுவது உங்களை விற்பனையாளர் பூட்டில் இருந்து விலக்கி வைக்கிறது.
Q5: Sider.AI 10 நிமிட உருவாக்கத்தில் எங்கே பொருந்துகிறது?
Sider.AI கவர்ச்சியற்ற பகுதிகளுக்கு உதவுகிறது - streaming, guardrails, பதிவுகள் மற்றும் விரைவான வயரிங் - எனவே உங்கள் குழு அன்பான செயலி விவரங்களில் கவனம் செலுத்த முடியும். ஒரு நல்ல scaffold ஐப் பயன்படுத்துவது போல் இதைப் பயன்படுத்தவும்: அதைச் சார்ந்து, பின்னர் நீங்கள் அளவிடும்போது துண்டுகளை மாற்றவும். 
