Dify എങ്ങനെ ഉപയോഗിക്കാം: AI ആപ്ലിക്കേഷനുകളും ഏജൻ്റുകളും വേഗത്തിൽ നിർമ്മിക്കുന്നതിനുള്ള ഒരു പ്രായോഗിക ഗൈഡ്
സങ്കീർണ്ണമായ കോഡിംഗില്ലാതെ ഒരു പ്രൊഡക്ഷൻ-റെഡി AI ചാറ്റ്ബോട്ട്, റിട്രീവൽ-ഓഗ്മെൻ്റഡ് QA സിസ്റ്റം അല്ലെങ്കിൽ ഒരു ഓട്ടോമേറ്റഡ് ഏജൻ്റ് എന്നിവ നിർമ്മിക്കാൻ നിങ്ങൾ എപ്പോഴെങ്കിലും ആഗ്രഹിച്ചിട്ടുണ്ടെങ്കിൽ, Dify നിങ്ങൾക്കായി നിർമ്മിച്ചതാണ്. ഇത് ഒരു വിഷ്വൽ വർക്ക്ഫ്ലോ ബിൽഡർ, പ്രോംപ്റ്റ് മാനേജ്മെൻ്റ്, RAG (റിട്രീവൽ-ഓഗ്മെൻ്റഡ് ജനറേഷൻ), ടൂൾ ഇൻ്റഗ്രേഷൻ എന്നിവയെല്ലാം ഒരു കാര്യക്ഷമമായ പ്ലാറ്റ്ഫോമിൽ സംയോജിപ്പിക്കുന്നു. ഈ പ്രായോഗികവും പരിഹാര-അധിഷ്ഠിതവുമായ ഗൈഡിൽ, ആദ്യ ലോഗിൻ മുതൽ ഒരു പോളിഷ്ഡ് AI ആപ്പ് വിന്യസിക്കുന്നത് വരെ Dify എങ്ങനെ ഉപയോഗിക്കാമെന്ന് നിങ്ങൾ പഠിക്കും.
പ്രധാനമായി ശ്രദ്ധിക്കേണ്ടത്: ഡ്രാഗ് ആൻഡ് ഡ്രോപ്പ് വർക്ക്ഫ്ലോകളും, ആപ്പ് ടെംപ്ലേറ്റുകളും ഉപയോഗിച്ച് അതിവേഗം മൂല്യമുണ്ടാക്കാൻ സഹായിക്കുന്ന ഒരു മുൻനിര ഏജൻ്റിക് AI ഡെവലപ്മെൻ്റ് പ്ലാറ്റ്ഫോമായി Dify സ്വയം സ്ഥാനമുറപ്പിക്കുന്നു. നിങ്ങൾക്ക് ഒരു ഹാൻഡ്സ്-ഓൺ walkthrough ആണ് ആവശ്യമെങ്കിൽ, ചാറ്റ് ആപ്പുകൾക്കും ഡാറ്റാസെറ്റ് ബാക്ക്ഡ് അസിസ്റ്റൻ്റുകൾക്കുമുള്ള എൻഡ്-ടു-എൻഡ് ബിൽഡുകൾ കാണിക്കുന്ന തുടക്കക്കാർക്ക് എളുപ്പത്തിൽ മനസ്സിലാക്കാവുന്ന ട്യൂട്ടോറിയലുകൾ ഉണ്ട്. കൂടാതെ HTTP നോഡുകളും JSON കൈകാര്യം ചെയ്യലും പോലുള്ള പ്രധാന ബ്ലോക്കുകൾ പഠിക്കാൻ കമ്മ്യൂണിറ്റി ക്യൂറേറ്റ് ചെയ്ത ഗൈഡുകളും ലഭ്യമാണ്. ഒരു ഘടനാപരമായ ഡെമോ പ്രോജക്റ്റ് അനുഭവം നേടാനായി, படிப்படியான ട്യൂട്ടോറിയലും ലഭ്യമാണ്.
ഈ ഗൈഡിൽ നമ്മൾ താഴെ പറയുന്നവ ഉൾക്കൊള്ളുന്നു:
- എന്താണ് Dify, എവിടെയാണ് ഇത് കൂടുതൽ പ്രയോജനകരം
- നിങ്ങളുടെ വർക്ക്സ്പേസും കീകൾ സ്ഥാപിക്കലും
- നിങ്ങളുടെ ആദ്യത്തെ ആപ്പ് നിർമ്മിക്കൽ (ചാറ്റ്ബോട്ട്, RAG അസിസ്റ്റൻ്റ്)
- വിഷ്വൽ വർക്ക്ഫ്ലോകൾ, ടൂളുകൾ, കണക്ടറുകൾ
- ഏജൻ്റുകളും മൾട്ടി-സ്റ്റെപ്പ് റീസണിംഗും
- evaluation, നിരീക്ഷണം, ആവർത്തനം
- വിന്യാസത്തിനുള്ള മികച്ച രീതികളും ടീം വർക്ക്ഫ്ലോകളും
കൂടാതെ, പ്രായോഗികമായ ടിപ്പുകൾ, സാധാരണയായി വരുന്ന അപകടങ്ങൾ, സമയം ലാഭിക്കാവുന്ന രീതികൾ എന്നിവയും ഇതിൽ ഉൾപ്പെടുത്തുന്നു. അതിനാൽ നിങ്ങൾക്ക് ആത്മവിശ്വാസത്തോടെ വേഗത്തിൽ കാര്യങ്ങൾ പൂർത്തിയാക്കാൻ കഴിയും.
എന്താണ് Dify, എന്തുകൊണ്ട് ഇത് ഉപയോഗിക്കണം?
Dify എന്നത് ഒരു വിഷ്വൽ കാൻവാസിലൂടെ AI ആപ്ലിക്കേഷനുകൾ നിർമ്മിക്കുന്നതിനുള്ള ഒരു low/no-code പ്ലാറ്റ്ഫോമാണ്. ഇതിന് പ്രോംപ്റ്റ് ഓർക്കസ്ട്രേഷൻ, സ്റ്റേറ്റ് ഹാൻഡിലിംഗ്, RAG, ഏജൻ്റ് ശേഷികൾ എന്നിവയിൽ ബിൽറ്റ്-ഇൻ ഉണ്ട്. ഇത് പ്ലംബിംഗ് ജോലികൾ ഗണ്യമായി കുറയ്ക്കുകയും താഴെ പറയുന്ന കാര്യങ്ങളിൽ നിങ്ങളെ സഹായിക്കുകയും ചെയ്യുന്നു:
- ചാറ്റ്ബോട്ടുകൾ, അസിസ്റ്റൻ്റുകൾ, മൾട്ടി-സ്റ്റെപ്പ് ഓട്ടോമേഷനുകൾ എന്നിവ നിർമ്മിക്കുക
- നിങ്ങളുടെ സ്വന്തം വിജ്ഞാന അടിത്തറ ഉപയോഗിച്ച് റിട്രീവൽ-ഓഗ്മെൻ്റഡ് ജനറേഷൻ (RAG) നടപ്പിലാക്കുക
- കസ്റ്റം ഗ്ലൂ കോഡ് ഇല്ലാതെ ടൂളുകൾ സംയോജിപ്പിക്കുക (വെബ് സെർച്ച്, API-കൾ, ഡാറ്റാബേസുകൾ)
- പ്രോംപ്റ്റുകൾ ആവർത്തിക്കുക, പ്രകടനം ട്രാക്ക് ചെയ്യുക, എൻഡ്-ടു-എൻഡ് ട്രെയ്സുകൾ നിരീക്ഷിക്കുക
Dify-യുടെ വിഷ്വൽ വർക്ക്ഫ്ലോകളും ആപ്പ് ടെംപ്ലേറ്റുകളും പ്രോട്ടോടൈപ്പ് വേഗത്തിൽ നിർമ്മിക്കാനും പ്രൊഡക്ഷനിലേക്ക് മാറ്റാനും ആവശ്യമുള്ള ടീമുകൾക്ക് ഇത് വളരെ ആകർഷകമാക്കുന്നു. വളരെ വേഗത്തിൽ ഒരു ആപ്പ് പ്രവർത്തിപ്പിക്കാൻ മൂന്നാം കക്ഷി ട്യൂട്ടോറിയലുകളും ഡെമോകളും സഹായിക്കും, കൂടാതെ ഇത് ഡാറ്റാ റിട്രീവൽ ഉള്ള ഏജൻ്റിക് പാറ്റേണുകൾക്കായി ഉപയോഗിക്കുന്നു. നിങ്ങൾ evaluation ചെയ്യാനും സ്കെയിൽ ചെയ്യാനും തയ്യാറാകുമ്പോൾ ഒബ്സർവബിലിറ്റി ഇൻ്റഗ്രേഷനുകളും ലഭ്യമാണ്.
പെട്ടെന്ന് തുടങ്ങാൻ: അക്കൗണ്ട്, മോഡലുകൾ, കീകൾ
- നിങ്ങളുടെ Dify വർക്ക്സ്പേസ് ഉണ്ടാക്കുക
- സൈൻ അപ്പ് ചെയ്ത് ഒരു പുതിയ വർക്ക്സ്പേസ് ഉണ്ടാക്കുക.
- ക്ലൗഡ് തിരഞ്ഞെടുക്കുക (ഏറ്റവും വേഗത്തിൽ നടക്കുന്നത്) അല്ലെങ്കിൽ നിങ്ങൾക്ക് പൂർണ്ണ നിയന്ത്രണം ആവശ്യമാണെങ്കിൽ സ്വയം ഹോസ്റ്റ് ചെയ്യാൻ തയ്യാറെടുക്കുക.
- മോഡൽ പ്രൊവൈഡർമാരെ ചേർക്കുക
- Settings-ൽ, നിങ്ങൾക്ക് ഇഷ്ടപ്പെട്ട LLM-കളിലേക്ക് കണക്ട് ചെയ്യുക (ഉദാഹരണത്തിന്, OpenAI, Anthropic, മുതലായവ).
- API കീകൾ സുരക്ഷിതമായി ചേർക്കുക. കണക്റ്റിവിറ്റി ഉറപ്പാക്കാൻ ചെറിയ പ്രോംപ്റ്റുകൾ ഉപയോഗിച്ച് ടെസ്റ്റ് ചെയ്യുക.
- നിങ്ങളുടെ പ്രോജക്റ്റ് ഓർഗനൈസ് ചെയ്യുക
- ഒരു പുതിയ ആപ്പോ വർക്ക്ഫ്ലോയോ ഉണ്ടാക്കുക. അതിന് വ്യക്തമായ പേര് നൽകുക (ഉദാഹരണത്തിന്, "Customer Support RAG" അല്ലെങ്കിൽ "Lead Qualifier Agent").
- നിങ്ങളുടെ ആദ്യത്തെ ഡെലിവറബിൾ തീരുമാനിക്കുക: ചാറ്റ് ആപ്പ്, ഇൻ്റേണൽ ടൂൾ അല്ലെങ്കിൽ ഏജൻ്റ്.
നുറുങ്ങ്: വേഗത്തിൽ ആവർത്തിക്കാൻ ഒരു അടിസ്ഥാന മോഡലിൽ നിന്ന് ആരംഭിക്കുക, തുടർന്ന് പിന്നീട് അഡ്വാൻസ്ഡ് മോഡലുകൾ ഉപയോഗിക്കുക.
മിനിറ്റുകൾക്കുള്ളിൽ നിങ്ങളുടെ ആദ്യത്തെ ചാറ്റ് ആപ്പ് നിർമ്മിക്കുക
ഒരു സഹായകരമായ ചാറ്റ് അസിസ്റ്റൻ്റ് നിർമ്മിക്കുന്നതിനുള്ള ലളിതമായ മാർഗ്ഗം ഇതാ.
- ഒരു ടെംപ്ലേറ്റിൽ നിന്ന് ആരംഭിക്കുക
- ആപ്പ് ഗാലറിയിൽ, ഒരു "Chat" ടെംപ്ലേറ്റ് തിരഞ്ഞെടുക്കുക. ഇത് സന്ദേശമയയ്ക്കാനുള്ള സൗകര്യങ്ങൾ നൽകുന്നു.
- നിങ്ങളുടെ സിസ്റ്റം പ്രോംപ്റ്റ് തയ്യാറാക്കുക
- റോൾ, ടോൺ, അതിരുകൾ, ഔട്ട്പുട്ട് ഫോർമാറ്റ് എന്നിവ നിർവ്വചിക്കുക. ഉദാഹരണം:
"നിങ്ങളൊരു സംക്ഷിപ്തവും സൗഹൃദപരവുമായ ഉൽപ്പന്ന സഹായിയാണ്. എപ്പോഴും ഉറവിടങ്ങൾ ഉദ്ധരിക്കുക, സ്റ്റെപ്പുകൾക്കായി ബുള്ളറ്റ് പോയിന്റുകൾ ഉപയോഗിക്കുക, കൂടാതെ ഉപയോക്താവിൻ്റെ അഭ്യർത്ഥന അവ്യക്തമാണെങ്കിൽ ഒരു വ്യക്തത വരുത്തുന്ന ചോദ്യം ചോദിക്കുക."
- ഉദാഹരണ ടേണുകൾ ചേർക്കുക (few-shot prompting)
- സ്ഥിരമായ സ്വഭാവം പ്രോത്സാഹിപ്പിക്കുന്നതിന് മാതൃകാപരമായ Q&A ജോഡികൾ കാണിക്കുക.
- അവ ചെറുതും പ്രാതിനിധ്യമുള്ളതുമായി സൂക്ഷിക്കുക.
- പരസ്പരം പ്രവർത്തിച്ചുനോക്കുക
- യഥാർത്ഥ ചോദ്യങ്ങൾ പരീക്ഷിക്കാൻ ബിൽറ്റ്-ഇൻ ചാറ്റ് ടെസ്റ്റർ ഉപയോഗിക്കുക.
- ശൈലിക്കായി സിസ്റ്റം പ്രോംപ്റ്റും ക്രിയേറ്റിവിറ്റിക്കായി ടെമ്പറേച്ചറും ക്രമീകരിക്കുക.
- ആവശ്യമെങ്കിൽ സ്റ്റോപ്പ് സീക്വൻസുകൾ, മാക്സ് ടോക്കണുകൾ, കണ്ടൻ്റ് ഫിൽട്ടറുകൾ എന്നിവ നിർവ്വചിക്കുക.
- ആപ്പിൻ്റെ ഷെയർ ലിങ്ക് പ്രവർത്തനക്ഷമമാക്കുക അല്ലെങ്കിൽ വിഡ്ജറ്റ് വഴി ഉൾച്ചേർക്കുക.
ചെയ്തു പഠിക്കുന്നതാണ് ഏറ്റവും വേഗതയേറിയ വഴി—ഓരോ ക്ലിക്കും visualize ചെയ്യാൻ വീഡിയോ walk-throughs സഹായിക്കും.
ഇതിനെ ഒരു RAG അസിസ്റ്റൻ്റാക്കി മാറ്റുക (വിജ്ഞാനം അറിയുന്ന ചാറ്റ്)
നിങ്ങളുടെ സ്വകാര്യ ഡോക്യുമെൻ്റുകൾ, പതിവ് ചോദ്യങ്ങൾ അല്ലെങ്കിൽ വിക്കി ഉള്ളടക്കം എന്നിവ ഉപയോഗിച്ച് ഉത്തരം നൽകാൻ RAG നിങ്ങളുടെ അസിസ്റ്റൻ്റിനെ അനുവദിക്കുന്നു.
- ഒരു ഡാറ്റാസെറ്റ് ഉണ്ടാക്കുക (വിജ്ഞാന അടിത്തറ)
- PDF-കൾ, മാർക്ക്ഡൗൺ എന്നിവ അപ്ലോഡ് ചെയ്യുക അല്ലെങ്കിൽ ഒരു ഡാറ്റാ ഉറവിടത്തിലേക്ക് കണക്ട് ചെയ്യുക.
- Dify നിങ്ങളുടെ ഉള്ളടക്കം chunk ചെയ്യുകയും embed ചെയ്യുകയും ഇൻഡെക്സ് ചെയ്യുകയും ചെയ്യും.
- Chunking ഉം embeddings ഉം ട്യൂൺ ചെയ്യുക
- embedding മോഡലും chunk സൈസുകളും തിരഞ്ഞെടുക്കുക. വലിയ chunks സന്ദർഭം സംരക്ഷിക്കുന്നു; ചെറിയ chunks കൃത്യത മെച്ചപ്പെടുത്തുന്നു. 400–800 ടോക്കണുകളിൽ നിന്ന് ആരംഭിക്കുക.
- Top-k ഫലങ്ങൾ (ഉദാഹരണത്തിന്, 4–8), റിലവൻസ് ത്രെഷോൾഡ്, ഓപ്ഷണൽ റീറാങ്കിംഗ് എന്നിവ തിരഞ്ഞെടുക്കുക.
- കൃത്യതയ്ക്കായി ഫിൽട്ടറുകൾ (ഉദാഹരണത്തിന്, ടാഗ് അല്ലെങ്കിൽ ഡോക്യുമെൻ്റ് തരം അനുസരിച്ച്) ചേർക്കുക.
- ആപ്പിലേക്ക് റിട്രീവൽ വയർ ചെയ്യുക
- പ്രോംപ്റ്റിലേക്ക് റിട്രീവ് ചെയ്ത സന്ദർഭം ചേർക്കാൻ വർക്ക്ഫ്ലോ കാൻവാസ് അല്ലെങ്കിൽ ആപ്പിൻ്റെ RAG ടോഗിൾ ഉപയോഗിക്കുക. അവസാന ഉത്തര ടെംപ്ലേറ്റിൽ സൈറ്റേഷനുകൾ ഉൾപ്പെടുത്തുക.
- യഥാർത്ഥ ചോദ്യങ്ങൾ ഉപയോഗിച്ച് പരീക്ഷിക്കുക
- എളുപ്പവും ബുദ്ധിമുട്ടുള്ളതുമായ ചോദ്യങ്ങൾ പരീക്ഷിക്കുക. സൈറ്റേഷനുകൾ, ഫോർമാറ്റിംഗ്, ലേറ്റൻസി എന്നിവ സാധൂകരിക്കുക.
നിങ്ങൾ Milvus പോലുള്ള ഒരു വെക്ಟರ್ ഡാറ്റാബേസാണ് ഉപയോഗിക്കുന്നതെങ്കിൽ, Dify-യെ ശക്തമായ RAG പൈപ്പ്ലൈനുകളിലേക്ക് സംയോജിപ്പിക്കുന്നതിനുള്ള படிப்படியான walkthrough-കൾ ഉണ്ട്.
വിഷ്വൽ വർക്ക്ഫ്ലോകൾ: മൾട്ടി-സ്റ്റെപ്പ് ലോജിക് ഓട്ടോമേറ്റ് ചെയ്യുക
Dify-യുടെ കാൻവാസ് ഉപയോഗിച്ച് സ്റ്റെപ്പുകൾ chain ചെയ്യാനും ലോജിക് branch ചെയ്യാനും ടൂളുകൾ വിളിക്കാനും സാധിക്കും.
സാധാരണ ബ്ലോക്കുകൾ:
- ഇൻപുട്ട്/ഔട്ട്പുട്ട്: ഇൻകമിംഗ് യൂസർ ഡാറ്റയ്ക്കും ഫൈനൽ റെസ്പോൺസിനുമുള്ള സ്കീമ നിർവ്വചിക്കുക.
- LLM Node: പ്രോംപ്റ്റുകൾ തയ്യാറാക്കുക, മോഡലുകൾ സജ്ജമാക്കുക, ടെമ്പറേച്ചർ നിയന്ത്രിക്കുക.
- Retrieval Node: നിങ്ങളുടെ ഡാറ്റാസെറ്റുകൾ ചോദ്യം ചെയ്യുക.
- HTTP Node: ബാഹ്യ API-കൾ വിളിക്കുക (സെർച്ച്, CRM, ഇൻ്റേണൽ സർവീസുകൾ).
- Code Node: ലഘുവായ ട്രാൻസ്ഫോമേഷനുകൾ, parsing അല്ലെങ്കിൽ validation നടത്തുക.
- Condition/Branch: യൂസർ ഇൻ്റൻ്റ് അല്ലെങ്കിൽ ഡാറ്റയെ അടിസ്ഥാനമാക്കി പാതകൾ route ചെയ്യുക.
ഉദാഹരണം: വെബ്-റിസർച്ച് അസിസ്റ്റൻ്റ്
- ഇൻ്റൻ്റ് കണ്ടെത്തുക → "research" ആണെങ്കിൽ, സെർച്ചിനായി HTTP നോഡ് വിളിക്കുക → ഒരു LLM ഉപയോഗിച്ച് ഫലങ്ങൾ സംഗ്രഹിക്കുക → ഉറവിടങ്ങൾ സഹിതം ബുള്ളറ്റ്-പോയിൻ്റ് കണ്ടെത്തലുകൾ നൽകുക.
HTTP നോഡുകൾ വയർ ചെയ്യുന്നതിനും JSON പ്രതികരണങ്ങൾ parsing ചെയ്യുന്നതിനും കമ്മ്യൂണിറ്റി ട്യൂട്ടോറിയലുകൾ സഹായകമാണ്.
ഏജൻ്റുകൾ: ടൂൾ ഉപയോഗിക്കുന്ന, മൾട്ടി-സ്റ്റെപ്പ് റീസണിംഗ്
ലക്ഷ്യങ്ങൾ പൂർത്തിയാക്കാൻ Dify-യിലെ ഏജൻ്റുകൾ പ്ലാനിംഗ്, ടൂൾ സെലക്ഷൻ, ആവർത്തിച്ചുള്ള റീസണിംഗ് എന്നിവ സംയോജിപ്പിക്കുന്നു.
ഏജൻ്റുകൾ എപ്പോൾ ഉപയോഗിക്കണം:
- ടാസ്ക്കുകൾക്ക് മൾട്ടി-സ്റ്റെപ്പ് പ്ലാനുകൾ ആവശ്യമാണ് ("ഗവേഷണം → താരതമ്യം ചെയ്യുക → സംഗ്രഹിക്കുക").
- അസിസ്റ്റൻ്റ് ടൂളുകൾ വിളിക്കണം: വെബ് സെർച്ച്, ഡാറ്റാബേസുകൾ, കാൽക്കുലേറ്ററുകൾ, ഇൻ്റേണൽ API-കൾ.
- മോഡൽ അടുത്ത പ്രവർത്തനങ്ങൾ ഡൈനാമിക്കായി തീരുമാനിക്കാൻ നിങ്ങൾ ആഗ്രഹിക്കുന്നു.
ഒരു ഏജൻ്റ് നിർമ്മിക്കുക:
- സിസ്റ്റം പ്രോംപ്റ്റിൽ ലക്ഷ്യവും പരിമിതികളും നിർവ്വചിക്കുക.
- ടൂളുകൾ രജിസ്റ്റർ ചെയ്യുക (HTTP, സെർച്ച്, ഡാറ്റാ റിട്രീവൽ, കസ്റ്റം ഫംഗ്ഷനുകൾ).
- പ്ലാനിംഗ് പ്രവർത്തനക്ഷമമാക്കുക: മോഡലിനെ സ്റ്റെപ്പുകൾ നിർദ്ദേശിക്കാനും അതിൻ്റെ പ്രവർത്തിയെ വിമർശിക്കാനും അനുവദിക്കുക.
- പരമാവധി സ്റ്റെപ്പുകൾ, time ഔട്ടുകൾ, ടൂൾ ബഡ്ജറ്റുകൾ എന്നിവ സജ്ജമാക്കുക.
- വ്യത്യസ്ത ടാസ്ക്കുകൾ ഉപയോഗിച്ച് പരീക്ഷിക്കുകയും ലൂപ്പുകൾ കണ്ടെത്താൻ ട്രെയ്സുകൾ നിരീക്ഷിക്കുകയും ചെയ്യുക.
നിങ്ങളുടെ ഉപയോഗ കേസിന് കൃത്യമായ വെബ് ഡാറ്റാ റിട്രീവൽ ആവശ്യമാണെങ്കിൽ, ഏജൻ്റ് ശേഷികൾ വർദ്ധിപ്പിക്കുന്നതിന് നിങ്ങൾക്ക് Dify-യെ പ്രത്യേക ഡാറ്റാ പ്ലഗിനുകളുമായി ജോടിയാക്കാം.
കണക്ടറുകളും ടൂളുകളും: നിങ്ങളുടെ സ്റ്റാക്ക് കൊണ്ടുവരിക
കണക്ടറുകളും HTTP നോഡുകളും വഴി Dify ബാഹ്യ സേവനങ്ങളുമായി സംയോജിപ്പിക്കുന്നു:
- വെബ് സെർച്ച്, scraping അല്ലെങ്കിൽ വിജ്ഞാന API-കൾ
- CRM-കളും ഹെൽപ്പ് ഡെസ്കുകളും (ഉദാഹരണത്തിന്, Salesforce, Zendesk)
- ഇൻ്റേണൽ REST/GraphQL എൻഡ്പോയിൻ്റുകൾ
- വെക്റ്റർ സ്റ്റോറുകളും ഡാറ്റാ വെയർഹൗസുകളും
മികച്ച രീതികൾ:
- പ്രതികരണങ്ങൾ JSON-ലേക്ക് normalize ചെയ്യുകയും സ്കീമകൾ validate ചെയ്യുകയും ചെയ്യുക.
- മോഡലിന് എപ്പോൾ ഉപയോഗിക്കണമെന്ന് അറിയാൻ ടൂൾ വിവരണങ്ങൾ സംക്ഷിപ്തമായി സൂക്ഷിക്കുക.
- നിരക്ക് പരിധികളും retries-ഉം ചേർക്കുക.
Dify-യിലെ പ്രോംപ്റ്റ് എഞ്ചിനീയറിംഗ്
പ്രോംപ്റ്റുകൾ മോഡുലാറും പരീക്ഷിക്കാവുന്നതുമാക്കുക:
- ഉപയോക്താവിൻ്റെ ഇൻപുട്ട്, റിട്രീവ് ചെയ്ത സന്ദർഭം, ടൂൾ ഔട്ട്പുട്ടുകൾ എന്നിവയ്ക്കായി വേരിയബിളുകൾ ഉപയോഗിക്കുക.
- ഡൗൺസ്ട്രീം parsing-നായി JSON അല്ലെങ്കിൽ ബുള്ളറ്റ് ലിസ്റ്റുകൾ ഉപയോഗിച്ച് ഔട്ട്പുട്ട് ഫോർമാറ്റ് സ്റ്റാൻഡേർഡ് ചെയ്യുക.
- തെറ്റുകൾ കുറയ്ക്കുന്നതിന് படிப்படியான റൂബ്രിക്സ് നൽകുക (ഉദാഹരണത്തിന്, "നമ്പർ ഇട്ട സ്റ്റെപ്പുകളിൽ ചിന്തിക്കുക").
- സിസ്റ്റം പ്രോംപ്റ്റിൽ വിസമ്മത നയങ്ങളും സ്റ്റൈൽ ഗൈഡുകളും ഉൾപ്പെടുത്തുക.
ആവർത്തന ലൂപ്പ്:
- representative പ്രോംപ്റ്റുകളുടെ ഒരു ടെസ്റ്റ് സെറ്റ് ചേർക്കുക.
- ബാച്ച് evaluations പ്രവർത്തിപ്പിച്ച് മോഡൽ settings താരതമ്യം ചെയ്യുക.
- പരാജയ കേസുകൾ ലോഗ് ചെയ്യുകയും പുതിയ exemplars അല്ലെങ്കിൽ branches ഉണ്ടാക്കുകയും ചെയ്യുക.
Observability, ടെസ്റ്റിംഗ്, ഒപ്റ്റിമൈസേഷൻ
നിങ്ങൾ ഒരു പ്രോട്ടോടൈപ്പിൽ നിന്ന് പൈലറ്റിലേക്ക് മാറുമ്പോൾ, ഒബ്സർവബിലിറ്റിക്കും ട്രെയ്സിംഗിനും പ്രാധാന്യമുണ്ട്. ഡീബഗ് ചെയ്യാനും ഗുണമേന്മ മെച്ചപ്പെടുത്താനും ടോക്കൺ ഉപയോഗം, ലേറ്റൻസികൾ, படிப்படியான തീരുമാനങ്ങൾ എന്നിവ കാണാൻ നിങ്ങൾക്ക് ട്രെയ്സിംഗ് ചേർക്കാൻ കഴിയും.
ലോഞ്ച് ചെയ്യുന്നതിന് മുമ്പുള്ള പ്രധാന പരിശോധനകൾ:
- RAG ഉപയോഗിച്ചും അല്ലാതെയും ഹാലുസിനേഷൻ നിരക്ക്
- ഓരോ അഭ്യർത്ഥനയ്ക്കും ഓരോ ടൂൾ കോളിനുമുള്ള ലേറ്റൻസി ബഡ്ജറ്റ്
- 100 അഭ്യർത്ഥനകൾക്കുള്ള ചിലവ്
- എഡ്ജ് കേസുകൾ: ശൂന്യമായ ഇൻപുട്ട്, വലിയ ഇൻപുട്ട്, ഓഫ്-ടോപ്പിക് ചോദ്യങ്ങൾ
ഉപയോക്താക്കൾക്ക് വിന്യസിക്കുക
Dify ഒന്നിലധികം വിന്യാസ പാതകളെ പിന്തുണയ്ക്കുന്നു:
- ആന്തരിക പരിശോധനയ്ക്കായി ഹോസ്റ്റ് ചെയ്ത ഒരു ചാറ്റ് UI പങ്കിടുക
- നിങ്ങളുടെ വെബ്സൈറ്റിലോ ഉൽപ്പന്നത്തിലോ ഒരു വിഡ്ജറ്റ് ഉൾച്ചേർക്കുക
- നിങ്ങളുടെ ആപ്ലിക്കേഷന് വിളിക്കാൻ ഒരു API എൻഡ്പോയിൻ്റ് എക്സ്പോസ് ചെയ്യുക
പ്രവർത്തനപരമായ ടിപ്പുകൾ:
- അനലിറ്റിക്സ് ചേർക്കുക: സെഷനുകൾ, CSAT, ഫാൾബാക്ക് നിരക്കുകൾ
- പതിവായുള്ള ഉത്തരങ്ങൾ കാഷെ ചെയ്യുകയും റിട്രീവൽ prefetch ചെയ്യുകയും ചെയ്യുക
- timeout-കൾക്കും അപ്സ്ട്രീം മോഡൽ പിശകുകൾക്കും അലേർട്ടുകൾ സജ്ജമാക്കുക
ടീം സഹകരണവും ഭരണവും
നിങ്ങളുടെ ആപ്പ് വളരുന്നതിനനുസരിച്ച്:
- റോൾ അടിസ്ഥാനമാക്കിയുള്ള ആക്സസ്സ് നിയന്ത്രണങ്ങളും ഡെവ്/സ്റ്റേജിംഗ്/പ്രൊഡക്ഷൻ എന്നിവ വേർതിരിക്കുക
- പ്രോംപ്റ്റുകൾ/വർക്ക്ഫ്ലോകൾ version ചെയ്യുക; റിലീസുകൾ ടാഗ് ചെയ്യുക
- സംഭവങ്ങൾക്കും ടൂൾ തകരാറുകൾക്കും ഒരു റൺബുക്ക് ഉണ്ടാക്കുക
- ടൂൾ കരാറുകൾ (ഇൻപുട്ടുകൾ/ഔട്ട്പുട്ടുകൾ), SLA-കൾ എന്നിവ ഡോക്യുമെൻ്റ് ചെയ്യുക
അടുത്തതായി പരീക്ഷിക്കാൻ കഴിയുന്ന അഡ്വാൻസ്ഡ് പാറ്റേണുകൾ
- സ്ട്രക്ചർഡ് ഔട്ട്പുട്ടുകൾക്കായി കർശനമായ JSON സ്കീമകളുള്ള ഫംഗ്ഷൻ കോളിംഗ്
- മെച്ചപ്പെട്ട റീക്കോളിനായി ഹൈബ്രിഡ് സെർച്ച് (BM25 + embeddings)
- മൾട്ടി-വെക്റ്റർ RAG (title, body, metadata embeddings)
- സ്നിപ്പറ്റ് കൃത്യത മെച്ചപ്പെടുത്താൻ റീറാങ്കിംഗ്
- സങ്കീർണ്ണമായ ടാസ്ക്കുകൾക്കുള്ള സെൽഫ്-റിഫ്ലക്ഷൻ ലൂപ്പുകൾ
- റെജెక్സ് അല്ലെങ്കിൽ JSON സ്കീമ validation ഉള്ള ഗാർഡ് റെയിലുകൾ
ട്രബിൾഷൂട്ടിംഗ്: സാധാരണ അപകടങ്ങളും പരിഹാരങ്ങളും
- ഏജൻ്റ് ലൂപ്പ് ചെയ്യുന്നു അല്ലെങ്കിൽ കൂടുതൽ സമയം എടുക്കുന്നു
- പരമാവധി സ്റ്റെപ്പുകൾ കുറയ്ക്കുക, ടൂൾ വിവരണങ്ങൾ ശക്തമാക്കുക, സ്റ്റോപ്പ് കണ്ടീഷനുകൾ ചേർക്കുക.
- ബന്ധമില്ലാത്ത റിട്രീവൽ സ്നിപ്പറ്റുകൾ
- Chunking ക്രമീകരിക്കുക, മെറ്റാഡാറ്റ ഫിൽട്ടറുകൾ ചേർക്കുക, റീറാങ്കിംഗ് പരീക്ഷിക്കുക, top-k tweak ചെയ്യുക.
- ചിട്ടയില്ലാത്തതോ സ്ഥിരതയില്ലാത്തതോ ആയ ഔട്ട്പുട്ടുകൾ
- JSON സ്കീമ നടപ്പിലാക്കുക, ഉദാഹരണങ്ങൾ ചേർക്കുക, ടെമ്പറേച്ചർ കുറയ്ക്കുക.
- റിട്രീവൽ കാഷെ ചെയ്യുക, ടൂൾ കോളുകൾ പാരലലൈസ് ചെയ്യുക, വേഗതയേറിയ മോഡലുകളിലേക്ക് മാറുക.
- സിസ്റ്റം പരിമിതികൾ ശക്തിപ്പെടുത്തുക, എപ്പോഴും ഉറവിടങ്ങൾ ഉദ്ധരിക്കുക, RAG, verification സ്റ്റെപ്പുകൾ എന്നിവയ്ക്ക് മുൻഗണന നൽകുക.
ഒരു നിമിഷം: കണ്ടൻ്റ് വർക്ക്ഫ്ലോകൾ വേഗത്തിലാക്കുന്നു
നിങ്ങളുടെ ലക്ഷ്യം കണ്ടൻ്റ് ആശയങ്ങളും ഡ്രാഫ്റ്റിംഗും ഗവേഷണ സംഗ്രഹവും ആണെങ്കിൽ, Sider.AI പോലുള്ള ഉൽപ്പാദനക്ഷമതയുള്ള ടൂളുകളുമായി Dify ഉപയോഗിച്ച് നിർമ്മിച്ച അസിസ്റ്റൻ്റുകൾക്ക് നല്ല ബന്ധമുണ്ടെന്ന് ഓർക്കുന്നത് നല്ലതാണ്. Sider-ന് നിങ്ങളുടെ ബ്രൗസറിനൊപ്പം ഇരിക്കാനും കണ്ടൻ്റ് വേഗത്തിൽ ഡ്രാഫ്റ്റ് ചെയ്യാനും വിവർത്തനം ചെയ്യാനും വിശകലനം ചെയ്യാനും കഴിയും; ഒരു Dify-പവർഡ് RAG ബാക്കെൻഡുമായി ചേർന്ന്, നിങ്ങൾക്ക് കൃത്യമായ ഡൊമെയ്ൻ സന്ദർഭവും സുഗമമായ രചനാ അനുഭവവും ലഭിക്കും (https://sider.ai/). പ്രധാന കണ്ടെത്തലുകൾ
- ഒരു ചാറ്റ് ടെംപ്ലേറ്റ് ഉപയോഗിച്ച് ലളിതമായി ആരംഭിക്കുക, തുടർന്ന് RAG, ടൂളുകൾ എന്നിവ ലെയർ ചെയ്യുക.
- ലോജിക് visualize ചെയ്യാനും ദുർബലമായ കോഡ് ഒഴിവാക്കാനും വർക്ക്ഫ്ലോ കാൻവാസ് ഉപയോഗിക്കുക.
- പ്രോംപ്റ്റുകളെ കോഡ് പോലെ പരിഗണിക്കുക: version ചെയ്യുക, ടെസ്റ്റ് ചെയ്യുക, evaluation നടത്തുക.
- എല്ലാം നിരീക്ഷിക്കുക—ട്രെയ്സുകൾ, ചിലവുകൾ, ലേറ്റൻസികൾ—ആത്മവിശ്വാസത്തോടെ സ്കെയിൽ ചെയ്യാൻ.
- ഏജൻ്റുകൾ ശക്തരാണ്, പക്ഷേ ഗാർഡ് റെയിലുകളും ബഡ്ജറ്റുകളും അവയെ വിശ്വസനീയമായി നിലനിർത്തുന്നു.
അധിക ഉറവിടങ്ങൾ
- Dify അവലോകനവും സ്ഥാനനിർണ്ണയവും.
- ഒരു AI ആപ്പ് നിർമ്മിക്കുന്നതിനുള്ള തുടക്കക്കാർക്കുള്ള വീഡിയോ ട്യൂട്ടോറിയൽ.
- HTTP നോഡുകളും JSON കൈകാര്യം ചെയ്യലുമുള്ള കമ്മ്യൂണിറ്റി ഗൈഡ്.
- ഒരു ഡെമോ പ്രോജക്റ്റുള്ള ഘടനാപരമായ ട്യൂട്ടോറിയൽ.
- വെബ് ഡാറ്റാ റിട്രീവൽ പ്ലഗിനുകൾ ഉപയോഗിച്ച് ഏജൻ്റുകൾ നിർമ്മിക്കുന്നു.
- Dify ആപ്പുകൾക്കായുള്ള ഒബ്സർവബിലിറ്റിയും ട്രെയ്സിംഗും.
- Dify, Milvus walkthrough എന്നിവയുള്ള RAG.
FAQ
Q1: Dify എന്തിനാണ് ഉപയോഗിക്കുന്നത്?
Dify എന്നത് വിഷ്വൽ വർക്ക്ഫ്ലോകൾ, പ്രോംപ്റ്റ് ഓർക്കസ്ട്രേഷൻ, RAG എന്നിവ ഉപയോഗിച്ച് AI ആപ്പുകളും ഏജൻ്റുകളും നിർമ്മിക്കുന്നതിനുള്ള ഒരു പ്ലാറ്റ്ഫോമാണ്. ഇത് ടീമുകളെ ചാറ്റ്ബോട്ടുകൾ, വിജ്ഞാന സഹായികൾ, ഓട്ടോമേഷനുകൾ എന്നിവ വേഗത്തിൽ നിർമ്മിക്കാൻ സഹായിക്കുന്നു.
Q2: Dify-യിൽ ഞാൻ എങ്ങനെ ഒരു RAG ചാറ്റ്ബോട്ട് ഉണ്ടാക്കും?
ഒരു ഡാറ്റാസെറ്റ് ഉണ്ടാക്കുക, embeddings ഉം റിട്രീവലും ക്രമീകരിക്കുക, തുടർന്ന് വർക്ക്ഫ്ലോ വഴി നിങ്ങളുടെ പ്രോംപ്റ്റിലേക്ക് റിട്രീവ് ചെയ്ത സന്ദർഭം ചേർക്കുക. കൃത്യത ഒപ്റ്റിമൈസ് ചെയ്യാൻ top-k, chunk സൈസുകൾ, റീറാങ്കിംഗ് എന്നിവ പരീക്ഷിക്കുക.
Q3: Dify-ക്ക് എൻ്റെ API-കളിലേക്കും ടൂളുകളിലേക്കും കണക്ട് ചെയ്യാൻ കഴിയുമോ?
ഉവ്വ്. വെബ് സേവനങ്ങൾ, ഡാറ്റാബേസുകൾ, സെർച്ച് API-കൾ എന്നിവ വിളിക്കാൻ HTTP നോഡുകളും കണക്ടറുകളും ഉപയോഗിക്കുക. പ്രതികരണങ്ങൾ JSON-ൽ സൂക്ഷിക്കുക, കൂടാതെ ഏജൻ്റ് അവ ശരിയായി ഉപയോഗിക്കുന്നതിന് വ്യക്തമായ ടൂൾ വിവരണങ്ങൾ നൽകുക.
Q4: എൻ്റെ ഏജൻ്റ് ലൂപ്പ് ചെയ്യുന്നത് എങ്ങനെ നിർത്താം?
പരമാവധി സ്റ്റെപ്പുകൾ കുറയ്ക്കുക, termination മാനദണ്ഡങ്ങൾ ചേർക്കുക, ടൂൾ നിർദ്ദേശങ്ങൾ ശക്തമാക്കുക. ലൂപ്പ് എവിടെയാണ് സംഭവിക്കുന്നതെന്ന് കണ്ടെത്താൻ ഒബ്സർവബിലിറ്റിയും ട്രെയ്സിംഗും സഹായിക്കും, അതുവഴി നിങ്ങൾക്ക് പ്രോംപ്റ്റുകളും ടൂൾ ലോജിക്കും ക്രമീകരിക്കാൻ കഴിയും.
Q5: എൻ്റെ Dify വർക്ക്ഫ്ലോ evaluation ചെയ്യാനുള്ള ഏറ്റവും നല്ല മാർഗം ഏതാണ്?
ഒരു ടെസ്റ്റ് സെറ്റ് ഉണ്ടാക്കുക, ബാച്ച് evaluations പ്രവർത്തിപ്പിക്കുക, ലേറ്റൻസിക്കും ചിലവിനുമായി ട്രെയ്സുകൾ പരിശോധിക്കുക. ഹാലുസിനേഷനുകൾ ട്രാക്ക് ചെയ്യുക, സ്ട്രക്ചർഡ് ഔട്ട്പുട്ടുകൾ നടപ്പിലാക്കുക, ഉദാഹരണങ്ങൾ ഉപയോഗിച്ച് പ്രോംപ്റ്റുകൾ ആവർത്തിക്കുക.
