നിങ്ങളുടെ കൊച്ചുകുട്ടൂസൻ പണിക്കാരനില്ലാതെ ഒരു IKEA ഫർണിച്ചർ കൂട്ടിച്ചേർക്കാൻ ശ്രമിച്ചിട്ടുണ്ടോ? ലോക്കൽ AI മോഡലുകൾ പ്രവർത്തിപ്പിക്കുന്നത് ഏതാണ്ട് അതുപോലെയാണ്. ധാരാളം ഭാഗങ്ങൾ, ദുരൂഹമായ പേരുകൾ, കൂടാതെ “LLM റൺടൈം” എന്ന് ലേബൽ ചെയ്ത ഒരു സ്ക്രൂ നഷ്ടപ്പെട്ടോ എന്ന തോന്നലും. Ollama ഉപയോഗിച്ച് തുടങ്ങാം. നിങ്ങളുടെ സ്വന്തം മെഷീനിൽ വലിയ ഭാഷാ മോഡലുകൾ പ്രവർത്തിപ്പിക്കാനുള്ള Allen wrench ആണിത് - വേഗതയേറിയതും സ്വകാര്യവും, അവിശ്വസനീയമാംവിധം ഒരു പീഡന ഉപകരണമല്ലാത്തതും.
ഈ ഗൈഡിൽ, നമ്മൾ Ollama ശരിക്കും ഉപയോഗിക്കാൻ പോകുന്നു. അതിനെക്കുറിച്ച് വായിക്കുക മാത്രമല്ല ചെയ്യുന്നത്. നമ്മൾ ഇത് ഡൗൺലോഡ് ചെയ്യും, ഒരു മോഡൽ പ്രവർത്തിപ്പിക്കും, ഇഷ്ടാനുസരണം മാറ്റം വരുത്തും, നിങ്ങളുടെ ഇഷ്ടപ്പെട്ട ടൂളുകളിലേക്ക് പൈപ്പ് ചെയ്യും, “എന്തുകൊണ്ടാണ് എന്റെ ഫാൻ ഇങ്ങനെ നിലവിളിക്കുന്നത്?” എന്ന പ്രശ്നം പരിഹരിക്കും, കൂടാതെ വിശ്വസിച്ച് ജോലി ചെയ്യാൻ കഴിയുന്ന ഒരു സജ്ജീകരണവുമായി മുന്നോട്ട് പോകും. അതെ, ഓഫ്ലൈനിൽ പോലും. അതെ, വിമാനത്തിൽ പോലും. ഇല്ല, നിങ്ങൾക്ക് Ph.D.യോ സെർവർ ഫാമോ ആവശ്യമില്ല.
നിങ്ങളുടെ ലാപ്ടോപ് കേടാക്കാതെ അല്ലെങ്കിൽ നിങ്ങളുടെ മാനസികാരോഗ്യം കളയാതെ Ollama ഒരു പ്രൊഫഷണലിനെപ്പോലെ എങ്ങനെ ഉപയോഗിക്കാമെന്ന് നോക്കാം.
എന്താണ് Ollama (എന്തുകൊണ്ട് നിങ്ങൾ ഇതിനെക്കുറിച്ച് ശ്രദ്ധിക്കണം)?
വലിയ ഭാഷാ മോഡലുകൾ (LLM) പ്രാദേശികമായി പ്രവർത്തിപ്പിക്കാനുള്ള എളുപ്പവഴിയാണ് Ollama. ChatGPT എന്ന് കരുതുക, പക്ഷേ മോഡൽ നിങ്ങളുടെ കമ്പ്യൂട്ടറിലാണ് പ്രവർത്തിക്കുന്നത്. ഇതിൻ്റെ ഗുണങ്ങൾ:
- സ്വകാര്യത: നിങ്ങളുടെ ഡാറ്റ നിങ്ങളുടെ മെഷീനിൽ തന്നെ സൂക്ഷിക്കുന്നു. ദുരൂഹമായ ക്ലൗഡ് യാത്രകളില്ല.
- വേഗത: സെർവറിനായി കാത്തിരിക്കേണ്ടതില്ല. നിങ്ങളുടെ CPU/GPUയുടെ സമയം തിളങ്ങട്ടെ.
- നിയന്ത്രണം: മോഡൽ, പതിപ്പ്, വലുപ്പം, സ്വഭാവം എന്നിവ തിരഞ്ഞെടുക്കുക.
“എൻ്റെ സ്വകാര്യ വിവരങ്ങൾ നെപ്റ്റ്യൂണിലേക്ക് അയയ്ക്കാതെ ഒരു AI യോട് കാര്യങ്ങൾ ചോദിക്കാൻ കഴിഞ്ഞിരുന്നെങ്കിൽ എന്ന് നിങ്ങൾ എപ്പോഴെങ്കിലും ചിന്തിച്ചിട്ടുണ്ടെങ്കിൽ, ഇത് നിങ്ങൾക്കുള്ളതാണ്.
Ollama ഉപയോഗിക്കാനുള്ള ഏറ്റവും വേഗതയേറിയ വഴി
നിങ്ങളിവിടെ എങ്ങനെയെന്ന് അറിയാൻ വന്നതാണ്. നമുക്ക് എങ്ങനെ ചെയ്യാമെന്ന് നോക്കാം.
ഘട്ടം 1: Ollama ഇൻസ്റ്റാൾ ചെയ്യുക
- macOS: ഔദ്യോഗിക സൈറ്റിൽ നിന്ന് ഇൻസ്റ്റാളർ ഉപയോഗിക്കുക അല്ലെങ്കിൽ
brew install --cask ollama ഉപയോഗിച്ച് നിങ്ങൾക്ക് ശക്തി തോന്നുന്നുണ്ടെങ്കിൽ അത് ചെയ്യാം.
- Windows: ഇൻസ്റ്റാളർ എടുക്കുക. ഇത് സാധാരണ സജ്ജീകരണമാണ്—നെക്സ്റ്റ്, നെക്സ്റ്റ്, ഇൻസ്റ്റാൾ.
- Linux: ഔദ്യോഗിക സ്ക്രിപ്റ്റ് വഴി ഒറ്റ ലൈനിൽ ഇൻസ്റ്റാൾ ചെയ്യാം. 30 സെക്കൻഡ് നേരത്തേക്ക് നിങ്ങളുടെ സിസാഡ്മിൻ രീതികൾ പുറത്തെടുക്കുക.
ഇൻസ്റ്റാൾ ചെയ്തുകഴിഞ്ഞാൽ, Ollama ഒരു ലോക്കൽ സർവീസ് ആയി പ്രവർത്തിക്കും. ടെർമിനൽ, PowerShell അല്ലെങ്കിൽ അതുമായി സംയോജിപ്പിക്കുന്ന മറ്റ് ആപ്പുകൾ വഴി നിങ്ങൾക്ക് ഇതിനോട് സംസാരിക്കാനാകും.
ഘട്ടം 2: നിങ്ങളുടെ ആദ്യ മോഡൽ Pull ചെയ്യുക
നിങ്ങളുടെ ടെർമിനലിൽ:
ആദ്യമായി Ollama മോഡൽ വെയ്റ്റുകൾ ഡൗൺലോഡ് ചെയ്യുന്നു. ഒരു വലിയ Netflix സിനിമ കാഷെ ചെയ്യുന്നതുപോലെ ഇതിനെക്കുറിച്ച് ചിന്തിക്കുക. അതിനുശേഷം, ഇത് തൽക്ഷണം സംഭവിക്കും. നിങ്ങൾക്ക് ടൈപ്പ് ചെയ്യാനും ചാറ്റ് ചെയ്യാനും കഴിയുന്ന ഒരു പ്രോംപ്റ്റ് ലഭിക്കും.
ഒരു ടെസ്റ്റ് പരീക്ഷിച്ചുനോക്കൂ: “പെൻഗ്വിനുകളെക്കുറിച്ചുള്ള Wikipedia എൻട്രിയുടെ 2-വരി സംഗ്രഹം എഴുതുക—ഒട്ടുംതന്നെ അധികം വിവരിക്കാതെ.” ഇത് ഒരു പെൻഗ്വിൻ TED ടോക്ക് പോലെ മറുപടി നൽകുകയാണെങ്കിൽ, അത് പ്രവർത്തിക്കുന്നുണ്ടെന്ന് നിങ്ങൾക്ക് മനസ്സിലാക്കാം.
ഘട്ടം 3: നിങ്ങൾ പ്ലേലിസ്റ്റുകൾ മാറ്റുന്നതുപോലെ മോഡലുകൾ മാറ്റുക
നിങ്ങൾക്ക് പരീക്ഷിക്കാവുന്ന ജനപ്രിയ മോഡലുകൾ:
ഓരോന്നിനും വ്യത്യസ്ത ശക്തികളുണ്ട്. Mistral വളരെ വേഗത്തിൽ പ്രവർത്തിക്കുന്നു. Llama 3.1 നന്നായി ക്രമീകരിച്ചിരിക്കുന്നു. Phi ഭാരം കുറഞ്ഞതും അതിൻ്റെ വലുപ്പത്തിന് അനുസരിച്ച് അത്ഭുതകരമായി ബുദ്ധിശക്തിയുള്ളതുമാണ്. നിങ്ങൾക്ക് llama3:8b-instruct അല്ലെങ്കിൽ ചെറിയ ക്വാಂಟൈസ്ഡ് വേരിയന്റുകൾ പോലുള്ള നിർദ്ദിഷ്ട ടാഗുകൾ pull ചെയ്യാൻ കഴിയും.
പ്രോ ടിപ്പ്: മുൻകൂട്ടി ഡൗൺലോഡ് ചെയ്യാൻ ollama pull <model> ഉപയോഗിക്കുക. നിങ്ങളുടെ കമ്പ്യൂട്ടറിൻ്റെ SSD നിറഞ്ഞ് കരയുകയാണെങ്കിൽ നിങ്ങൾ എന്തൊക്കെയാണ് ഡൗൺലോഡ് ചെയ്തിട്ടുള്ളതെന്ന് കാണാൻ ollama list ഉപയോഗിക്കുക, കൂടാതെ ആവശ്യമില്ലാത്തവ നീക്കം ചെയ്യാൻ ollama rm <model> ഉപയോഗിക്കുക.
ഘട്ടം 4: സോഷ്യൽ സ്കിൽസുള്ള ഒരു ഹാക്കറെപ്പോലെ ടെർമിനലിൽ നിന്ന് ചാറ്റ് ചെയ്യുക
- ഒരു സെഷൻ ആരംഭിക്കുക:
ollama run llama3
- ഒരു സിസ്റ്റം സന്ദേശം നൽകുക:
ollama run llama3 --system "നിങ്ങളൊരു കോഡിംഗ് സഹായിയാണ്."
- ചാറ്റ് മോഡിൽ പ്രവേശിക്കാതെ ഒരു പ്രോംപ്റ്റ് നൽകുക:
ollama run llama3 -p "കുട്ടികൾക്ക് മനസ്സിലാകുന്ന രീതിയിൽ Kubernetes വിശദീകരിക്കുക."
നിങ്ങൾ ഒരു മന്ത്രവാദിയെപ്പോലെ സംസാരിക്കാൻ തുടങ്ങും. ഒരു നല്ല മന്ത്രവാദി.
ഘട്ടം 5: നിങ്ങളുടെ ഇഷ്ടപ്പെട്ട ആപ്പുകളുമായി Ollama ഉപയോഗിക്കുക
Ollama എങ്ങനെ ഉപയോഗിക്കാമെന്ന് പഠിക്കുന്നത് രസകരമാകുന്ന ഭാഗം ഇതാണ്. Ollama HTTP-യിൽ സംസാരിക്കുന്നു. അതിനർത്ഥം ധാരാളം ടൂളുകൾക്ക് ഇതിനോട് സംസാരിക്കാൻ കഴിയും എന്നാണ്.
- പ്രാദേശിക വെബ് UI-കൾ: നിരവധി AI ചാറ്റ് UI-കൾക്ക് നിങ്ങളുടെ Ollama എൻഡ്പോയിന്റിലേക്ക് കണക്റ്റുചെയ്യാനാകും. നിങ്ങൾക്ക് മനോഹരമായ വിൻഡോ, പ്രത്യേക ചാറ്റുകൾ, ഹിസ്റ്ററി എന്നിവ ലഭിക്കും.
- കോഡ് എഡിറ്റർമാർ: VS Code-നുള്ള എക്സ്റ്റൻഷനുകൾക്ക് നിങ്ങളുടെ പ്രോംപ്റ്റുകളെ Ollama-യിലേക്ക് റൂട്ട് ചെയ്യാൻ കഴിയും—ഇൻലൈൻ കോഡ് വിശദീകരണങ്ങൾ, റീഫാക്ടറുകൾ, ടെസ്റ്റുകൾ എന്നിവ നൽകാനാകും.
- നോട്ടെടുക്കുന്ന ആപ്പുകൾ: സംഗ്രഹങ്ങൾക്കും ബ്രെയിൻസ്റ്റോമിംഗിനുമായി ഒരു പ്രാദേശിക മോഡലിലേക്ക് കണക്റ്റുചെയ്യാൻ ചിലത് നിങ്ങളെ അനുവദിക്കുന്നു. യോഗത്തിന്റെ നോട്ടുകൾ എവിടെയെങ്കിലും എത്തിക്കാൻ ഇത് വളരെ നല്ലതാണ്.
ശ്രദ്ധിക്കുക: നിങ്ങൾക്ക് വളരെ വൃത്തിയുള്ള, ബ്രൗസർ അടിസ്ഥാനമാക്കിയുള്ള ചാറ്റും ഗവേഷണത്തിനുള്ള എളുപ്പവഴിയും വേണമെങ്കിൽ Sider.AI ലോക്കൽ, ക്ലൗഡ് മോഡലുകളിലേക്ക് കണക്റ്റുചെയ്യാനും ചാറ്റുകൾ ഓർഗനൈസ് ചെയ്യാനും പ്രോംപ്റ്റുകൾ അടുത്തടുത്ത് പരീക്ഷിക്കാനും സഹായിക്കും. “മോഡൽ A മികച്ചതാണ്” എന്നും “മോഡൽ B വേഗതയേറിയതാണ്” എന്നും ഞാൻ ആശയക്കുഴപ്പത്തിലാകുമ്പോൾ, ഇത് എന്നെ സത്യസന്ധമായിരിക്കാൻ സഹായിക്കുന്നു. തുടക്കക്കാർക്കുള്ള ബ്ലൂപ്രിൻ്റ്: Ollama-മായി നിങ്ങളുടെ ആദ്യത്തെ ഉൽപാദനപരമായ മണിക്കൂർ
നിങ്ങൾക്ക് 60 മിനിറ്റ് ഉണ്ട്. നമുക്ക് ഇതിനെ “എന്താണിത്?” എന്നതിൽ നിന്ന് “ഇത് കൊള്ളാമല്ലോ” എന്നതിലേക്ക് മാറ്റാം.
- Ollama ഇൻസ്റ്റാൾ ചെയ്യുക. കാപ്പി കുടിക്കുക. കഴിഞ്ഞു.
llama3:8b-instruct Pull ചെയ്യുക. ഇത് മിക്ക ലാപ്ടോപ്പുകളിലും ഗുണമേന്മയ്ക്കും വേഗതയ്ക്കും ഒരുപോലെ അനുയോജ്യമാണ്.
- നിങ്ങളുടെ ജോലിക്ക് അനുയോജ്യമായ ഒരു സിസ്റ്റം പ്രോംപ്റ്റ് ഉണ്ടാക്കുക: “നിങ്ങൾ എന്റെ ഗവേഷണ സഹായിയാണ്. എപ്പോഴും സോഴ്സുകളും പോയിന്റുകളും നൽകുക. ഞാൻ പറയാത്ത പക്ഷം ഉത്തരങ്ങൾ 200 വാക്കുകളിൽ താഴെയായിരിക്കണം.”
- നിങ്ങൾ ചെയ്യുന്ന മൂന്ന് ജോലികൾ പരീക്ഷിക്കുക:
- ഒരു ആർട്ടിക്കിളിന്റെ ഭാഗം 250 വാക്കുകളിൽ താഴെ സംഗ്രഹിക്കുക.
- നിങ്ങളുടെ ന്യൂസ്ലെറ്ററിനായുള്ള 10 തലക്കെട്ടുകൾ ബ്രെയിൻസ്റ്റോം ചെയ്യുക.
- യോഗത്തിന്റെ നോട്ടുകൾ ഉടമസ്ഥരും തീയതികളുമുള്ള പ്രവർത്തന ഇനങ്ങളാക്കി മാറ്റുക.
- നിങ്ങൾക്ക് ഇഷ്ടപ്പെട്ട പ്രോംപ്റ്റുകൾ സേവ് ചെയ്യുക. അവ വീണ്ടും ഉപയോഗിക്കുക. ഇങ്ങനെയാണ് നിങ്ങൾ AI ഉപയോഗിച്ച് കളിക്കുന്നതിൽ നിന്ന് അതിനെ ശരിക്കും ഉപയോഗിക്കുന്നതിലേക്ക് മാറുന്നത്.
ബോണസ്: നിങ്ങൾ കോഡ് എഴുതുകയാണെങ്കിൽ, codellama അല്ലെങ്കിൽ കോഡിനായി ട്യൂൺ ചെയ്ത ഒരു മോഡൽ pull ചെയ്ത് നിങ്ങളുടെ ഫംഗ്ഷൻ നൽകുക. ടെസ്റ്റുകൾ, റീഫാക്ടറുകൾ അല്ലെങ്കിൽ ഡോക്സ്ട്രിംഗുകൾ എന്നിവ ചോദിക്കുക. നിങ്ങൾക്ക് 30% കൂടുതൽ ബുദ്ധിയുള്ളതായി തോന്നും, അതാണ് ലോക്കൽ AI-യുടെ നിയമപരമായ പരിധി.
ശരിയായ മോഡൽ എങ്ങനെ തിരഞ്ഞെടുക്കാം (ബുദ്ധിമുട്ടില്ലാതെ)
ഒരു മോഡൽ തിരഞ്ഞെടുക്കുന്നത് ഒരു സ്ട്രീമിംഗ് പ്ലാൻ തിരഞ്ഞെടുക്കുന്നതുപോലെയാണ്: നിങ്ങൾക്ക് ആവശ്യമില്ലാത്ത കാര്യങ്ങൾക്ക് അമിതമായി പണം നൽകേണ്ടിവരും.
- എഴുതാനും ബ്രെയിൻസ്റ്റോം ചെയ്യാനും:
llama3 അല്ലെങ്കിൽ mistral മികച്ചതാണ്.
- വളരെ ഭാരം കുറഞ്ഞ ലാപ്ടോപ്പുകൾ:
phi3 അല്ലെങ്കിൽ വലിയ മോഡലുകളുടെ ചെറിയ ക്വാണ്ടിഫൈഡ് പതിപ്പുകൾ പരീക്ഷിക്കുക.
- കോഡിംഗ് സഹായം:
codellama, deepseek coder, അല്ലെങ്കിൽ കോഡിനായി ഒപ്റ്റിമൈസ് ചെയ്ത വേരിയൻ്റ് ഉപയോഗിക്കുക.
- മൾട്ടി ലിംഗ്വൽ:
qwen ഫാമിലി മികച്ച മൾട്ടി ലിംഗ്വൽ പിന്തുണ നൽകുന്നു.
- കൂടുതൽ ദൈർഘ്യമേറിയ കോൺടെക്സ്റ്റ്: നിങ്ങൾ വലിയ ഡോക്യുമെന്റുകൾ നൽകുകയാണെങ്കിൽ വലിയ കോൺടെക്സ്റ്റ് വിൻഡോകളുള്ള മോഡലുകൾക്കായി തിരയുക.
നിങ്ങൾ ഒരു പ്രോംപ്റ്റ് നൽകുമ്പോഴെല്ലാം നിങ്ങളുടെ ഫാൻ ഒരു ഹെലികോപ്റ്ററായി മാറുകയാണെങ്കിൽ, മോഡലിന്റെ വലുപ്പം കുറയ്ക്കുക അല്ലെങ്കിൽ കൂടുതൽ മികച്ച ക്വാണ്ടൈസേഷൻ പരീക്ഷിക്കുക.
രഹസ്യ ചേരുവ: മോഡൽ ഫയലുകളും ഇഷ്ടമുള്ള രീതിയിലുള്ള സ്വഭാവങ്ങളും
ഇവിടെയാണ് Ollama അതിശയകരമായ ഒരു അനുഭവം നൽകുന്നത്. നിങ്ങളുടെ മോഡലിനെയും അതിൻ്റെ സ്വഭാവത്തെയും സ്ഥിര സ്വഭാവത്തെയും നിർവചിക്കുന്ന ഒരു Modelfile—അടിസ്ഥാനപരമായി ഒരു പാചകക്കുറിപ്പ്—നിങ്ങൾക്ക് ഉണ്ടാക്കാൻ കഴിയും.
Modelfile-നുള്ള ഉദാഹരണം (Concept അനുസരിച്ച്):
FROM llama3:8b-instruct
SYSTEM "നിങ്ങളൊരു വ്യക്തവും സൗഹൃദപരവുമായ സഹായിയാണ്. പോയിന്റുകളും ചെറിയ വാക്യങ്ങളും ഉപയോഗിക്കുക."
PARAMETER temperature 0.5
ഇത് Modelfile ആയി ഒരു ഫോൾഡറിൽ സേവ് ചെയ്യുക, തുടർന്ന് ഇത് പ്രവർത്തിപ്പിക്കുക:
ollama create crisp-assistant -f Modelfile
ollama run crisp-assistant
ഇപ്പോൾ നിങ്ങൾക്ക് എല്ലായിടത്തും വീണ്ടും ഉപയോഗിക്കാൻ കഴിയുന്ന ഒരു കസ്റ്റം അസിസ്റ്റൻ്റ് ഉണ്ട്. ഇത് നിങ്ങളുടെ സ്വന്തം ChatGPT ഫ്ലേവർ ഉണ്ടാക്കുന്നതുപോലെയാണ്—വെനില, എസ്പ്രസ്സോ ഷോട്ടുകളോടൊപ്പം.
എന്നോട് JSON-ൽ സംസാരിക്കൂ: Ollama-യുടെ HTTP API ഉപയോഗിക്കുന്നു
നിങ്ങൾക്ക് ചെറിയ ഡെവലപ്പർ താൽപ്പര്യങ്ങൾ ഉണ്ടെങ്കിൽപ്പോലും, API നിങ്ങളെ സന്തോഷിപ്പിക്കും.
- Endpoint: ` text ജനറേഷനായി.
model, prompt, കൂടാതെ ആവശ്യമെങ്കിൽ stream എന്നിവ ഉപയോഗിച്ച് ഒരു JSON പേലോഡ് അയയ്ക്കുക.
- നിങ്ങൾക്ക് ടോക്കണുകൾ ഒരു സ്ട്രീമിൽ തിരിച്ചുകിട്ടും. ഒരു സമയം ഒരു അക്ഷരം എന്ന രീതിയിൽ തത്സമയം ഒരു നോവൽ വായിക്കുന്നതുപോലെ തോന്നും.
എന്തുകൊണ്ട് API ഉപയോഗിക്കണം?
- ന്യൂസ്ലെറ്റർ സംഗ്രഹങ്ങൾ ഓട്ടോമേറ്റ് ചെയ്യുക.
- നിങ്ങളുടെ ഡോക്യുമെൻ്റുകളിൽ ഒരു ചാറ്റ്ബോട്ട് നിർമ്മിക്കുക.
- ഉൽപ്പന്ന വിവരണങ്ങൾ കൂട്ടമായി മാറ്റിയെഴുതാൻ സ്ക്രിപ്റ്റുകൾ ഉണ്ടാക്കുക. (അവയെല്ലാം ഒരേപോലെ ഒരു റോബോട്ട് ഇംപ്രൂവ് എടുത്തതുപോലെ തോന്നാതിരിക്കാൻ ശ്രദ്ധിക്കുക.)
നിങ്ങളുടെ സ്വന്തം ഫയലുകൾ ഉപയോഗിച്ച് Ollama എങ്ങനെ ഉപയോഗിക്കാം (RAG Rage ഇല്ലാതെ)
RAG—retrieval-augmented generation—നിങ്ങളുടെ ഫയലുകൾ മോഡലിലേക്ക് നൽകുന്നു, അതിനാൽ ഇത് അതിൻ്റെ അവ്യക്തമായ മെമ്മറിയിൽ നിന്നുള്ള വിവരങ്ങൾ ഉപയോഗിക്കാതെ നിങ്ങളുടെ ഫയലുകളിലെ വസ്തുതകൾ ഉപയോഗിച്ച് ഉത്തരം നൽകുന്നു.
അടിസ്ഥാന പാത:
- നിങ്ങളുടെ ഡോക്യുമെന്റുകൾ ഇൻഡെക്സ് ചെയ്യാൻ ഒരു ലോക്കൽ എംബെഡിംഗ് ടൂൾ ഉപയോഗിക്കുക.
- ഓരോ ചോദ്യത്തിലും, പ്രധാന ഭാഗങ്ങൾക്കായി തിരയുക.
- Ollama-യിലേക്കുള്ള നിങ്ങളുടെ പ്രോംപ്റ്റിൽ ഏറ്റവും പ്രധാനപ്പെട്ട ടെക്സ്റ്റ് കോൺടെക്സ്റ്റ് ആയി അയയ്ക്കുക.
AI-ക്കുള്ള ഒരു ഓപ്പൺ-ബുക്ക് ടെസ്റ്റിംഗ് പോലെ ഇതിനെക്കുറിച്ച് ചിന്തിക്കുക. നിങ്ങളുടെ ജീവനക്കാരുടെ മാനുവൽ “ഓർമ്മിക്കേണ്ടതില്ല”—അത് ഉദ്ധരിക്കേണ്ട ആവശ്യമേയുള്ളൂ.
പ്രോ മൂവ്: നിങ്ങളുടെ ഭാഗങ്ങൾ ചെറുതായി സൂക്ഷിക്കുക (200–600 വാക്കുകൾ), തലക്കെട്ടുകൾ ചേർക്കുക, കൂടാതെ മോഡൽ സൈറ്റ് ചെയ്യാൻ പഠിക്കുന്നതിന് പ്രോംപ്റ്റിൽ സോഴ്സ് ലിങ്കുകളും ഉൾപ്പെടുത്തുക.
പെർഫോമൻസ് ട്യൂണിംഗ്: Ollama-യെ പറക്കാൻ അനുവദിക്കുക (നിങ്ങളുടെ ഡെസ്ക് ഉരുക്കാതെ)
- ക്വാണ്ടൈസേഷൻ പ്രധാനമാണ്: Q4 ചെറുതും/വേഗതയുള്ളതുമാണ്, Q8 വലുതും/ബുദ്ധിയുള്ളതുമാണ്. ചെറുതായി ആരംഭിച്ച് വലുതിലേക്ക് പോകുക.
- ലഭ്യമാണെങ്കിൽ GPU ഉപയോഗിക്കുക: Apple Silicon മികച്ചതാണ്. പുതിയ NVIDIA കാർഡുകളോ? Chef’s kiss.
- താപനില: കൃത്യമായ ഉത്തരങ്ങൾക്കായി താഴ്ന്നത് (0.2–0.5); ക്രിയേറ്റീവ് ഉത്തരങ്ങൾക്കായി ഉയർന്നത് (0.8+).
- പരമാവധി ടോക്കണുകൾ: നിങ്ങൾക്ക് ശരിക്കും ആവശ്യമില്ലെങ്കിൽ 3,000 വാക്കുകളുള്ള ഒരു നോവൽ ചോദിക്കരുത്. നിങ്ങളുടെ ലാപ്ടോപ്പിന് ജീവിക്കണമെന്നുണ്ട്.
പ്രതികരണങ്ങൾ മന്ദഗതിയിലാണെന്ന് തോന്നുകയാണെങ്കിൽ:
- ഒരു ചെറിയ മോഡൽ പരീക്ഷിക്കുക.
- Chrome ടാബുകൾ അടയ്ക്കുക. അതെ, 47 എണ്ണവും.
- താൽക്കാലികമായി പശ്ചാത്തലത്തിലെ സിങ്ക് ആപ്പുകൾ പ്രവർത്തനരഹിതമാക്കുക.
സുരക്ഷയും സ്വകാര്യതയും: ആളുകൾ Ollama ഉപയോഗിക്കുന്നതിനുള്ള യഥാർത്ഥ കാരണം
ലോക്കൽ എന്നാൽ ലോക്കൽ. എന്നാൽ നമുക്ക് അശ്രദ്ധമായി ഇരിക്കരുത്.
- സെൻസിറ്റീവ് ഡാറ്റ: നിങ്ങൾ ക്ലൗഡിനെക്കാൾ സുരക്ഷിതനാണ്, പക്ഷേ നിങ്ങളുടെ ഡ്രൈവ് എൻക്രിപ്റ്റ് ചെയ്യുകയും സുരക്ഷിതമായി ബാക്കപ്പ് ചെയ്യുകയും ചെയ്യുക.
- മോഡൽ ഉറവിടങ്ങൾ: വിശ്വസനീയമായ ഉറവിടങ്ങളിൽ നിന്ന് pull ചെയ്യുക. ഒരു മോഡലിന്റെ വിവരണം ഒരു പൂച്ച കീബോർഡിലൂടെ നടക്കുന്നതുപോലെ തോന്നുകയാണെങ്കിൽ, അത് ഒഴിവാക്കുക.
- നെറ്റ്വർക്ക് ആക്സസ്: Ollama പ്രാദേശികമായി പ്രവർത്തിക്കുന്നു; നിങ്ങൾ എന്താണ് ചെയ്യുന്നതെന്ന് അറിയുന്നില്ലെങ്കിൽ പൊതു നെറ്റ്വർക്കുകളിൽ പോർട്ട് തുറന്നിടരുത്.
നിങ്ങൾ ശരിക്കും ഉപയോഗിക്കുന്ന ദൈനംദിന വർക്ക്ഫ്ലോകൾ
കാരണം “കൊള്ളാമല്ലോ” എന്നത് “ഞാനിത് ദിവസവും ഉപയോഗിക്കുന്നു” എന്നതുപോലെ അല്ല. Ollama യഥാർത്ഥ ജീവിതത്തിൽ എങ്ങനെ ഉപയോഗിക്കാമെന്ന് നോക്കാം:
- മീറ്റിംഗ് ക്ലീനർ: നോട്ടുകൾ പേസ്റ്റ് ചെയ്യുക, ഓരോ വ്യക്തിയുടെയും പ്രവർത്തന ഇനങ്ങൾ ചോദിക്കുക, കൂടാതെ ഫോളോ-അപ്പ് ഇമെയിലിന്റെ ഡ്രാഫ്റ്റ് ആവശ്യപ്പെടുക.
- ഗവേഷണ സഹായി: ഒരു ലേഖനം പേസ്റ്റ് ചെയ്യുക. ഒരു എതിർവാദം, ക്ലെയിമുകൾ സാധൂകരിക്കുന്നതിനുള്ള 3 ഉറവിടങ്ങൾ, കൂടാതെ 60 സെക്കൻഡ് സംഗ്രഹം എന്നിവ ആവശ്യപ്പെടുക.
- കോഡിംഗ് കോപൈലറ്റ്: ഡോക്സ്ട്രിംഗുകൾ, ടെസ്റ്റുകൾ അല്ലെങ്കിൽ സുരക്ഷിതമായ റെഗുലർ എക്സ്പ്രെഷനുകൾ എന്നിവ ചോദിക്കുക. മാറ്റം ലളിതമായ ഇംഗ്ലീഷിൽ വിശദീകരിക്കാൻ ആവശ്യപ്പെടുക.
- എഴുത്ത് സ്പ്രിന്റ്: ആദ്യം രൂപരേഖ തയ്യാറാക്കുക, തുടർന്ന് വികസിപ്പിക്കുക, എന്നിട്ട് ടോൺ ശക്തമാക്കുക. നിങ്ങളുടെ ശൈലി നിർവചിക്കുന്ന ഒരു സിസ്റ്റം സന്ദേശം സൂക്ഷിക്കുക.
- പഠനം: ക്ഷമയുള്ള ഒരു മൂത്ത കസിൻ പഠിപ്പിക്കുന്നതുപോലെ SSH പഠിപ്പിക്കുക. എന്നിട്ട് എന്നെ പരീക്ഷിക്കുക.
ശ്രദ്ധിക്കുക: നിങ്ങൾ ഇതെല്ലാം ഒരിടത്ത് സൂക്ഷിക്കാൻ ആഗ്രഹിക്കുന്നുവെങ്കിൽ—ചാറ്റ് ഹിസ്റ്ററികൾ, അടുത്തടുത്തുള്ള മോഡൽ ടെസ്റ്റുകൾ, കൂടാതെ വേഗത്തിലുള്ള വെബ് തിരയലുകൾ—Sider.AI പ്രാദേശിക മോഡലുകളുമായി നന്നായി പ്രവർത്തിക്കുകയും നിങ്ങൾക്ക് വൃത്തിയുള്ള ഒരു കോക്ക്പിറ്റ് നൽകുകയും ചെയ്യുന്നു. ഇത് നിങ്ങളുടെ പ്രോംപ്റ്റുകൾക്കുള്ള മിഷൻ കൺട്രോൾ പോലെയാണ്. ട്രബിൾഷൂട്ടിംഗ്: Ollama-ക്ക് മൂഡ് വരുമ്പോൾ
- “Model not found.” നിങ്ങൾ ഇത് ഇതുവരെ pull ചെയ്തിട്ടില്ല.
ollama pull <model>.
- “Out of memory.” ഒരു ചെറിയ ക്വാണ്ടൈസേഷനോ മോഡൽ വലുപ്പമോ ഉപയോഗിക്കുക.
- “ഇത് വളരെ പതുക്കെയാണ്, എന്റെ ലാപ്ടോപ് പഴകുന്നത് എനിക്ക് കേൾക്കാൻ കഴിയും.” പരമാവധി ടോക്കണുകൾ കുറയ്ക്കുക, മോഡലുകൾ മാറ്റുക അല്ലെങ്കിൽ GPU ആക്സിലറേഷൻ ഉപയോഗിക്കുക.
- “ഉത്തരങ്ങൾ വളരെ അവ്യക്തമാണ്.” താപനില കുറയ്ക്കുകയും നിങ്ങളുടെ പ്രോംപ്റ്റിലേക്ക് ഉദാഹരണങ്ങൾ ചേർക്കുകയും ചെയ്യുക.
- “ഇത് എന്റെ നിർദ്ദേശങ്ങൾ അവഗണിക്കുന്നു.” സിസ്റ്റം പ്രോംപ്റ്റിൽ നിയമങ്ങൾ ചേർക്കുക, യൂസർ പ്രോംപ്റ്റിൽ മാത്രമല്ല.
പ്രോ ടിപ്പ്: പ്രവർത്തിക്കുന്ന പ്രോംപ്റ്റുകൾ സേവ് ചെയ്യുക. നല്ല പ്രോംപ്റ്റുകൾ നല്ല കാപ്പി ഉണ്ടാക്കുന്ന രീതി പോലെയാണ്. ഭാവിയിൽ നിങ്ങൾ ഇതിന് നന്ദി പറയും.
വിപുലമായ കാര്യങ്ങൾ: മൾട്ടി-മോഡൽ, ടൂളുകൾ, ഓട്ടോമേഷൻ
- ചെയിൻ-ഓഫ്-തോട്ട് ലൈറ്റ്: ഉത്തരം നൽകുന്നതിന് മുമ്പ് ഘട്ടങ്ങൾ ലിസ്റ്റ് ചെയ്യാൻ ആവശ്യപ്പെടുക. “ആദ്യം രൂപരേഖ തയ്യാറാക്കുക, തുടർന്ന് ഖണ്ഡിക തിരിച്ചെഴുതുക.”
- മൾട്ടി-മോഡൽ വർക്ക്ഫ്ലോ: ക്രിയേറ്റീവായ ഒരു മോഡൽ ഉപയോഗിച്ച് ബ്രെയിൻസ്റ്റോം ചെയ്യുക, കൃത്യമായ ഒരെണ്ണം ഉപയോഗിച്ച് പരിശോധിക്കുക. ഒരു ബഡ്ഡി കോപ്പ് സിനിമ പോലെ ചിന്തിക്കുക.
- ടൂൾ ഉപയോഗം: സ്ക്രിപ്റ്റുകൾ വഴി വെബ് തിരയലുകൾ, കാൽക്കുലേറ്ററുകൾ അല്ലെങ്കിൽ കോഡ് എക്സിക്യൂഷൻ എന്നിവ Ollama-ക്ക് ചുറ്റും പൊതിയുക. ഏത് ടൂളാണ് വിളിക്കേണ്ടതെന്ന് മോഡലിനെ തീരുമാനിക്കാൻ അനുവദിക്കുക, പക്ഷേ ഔട്ട്പുട്ടുകൾ സാധൂകരിക്കുക.
- ബാച്ച് ജോലികൾ: API-യെ വിളിക്കുന്ന ഒരു സ്ക്രിപ്റ്റിലേക്ക് ഉൽപ്പന്ന വിവരണങ്ങളുടെ ഒരു CSV പൈപ്പ് ചെയ്യുക, കൂടാതെ ഫലങ്ങൾ തിരികെ എഴുതുക. കാപ്പി, പ്രവർത്തിപ്പിക്കുക, പൂർത്തിയായി.
ടീമുകളിൽ Ollama സുരക്ഷിതമായി എങ്ങനെ ഉപയോഗിക്കാം
നിങ്ങൾ അനൗദ്യോഗിക IT വ്യക്തിയാണെങ്കിൽ (ക്ഷമിക്കണം), ചില കാര്യങ്ങൾ ശ്രദ്ധിക്കുക:
- അംഗീകരിച്ച മോഡലുകളിൽ നിലവാരം പുലർത്തുക.
- ടീം വോയിസിനും ഫോർമാറ്റിംഗിനുമായി ഒരു Modelfile പങ്കിടുക.
- ആവർത്തിച്ചുള്ള ടാസ്ക്കുകൾക്കായി ഒരു പ്രോംപ്റ്റ് ലൈബ്രറി സൂക്ഷിക്കുക.
- ചില വർക്ക്ഫ്ലോകൾക്കായി ഇൻപുട്ട്/ഔട്ട്പുട്ട്—പ്രാദേശികമായി—ലോഗ് ചെയ്യുക, അതുവഴി ആളുകളെ ശല്യപ്പെടുത്താതെ നിങ്ങൾക്ക് ഗുണനിലവാരം അവലോകനം ചെയ്യാൻ കഴിയും.
“എനിക്ക് ക്ലൗഡ് ആവശ്യമുണ്ടോ?” എന്ന ചോദ്യം
ചിലപ്പോൾ ആവശ്യമുണ്ടാവാം. നിങ്ങൾക്ക് വലിയ കോൺടെക്സ്റ്റ് ഗവേഷണം, അത്യാധുനികമായ യുക്തി, അല്ലെങ്കിൽ മൾട്ടി-മോഡൽ കഴിവുകൾ ആവശ്യമാണെങ്കിൽ, ഒരു ക്ലൗഡ് മോഡൽ വിജയിച്ചേക്കാം. ഒരു ഹൈബ്രിഡ് രീതി നല്ലതാണ്:
- ഡ്രാഫ്റ്റുകൾ, സ്വകാര്യ ഡോക്യുമെന്റുകൾ, വേഗത്തിലുള്ള ആവർത്തനം എന്നിവയ്ക്കായി Ollama പ്രാദേശികമായി ഉപയോഗിക്കുക.
- സങ്കീർണ്ണമായ യുക്തിക്കോ വലിയ ഇൻപുട്ടുകൾക്കോ ഒരു ക്ലൗഡ് മോഡൽ ഉപയോഗിക്കുക.
- ഒരേ ഇൻ്റർഫേസിൽ ഫലങ്ങൾ താരതമ്യം ചെയ്യുക, അതുവഴി നിങ്ങൾ കണ്ണുകൊണ്ട് തിരഞ്ഞെടുക്കുന്നു, അല്ലാതെ തോന്നലുകളുപയോഗിച്ചല്ല.
ശ്രദ്ധിക്കുക: Sider.AI ആ താരതമ്യം വേദനയില്ലാത്തതാക്കുന്നു. നിങ്ങൾക്ക് ഒരേ പ്രോംപ്റ്റ് പ്രാദേശിക Ollama-യിലേക്കും ഒരു ക്ലൗഡ് മോഡലിലേക്കും റൂട്ട് ചെയ്യാൻ കഴിയും, തുടർന്ന് മികച്ച പ്രതികരണം തിരഞ്ഞെടുക്കുക അല്ലെങ്കിൽ അവയെ ലയിപ്പിക്കുക. ഇത് രണ്ട് കാപ്പികൾ ടേസ്റ്റ് ചെയ്ത് അവ മിക്സ് ചെയ്യാമെന്ന് മനസ്സിലാക്കുന്നതുപോലെയാണ്. ഓഫീസിലെ Ollama വിദഗ്ദ്ധനാകാനുള്ള നിങ്ങളുടെ ഒരാഴ്ചത്തെ പ്ലാൻ
Day 1: ഇൻസ്റ്റാൾ ചെയ്യുക, llama3 pull ചെയ്യുക, ഒരു സിസ്റ്റം പ്രോംപ്റ്റ് സജ്ജമാക്കുക.
Day 2: നിങ്ങളുടെ ശൈലിക്കായി ഒരു Modelfile നിർമ്മിക്കുക. രണ്ട് മോഡലുകൾ പരീക്ഷിച്ച് വ്യത്യാസങ്ങൾ കുറിക്കുക.
Day 3: Ollama-യിലേക്ക് ഒരു നോട്ടെടുക്കാനുള്ള അല്ലെങ്കിൽ കോഡിംഗ് ടൂൾ ചേർക്കുക.
Day 4: കുറച്ച് PDF-കൾ ഉപയോഗിച്ച് ഒരു ചെറിയ RAG പ്രോട്ടോടൈപ്പ് ഉണ്ടാക്കുക.
Day 5: API ഉപയോഗിച്ച് ഒരു വിരസമായ ടാസ്ക്ക് ഓട്ടോമേറ്റ് ചെയ്യുക.
Day 6: നിങ്ങളുടെ ടീമുമായി ഒരു പ്രോംപ്റ്റ് ലൈബ്രറി പങ്കിടുക.
Day 7: എന്തൊക്കെയാണ് പ്രവർത്തിച്ചതെന്ന് അവലോകനം ചെയ്യുക, പ്രവർത്തിക്കാത്തവ ഒഴിവാക്കുക, സ്ഥിരമായ രീതികൾ സജ്ജമാക്കുക.
അപ്പോഴേക്കും Ollama എങ്ങനെ ഉപയോഗിക്കാമെന്ന് നിങ്ങൾക്കറിയുക മാത്രമല്ല, അതിനെക്കുറിച്ച് ചിന്തിക്കാതെ തന്നെ നിങ്ങൾ അത് ഉപയോഗിക്കും, അതാണ് നമ്മൾ സൂക്ഷിക്കുന്ന ടൂളുകളുടെ പ്രധാന ലക്ഷ്യം.
താഴത്തെ വരി
Ollama എങ്ങനെ ഉപയോഗിക്കാമെന്നതിനെക്കുറിച്ച് ഈ മൂന്ന് കാര്യങ്ങളാണ് പറയാനുള്ളത്:
- പ്രാദേശികമായി ലളിതമായി ആരംഭിക്കുക. ഒരു മോഡൽ pull ചെയ്യുക, മൂന്ന് പ്രധാന ടാസ്ക്കുകൾ ചെയ്യുക.
- നിങ്ങളുടെ തലച്ചോറിന് അനുയോജ്യമായ രീതിയിൽ സിസ്റ്റം പ്രോംപ്റ്റുകളും Modelfile-കളും ഉപയോഗിച്ച് സ്വഭാവം ഇഷ്ടാനുസരണം മാറ്റുക.
- നിങ്ങൾ ജോലി ചെയ്യുന്ന എഡിറ്റർ, ബ്രൗസർ, നോട്ടുകൾ എന്നിവയിൽ ഇത് സംയോജിപ്പിക്കുക, അതുവഴി നിങ്ങൾ മറന്നുപോകുന്ന മറ്റൊരു ടാബായി ഇത് മാറാതിരിക്കും.
Ollama നിങ്ങളുടെ ലാപ്ടോപ്പിനെ മാന്ത്രികമാക്കില്ല. അത് നിങ്ങളുടേതാക്കും. നിങ്ങളുടെ ഡാറ്റ മറ്റൊരാളുടെ സെർവറിലേക്ക് മാറ്റാൻ ഓരോ ആപ്പുകളും ശ്രമിക്കുന്ന ഒരു ലോകത്ത്, ഇത് വളരെ നല്ലൊരു അപ്ഗ്രേഡാണ്.
ഇപ്പോൾ നിങ്ങളുടെ പ്രാദേശിക AI-യോട് മികച്ച ഒരു ഔട്ട്-ഓഫ്-ഓഫീസ് സന്ദേശം എഴുതാൻ ആവശ്യപ്പെടുക. ഒരു ദിവസം അവധിയെടുക്കാൻ ഓർമ്മിപ്പിക്കാനും പറയുക.
FAQ
Q1:Ollama ഉപയോഗിച്ച് തുടങ്ങാനുള്ള എളുപ്പവഴി ഏതാണ്?
ഇത് ഇൻസ്റ്റാൾ ചെയ്യുക, llama3:8b-instruct പോലുള്ള എളുപ്പമുള്ള ഒരു മോഡൽ pull ചെയ്യുക, കൂടാതെ കുറച്ച് പ്രധാന ടാസ്ക്കുകൾ പ്രവർത്തിപ്പിക്കുക—സംഗ്രഹങ്ങൾ, രൂപരേഖകൾ അല്ലെങ്കിൽ ഇമെയിൽ ഡ്രാഫ്റ്റുകൾ. വ്യക്തവും പ്രവചനാതീതവുമായ ഉത്തരങ്ങൾക്കായി താപനില കുറഞ്ഞ അളവിൽ സൂക്ഷിക്കുക, കൂടാതെ നന്നായി പ്രവർത്തിക്കുന്ന പ്രോംപ്റ്റുകൾ സേവ് ചെയ്യുക.
Q2:എഴുതാനും കോഡ് ചെയ്യാനും Ollama-യിൽ ഏത് മോഡലാണ് ഞാൻ ഉപയോഗിക്കേണ്ടത്?
എഴുതാനായി, മികച്ച നിലവാരത്തിനും വേഗതയ്ക്കുമായി llama3 അല്ലെങ്കിൽ mistral ഉപയോഗിച്ച് തുടങ്ങുക. കോഡിംഗിനായി, codellama അല്ലെങ്കിൽ കോഡിനായി ഒപ്റ്റിമൈസ് ചെയ്ത ഒരു മോഡൽ പരീക്ഷിക്കുക; കുറഞ്ഞ തെറ്റുകൾക്കായി താപനില 0.2–0.4-ൽ നിലനിർത്തുക.
Q3:എനിക്ക് Ollama-യിൽ എന്റെ സ്വന്തം ഡോക്യുമെൻ്റുകൾ ഉപയോഗിക്കാനാകുമോ (RAG)?
ഉപയോഗിക്കാം—ഒരു എംബെഡിംഗ് ടൂൾ ഉപയോഗിച്ച് നിങ്ങളുടെ ഫയലുകൾ ഇൻഡെക്സ് ചെയ്യുക, ഓരോ ചോദ്യത്തിലും പ്രധാന ഭാഗങ്ങൾ എടുക്കുക, കൂടാതെ Ollama-യിലേക്കുള്ള നിങ്ങളുടെ പ്രോംപ്റ്റിൽ ആ ഭാഗങ്ങൾ കോൺടെക്സ്റ്റ് ആയി ചേർക്കുക. ഇത് നിങ്ങളുടെ AI-ക്കുള്ള ഓപ്പൺ-ബുക്ക് മോഡ് പോലെയാണ്, ഇത് വസ്തുതാപരമായ കൃത്യതയെ ഗണ്യമായി മെച്ചപ്പെടുത്തുന്നു.
Q4:എന്തുകൊണ്ടാണ് എന്റെ ലാപ്ടോപ്പിൽ Ollama പതുക്കെ പ്രവർത്തിക്കുന്നത്, ഇത് എങ്ങനെ വേഗത്തിലാക്കാം?
ചെറിയ ക്വാണ്ടൈസ്ഡ് മോഡൽ (ഉദാഹരണത്തിന്, Q4) ഉപയോഗിക്കുക, പരമാവധി ടോക്കണുകൾ കുറയ്ക്കുക, ആവശ്യമെങ്കിൽ താപനില കുറയ്ക്കുക. നിങ്ങൾക്ക് Apple Silicon അല്ലെങ്കിൽ ഒരു ആധുനിക NVIDIA GPU ഉണ്ടെങ്കിൽ, ശ്രദ്ധേയമായ വർദ്ധനവിനായി ഹാർഡ്വെയർ ആക്സിലറേഷൻ പ്രവർത്തനക്ഷമമാക്കുക.
Q5:Sider.AI ഒരു Ollama വർക്ക്ഫ്ലോയിൽ എങ്ങനെ യോജിക്കുന്നു?
Sider.AI നിങ്ങളുടെ പ്രാദേശിക Ollama മോഡലുകളിലേക്കും ക്ലൗഡ് മോഡലുകളിലേക്കും ഒരേ ഇൻ്റർഫേസിൽ കണക്ട് ചെയ്യാൻ കഴിയും, ഇത് ഔട്ട്പുട്ടുകൾ താരതമ്യം ചെയ്യാനും ചാറ്റുകൾ ഓർഗനൈസ് ചെയ്യാനും എളുപ്പമാക്കുന്നു. പ്രോംപ്റ്റുകൾ പരീക്ഷിക്കുന്നതിനും ഹിസ്റ്ററി വൃത്തിയായി സൂക്ഷിക്കുന്നതിനും അഞ്ച് ആപ്പുകൾ ഉപയോഗിച്ച് ബുദ്ധിമുട്ടാതെ മികച്ച ഉത്തരം തിരഞ്ഞെടുക്കുന്നതിനും ഇത് സൗകര്യപ്രദമാണ്. 
