"சின்ன கார்ட்டூன் உருவம் இல்லாம IKEA ஃபர்னிச்சரை பொருத்த முயற்சி செஞ்சிருக்கீங்களா? லோக்கல் AI மாடல்களை சுழற்றி விடுவது அப்படி தான் இருக்கும். நிறைய பாகங்கள், புரியாத பெயர்கள், மற்றும் "LLM runtime" என்று லேபிள் ஒட்டப்பட்ட ஒரு திருகாணியை தவற விட்டுட்டோமோ என்ற பயம் இருக்கும். Ollama உள்ளே நுழைகிறது. இது உங்களுடைய சொந்த மெஷினில் பெரிய மொழி மாதிரிகளை இயக்குவதற்கான ஒரு ஆலன் ரெஞ்ச்—வேகமாக, தனிப்பட்ட முறையில், மற்றும் ஆச்சரியப்படும் விதமாக ஒரு சித்திரவதை சாதனம் கிடையாது."
"இந்த வழிகாட்டியில, நாம Ollama-வை உண்மையில் பயன்படுத்த போறோம். அத பத்தி மட்டும் படிக்கப் போறது இல்ல. அத டவுன்லோட் பண்ணி, ஒரு மாடல ரன் பண்ணி, அத கஸ்டமைஸ் பண்ணி, உங்களுக்கு புடிச்ச கருவிகள்ல புகுத்தி, 'ஏன் என் ஃபேன் கத்துது?' மொமெண்ட்ட பிக்ஸ் பண்ணி, வேலை செய்ய நம்பகமான ஒரு செட்டப்போட வெளிய வருவோம். ஆமா, ஆஃப்லைன்ல கூட. ஆமா, பிளேன்ல கூட. இல்ல, உங்களுக்கு Ph.D. தேவையில்ல அல்லது சர்வர் ஃபார்ம் தேவையில்ல."
"உங்க லேப்டாப்ப அல்லது உங்க மனநிலைய கெடுக்காம Ollama-வை எப்படி ஒரு நிபுணரப் போல பயன்படுத்துறதுன்னு இங்க பார்க்கலாம்."
"Ollama என்றால் என்ன (மற்றும் நீங்க ஏன் கவலைப்படனும்)?"
"Ollama என்பது பெரிய மொழி மாதிரிகளை (LLMs) உள்நாட்டில் இயக்குவதற்கான ஒரு எளிய வழி. ChatGPT என்று நினைங்க, ஆனால் அந்த மாதிரி உங்க கம்ப்யூட்டர்ல இருக்குது. இதனால கிடைக்கிற நன்மைகள்:",
- "தனிமை: உங்க டேட்டா உங்க மெஷின்லயே இருக்கு. மர்மமான கிளவுட் பயணம் எதுவும் இல்ல."
- "வேகம்: ஒரு சர்வர்க்காக காத்திருக்க தேவையில்ல. இது உங்க CPU/GPU ஷைன் பண்ற நேரம்."
- "கட்டுப்பாடு: மாடல், வெர்ஷன், சைஸ் மற்றும் அதன் செயல்பாடு அனைத்தையும் நீங்களே தேர்வு செய்யலாம்."
"உங்க தனிப்பட்ட குறிப்புகளை நெப்டியூனுக்கு அனுப்பாம, ஒரு AI கிட்ட சில கேள்விகள் கேட்க முடியுமான்னு எப்போதாவது நினைச்சிருந்தா, இது உங்களுக்கானது."
"Ollama-வை பயன்படுத்த மிக விரைவான வழி"
"எப்படி பயன்படுத்துவதுன்னு தெரிஞ்சிக்க தானே வந்தீங்க. வாங்க எப்படி பயன்படுத்துவதுன்னு பார்க்கலாம்."
"படி 1: Ollama-வை இன்ஸ்டால் செய்யவும்"
- "macOS: அதிகாரப்பூர்வ தளத்திலிருந்து இன்ஸ்டாலரைப் பயன்படுத்தவும் அல்லது சக்தி வாய்ந்ததாக உணர்ந்தால்
brew install --cask ollama ஐ பயன்படுத்தவும்."
- "Windows: இன்ஸ்டாலரைப் பிடிங்க. இது ஒரு சாதாரணமான அமைப்புதான்—அடுத்து, அடுத்து, இன்ஸ்டால்."
- "Linux: அதிகாரப்பூர்வ ஸ்கிரிப்ட் மூலம் ஒரே வரியில் முடிக்கலாம். உங்க உள் sysadmin திறமைய 30 விநாடிகளுக்கு வெளிப்படுத்துங்க."
"இன்ஸ்டால் செஞ்சதும், Ollama ஒரு லோக்கல் சர்வீஸ ரன் பண்ணும். நீங்க டெர்மினல், பவர்ஷெல் அல்லது அதோட இன்டெகிரேட் ஆகுற மற்ற ஆப்ஸ் மூலமா பேசலாம்."
"படி 2: உங்க முதல் மாடல இழுக்கவும்"
"உங்க டெர்மினல்ல:",
"முதல் தடவ Ollama மாடல் வெயிட்ஸ டவுன்லோட் பண்ணும். ஒரு பெரிய நெட்பிளிக்ஸ் மூவிய கேச்சிங் பண்றதுன்னு நினைச்சுக்குங்க. அதுக்கப்புறம், அது உடனடியா இருக்கும். நீங்க டைப் பண்ணி சாட் பண்றதுக்கான ஒரு பிராம்ப்ட் கிடைக்கும்."
"ஒரு டெஸ்ட் ட்ரை பண்ணி பாருங்க: 'Wikipedia-ல பென்குயின் பத்தின என்ட்ரிய 2 சென்டென்ஸ்ல சொல்லுங்க—தேவையில்லாத விஷயங்கள் எதுவும் வேணாம்.' அது பென்குயின் TED டாக் மாதிரி ரிப்ளை பண்ணுனா, அது உயிருடன் இருக்குன்னு அர்த்தம்."
"படி 3: பிளேலிஸ்ட மாத்துற மாதிரி மாடல்ஸ மாத்துங்க"
"நீங்க ட்ரை பண்ணக்கூடிய பிரபலமான மாடல்ஸ்:",
"ஒவ்வொன்னுக்கும் ஒவ்வொரு பலம் இருக்கு. Mistral வேகமானது. Llama 3.1 நல்லா எல்லா விஷயங்களையும் உள்ளடக்கியது. Phi லைட் வெயிட் மற்றும் அதோட சைஸுக்கு ஏத்த மாதிரி ரொம்ப புத்திசாலித்தனமானது. குறிப்பிட்ட டேக்ஸ இழுக்கலாம், உதாரணத்துக்கு llama3:8b-instruct அல்லது சின்ன குவாண்டிஸ்டு வேரியன்ட்ஸ்."
"புரோ டிப்: முன்னாடியே டவுன்லோட் பண்ண ollama pull <model> பயன்படுத்துங்க. உங்ககிட்ட என்ன இருக்குன்னு பாக்க ollama list பயன்படுத்துங்க, உங்க SSD அழுவுதுன்னா ollama rm <model> பயன்படுத்துங்க."
"படி 4: சோஷியல் ஸ்கில்ஸ் உள்ள ஒரு ஹேக்கர் மாதிரி டெர்மினல்ல சாட் பண்ணுங்க"
- "ஒரு செஷன ஸ்டார்ட் பண்ணுங்க:
ollama run llama3"
- "ஒரு சிஸ்டம் மெசேஜ் கொடுங்க:
ollama run llama3 --system \"நீ ஒரு சுருக்கமான கோடிங் அசிஸ்டன்ட்.\""
- "சாட் மோட்ல நுழையாம ஒரு ஒன்-ஆஃப் பிராம்ப்ட் கொடுங்க:
ollama run llama3 -p \"Kubernetes-ஐ நான் அஞ்சாவது படிக்கிற பையனுக்கு புரியுற மாதிரி சொல்லு.\""
"நீங்க ஒரு விஸார்ட் மாதிரி சவுண்ட் கொடுக்க ஆரம்பிப்பீங்க. ஒரு மரியாதையான விஸார்ட்."
"படி 5: உங்களுக்கு புடிச்ச ஆப்ஸோட Ollama-வை பயன்படுத்துங்க"
"Ollama-வை எப்படி பயன்படுத்துவதுன்னு தெரிஞ்சுக்கறதுல இது தான் ரொம்ப ஜாலியான விஷயம். Ollama HTTP-ல பேசும். அதனால நிறைய கருவிகளால அதோட பேச முடியும்."
- "லோக்கல் வெப் UIs: நிறைய AI சாட் UIs உங்க Ollama எண்ட்பாயிண்ட்டோட கனெக்ட் பண்ண முடியும். உங்களுக்கு ஒரு அழகான விண்டோ, தனி சாட்ஸ் மற்றும் ஹிஸ்டரி கிடைக்கும்."
- "கோட் எடிட்டர்ஸ்: VS கோடுக்கான எக்ஸ்டென்ஷன்ஸ் உங்க பிராம்ட்ஸ Ollama-க்கு ரூட் பண்ண முடியும்—இன்லைன் கோட் எக்ஸ்பிளனேஷன்ஸ், ரெஃபேக்டர்ஸ் மற்றும் டெஸ்ட்ஸ்."
- "நோட் டேக்கிங் ஆப்ஸ்: சிலதுல சம்மரிஸ் மற்றும் பிரெயின் ஸ்டார்மிங்க்காக ஒரு லோக்கல் மாடலோட கனெக்ட் பண்ணலாம். மீட்டிங் நோட்ஸ்க்கு ரொம்ப பெர்ஃபெக்ட்."
"கவனத்திற்கு: உங்களுக்கு ஒரு சூப்பர் கிளீன், பிரௌசர் அடிப்படையிலான சாட் மற்றும் ரிசர்ச் வொர்க்ஃப்ளோ வேணும்னா, Sider.AI-வை நோட் பண்ணிக்கோங்க—லோக்கல் மற்றும் கிளவுட் மாடல்ஸ்ல கனெக்ட் பண்ணி, சாட்ஸ ஆர்கனைஸ் பண்ணி, பிராம்ட்ஸ சைடு-பை-சைடு டெஸ்ட் பண்ண ஹெல்ப் பண்ணும். நான் 'மாடல் A தான் ஸ்மார்ட்' மற்றும் 'மாடல் B தான் ஃபாஸ்ட்'ன்னு முடிவெடுக்க முடியாம இருக்கும்போது, அது என்ன நேர்மையா வெச்சுக்குது." "பிகினர்ஸ்க்கான ப்ளூபிரிண்ட்: Ollama-வோட உங்க ஃபர்ஸ்ட் ப்ரொடெக்டிவ் ஹவர்"
"உங்ககிட்ட 60 நிமிஷம் இருக்கு. 'என்னது?' என்பதை 'ஆமாம்' என்று மாற்றுவோம்."
- "Ollama-வை இன்ஸ்டால் பண்ணுங்க. ஒரு சிப் காஃபி குடிங்க. முடிஞ்சுது."
- "
llama3:8b-instruct-வை இழுக்கவும். இது பெரும்பாலான லேப்டாப்களில் தரம் மற்றும் வேகத்திற்கு ஒரு சரியான இடமாகும்."
- "உங்க வேலைக்கு ஏத்த மாதிரி ஒரு சிஸ்டம் பிராம்ப்ட்ட உருவாக்குங்க: 'நீங்க என்னுடைய ரிசர்ச் அசிஸ்டன்ட். எப்பவும் சோர்ஸ் மற்றும் புல்லட் பாயிண்ட்ஸ் கொடுங்க. நான் சொல்லாத வரை பதில்கள 200 வார்த்தைகளுக்குள்ள வைங்க.'"
- "உண்மையாவே நீங்க செய்யுற மூணு டாஸ்க டெஸ்ட் பண்ணுங்க:",
- "250 வார்த்தைகளுக்குள்ள ஒரு ஆர்டிகிள் பேஸ்ட்-இன் பண்ணி சம்மரைஸ் பண்ணுங்க."
- "உங்க நியூஸ்லெட்டருக்கான 10 டைட்டில் ஐடியாஸ பிரெயின்ஸ்டார்ம் பண்ணுங்க."
- "மீட்டிங் நோட்ஸ ஆக்சன் ஐட்டம்ஸா மாத்துங்க ஓனர்ஸ் மற்றும் டேட்ஸ் கூட."
- "உங்களுக்கு புடிச்ச பிராம்ட்ஸ சேவ் பண்ணி வெச்சுக்கோங்க. அத திரும்ப திரும்ப யூஸ் பண்ணுங்க. இதுதான் நீங்க AI-யோட விளையாடுறதுல இருந்து உண்மையாவே யூஸ் பண்றதுக்கான வழி."
"போனஸ்: நீங்க கோட் எழுதுனீங்கன்னா, codellama-வ புல் பண்ணுங்க அல்லது ஒரு கோட்-ட்யூன்டு மாடல புல் பண்ணி அத உங்க ஃபங்ஷனுக்கு ஃபீட் பண்ணுங்க. டெஸ்ட், ரெஃபேக்டர்ஸ் அல்லது டாக்ஸ்ட்ரிங்ஸ் கேளுங்க. நீங்க 30% புத்திசாலித்தனமா ஃபீல் பண்ணுவீங்க, அது லோக்கல் AI-க்கான சட்டப்பூர்வமான லிமிட்."
"சரியான மாடல எப்படி தேர்ந்தெடுக்கிறது (தலைவலி இல்லாம)"
"ஒரு மாடல செலக்ட் பண்றது ஒரு ஸ்ட்ரீமிங் திட்டத்தை செலக்ட் பண்ற மாதிரி: உங்களுக்குத் தேவையில்லாத விஷயங்களுக்கு அதிகமா பணம் கொடுக்கலாம்."
- "எழுதுதல் மற்றும் பிரெயின்ஸ்டார்மிங்:
llama3 அல்லது mistral நல்லா இருக்கும்."
- "சூப்பர் லைட் வெயிட் லேப்டாப்ஸ்:
phi3 அல்லது பெரிய மாடல்களின் சின்ன குவாண்டிஸ்டு வெர்ஷன்ஸ ட்ரை பண்ணுங்க."
- "கோடிங் உதவி:
codellama, deepseek coder, அல்லது ஒரு கோட்-ஆப்டிமைஸ்டு வேரியன்ட்."
- "பல மொழி:
qwen குடும்பங்கள் திடமான பல மொழி வேலையைச் செய்கின்றன."
- "நீண்ட கன்டெக்ஸ்ட்: நீங்க பெரிய டாக்குமெண்ட்ஸ் ஃபீட் பண்ணா பெரிய கன்டெக்ஸ்ட் விண்டோஸ் உள்ள மாடல்ஸ பாருங்க."
"நீங்க பிராம்ட் பண்ணும் போதெல்லாம் உங்க ஃபேன் ஹெலிகாப்டரா மாறினா, மாடல் சைஸ் சின்னதாக்குங்க அல்லது இன்னும் அக்ரசிவான குவாண்டிசேஷன ட்ரை பண்ணுங்க."
"ரகசியமான சாஸ்: மாடல்ஃபைல்ஸ் மற்றும் கஸ்டம் பிஹேவியர்ஸ்"
"Ollama இங்கதான் ரொம்ப ஆச்சரியமான விஷயமா இருக்கு. நீங்க ஒரு மாடல்ஃபைல உருவாக்கலாம்—அடிப்படையில ஒரு ரெசிபி—அது உங்க மாடலையும் அதோட ஆளுமை மற்றும் டீஃபால்ட்ஸையும் டிஃபைன் பண்ணும்."
"மாடல்ஃபைலுக்கான எடுத்துக்காட்டு (கருத்தியல்):",
"FROM llama3:8b-instruct\nSYSTEM \"நீங்கள் ஒரு தெளிவான, நட்பு உதவி. புல்லட் பாயிண்ட்ஸ் மற்றும் சின்ன வாக்கியங்கள பயன்படுத்துங்க.\"\nPARAMETER temperature 0.5
""அதை ஒரு ஃபோல்டர்ல Modelfile-ஆ சேவ் பண்ணுங்க, அப்புறம் ரன் பண்ணுங்க:",
- "
ollama create crisp-assistant -f Modelfile"
- "
ollama run crisp-assistant"
"இப்போ உங்ககிட்ட எல்லா இடத்துலயும் திரும்ப பயன்படுத்தக்கூடிய ஒரு கஸ்டம் அசிஸ்டன்ட் இருக்கு. உங்க சொந்த பிரைவேட் ChatGPT ஃபிளேவர உருவாக்குற மாதிரி—வெனிலா, எஸ்பிரெசோ ஷாட்ஸ் கூட."
"JSON பேசுங்க: Ollama-வின் HTTP API-ய பயன்படுத்துங்க"
"உங்களுக்கு கொஞ்சம் டெவலப்பர் டென்டென்ஸிஸ் இருந்தா கூட, இந்த API உங்கள சிரிக்க வைக்கும்."
- "எண்ட்பாயிண்ட்: ` டெக்ஸ்ட் ஜெனரேஷனுக்கு."
- "
model, prompt, மற்றும் விருப்பமான stream உடன் JSON பேலோட அனுப்பவும்."
- "உங்களுக்கு டோக்கன்ஸ் திரும்ப ஸ்ட்ரீம்ல கிடைக்கும். அது ஒரு நாவல ரியல் டைம்ல படிக்கிற மாதிரி இருக்கும், ஒரு கேரக்டரா."
"API-ய ஏன் யூஸ் பண்ணனும்?"
- "நியூஸ்லெட்டர் சம்மரிஸ ஆட்டோமேட் பண்ணுங்க."
- "உங்க டாக்குமெண்ட்ஸ்ல ஒரு சாட்பாட்ட உருவாக்குங்க."
- "புராடக்ட் டிஸ்கிரிப்ஷன்ஸ மொத்தமா மாத்தி எழுத ஸ்கிரிப்ட்ஸ் கிரியேட் பண்ணுங்க. (எல்லாத்தையும் ஒரு ரோபோ ஒரு முறை இம்ப்ரூவ் பண்ண மாதிரி சவுண்ட் கொடுக்காம பாத்துக்கோங்க.)"
"Ollama-வ உங்க சொந்த ஃபைல்ஸோட எப்படி யூஸ் பண்றது (கோபம் இல்லாம RAG)"
"RAG—retrieval-augmented generation—உங்க ஃபைல்ஸ மாடலுக்கு ஃபீட் பண்ணி அது உங்க விஷயத்துல இருந்து உண்மைகளோட பதில் சொல்லும், அதோட மங்கலான நினைவோட இல்ல."
"அடிப்படை வழி:",
- "உங்க டாக்குமெண்ட்ஸ இன்டெக்ஸ் பண்ண ஒரு லோக்கல் எம்பேடிங் கருவிய யூஸ் பண்ணுங்க."
- "ஒவ்வொரு கேள்விக்கும், டாப் சங்க்ஸ தேடுங்க."
- "Ollama-க்கு உங்க பிராம்ப்ட்ல ரொம்ப பொருத்தமான டெக்ஸ்ட்ட கான்டெக்ஸ்டா அனுப்புங்க."
"இத AI-க்கான ஓப்பன் புக் டெஸ்ட்டிங் மாதிரி நினைச்சுக்கோங்க. அது உங்க எம்ப்ளாயி ஹேண்ட்புக்க 'நினைவில்' வெச்சுக்கத் தேவையில்லை—அது அத மேற்கோள் காட்டணும் அவ்வளவுதான்."
"புரோ மூவ்: உங்க சங்க்ஸ சின்னதா வெச்சுக்கோங்க (200–600 வார்த்தைகள்), ஹெட்டிங்ஸ சேருங்க, மற்றும் சோர்ஸ் லிங்க்ஸ பிராம்ப்ட்ல சேருங்க, அப்போ தான் மாடல் மேற்கோள் காட்ட கத்துக்கும்."
"பெர்ஃபார்மன்ஸ் டியூனிங்: Ollama-வ பறக்க வைங்க (உங்க டேபிள உருக்காம)"
- "குவாண்டிசேஷன் முக்கியம்: Q4 சின்னது/வேகமானது, Q8 பெருசு/ஸ்மார்ட்டானது. சின்னதா ஸ்டார்ட் பண்ணி பெருசுக்கு போங்க."
- "முடிஞ்சா GPU யூஸ் பண்ணுங்க: Apple சிலிகான் நல்லா பண்ணும். புது NVIDIA கார்ட்ஸா? செஃப்'ஸ் கிஸ்."
- "டெம்பரேச்சர்: துல்லியமான பதில்களுக்கு குறைவு (0.2–0.5); கிரியேட்டிவான குழப்பத்துக்கு அதிகம் (0.8+)."
- "மேக்ஸ் டோக்கன்ஸ்: உங்களுக்கு உண்மையாவே தேவை இல்லனா 3,000 வார்த்தைகள் உள்ள ஒரு நாவல கேட்காதீங்க. உங்க லேப்டாப் வாழனும்."
"பதில்கள் மந்தமா இருந்தா:",
- "சின்ன மாடல ட்ரை பண்ணுங்க."
- "Chrome டேப்ஸ க்ளோஸ் பண்ணுங்க. ஆமாம், எல்லா 47 டேப்ஸையும்."
- "பேக்கிரவுண்ட் சிங்க் ஆப்ஸ தற்காலிகமா டிசேபிள் பண்ணுங்க."
"பாதுகாப்பு மற்றும் தனியுரிமை: மக்கள் Ollama-வை யூஸ் பண்றதுக்கான உண்மையான காரணம்"
"லோக்கல்னா லோக்கல் தான். ஆனா நாம ஸ்லாப்பியா இருக்க வேணாம்."
- "சென்சிடிவ் டேட்டா: நீங்க கிளவுட விட சேஃப்தான், ஆனா உங்க டிரைவ என்க்ரிப்ட் பண்ணி சேஃபா பேக்கப் பண்ணி வெச்சுக்கோங்க."
- "மாடல் சோர்ஸஸ்: நம்பகமான ரெபோஸ்ல இருந்து புல் பண்ணுங்க. ஒரு மாடல் டிஸ்கிரிப்ஷன் கீபோர்டுல பூனைய வச்சு எழுதின மாதிரி இருந்தா, அத ஸ்கிப் பண்ணிடுங்க."
- "நெட்வொர்க் ஆக்சஸ்: Ollama லோக்கல்ல ரன் ஆகும்; உங்களுக்கு என்ன செய்றீங்கன்னு தெரியாம பப்ளிக் நெட்வொர்க்ஸ்ல போர்ட்ட எக்ஸ்போஸ் பண்ணாதீங்க."
"நீங்க உண்மையாவே யூஸ் பண்ணக்கூடிய எவ்ரிடே வொர்க்ஃப்ளோஸ்"
"ஏன்னா 'வாவ் சூப்பர்'ங்குறது 'நான் இத டெய்லி யூஸ் பண்றேன்'ங்குறதுக்கு ஈக்குவல் இல்ல. Ollama-வை ரியல் லைஃப்ல எப்படி யூஸ் பண்றதுன்னு இங்க பார்க்கலாம்:",
- "மீட்டிங் கிளீனர்: நோட்ஸ் பேஸ்ட் பண்ணி, ஒவ்வொருத்தருக்கும் ஆக்ஷன் ஐட்டம்ஸ கேட்டு, ஃபாலோ-அப் ஈமெயில் டிராஃப்ட்டுக்கு ரெக்வஸ்ட் பண்ணுங்க."
- "ரிசர்ச் பட்டி: ஒரு ஆர்ட்டிகிள் பேஸ்ட் பண்ணுங்க. ஒரு எதிர்க் கருத்துக்குக் கேளுங்க, கூற்றுகளை உறுதிப்படுத்த 3 ஆதாரங்க கேளுங்க, மற்றும் 60-வினாடி சம்மரி கேளுங்க."
- "கோடிங் கோபைலட்: டாக்ஸ்ட்ரிங்ஸ், டெஸ்ட்ஸ் அல்லது ஒரு சேஃபான ரெஜெக்ஸ கேளுங்க. அந்த மாற்றத்த சாதாரண இங்கிலீஷ்ல எனக்கு மறுபடியும் எக்ஸ்பிளைன் பண்ண சொல்லுங்க."
- "ரைட்டிங் ஸ்பிரிண்ட்: முதல்ல அவுட்லைன் பண்ணுங்க, அப்புறம் எக்ஸ்பேன்ட் பண்ணுங்க, அப்புறம் டோன டைட் பண்ணுங்க. உங்க வாய்ஸ் டிஃபைன் பண்ற மாதிரி ஒரு சிஸ்டம் மெசேஜ வெச்சுக்கோங்க."
- "கற்றல்: எனக்கு SSH-ஐ என் பொறுமையான பெரிய அண்ணன் மாதிரி கத்துக் கொடுங்க. அப்புறம் எனக்கு குவிஸ் வைங்க."
"கவனத்திற்கு: இதையெல்லாம் ஒரே இடத்துல—சாட் ஹிஸ்டரிஸ், சைடு-பை-சைடு மாடல் டெஸ்ட்ஸ், மற்றும் குயிக் வெப் லுக்அப்ஸ்—வெச்சுருக்க புடிச்சிருந்தா, Sider.AI லோக்கல் மாடல்ஸோட நல்லா விளையாடும் மற்றும் உங்களுக்கு ஒரு கிளீனான காக்பிட் கொடுக்கும். அது உங்க பிராம்ட்ஸ்க்கான மிஷன் கண்ட்ரோல் மாதிரி." "பிரச்சனைகளை சரிசெய்தல்: Ollama மூடி ஆகும்போது"
- "'மாடல் காணவில்லை.' நீங்க இன்னும் புல் பண்ணல.
ollama pull <model>."
- "'மெமரி இல்ல.' சின்ன குவாண்டிசேஷன் அல்லது மாடல் சைஸ் யூஸ் பண்ணுங்க."
- "'இது ரொம்ப ஸ்லோவா இருக்கு, என் லேப்டாப் வயசாகுர சத்தம் கேக்குது.' மேக்ஸ் டோக்கன்ஸ ரெடியூஸ் பண்ணுங்க, மாடல்ஸ ஸ்விட்ச் பண்ணுங்க அல்லது GPU ஆக்சலரேஷன் யூஸ் பண்ணுங்க."
- "'பதில்கள் ரொம்ப தெளிவில்லாம இருக்கு.' டெம்பரேச்சர லோ பண்ணி உங்க பிராம்ட்ல எக்ஸாம்பிள்ஸ சேருங்க."
- "'இது என் இன்ஸ்ட்ரக்ஷன்ஸ இக்னோர் பண்ணிட்டே இருக்கு.' சிஸ்டம் பிராம்ட்ல ரூல்ஸ போடுங்க, யூசர் பிராம்ட்ல மட்டும் இல்ல."
"புரோ டிப்: ஒர்க் ஆகுற பிராம்ட்ஸ சேவ் பண்ணுங்க. நல்ல பிராம்ட்ஸ் நல்ல காஃபி ரெசிபி மாதிரி. ஃபியூச்சர்ல நீங்க பாஸ்ட்ல பண்ணுனதுக்கு தேங்க்ஸ் சொல்லுவீங்க."
"அட்வான்ஸ்டு மூவ்ஸ்: மல்டி-மாடல், டூல்ஸ் மற்றும் ஆட்டோமேஷன்"
- "செயின்-ஆஃப்-தாட் லைட்: ஆன்சர் பண்றதுக்கு முன்னாடி ஸ்டெப்ஸ் லிஸ்ட் பண்ண சொல்லுங்க. 'முதல்ல அவுட்லைன் பண்ணுங்க, அப்புறம் பாராகிராஃப் பாராகிராஃப்பா எழுதுங்க.'"
- "மல்டி-மாடல் வொர்க்ஃப்ளோ: ஒரு கிரியேட்டிவ் மாடலோட பிரெயின்ஸ்டார்ம் பண்ணுங்க, ஒரு துல்லியமான மாடலோட வெரிஃபை பண்ணுங்க. பட்டி காப் மூவி மாதிரி நினைச்சுக்கோங்க."
- "டூல் யூஸ்: வெப் சர்ச்ஸ், கால்குலேட்டர்ஸ் அல்லது கோட் எக்ஸிக்யூஷன ஸ்கிரிப்ட்ஸ் மூலமா Ollama சுத்தி ரேப் பண்ணுங்க. எந்த டூல கால் பண்றதுன்னு மாடல் டிசைட் பண்ணட்டும், ஆனா அவுட்புட்ஸ் வேலிடேட் பண்ணுங்க."
- "பேட்ச் ஜாப்ஸ்: ப்ராடக்ட் டிஸ்கிரிப்ஷன்ஸோட ஒரு CSV-ய API-ய கால் பண்ணி ரிசல்ட்ஸ திரும்ப எழுதுற ஒரு ஸ்கிரிப்ட்ல புகுத்துங்க. காபி, ரன், முடிஞ்சுது."
"டீம்ஸ்ல Ollama-வ எப்படி சேஃபா யூஸ் பண்றது"
"நீங்கதான் அதிகாரப்பூர்வமில்லாத IT ஆளா இருந்தா (சாரி), சில கட்டுப்பாடுகள வெச்சுக்கோங்க:",
- "சில அங்கீகரிக்கப்பட்ட மாடல்ஸ ஸ்டாண்டர்டைஸ் பண்ணுங்க."
- "டீம் வாய்ஸ் மற்றும் ஃபார்மேட்டிங்க்கு ஒரு மாடல்ஃபைல ஷேர் பண்ணுங்க."
- "திரும்பத் திரும்ப செய்யுற டாஸ்க்ஸ்காக ஒரு பிராம்ட் லைப்ரரியை வெச்சுக்கோங்க."
- "சில வொர்க்ஃப்ளோஸ்க்கு இன்புட்/அவுட்புட்ட லோக்கல்ல லாக் பண்ணுங்க—அதனால நீங்க மக்களோட வேலையில தலையிடாம குவாலிட்டிய ரிவ்யூ பண்ண முடியும்."
"'எனக்கு கிளவுட் தேவையா?' கேள்வி"
"சில நேரம் தேவைப்படலாம். உங்களுக்கு பெரிய கன்டெக்ஸ்ட் ரிசர்ச், பிளீடிங்-எட்ஜ் ரீசனிங் அல்லது மல்டி-மாடல் விஸார்ட்ரி தேவைப்பட்டா, ஒரு கிளவுட் மாடல் ஜெயிக்கும். ஹைப்ரிட் மூவ் ஸ்மார்ட்டானது:",
- "டிராஃப்ட்ஸ், பிரைவேட் டாக்குமெண்ட்ஸ் மற்றும் ஃபாஸ்ட் இட்டரேஷனுக்கு லோக்கல்ல Ollama யூஸ் பண்ணுங்க."
- "காம்ப்ளக்ஸ் ரீசனிங் அல்லது ஹியூஜ் இன்புட்ஸ்க்கு கிளவுட் மாடல் யூஸ் பண்ணுங்க."
- "ஒரே இன்டர்ஃபேஸ்ல ரிசல்ட்ஸ கம்பேர் பண்ணுங்க, அதனால நீங்க உங்க கண்களோட செலக்ட் பண்றீங்க, வைப்ஸ வச்சு இல்ல."
"நோட் பண்ண வேண்டிய விஷயம்: Sider.AI அந்த கம்பேரிசன வலியே இல்லாம பண்ணும். நீங்க லோக்கல் Ollama-க்கும் ஒரு கிளவுட் மாடலுக்கும் அதே பிராம்ப்ட்ட ரூட் பண்ணி, அப்புறம் பெஸ்ட் ரெஸ்பான்ஸ பிக் பண்ணலாம் அல்லது மெர்ஜ் பண்ணலாம். அது ரெண்டு காஃபி டேஸ்ட் பண்ணிட்டு அத மிக்ஸ் பண்ணலாம்னு உணர்ற மாதிரி." "ஆபீஸ் Ollama விஸ்பரர் ஆகுறதுக்கான உங்க ஒன்-வீக் பிளான்"
"நாள் 1: இன்ஸ்டால் பண்ணுங்க, llama3 புல் பண்ணுங்க, ஒரு சிஸ்டம் பிராம்ட் செட் பண்ணுங்க.\nநாள் 2: உங்க டோனுக்கான ஒரு மாடல்ஃபைல உருவாக்குங்க. ரெண்டு மாடல்ஸ ட்ரை பண்ணி டிஃபரன்ஸ் நோட் பண்ணுங்க.\nநாள் 3: Ollama-ல ஒரு நோட் டேக்கிங் அல்லது கோடிங் டூல ஒயர் பண்ணுங்க.\nநாள் 4: சில PDF-களோட ஒரு சின்ன RAG ப்ரோட்டோடைப்ப உருவாக்குங்க.\nநாள் 5: API வச்சு ஒரு டெட்ரீஸ் டாஸ்க ஆட்டோமேட் பண்ணுங்க.\nநாள் 6: உங்க டீமோட ஒரு பிராம்ட் லைப்ரரியை ஷேர் பண்ணுங்க.\nநாள் 7: என்ன வொர்க் ஆச்சுன்னு ரிவ்யூ பண்ணுங்க, என்ன வொர்க் ஆகலையோ அத கட் பண்ணுங்க, மற்றும் டீஃபால்ட்ஸ செட் பண்ணுங்க.
""அந்த நேரத்துல Ollama-வ எப்படி யூஸ் பண்றதுன்னு மட்டும் தெரிஞ்சுக்காம—அதைப்பத்தி நினைக்காம யூஸ் பண்ணுவீங்க, அதுதான் நாம யூஸ் பண்ற டூல்ஸோட முக்கியமான பாயிண்ட்."
"பாட்டம் லைன்"
"Ollama-வ எப்படி யூஸ் பண்றதுங்குறது மூணு விஷயத்துல அடங்குது:",
- "ஸ்டார்ட் பண்றதுக்கு லோக்கல்லயும் சிம்பிளா வெச்சுக்கோங்க. ஒரு மாடல புல் பண்ணி, மூணு ரியல் டாஸ்க் பண்ணுங்க."
- "சிஸ்டம் பிராம்ட்ஸ் மற்றும் மாடல்ஃபைல்ஸ் வெச்சு பிஹேவியர கஸ்டமைஸ் பண்ணுங்க அதனால அது உங்க பிரைனுக்கு ஏத்த மாதிரி இருக்கும், வேற மாதிரி இல்ல."
- "எங்க நீங்க வேலை செய்யுறீங்களோ அங்க இன்டகிரேட் பண்ணுங்க—எடிட்டர், பிரௌசர், நோட்ஸ்—அதனால அது நீங்க மறந்து போற இன்னொரு டேப் மாதிரி இருக்காது."
"Ollama உங்க லேப்டாப்ப மேஜிக்கலா ஆக்காது. ஆனா அத உங்களோடதாக்கும். ஒவ்வொரு ஆப்பும் உங்க டேட்டாவ வேற யாரோட சர்வருக்கு அனுப்ப ட்ரை பண்ணும் இந்த உலகத்துல, இது ரொம்ப ரெஃப்ரெஷிங்கான அப்கிரேட்."
"இப்ப போயி உங்க லோக்கல் AI-ய ஒரு பெட்டரான அவுட்-ஆஃப்-ஆபீஸ் மெசேஜ எழுத சொல்லுங்க. மற்றும் அன்னைக்கு உண்மையாவே லீவ் எடுக்க சொல்றதுக்கும் ரிமைண்ட் பண்ண சொல்லுங்க."
"அடிக்கடி கேட்கப்படும் கேள்விகள்"
"Q1:Ollama-வோட ஸ்டார்ட் பண்றதுக்கு ரொம்ப ஈஸியான வழி என்ன?\nஅதை இன்ஸ்டால் பண்ணுங்க, llama3:8b-instruct மாதிரி ஒரு ஃப்ரெண்ட்லி மாடல் புல் பண்ணி, சில ரியல் டாஸ்க்ஸ் பண்ணுங்க—சம்மரிஸ், அவுட்லைன்ஸ் அல்லது ஈமெயில் டிராஃப்ட்ஸ். தெளிவான, கணிக்கக்கூடிய பதில்களுக்கு டெம்பரேச்சர் லோவா வெச்சுக்கோங்க மற்றும் நல்லா ஒர்க் ஆகுற பிராம்ட்ஸ சேவ் பண்ணுங்க.
""Q2:எந்த மாடல் ரைட்டிங் மற்றும் கோடிங்க்கு Ollama-ல யூஸ் பண்ணனும்?\ரைட்டிங்க்கு, llama3 அல்லது mistral-ல பேலன்ஸ்டு குவாலிட்டி மற்றும் ஸ்பீடுல ஸ்டார்ட் பண்ணுங்க. கோடிங்க்கு, codellama அல்லது ஒரு கோட்-ஆப்டிமைஸ்டு மாடல ட்ரை பண்ணுங்க; ஹாலுசினேஷன்ஸ கம்மி பண்ண டெம்பரேச்சர 0.2–0.4-ல வெச்சுக்கோங்க.
""Q3:Ollama (RAG) வச்சு என் டாக்குமெண்ட்ஸ யூஸ் பண்ண முடியுமா?\ஆமாம்—உங்க ஃபைல்ஸ ஒரு எம்பேடிங் டூலோட இன்டெக்ஸ் பண்ணி, ஒவ்வொரு கொயரிக்கும் டாப் சங்க்ஸ ரிட்ரைவ் பண்ணி, அந்த சங்க்ஸ உங்க பிராம்ப்ட்ல Ollama-க்கு கான்டெக்ஸ்டா சேர்த்துக்கோங்க. இது உங்க AI-க்கான ஓப்பன்-புக் மோடு மாதிரி, மற்றும் இது ஃபேக்சுவல் அக்யூரசிய ரொம்ப இம்ப்ரூவ் பண்ணும்.
""Q4:என் லேப்டாப்ல Ollama ஏன் ஸ்லோவா இருக்கு, அத எப்படி ஸ்பீடு அப் பண்றது?\சின்ன குவாண்டிஸ்டு மாடல் யூஸ் பண்ணுங்க (எ.கா., Q4), மேக்ஸ் டோக்கன்ஸ ரெடியூஸ் பண்ணுங்க, மற்றும் தேவைப்பட்டா டெம்பரேச்சர லோ பண்ணுங்க. உங்ககிட்ட Apple சிலிகான் அல்லது ஒரு மாடர்ன் NVIDIA GPU இருந்தா, நோட்டிசபில் பூஸ்ட்டுக்கு ஹார்டுவேர் ஆக்சலரேஷன எனேபிள் பண்ணுங்க.
""Q5:Sider.AI ஒரு Ollama வொர்க்ஃப்ளோல எப்படி ஃபிட் ஆகும்?Sider.AI உங்க லோக்கல் Ollama மாடல்ஸ் மற்றும் கிளவுட் மாடல்ஸ ஒரே இன்டர்ஃபேஸ்ல கனெக்ட் பண்ணும், அவுட்புட்ஸ கம்பேர் பண்றதுக்கும் சாட்ஸ ஆர்கனைஸ் பண்றதுக்கும் ஈஸியாக்கும். பிராம்ட்ஸ் டெஸ்ட் பண்றதுக்கும், ஹிஸ்டரிய நீட்டா வெச்சுக்கறதுக்கும், மற்றும் அஞ்சு ஆப்ஸ மாத்தி மாத்தி யூஸ் பண்ணாம பெஸ்ட் ஆன்ஸர பிக் பண்றதுக்கும் இது ரொம்ப ஹேண்டியா இருக்கும். "
