کیا آپ نے کبھی کارٹون والے شخص کے بغیر IKEA فرنیچر کا ایک ٹکڑا جوڑنے کی کوشش کی ہے؟ مقامی AI ماڈلز کو شروع کرنا ایسا ہی محسوس ہو سکتا ہے۔ بہت سارے حصے، پراسرار نام، اور یہ مسلسل خوف کہ آپ نے "LLM runtime" کے لیبل والا اسکرو چھوٹ دیا۔ Ollama کو آزمائیں۔ یہ آپ کی اپنی مشین پر بڑے لسانی ماڈلز چلانے کے لیے ایلن رنچ کی طرح ہے—تیز، نجی اور حیرت انگیز طور پر تکلیف دہ ڈیوائس نہیں ہے۔
اس گائیڈ میں، ہم Ollama کو عملی طور پر استعمال کرنے جا رہے ہیں۔ صرف اس کے بارے میں پڑھیں گے نہیں۔ ہم اسے ڈاؤن لوڈ کریں گے، ایک ماڈل چلائیں گے، اسے اپنی مرضی کے مطابق بنائیں گے، اسے اپنے پسندیدہ ٹولز میں شامل کریں گے، "میرا پنکھا کیوں چیخ رہا ہے؟" والے لمحے کو ٹھیک کریں گے، اور ایک ایسے سیٹ اپ کے ساتھ چلیں گے جس پر آپ اصل میں کام کرنے کے لیے بھروسہ کر سکتے ہیں۔ ہاں، آف لائن بھی۔ ہاں، ہوائی جہاز میں بھی۔ نہیں، آپ کو پی ایچ ڈی یا سرور فارم کی ضرورت نہیں ہے۔
یہاں Ollama کو ایک پیشہ ور کی طرح استعمال کرنے کا طریقہ بتایا گیا ہے—اپنے لیپ ٹاپ یا اپنی عقل کو کھوئے بغیر۔
Ollama کیا ہے (اور آپ کو اس کی پرواہ کیوں کرنی چاہیے؟)
Ollama مقامی طور پر بڑے لسانی ماڈلز (LLMs) چلانے کا ایک ہلکا پھلکا طریقہ ہے۔ ChatGPT کے بارے میں سوچیں، لیکن ماڈل آپ کے کمپیوٹر پر موجود ہے۔ اس کے فوائد:
- رازداری: آپ کا ڈیٹا آپ کی مشین پر رہتا ہے۔ کسی پراسرار کلاؤڈ ٹرپ کی ضرورت نہیں۔
- رفتار: سرور کا انتظار کرنے کی ضرورت نہیں۔ یہ آپ کے CPU/GPU کے چمکنے کا وقت ہے۔
- کنٹرول: ماڈل، ورژن، سائز اور رویہ منتخب کریں۔
اگر آپ نے کبھی سوچا ہے کہ، "کاش میں AI سے اپنی ذاتی نوٹس نیپچون کو بھیجے بغیر سوالات پوچھ سکتا،" تو یہ آپ کے لیے ہے۔
Ollama کو استعمال کرنے کا تیز ترین طریقہ
آپ طریقہ کار جاننے آئے ہیں۔ آئیے طریقہ کار کرتے ہیں۔
مرحلہ 1: Ollama انسٹال کریں
- macOS: آفیشل سائٹ سے انسٹالر استعمال کریں یا
brew install --cask ollama اگر آپ طاقتور محسوس کرنا چاہتے ہیں۔
- Windows: انسٹالر حاصل کریں۔ یہ ایک نارمل سیٹ اپ ہے—اگلا، اگلا، انسٹال۔
- Linux: آفیشل اسکرپٹ کے ذریعے ایک لائنر۔ 30 سیکنڈ کے لیے اپنے اندر کے سس ایڈمن کو چینل کریں۔
انسٹال ہونے کے بعد، Ollama ایک مقامی سروس چلاتا ہے۔ آپ اس سے ٹرمینل، پاور شیل یا دیگر ایپس کے ذریعے بات کرتے ہیں جو اس کے ساتھ مربوط ہیں۔
مرحلہ 2: اپنا پہلا ماڈل کھینچیں
اپنے ٹرمینل میں:
پہلی بار، Ollama ماڈل ویٹس ڈاؤن لوڈ کرتا ہے۔ اسے ایک بڑی Netflix فلم کو کیش کرنے کی طرح سمجھیں۔ اس کے بعد، یہ فوری ہے۔ آپ کو ایک پرامپٹ ملے گا جہاں آپ ٹائپ اور چیٹ کر سکتے ہیں۔
ایک ٹیسٹ آزمائیں: "وکیپیڈیا کے پینگوئن پر اندراج کا 2 جملوں کا خلاصہ لکھیں—کوئی فضول بات نہیں۔" اگر یہ پینگوئن TED ٹاک کے ساتھ جواب دیتا ہے، تو آپ کو معلوم ہے کہ یہ زندہ ہے۔
مرحلہ 3: ماڈلز کو ایسے تبدیل کریں جیسے آپ پلے لسٹس تبدیل کرتے ہیں۔
مقبول ماڈلز جنہیں آپ آزما سکتے ہیں:
ہر ایک کی مختلف خوبیاں ہیں۔ Mistral فوری ہے۔ Llama 3.1 ہمہ جہت ہے۔ Phi ہلکا پھلکا اور اپنی جسامت کے لحاظ سے حیرت انگیز طور پر ہوشیار ہے۔ آپ مخصوص ٹیگز کھینچ سکتے ہیں، مثال کے طور پر، llama3:8b-instruct یا چھوٹے quantized ویریئنٹس۔
پرو ٹپ: وقت سے پہلے ڈاؤن لوڈ کرنے کے لیے ollama pull <model> استعمال کریں۔ یہ دیکھنے کے لیے کہ آپ کے پاس کیا ہے ollama list استعمال کریں اور اگر آپ کی SSD رو رہی ہے تو ollama rm <model> استعمال کریں۔
مرحلہ 4: سماجی مہارتوں والے ہیکر کی طرح ٹرمینل سے چیٹ کریں۔
- ایک سیشن شروع کریں:
ollama run llama3
- ایک سسٹم میسج فراہم کریں:
ollama run llama3 --system "آپ ایک جامع کوڈنگ اسسٹنٹ ہیں۔"
- چیٹ موڈ میں داخل ہوئے بغیر ایک وقتی پرامپٹ دیں:
ollama run llama3 -p "Kubernetes کو اس طرح سمجھائیں جیسے میں پانچ سال کا ہوں۔"
آپ ایک جادوگر کی طرح آواز دینے لگیں گے۔ ایک شائستہ جادوگر۔
مرحلہ 5: Ollama کو اپنی پسندیدہ ایپس کے ساتھ استعمال کریں۔
یہاں Ollama کو استعمال کرنے کا طریقہ تفریحی ہو جاتا ہے۔ Ollama HTTP بولتا ہے۔ اس کا مطلب ہے کہ بہت سارے ٹولز اس سے بات کر سکتے ہیں۔
- مقامی ویب UIs: بہت سارے AI چیٹ UIs آپ کے Ollama اینڈ پوائنٹ سے منسلک ہو سکتے ہیں۔ آپ کو ایک خوبصورت ونڈو، علیحدہ چیٹس اور ہسٹری ملتی ہے۔
- کوڈ ایڈیٹرز: VS Code کے لیے ایکسٹینشنز آپ کے پرامپٹس کو Ollama—ان لائن کوڈ وضاحتیں، ریفیکٹرز اور ٹیسٹوں تک پہنچا سکتے ہیں۔
- نوٹ لینے والی ایپس: کچھ آپ کو خلاصے اور برین اسٹارمنگ کے لیے مقامی ماڈل سے منسلک کرنے دیتی ہیں۔ میٹنگ نوٹس کے لیے بہترین جو اصل میں کہیں جاتے ہیں۔
خبردار: اگر آپ کو ایک انتہائی صاف، براؤزر پر مبنی چیٹ اور ریسرچ ورک فلو چاہیے، تو یہ بات قابل ذکر ہے—Sider.AI مقامی اور کلاؤڈ ماڈلز سے منسلک ہو سکتا ہے، چیٹس کو منظم کر سکتا ہے اور آپ کو سائیڈ بہ سائیڈ پرامپٹس کو ٹیسٹ کرنے میں مدد کر سکتا ہے۔ جب میں "ماڈل A زیادہ ہوشیار ہے" اور "ماڈل B تیز ہے" کے درمیان پھنس جاتا ہوں، تو یہ مجھے ایماندار رکھتا ہے۔ ابتدائی افراد کا بلیو پرنٹ: Ollama کے ساتھ آپ کا پہلا نتیجہ خیز گھنٹہ
آپ کے پاس 60 منٹ ہیں۔ آئیے "کیا؟" کو "یقینا" میں تبدیل کرتے ہیں۔
- Ollama انسٹال کریں۔ کافی کا گھونٹ۔ مکمل۔
llama3:8b-instruct کھینچیں۔ یہ زیادہ تر لیپ ٹاپس پر معیار اور رفتار کے لیے بہترین جگہ ہے۔
- ایک سسٹم پرامپٹ بنائیں جو آپ کے کام کے مطابق ہو: "آپ میرے تحقیقی معاون ہیں۔ ہمیشہ ذرائع اور بلٹ پوائنٹس فراہم کریں۔ جب تک میں نہ کہوں جوابات کو 200 الفاظ سے کم رکھیں۔"
- تین ایسے کاموں کی جانچ کریں جو آپ اصل میں کرتے ہیں:
- 250 الفاظ سے کم میں ایک مضمون کا خلاصہ کریں۔
- اپنے نیوز لیٹر کے لیے 10 عنوانات کے آئیڈیاز پر برین اسٹارم کریں۔
- میٹنگ نوٹس کو مالکان اور تاریخوں کے ساتھ ایکشن آئٹمز میں تبدیل کریں۔
- اپنی پسند کے پرامپٹس کو محفوظ کریں۔ انہیں دوبارہ استعمال کریں۔ اس طرح آپ AI کے ساتھ کھیلنے سے لے کر اسے اصل میں استعمال کرنے تک جاتے ہیں۔
بونس: اگر آپ کوڈ لکھتے ہیں، تو codellama یا کوڈ سے مطابقت رکھنے والا ماڈل کھینچیں اور اسے اپنا فنکشن کھلائیں۔ ٹیسٹوں، ریفیکٹرز یا ڈاک اسٹرنگز کے لیے پوچھیں۔ آپ 30% زیادہ ہوشیار محسوس کریں گے، جو کہ مقامی AI کے لیے قانونی حد ہے۔
صحیح ماڈل کا انتخاب کیسے کریں (بغیر کسی سر درد کے)
ماڈل کا انتخاب کرنا اسٹریمنگ پلان کا انتخاب کرنے کی طرح ہے: آپ کو جن چیزوں کی ضرورت نہیں ہے ان کے لیے آپ بالکل زیادہ قیمت ادا کر سکتے ہیں۔
- لکھنا اور برین اسٹارمنگ:
llama3 یا mistral بہترین ہیں۔
- انتہائی ہلکے لیپ ٹاپ:
phi3 یا بڑے ماڈلز کے چھوٹے quantized ورژن آزمائیں۔
- کوڈنگ میں مدد:
codellama، deepseek coder، یا کوڈ سے بہتر بنایا گیا ویرینٹ۔
- کثیر لسانی:
qwen خاندان کثیر لسانی کام ٹھوس انداز میں کرتے ہیں۔
- لمبا سیاق و سباق: اگر آپ بڑی دستاویزات کو فیڈ کرتے ہیں تو بڑے سیاق و سباق ونڈوز کے ساتھ لیبل والے ماڈلز تلاش کریں۔
اگر آپ کا پنکھا ہر بار پرامپٹ کرنے پر ہیلی کاپٹر میں تبدیل ہو جاتا ہے، تو ماڈل کے سائز میں کمی کریں یا زیادہ جارحانہ quantization آزمائیں۔
خفیہ نسخہ: ماڈل فائلیں اور حسب ضرورت رویے
یہاں Ollama حیرت انگیز طور پر خوشگوار ہو جاتا ہے۔ آپ ایک ماڈل فائل بنا سکتے ہیں—بنیادی طور پر ایک نسخہ—جو آپ کے ماڈل کے علاوہ اس کی شخصیت اور ڈیفالٹس کی وضاحت کرتا ہے۔
ماڈل فائل کی مثال (تصوراتی):
FROM llama3:8b-instruct
SYSTEM "آپ ایک کرسپ، دوستانہ اسسٹنٹ ہیں۔ بلٹ پوائنٹس اور چھوٹے جملے استعمال کریں۔"
PARAMETER temperature 0.5
اسے ایک فولڈر میں ماڈل فائل کے طور پر محفوظ کریں، پھر چلائیں:
ollama create crisp-assistant -f Modelfile
ollama run crisp-assistant
اب آپ کے پاس ایک حسب ضرورت اسسٹنٹ ہے جسے آپ ہر جگہ دوبارہ استعمال کر سکتے ہیں۔ یہ آپ کا اپنا نجی ChatGPT ذائقہ بنانے کی طرح ہے—ونیلا، ایسپریسو شاٹس کے ساتھ۔
مجھ سے JSON میں بات کریں: Ollama کا HTTP API استعمال کرنا
اگر آپ میں معمولی ڈویلپر کے رجحانات بھی ہیں، تو API آپ کو مسکرا دے گا۔
- اینڈ پوائنٹ: ` ٹیکسٹ جنریشن کے لیے۔
model، prompt اور اختیاری stream کے ساتھ ایک JSON پے لوڈ بھیجیں۔
- آپ کو ایک سلسلے میں ٹوکن واپس ملیں گے۔ یہ ایک وقت میں ایک کردار، حقیقی وقت میں ایک ناول پڑھنے جیسا لگتا ہے۔
API کیوں استعمال کریں؟
- نیوز لیٹر کے خلاصے کو خودکار بنائیں۔
- اپنی دستاویزات پر ایک چیٹ بوٹ بنائیں۔
- مصنوعات کی تفصیل کو دوبارہ لکھنے کے لیے اسکرپٹس بنائیں۔ (بس ان سب کو ایسے روبوٹ کی طرح آواز نہ دیں جس نے ایک بار امپروو کیا تھا۔)
اپنی فائلوں کے ساتھ Ollama کو کیسے استعمال کریں (غصے کے بغیر RAG)
RAG—بازیافت سے بڑھا ہوا جنریشن—آپ کی فائلوں کو ماڈل کو فیڈ کرتا ہے تاکہ وہ آپ کے مواد کے حقائق کے ساتھ جواب دے، نہ کہ اس کی دھندلی یادداشت کے ساتھ۔
بنیادی راستہ:
- اپنی دستاویزات کو انڈیکس کرنے کے لیے ایک مقامی ایمبیڈنگ ٹول استعمال کریں۔
- ہر سوال پر، اوپر والے حصوں کو تلاش کریں۔
- Ollama کو اپنے پرامپٹ میں سب سے زیادہ متعلقہ متن کو سیاق و سباق کے طور پر بھیجیں۔
اسے AI کے لیے اوپن بک ٹیسٹنگ کی طرح سمجھیں۔ اسے آپ کے ملازم کی ہینڈ بک کو "یاد رکھنے" کی ضرورت نہیں ہے—اسے صرف اس کا حوالہ دینے کی ضرورت ہے۔
پرو موو: اپنے حصوں کو چھوٹا رکھیں (200-600 الفاظ)، سرخیوں کا اضافہ کریں اور پرامپٹ میں ماخذ لنکس شامل کریں تاکہ ماڈل حوالہ دینا سیکھ سکے۔
پرفارمنس ٹیوننگ: Ollama کو اڑائیں (اپنی میز کو پگھلائے بغیر)
- Quantization اہمیت رکھتا ہے: Q4 چھوٹا/تیز ہے، Q8 بڑا/ہوشیار ہے۔ چھوٹے سے شروع کریں، اوپر جائیں۔
- اگر دستیاب ہو تو GPU استعمال کریں: Apple Silicon بہت اچھا کرتا ہے۔ نئے NVIDIA کارڈز؟ شیف کی تعریف۔
- درجہ حرارت: درست جوابات کے لیے کم (0.2-0.5)؛ تخلیقی افراتفری کے لیے زیادہ (0.8+)।
- زیادہ سے زیادہ ٹوکنز: 3,000 الفاظ کا ناول نہ پوچھیں جب تک کہ آپ کو واقعی اس کی ضرورت نہ ہو۔ آپ کا لیپ ٹاپ زندہ رہنا چاہے گا۔
اگر جوابات سست محسوس ہوتے ہیں:
- Chrome ٹیبز بند کریں۔ ہاں، تمام 47۔
- عارضی طور پر پس منظر میں چلنے والی Sync ایپس کو غیر فعال کریں۔
سیکیورٹی اور پرائیویسی: اصل وجہ لوگ Ollama استعمال کرتے ہیں
مقامی کا مطلب مقامی ہے۔ لیکن آئیے لاپرواہ نہ ہوں۔
- حساس ڈیٹا: آپ کلاؤڈ سے زیادہ محفوظ ہیں، لیکن اپنی ڈرائیو کو انکرپٹ کریں اور محفوظ طریقے سے بیک اپ لیں۔
- ماڈل کے ذرائع: قابل اعتماد ریپوز سے کھینچیں۔ اگر ماڈل کی تفصیل ایسی لگتی ہے جیسے کسی بلی نے کی بورڈ پر چل کر لکھی ہو، تو شاید اسے چھوڑ دیں۔
- نیٹ ورک تک رسائی: Ollama مقامی طور پر چلتا ہے۔ جب تک آپ کو معلوم نہ ہو کہ آپ کیا کر رہے ہیں، پورٹ کو عوامی نیٹ ورکس پر ظاہر نہ کریں۔
روزمرہ کے ورک فلو جو آپ اصل میں استعمال کریں گے
کیونکہ "واہ صاف ستھرا" "میں اسے روزانہ استعمال کرتا ہوں" جیسا نہیں ہے۔ حقیقی زندگی میں Ollama کو استعمال کرنے کا طریقہ یہاں ہے:
- میٹنگ کلینر: نوٹس پیسٹ کریں، شخص کے لحاظ سے ایکشن آئٹمز کے لیے پوچھیں اور فالو اپ ای میل ڈرافٹ کی درخواست کریں۔
- ریسرچ بڈی: ایک مضمون پیسٹ کریں۔ ایک جوابی دلیل، دعووں کی تصدیق کے لیے 3 ذرائع اور 60 سیکنڈ کا خلاصہ طلب کریں۔
- کوڈنگ کوپائلٹ: ڈاک اسٹرنگز، ٹیسٹس یا ایک محفوظ regex کے لیے پوچھیں۔ اس تبدیلی کو سادہ انگریزی میں آپ کو واپس سمجھانے کے لیے کہیں۔
- لکھنے کی رفتار: پہلے خاکہ بنائیں، پھر اسے پھیلائیں، پھر لہجے کو سخت کریں۔ ایک سسٹم میسج رکھیں جو آپ کی آواز کی وضاحت کرے۔
- سیکھنا: مجھے SSH سکھائیں جیسے آپ میرے صابر بڑے کزن ہوں۔ پھر مجھ سے کوئز لیں۔
خبردار: اگر آپ یہ سب کچھ ایک جگہ پر رکھنا پسند کرتے ہیں—چیٹ ہسٹریز، سائیڈ بہ سائیڈ ماڈل ٹیسٹس اور فوری ویب لک اپس—تو Sider.AI مقامی ماڈلز کے ساتھ آسانی سے کام کرتا ہے اور آپ کو ایک صاف کاک پٹ فراہم کرتا ہے۔ یہ آپ کے پرامپٹس کے لیے مشن کنٹرول کی طرح ہے۔ خرابیوں کا سراغ لگانا: جب Ollama موڈی ہو جاتا ہے
- "ماڈل نہیں ملا۔" آپ نے اسے ابھی تک نہیں کھینچا۔
ollama pull <model>।
- "میموری ختم ہو گئی۔" ایک چھوٹا quantization یا ماڈل سائز استعمال کریں۔
- "یہ اتنا سست ہے کہ میں اپنے لیپ ٹاپ کی عمر بڑھنے کی آواز سن سکتا ہوں۔" زیادہ سے زیادہ ٹوکنز کو کم کریں، ماڈلز کو تبدیل کریں یا GPU ایکسلریشن استعمال کریں۔
- "جوابات بہت مبہم ہیں۔" درجہ حرارت کم کریں اور اپنے پرامپٹ میں مثالیں شامل کریں۔
- "یہ میری ہدایات کو نظر انداز کرتا رہتا ہے۔" سسٹم پرامپٹ میں قوانین ڈالیں، نہ کہ صرف صارف پرامپٹ میں۔
پرو ٹپ: کام کرنے والے پرامپٹس کو محفوظ کریں۔ اچھے پرامپٹس اچھی کافی کی ترکیبوں کی طرح ہیں۔ مستقبل کا آپ ماضی کے آپ کا شکریہ ادا کرے گا۔
اعلی درجے کی چالیں: ملٹی ماڈل، ٹولز اور آٹومیشن
- چین آف تھاٹ لائٹ: جواب دینے سے پہلے مراحل کی فہرست بنانے کے لیے کہیں۔ "پہلے خاکہ بنائیں، پھر پیراگراف بہ پیراگراف لکھیں۔"
- ملٹی ماڈل ورک فلو: ایک تخلیقی ماڈل کے ساتھ برین اسٹارم کریں، ایک درست ماڈل کے ساتھ تصدیق کریں۔ بڈی کوپ مووی کے بارے میں سوچیں۔
- ٹول کا استعمال: Ollama کے ارد گرد ویب تلاشیاں، کیلکولیٹرز یا کوڈ پر عمل درآمد اسکرپٹس کے ذریعے لپیٹیں۔ ماڈل کو یہ فیصلہ کرنے دیں کہ کون سا ٹول کال کرنا ہے، لیکن آؤٹ پٹس کی توثیق کریں۔
- بیچ جابز: پروڈکٹ کی تفصیل کی ایک CSV کو ایک اسکرپٹ میں پائپ کریں جو API کو کال کرتا ہے اور نتائج واپس لکھتا ہے۔ کافی، رن، مکمل۔
ٹیموں میں Ollama کو محفوظ طریقے سے کیسے استعمال کریں
اگر آپ غیر سرکاری IT شخص ہیں (معاف کیجیے)، تو حفاظتی اقدامات طے کریں:
- کچھ منظور شدہ ماڈلز پر معیاری بنائیں۔
- ٹیم کی آواز اور فارمیٹنگ کے لیے ایک ماڈل فائل شیئر کریں۔
- بار بار کے کاموں کے لیے ایک پرامپٹ لائبریری رکھیں۔
- یقینی ورک فلو کے لیے ان پٹ/آؤٹ پٹ کو—مقامی طور پر—لاگ کریں تاکہ آپ لوگوں پر رینگے بغیر معیار کا جائزہ لے سکیں۔
"کیا مجھے کلاؤڈ کی ضرورت ہے؟" سوال
کبھی کبھی ہاں۔ اگر آپ کو بڑے سیاق و سباق کی تحقیق، بلیڈنگ ایج ریزننگ یا ملٹی ماڈل وزرڈری کی ضرورت ہے، تو ایک کلاؤڈ ماڈل اب بھی جیت سکتا ہے۔ ہائبرڈ موو ہوشیار ہے:
- ڈرافٹس، نجی دستاویزات اور تیز تکرار کے لیے Ollama کو مقامی طور پر استعمال کریں۔
- پیچیدہ ریزننگ یا بڑے ان پٹس کے لیے کلاؤڈ ماڈل استعمال کریں۔
- ایک ہی انٹرفیس میں نتائج کا موازنہ کریں تاکہ آپ اپنی آنکھوں سے انتخاب کر رہے ہوں، نہ کہ وائبس سے۔
یہ بات قابل ذکر ہے: Sider.AI اس موازنہ کو تکلیف دہ بناتا ہے۔ آپ ایک ہی پرامپٹ کو مقامی Ollama اور ایک کلاؤڈ ماڈل پر روٹ کر سکتے ہیں، پھر بہترین جواب چن سکتے ہیں یا انہیں ضم کر سکتے ہیں۔ یہ دو کافیوں کا ذائقہ ٹیسٹ کرنے اور یہ جاننے کی طرح ہے کہ آپ انہیں مکس کر سکتے ہیں۔ آفس Ollama وسپرر بننے کا آپ کا ایک ہفتے کا منصوبہ
دن 1: انسٹال کریں، llama3 کھینچیں، ایک سسٹم پرامپٹ سیٹ کریں۔
دن 2: اپنے لہجے کے لیے ایک ماڈل فائل بنائیں۔ دو ماڈلز آزمائیں اور فرق نوٹ کریں۔
دن 3: نوٹ لینے یا کوڈنگ ٹول کو Ollama میں وائر کریں۔
دن 4: چند PDFs کے ساتھ ایک چھوٹا RAG پروٹوٹائپ بنائیں۔
دن 5: API کے ساتھ ایک تکلیف دہ کام کو خودکار بنائیں۔
دن 6: اپنی ٹیم کے ساتھ ایک پرامپٹ لائبریری شیئر کریں۔
دن 7: جائزہ لیں کہ کیا کام کیا، کیا نہیں کیا، اور ڈیفالٹس سیٹ کریں۔
اس وقت آپ کو نہ صرف یہ معلوم ہوگا کہ Ollama کو کیسے استعمال کرنا ہے—آپ اسے اس کے بارے میں سوچے بغیر استعمال کر رہے ہوں گے، جو کہ ہمارے پاس موجود ٹولز کا پورا مقصد ہے۔
نتیجہ
Ollama کو کیسے استعمال کرنا ہے تین چیزوں پر آتا ہے:
- شروع کرنے کے لیے اسے مقامی اور آسان رکھیں۔ ایک ماڈل کھینچیں، تین حقیقی کام کریں۔
- سسٹم پرامپٹس اور ماڈل فائلوں کے ساتھ رویے کو حسب ضرورت بنائیں تاکہ یہ آپ کے دماغ کے مطابق ہو، نہ کہ اس کے برعکس۔
- اسے وہاں مربوط کریں جہاں آپ کام کرتے ہیں—ایڈیٹر، براؤزر، نوٹس—تاکہ یہ ایک اور ٹیب نہ ہو جسے آپ بھول جائیں۔
Ollama آپ کے لیپ ٹاپ کو جادوئی نہیں بنائے گا۔ یہ اسے زیادہ آپ کا بنائے گا۔ اور ایک ایسی دنیا میں جہاں ہر ایپ آپ کے ڈیٹا کو کسی اور کے سرور پر بھیجنے کی کوشش کرتی ہے، یہ ایک بہت ہی تازگی بخش اپ گریڈ ہے۔
اب اپنی مقامی AI سے ایک بہتر آؤٹ آف آفس میسج لکھنے کو کہیں۔ اور شاید آپ کو چھٹی لینے کی یاد دلانے کے لیے۔
FAQ
Q1: Ollama کے ساتھ شروع کرنے کا سب سے آسان طریقہ کیا ہے؟
اسے انسٹال کریں، llama3:8b-instruct جیسا دوستانہ ماڈل کھینچیں اور کچھ حقیقی کام چلائیں—خلاصے، خاکہ یا ای میل ڈرافٹس۔ واضح، متوقع جوابات کے لیے درجہ حرارت کو کم رکھیں اور ان پرامپٹس کو محفوظ کریں جو اچھی طرح سے کام کرتے ہیں۔
Q2: Ollama میں لکھنے اور کوڈنگ کے لیے مجھے کون سا ماڈل استعمال کرنا چاہیے؟
لکھنے کے لیے، متوازن معیار اور رفتار کے لیے llama3 یا mistral سے شروع کریں۔ کوڈنگ کے لیے، codellama یا کوڈ سے بہتر بنایا گیا ماڈل آزمائیں۔ کم فریب نظر آنے کے لیے درجہ حرارت کو 0.2-0.4 کے آس پاس رکھیں۔
Q3: کیا میں Ollama (RAG) کے ساتھ اپنی دستاویزات استعمال کر سکتا ہوں؟
ہاں—ہر سوال پر اپنی فائلوں کو ایک ایمبیڈنگ ٹول کے ساتھ انڈیکس کریں، سب سے اوپر والے حصوں کو بازیافت کریں اور ان حصوں کو Ollama کو اپنے پرامپٹ میں سیاق و سباق کے طور پر شامل کریں۔ یہ آپ کے AI کے لیے اوپن بک موڈ کی طرح ہے اور یہ حقائق کی درستگی کو ڈرامائی طور پر بہتر بناتا ہے۔
Q4: Ollama میرے لیپ ٹاپ پر سست کیوں ہے اور میں اسے کیسے تیز کروں؟
ایک چھوٹا quantized ماڈل (مثال کے طور پر، Q4) استعمال کریں، زیادہ سے زیادہ ٹوکنز کو کم کریں اور اگر ضرورت ہو تو درجہ حرارت کم کریں۔ اگر آپ کے پاس Apple Silicon یا جدید NVIDIA GPU ہے، تو ایک نمایاں اضافہ کے لیے ہارڈ ویئر ایکسلریشن کو فعال کریں۔
Q5: Sider.AI ایک Ollama ورک فلو میں کیسے فٹ بیٹھتا ہے؟
Sider.AI ایک انٹرفیس میں آپ کے مقامی Ollama ماڈلز اور کلاؤڈ ماڈلز سے منسلک ہو سکتا ہے، جس سے آؤٹ پٹس کا موازنہ کرنا اور چیٹس کو منظم کرنا آسان ہو جاتا ہے۔ یہ پرامپٹس کی جانچ کرنے، ہسٹری کو صاف رکھنے اور پانچ ایپس کو جگل کیے بغیر بہترین جواب چننے کے لیے آسان ہے۔ 
