هل حاولت يومًا تجميع قطعة أثاث مسطحة مع تعليمات تبدو وكأن مصاص دماء قد قضى عليها؟ هذا هو شعور تشغيل نموذج ذكاء اصطناعي محلي بالنسبة للكثيرين في عام 2023: مغرٍ، وتمكيني، ومربك بما يكفي ليجعلك ترغب في تعلم النجارة بدلاً من ذلك. لقد ساعد GPT4All - مثبت سهل الاستخدام، وواجهة مستخدم لائقة - ولكن ربما لا يناسبك تمامًا. ربما تريد إدارة أسهل للنماذج، أو سرعة وحدة معالجة الرسومات، أو واجهة مستخدم ويب قابلة للمشاركة، أو طريقة بسيطة للغاية لـ "مجرد الدردشة مع مستنداتي، من فضلك".
خبر سار: ازدهرت مجموعة كاملة من بدائل GPT4All. إنها تركز على الخصوصية، والسرعة على الجهاز، والشعور الدافئ بعدم إرسال بياناتك إلى السحابة. اليوم، سأقوم بجولة في أفضل الخيارات، وأشرح أين يتألق كل منها، - وهذا الجزء أساسي - وأوضح لك كيف يمكن لشخص عادي (أنت!) استخدامها بالفعل في المنزل أو في العمل أو عندما تأخذ شبكة Wi-Fi استراحة لتناول القهوة.
تنبيه قبل أن نبدأ: يتحرك البرنامج بسرعة، وتتغير الميزات، وسيختلف استخدامك اعتمادًا على جهاز الكمبيوتر الخاص بك. فكر في هذا كدليل سفر، وليس الوصايا العشر. إذا كنت تبحث عن أدوات LLM محلية يتحدث عنها الناس في الفترة من 2024 إلى 2025، فإن القائمة المختصرة تتضمن Ollama و LM Studio و Text Generation WebUI (المعروف أيضًا باسم oobabooga) و Jan و Llama.cpp و LocalAI والأصدقاء. تضع العديد من الملخصات هذه الأسماء في المقدمة والمركز كخيارات LLM محلية مفضلة لهذا العام.
ما الذي نعمل على تحسينه على أي حال؟
إذا كانت عبارة "LLMs المحلية" عبارة جديدة بالنسبة لك، فهذا يعني ببساطة تشغيل نماذج الذكاء الاصطناعي على جهازك الخاص - لا توجد سحابة، ولا فاتورة شهرية، ولا يتم إرسال البيانات إلى خوادم غير معروفة. ستتخلى عن بعض القوة الحصانية الخام للنماذج السحابية الضخمة (في الوقت الحالي)، ولكنك ستكتسب الخصوصية والتحكم والسرعة القابلة للاستخدام بشكل مدهش إذا اخترت حجم النموذج والأجهزة المناسبة.
الآن، كيف تختار الأداة المناسبة لتشغيل هذه النماذج؟ دعنا نفرز حسب نوع الشخصية.
- Ollama: بواب سطر الأوامر "الذي يعمل ببساطة"
إذا كنت تتمنى يومًا طريقة بكلمة واحدة لتثبيت النماذج وتبديلها، فإن Ollama يشبه طلب البيتزا: "ollama run llama3" ويجلب العجين والصلصة والإضافات المناسبة. إنها خدمة تعمل في الخلفية وتتعامل مع التنزيل والتكميم والتحديثات لقائمة متزايدة من النماذج. يمكنك استخدامه بمفرده، أو توصيله بتطبيقات أخرى من خلال واجهة برمجة التطبيقات المحلية الخاصة به، أو إقرانه بواجهة مستخدم ويب. إنه مثل جهاز التحكم عن بعد الشامل لـ LLMs المحلية.
ما هو عظيم بالنسبة له:
- بدايات سريعة: يمكنك الدردشة مع نموذج في دقائق.
- القفز بين النماذج: اختبار Llama 3 هذه الساعة ومتغير Mistral بعد الغداء.
- عمليات التكامل: تتحدث الكثير من أدوات المجتمع لغة Ollama.
ما يجب الانتباه إليه:
- إنها في الغالب تجربة CLI. ليست مخيفة، مجرد عادي.
- ستظل ترغب في الحصول على واجهة مستخدم في الأعلى لجلسات أطول - Open WebUI أو أي شيء يتحدث إلى Ollama API.
إذا كنت تتصفح: Ollama هو مزيل الاحتكاك. تصنفه الأدلة الأحدث باستمرار من بين أفضل أدوات LLM المحلية لعام 2025.
- LM Studio: أفضل تجربة "شبيهة بالتطبيق" للبشر
إذا كان Ollama عبارة عن بيتزا عن طريق الأمر، فإن LM Studio هو مطعم تراتوريا الحي المريح الخاص بك. إنه تطبيق سطح مكتب كامل مع كتالوج نماذج مرئية وتنزيلات بنقرة واحدة ونوافذ دردشة وبعض المقابض المفيدة لطول السياق ومطالبات النظام. يمكنك حتى تشغيل خادم محلي حتى تتمكن التطبيقات الأخرى من الاتصال، وهي طريقة رائعة لقول "استخدم LM Studio كمحرك الذكاء الاصطناعي الشخصي الخاص بك في المنزل".
ما هو عظيم بالنسبة له:
- الأشخاص الذين يفضلون الأزرار على المحطات الطرفية.
- تجربة نموذج والتبديل إلى آخر دون إعادة تعلم أداة.
- هندسة المطالبات خفيفة الوزن وإدارة مكتبة من النماذج.
ما يجب الانتباه إليه:
- قد يتجاوز المستخدمون المتميزون إعداداته الافتراضية، ولكن هناك عمقًا إذا قمت بالبحث.
- كما هو الحال مع جميع الأدوات المحلية، يعتمد الأداء بشكل كبير على أجهزتك.
غالبًا ما تتضمن الملخصات LM Studio من بين أفضل الخيارات لتشغيل النماذج محليًا - ولسبب وجيه: إنه أكثر الطرق سهولة للوصول إلى القادمين الجدد.
- Text Generation WebUI (oobabooga): مختبر دردشة الجيش السويسري
هذا هو نادي الهواة: تطبيق ويب محلي تقوم بتشغيله في متصفحك، مليء بالإضافات وبطاقات الأدوار وقوالب المطالبات ومساعدي الضبط الدقيق والمزيد من أشرطة التمرير أكثر من قائمة المطعم. إذا كانت ليلة الجمعة المثالية الخاصة بك هي "مقارنة إعدادات أخذ عينات الرموز عبر ستة نماذج ووحدتي معالجة رسومات"، فهذا هو مكانك.
ما هو عظيم بالنسبة له:
- التخصيص العميق: طرق أخذ العينات، وتجهيزات LoRA، والإعدادات المسبقة.
- دردشات الشخصية واللعب الأدوار والكتابة الإبداعية والتجريب.
- جلسات طويلة ومكونات إضافية.
ما يجب الانتباه إليه:
- قد يكون الإعداد أكثر تعقيدًا من كتيبة النقرة الواحدة.
- مع القوة تأتي التعقيد. إنه مختبر، وليس منتجعًا صحيًا.
- Jan: التطبيق الودود والمجمع والذي لا يحتاج إلى الإنترنت
يشبه Jan حقيبة "الذكاء الاصطناعي الجاهزة": فهو يجمع بين محرك ونماذج بحيث يمكنك التشغيل في وضع عدم الاتصال دون العبث. فكر: "أريد فقط مساعد دردشة خاصًا دون تعلم المصافحة السرية المحلية لـ LLM." يهدف إلى أن يكون تجربة سهلة الاستخدام وأولوية الخصوصية بمجرد إخراجها من الصندوق.
ما هو عظيم بالنسبة له:
- المستخدمون والمسافرون الذين لديهم أولوية وضع عدم الاتصال.
- المحادثة وصياغة الملاحظات ومساعدة الترميز الأساسية بدون الإنترنت.
ما يجب الانتباه إليه:
- قائمة النماذج ليست واسعة مثل مجموعة DIY.
- قد يصطدم المستخدمون المتميزون بالقيود في وقت أقرب من الأدوات الأخرى.
- Llama.cpp والأصدقاء: سباكة الأداء
تحت غطاء العديد من الأدوات المحلية يوجد Llama.cpp - وهو تطبيق C/C++ مُحسّن للغاية يجعل هذه النماذج تعمل بشكل جيد بشكل مذهل على وحدات المعالجة المركزية ووحدات معالجة الرسومات الاستهلاكية. يمكنك استخدامه مباشرة إذا كنت تحب التحكم منخفض المستوى، أو مجرد السماح لأدوات مثل Ollama و LM Studio بمعالجته نيابة عنك. إذا كنت تحلم بتنسيقات التكميم، فمرحبًا بك في المنزل.
ما هو عظيم بالنسبة له:
- أداء المعدن الخالص والتحكم الدقيق.
- التشغيل على أجهزة متواضعة مع تكميم دقيق.
ما يجب الانتباه إليه:
- منطقة DIY. توقع بعض القراءة ووقت المحطة الطرفية.
- LocalAI: طموحات استبدال API المنسدلة
تهدف LocalAI إلى محاكاة واجهات برمجة تطبيقات الذكاء الاصطناعي الشائعة محليًا. إذا كان تطبيقك يتوقع نقطة نهاية على غرار OpenAI، فإن LocalAI تريد أن تكون البديل المتوافق مع المكونات الإضافية - على جهاز الكمبيوتر المحمول أو الخادم الخاص بك. بالنسبة للمطورين، يمكن أن تكون هذه قوة عظمى: الخصوصية بالإضافة إلى قابلية النقل دون إعادة كتابة نصف التعليمات البرمجية الخاصة بك.
ما هو عظيم بالنسبة له:
- المطورون الذين يريدون واجهة برمجة تطبيقات محلية وخاصة "تعمل تمامًا مثل السحابة".
- المستضيفون الذاتيون والفرق الصغيرة.
ما يجب الانتباه إليه:
- يتطلب المزيد من الإعداد والصيانة أكثر من التطبيقات التي تواجه المستهلك.
- Open WebUI (وما شابه ذلك): الوجه الأكثر ودية لمحركاتك
قم بإقران الواجهة الخلفية مثل Ollama بواجهة أمامية مثل Open WebUI، وستحصل على واجهة دردشة مبهجة وقابلة للمشاركة مع السجل وتحميل الملفات وتبديل النماذج المتعددة. إنه مثل إعطاء الذكاء الاصطناعي المحلي الخاص بك غرفة معيشة بدلاً من جعله يجلس على صندوق حليب في المرآب.
ما هو عظيم بالنسبة له:
- الفرق أو الأسر التي تريد دردشة نظيفة تعتمد على المتصفح.
- تجميع نماذج الواجهة الخلفية المتعددة في واجهة واحدة.
ما يجب الانتباه إليه:
- أنت تدير طبقتين - المحرك وواجهة المستخدم.
أيهما يجب أن تختار؟ اختبار شخصية لـ LLMs المحلية
- "أريد أن أبدأ بسرعة ولا أمانع في سطر الأوامر." اختر Ollama.
- "من فضلك أعطني تطبيقًا لطيفًا مع أزرار." اختر LM Studio.
- "أنا أعبث، إذن أنا موجود." اختر Text Generation WebUI.
- "غير متصل بالإنترنت، خاص، مُجمَّع." اختر Jan.
- "أقوم ببناء تطبيقات وأريد واجهة برمجة تطبيقات محلية." اختر LocalAI.
- "أريد التحكم المطلق ومقابض السرعة." اختر Llama.cpp مباشرة (أو الأدوات المبنية عليها).
كلمة سريعة حول الأداء والأجهزة
تعمل النماذج المحلية بشكل أسرع على وحدات معالجة الرسومات، ولكن يمكن لوحدات المعالجة المركزية الحديثة أن تعمل بشكل جيد بشكل مدهش مع النماذج الأصغر حجمًا والمكممة. الترجمة: لا تقم بتنزيل نموذج عملاق ذي 70 مليار معلمة إذا كان لديك جهاز كمبيوتر محمول بدون مروحة يعتقد أن Minesweeper مكثف. جرب نماذج 3B-8B للكتابة العامة والعصف الذهني؛ انتقل إلى 13B-14B إذا كان لديك وحدة معالجة رسومات متوسطة المدى؛ اذهب أكبر فقط إذا كنت تعلم أنك بحاجة إليه - وفاتورة الكهرباء الخاصة بك مستعدة عاطفياً.
تعد نوافذ السياق (مقدار النص الذي يمكن للنموذج "تذكره") أكثر أهمية مما تعتقد. إذا كنت تقوم بإجراء أسئلة وأجوبة للمستند، فاختر نموذجًا وأداة تتيح لك إرسال سياق أطول أو استخدام إنشاء معزز للاسترجاع (RAG) لـ "البحث أولاً، ثم الإجابة". تقوم العديد من الأدوات الآن بدمج فهرسة المستندات بحيث يمكنك إسقاط ملف PDF وقول، "أخبرني الآن الصفحة التي تخفي فيها سياسة الاسترداد"، دون التمرير مثل الراكون عبر صندوق قمامة.
ماذا عن الخصوصية؟
تحتفظ LLMs المحلية ببياناتك على جهازك، وهو نصف سبب استخدامها. ولكن تذكر: لا تزال المكونات الإضافية والملحقات و "تنزيل هذا النموذج من الإنترنت" تتضمن... الإنترنت. حافظ على تحديث نظامك، وقم بتنزيل النماذج من المحاور الموثوقة، وتعامل مع الملفات الحساسة مثل الملفات الحساسة. المحلي لا يعني الإهمال.
كيفية اختبار البدائل دون ندم
إليك طريقة منخفضة الدراما لتجربة عدد قليل:
- ابدأ بـ LM Studio. إنه ودود ويمنحك إحساسًا بأحجام النماذج وسرعاتها على أجهزتك.
- قم بتثبيت Ollama بعد ذلك. استخدمه كمحرك خلفية وجرب واجهة أمامية مثل Open WebUI.
- إذا كنت تريد التعمق أكثر، فقم بتشغيل Text Generation WebUI للميزات المتقدمة والإعدادات المسبقة للعب الأدوار.
- إذا كانت "الحزمة غير المتصلة بالإنترنت" تسعد قلبك، فجرب Jan ومعرفة ما إذا كانت تغطي مهامك اليومية.
اطرح على كل أداة هذه الأسئلة:
- هل يقوم بتحميل نموذج بسرعة ويستجيب بسرعة كافية للدردشة؟
- هل من السهل تبديل النماذج والاحتفاظ بسجل الدردشة الخاص بك؟
- هل يمكنه التعامل مع وظيفتك اليومية: رسائل البريد الإلكتروني أو الملاحظات أو مقتطفات التعليمات البرمجية أو أسئلة وأجوبة المستندات؟
فحص واقعي ودي: نماذج صغيرة مقابل توقعات كبيرة
نحن في العصر الذهبي لـ "جيد بما فيه الكفاية محليًا". النماذج الأصغر أفضل بكثير مما كانت عليه قبل عام، وتتيح لك تقنيات التكميم تشغيلها على أجهزة كمبيوتر عادية. ولكن من غير المحتمل أن يكتب نموذج 7B اقتراحًا قانونيًا لا تشوبه شائبة أو تصحيح أخطاء قاعدة تعليمات برمجية مكونة من ألف سطر بالطريقة التي يمكن أن يفعلها نموذج سحابي من الدرجة الأولى. إذا اصطدمت بالسقف، فهذا ليس أنت - إنها الفيزياء والرياضيات وقانون الديناميكا الحرارية الذي يقطب جبينه علينا.
أين يناسب GPT4All الآن؟
لا يزال GPT4All خيارًا قويًا، خاصةً لتطبيقه سهل الاستخدام وكتالوج النماذج المحلية. ولكن إذا كنت تتوق إلى إدارة محرك أبسط (Ollama)، أو شعور "تطبيق أصلي" أكثر (LM Studio)، أو أقصى قدر من القدرة على التعديل (Text Generation WebUI)، أو أجواء غير متصلة بالإنترنت مُجمَّعة مسبقًا (Jan)، فقد تجد ملاءمة أفضل مع البدائل المذكورة أعلاه. تستمر الملخصات الأخيرة في وضع GPT4All في المزيج - ولكن ليس دائمًا في القمة للقادمين الجدد الذين يريدون أقل احتكاك.
سيناريوهات واقعية: أي بديل يفوز؟
- الكاتب في عطلة نهاية الأسبوع: أنت تقوم بصياغة منشورات المدونة، والعصف الذهني للعناوين، وإعادة كتابة الفقرات بصوت أكثر ودية. سيشعر LM Studio بالإضافة إلى نموذج 7B-8B وكأنه قاموس مرادف فائق الشحن يفهم أيضًا المشاعر.
- المستشار الذي يركز على الخصوصية: أنت تلخص مستندات العميل وتنشئ مقترحات بدون سحابة. قم بإقران Ollama مع Open WebUI وإضافة استرجاع بحيث يمكنك الرجوع إلى ملفات PDF. ستكون الكاتب الشبح الذي لا يكشف الأسرار.
- هاوي المختبر المنزلي: أنت تجرب معلمات أخذ العينات وبطاقات الشخصيات والنماذج المتخصصة للكتابة الإبداعية. Text Generation WebUI هو ملعبك.
- المطور: أنت تريد واجهة برمجة تطبيقات محلية لإنشاء نماذج أولية للتطبيقات دون حرق الرموز المميزة. يتم توصيل LocalAI (أو Ollama API)، ولن تعرف التعليمات البرمجية الخاصة بك الفرق، ويحصل الكمبيوتر المحمول الخاص بك على فرصة لتمثيل مركز بيانات.
- المسافر: ستكون على متن طائرة بدون Wi-Fi ولكنك لا تزال بحاجة إلى صديق للكتابة. Jan هو مساعدك المحمول.
ركن استكشاف الأخطاء وإصلاحها: عندما تسوء الأمور
- إنه بطيء: جرب نموذجًا أصغر وأكثر تكميمًا بشكل مكثف (مثل Q4_K_M). تقليل طول السياق. أغلق التطبيقات التي تستهلك الذاكرة. إذا كان لديك وحدة معالجة رسومات منفصلة، فتأكد من أن الأداة تستخدمها بالفعل.
- إنه كثير النسيان: قم بزيادة نافذة السياق إذا كانت ذاكرة الوصول العشوائي الخاصة بك تسمح بذلك. أو قم بإعداد سير عمل RAG بحيث يتمكن النموذج من "البحث عن" الحقائق من ملفاتك.
- إنه لطيف: استخدم مطالبات النظام والأمثلة. أظهر له فقرة تعجبك وقل "اكتب مثل هذا، ولكن عن .
- نظرة أوسع على أفضل الأدوات لتشغيل النماذج محليًا - LM Studio و Jan و Llamafile و GPT4All و Ollama و Llama.cpp.
الأسئلة الشائعة
س1: ما هي أفضل بدائل GPT4All للمبتدئين؟
ابدأ بـ LM Studio للحصول على تجربة ودية تشبه التطبيق، ثم أضف Ollama إذا كنت تريد سهولة تبديل النماذج والتكامل. إذا كنت تحب واجهة مستخدم ويب مع الكثير من الميزات، فإن Text Generation WebUI هو المفضل لدى الهواة.
س2: أي بديل لـ GPT4All هو الأسرع على جهاز كمبيوتر محمول نموذجي؟
تعتمد السرعة على أجهزتك وحجم النموذج. عادةً ما يكون Ollama بالإضافة إلى نموذج 7B-8B مكمم جيدًا (أو LM Studio الذي يشغل نفس النموذج) سريعًا؛ استخدم وحدة معالجة الرسومات الخاصة بك إذا كانت متوفرة وحافظ على طول السياق معقولاً.
س3: ما هو أبسط إعداد غير متصل بالإنترنت لاستبدال GPT4All؟
جرب Jan للحصول على تجربة شاملة وسهلة الاستخدام في وضع عدم الاتصال. إذا كنت تريد المزيد من المرونة دون تعقيد، فإن LM Studio هو الخيار الثاني الأقرب.
س4: هل يمكن لبدائل GPT4All التعامل مع أسئلة وأجوبة المستندات الخاصة؟
نعم - استخدم أداة تدعم إنشاء معزز للاسترجاع (RAG) أو نوافذ سياق طويلة. قم بإقران Ollama أو LM Studio بواجهة مستخدم ويب (مثل Open WebUI) ومكون إضافي RAG للاستعلام عن ملفات PDF الخاصة بك بشكل آمن.
س5: هل يجب أن أستخدم LLMs المحلية أو مساعد متصفح مثل Sider.AI؟
استخدم كليهما عندما يكون ذلك منطقيًا: LLMs المحلية للخصوصية والعمل دون اتصال بالإنترنت، و Sider.AI عند تصفح الصفحات أو تلخيصها أو صياغة الردود. يتعلق الأمر باختيار الأداة المناسبة للمهمة، وليس اختيار فائز واحد. 
