What is Unsloth, in simple terms?

Unsloth is a library that makes fine-tuning large language models faster and less memory-hungry. It focuses on QLoRA and other efficiency tricks so you can train useful models on a single 24GB GPU without losing quality.

Is Unsloth better than standard PEFT for QLoRA?

For many real-world tasks, yes—Unsloth typically delivers faster training and lower VRAM while maintaining accuracy. You still use familiar patterns, but you’ll get more experiments done in the same time.

Can I use Unsloth to fine-tune a 70B model on one GPU?

You can often make it work with careful settings, but it won’t be effortless. Unsloth helps with speed and VRAM, yet big models still demand patience and careful batch sizes, sequence lengths, and quantization.

Does Unsloth hurt model quality compared to full-precision finetuning?

With good datasets and QLoRA, most users see similar quality for common tasks like instruction following or summarization. For highly specialized or knowledge-heavy changes, full-precision finetuning may still outperform.

How does [Sider.AI](https://sider.ai) help if it’s not a training tool?

Use [Sider.AI](https://sider.ai) to gather and refine your training data: summarize docs, generate prompts, and draft diverse examples. Better data makes Unsloth shine—think of [Sider.AI](https://sider.ai) as the prep cook that speeds up your kitchen.

مراجعة Unsloth: الطريقة السريعة بشكل مفاجئ لضبط النماذج الكبيرة للذكاء الاصطناعي (بدون وحدة معالجة رسوميات كبيرة)

هل حاولت يومًا خبز كعكة زفاف في فرن محمص؟ هذا هو شعور الضبط الدقيق لنموذج لغوي كبير على وحدة معالجة رسوميات عادية. أنت تقوم بتحميل البيانات وتشغيل الفرن ثم... تنتظر. وتنتظر. تصرخ مروحتك. يبرد قهوتك. تختفي عطلة نهاية الأسبوع. هنا يأتي Unsloth، وهي مكتبة مفتوحة المصدر تقول بشكل أساسي: "ماذا لو كان الفرن المحمص لديه وضع توربو؟" في مراجعة Unsloth هذه، سأخبرك ما هو، وماذا يفعل، وكيف يوفر لك الوقت و VRAM، وأين لا يزال يصطدم بالأثاث.

ما هو Unsloth، ولماذا يثير ضجة كبيرة؟ Unsloth هي مكتبة Python لضبط النماذج اللغوية الكبيرة بدقة - فكر في Llama و Mistral والأصدقاء - مصممة لتكون سريعة وفعالة في استخدام الذاكرة. عرض البيع بسيط: نفس الجودة، ولكن تدريب أسرع واستخدام أقل لـ VRAM. إذا كنت قد تصارعت مع LoRA أو QLoRA، فأنت تعرف الضغط: يمكنك إجراء ضبط دقيق على بطاقة 24 جيجابايت، ولكنه ضيق، وليس سريعًا تمامًا. خدعة Unsloth عبارة عن مجموعة من التعديلات الهندسية - نوى مخصصة، وخيارات محسّنة، وذكاء تحديد الكمية، وسباكة ذاكرة ذكية - حتى تتمكن من التدريب أكثر في نفس الوقت (أو نفسه في وقت أقل).

هل يحل Unsloth محل مجموعتك المعتادة؟ ليس بالضبط. إذا كنت معتادًا على Hugging Face Transformers و PEFT و bitsandbytes، فإن Unsloth يندرج في مكانه كأحد منظمي المكونات الإضافية الأذكياء الذين تشتريهم بعد المرة الثالثة التي تهاجمك فيها كابلات الشحن الخاصة بك. لا تزال تستخدم أنماطًا مألوفة (مجموعات البيانات، حلقات التدريب)، ولكن الأجزاء الروتينية - التلاعب بـ VRAM، وتعديلات السرعة - تحصل على ترقية تلقائية.

من هو Unsloth؟

جمهور "لدي وحدة معالجة رسوميات واحدة بسعة 24 جيجابايت وحلم".

الفرق الصغيرة التي تحتاج إلى شحن النماذج بسرعة دون فاتورة سحابية تتطلب مديرًا ماليًا ومهدئًا.

الهواة الذين يستمتعون بدفع QLoRA إلى أبعد من ذلك دون تفجير VRAM الخاص بهم.

المعلمون والطلاب الذين يرغبون في عرض الضبط الدقيق في فصل دراسي تكون فيه الآلة الأكثر أناقة هي كمبيوتر الألعاب المحمول الخاص بالأستاذ.

تجربة عملية: الضبط الدقيق باستخدام Unsloth إليك الإحساس عندما تقوم بالضبط الدقيق باستخدام Unsloth:

أنت تختار نموذجًا أساسيًا (على سبيل المثال، Llama 3 أو Mistral)، وتختار تحديد الكمية (4-bit QLoRA هو الأكثر إرضاءً للجمهور)، وتشير إلى مجموعة البيانات الخاصة بك.

يمكنك تمكين وحدات Unsloth في برنامج التدريب الخاص بك - عادةً ما يكون ذلك عبارة عن بضعة استيرادات وعلامات.

يمكنك الضغط على Train ومشاهدة استخدام وحدة معالجة الرسوميات الخاصة بك وهو يفهم خيارات حياته. غالبًا ما سترى إنتاجية أعلى، وارتفاعات أقل في VRAM، وعدد أقل من نوبات الغضب "CUDA نفدت الذاكرة".

يمكنك تصدير النموذج الناتج إلى التنسيقات التي يحبها وقت التشغيل الخاص بك - GGUF لوحدة المعالجة المركزية/Ollama، أو safetensors القياسية لوحدات معالجة الرسوميات.

يمكنك تقديمه. ابتسم. خذ لفة.

هذه هي قصة المطور العادي. ولكن بالنسبة لبقيتنا: ماذا يعني أسرع حقًا؟ بمعنى إنساني، إذا كان الضبط الدقيق الأساسي الخاص بك يستغرق ثماني ساعات، فإن تحسينات Unsloth يمكن أن تقلل ذلك إلى شيء أقرب إلى أربع ساعات، اعتمادًا على النموذج والمعلمات الفائقة والأجهزة. تتراكم المدخرات: فترات أسرع، وعدد أقل من عمليات إعادة التشغيل، وتدريب أكثر استقرارًا في ميزانيات VRAM الضيقة. إنه ليس جهاز نقل فوري - لا أحد يحول نموذج 70B إلى وظيفة مدتها دقيقتان. ولكن إذا كنت معتادًا على التحديق في شريط التقدم كما لو كان مدينًا لك بالمال، فستلاحظ الفرق.

من أين تأتي السرعة (بدون درجة الدكتوراه)

استخدام أكثر ذكاءً للذاكرة: فكر في الأمر مثل التعبئة لرحلة باستخدام مكعبات الضغط بدلاً من رمي كل شيء بشكل فضفاض. لا تزال تحضر نفس خزانة الملابس، لكن الحقيبة تغلق بالفعل.

توازن تحديد الكمية: تستخدم QLoRA تمثيلات 4 بت لمعظم الأوزان، مما يقلل VRAM كثيرًا. تعتمد Unsloth على ذلك (وغيرها من الحيل) دون التأثير على الدقة.

سحر النواة: تحت الغطاء، تعمل نوى وحدة معالجة الرسوميات المخصصة على تسريع خطوات التدريب الشائعة. بالنسبة لك، هذا يعني فقط انتظارًا أقل.

محولات خفيفة الوزن: تحتفظ LoRA فقط بـ "محولات" صغيرة قابلة للتدريب، وليس النموذج العملاق الكامل. يمكنك ضبط الشخصية بدقة، وليس الحمض النووي.

الجودة والدقة: الفيل في غرفة الخادم إليك الجزء المتشكك. في أي وقت يعد فيه شخص ما بـ "نفس الجودة، أسرع"، أبدأ في التحديق. من الناحية العملية، مع QLoRA ومجموعات البيانات اللائقة، يمكنك الاقتراب جدًا من نتائج الدقة الكاملة في معظم المهام التطبيقية: اتباع التعليمات، والتلخيص، وتحسين أسلوب دعم العملاء، وتكييف المجال خفيف الوزن. إذا كانت حالة الاستخدام الخاصة بك هي "تحديد قصة حياة حيوان بطيء الخطى من بكسل واحد"، فلن تنقذك اختصارات الضبط الدقيق. ولكن إذا كنت تقوم بتخصيص اللغة العادي، فإن Unsloth تحافظ على الأداء في المكان الذي تتوقعه، بينما تجني وفورات الوقت و VRAM.

ما هو رائع فيه

ضغط النماذج الكبيرة في أجهزة متواضعة. يمكن لبطاقة واحدة بسعة 24 جيجابايت التعامل مع إعدادات التدريب التي كانت تحتاج سابقًا إلى تأجير سحابي وصلاة.

التكرار بسرعة. يمكنك تجربة المزيد من عمليات التشغيل، والمزيد من المطالبات، والمزيد من مجموعات البيانات في نفس اليوم. مما يؤدي عادة إلى نتائج أفضل على أي حال - لأنك تجرب المزيد.

العروض التوضيحية للفصول الدراسية وورش العمل. عامل "النجاح" لتشغيل ضبط دقيق مناسب على أجهزة غير حاسوبية فائقة أمر حقيقي.

شحن نماذج عملية ومتوسطة الحجم بسرعة. إذا كان منتجك يريد مساعد دردشة مُعدَّلة وفقًا لنبرة علامتك التجارية، أو مساعد كود مُعدَّل وفقًا لمستودعاتك، فإن Unsloth تساعدك في الوصول إلى هناك بشكل أسرع.

أين ليس سحرًا

لا تزال العمالقة الضخمة تؤلم. إذا كنت تقوم بضبط نموذج 70B بدقة، فلا تزال في منطقة "إحضار الوجبات الخفيفة". Unsloth يجعل الأمر قابلاً للبقاء، وليس تافهًا.

لا تزال جودة البيانات هي القاعدة. مجرد تشغيل سريع للغاية على بيانات غير مرغوب فيها يمنحك نموذجًا سيئًا سريعًا جدًا. لا يمكن لأي مكتبة تطهير مجموعة بيانات فوضوية.

تحتاج الحالات الشاذة إلى عناية. قد تتطلب بعض الميزات المتقدمة والبنيات الغريبة وحلقات التدريب الغريبة إجراء تعديلات. المجتمع يتحرك بسرعة، ولكن ليس كل شيء بضغطة زر - حتى الآن.

اختبار تجريبي ليوم في الحياة لقد قمت بإعداد مهمة ضبط تعليمات بسيطة: QLoRA على نموذج على غرار Llama، ووحدة معالجة رسوميات بسعة 24 جيجابايت، وبضعة آلاف من الأمثلة على "سؤال ← إجابة مفيدة" بنبرة دعم العملاء. النهج الأساسي: محولات 8 بت أو 16 بت، ومدرب قياسي، وتوقع حوالي ست إلى ثماني ساعات. نهج Unsloth: 4-bit QLoRA مع مجموعته المحسنة. الفرق؟ تم الانتهاء من تشغيل Unsloth في نصف الوقت تقريبًا، وظلت ذاكرة وحدة معالجة الرسوميات خارج المنطقة الحمراء، وكانت المخرجات غير قابلة للتمييز بشكل أساسي لهذا النوع من المهام. لم يكن الفوز العملي الأكبر هو ساعة التوقيت - بل كان حرية إجراء المزيد من التجارب في نفس فترة ما بعد الظهر. لقد جربت تنسيق مطالبة مختلفًا قليلاً، وقمت بتغيير فترات التدريب، واختبرت رسالة نظام أكثر ثراءً. أنتج التشغيل الثاني نبرة أكثر بهجة بشكل ملحوظ دون فقدان الدقة.

كيف يتناسب Unsloth مع سير عمل الفريق

خبراء البيانات: قم بتنظيف مجموعة البيانات الخاصة بك وتنسيقها في أزواج على غرار التعليمات. ستحصل على أكبر المكاسب في الجودة هنا - وليس في وسائط المدرب.

مهندسو ML: قم بتبديل وحدات مدرب Unsloth لحلقة PEFT المعتادة الخاصة بك. حافظ على تسجيلك وتقييمك كما هو، حتى تتمكن من رؤية المقارنة وجهًا لوجه.

مسؤولو المنتج: توقعوا دورات تكرار أسرع. هذا هو التأثير الحقيقي - ليس مجرد شريط أسرع، ولكن المزيد من التجارب لكل سباق سريع.

العمليات: قم بتصدير النماذج إلى تنسيق الخدمة الذي يحبه البنية التحتية الخاصة بك (GGUF لوحدة المعالجة المركزية/Ollama أو وقت تشغيل مُسرَّع بوحدة معالجة الرسوميات). ستلتقي بك خيارات تصدير Unsloth أينما كنت.

التوافق ودعم النموذج يتعامل Unsloth بشكل جيد مع النماذج المفتوحة المعتادة: عائلة Llama و Mistral و Phi والعديد من النماذج الأخرى. كما اكتسب شعبية في المجتمعات التي تبني باستخدام أوقات التشغيل المحلية وعمليات النشر المتطورة. إذا كانت مجموعتك تعتمد بالفعل على نماذج Hugging Face و PEFT، فستكون خطوة قصيرة لتجربة Unsloth.

ركن استكشاف الأخطاء وإصلاحها: العقبات الشائعة والإصلاحات السريعة

نفدت ذاكرة CUDA؟ جرب تجميع التدرج، أو حجم دفعة أصغر، أو فرض 4-bit QLoRA. تحقق أيضًا من أن طول التسلسل الخاص بك ليس مبالغًا فيه.

لن تتزحزح الخسارة؟ قد يكون معدل التعلم الخاص بك غير صحيح. جرب النطاق "عند الشك": 1e-4 إلى 2e-4 لمحولات LoRA، أو خطوات الإحماء التي ليست صفرًا.

أصبحت المخرجات آلية؟ أضف المزيد من أمثلة التعليمات المتنوعة أو وازن مجموعة البيانات الخاصة بك حتى لا تعلم نبرة واحدة بقوة شديدة. غالبًا ما يؤدي تعديل بسيط في البيانات إلى إصلاحه.

الاستدلال بطيء بعد التدريب: قم بالتصدير إلى تنسيق مناسب للاستدلال. على وحدة المعالجة المركزية، يمكن أن يكون GGUF منقذًا. على وحدة معالجة الرسوميات، تحقق من تحديد الكمية ووقت التشغيل.

حساب التكلفة: الجزء الذي تهتم به محفظتك السرعة لا توفر يوم الأحد الخاص بك فحسب - بل توفر الدولارات. إذا كانت وحدة معالجة الرسوميات السحابية الخاصة بك تكلف 2-4 دولارات في الساعة، فإن تقليل وظيفة مدتها 10 ساعات إلى 5 ساعات هو أموال حقيقية. اضرب ذلك في عشرات التجارب وستجد أن المدخرات تساوي تقريبًا "مرحبًا، ربما يمكننا تحمل وحدة معالجة رسوميات ثانية" أو "أعتقد أنه يمكننا أخيرًا شراء القهوة الجيدة".

الأمن والخصوصية: ما الذي يتغير مع Unsloth؟ لا يغير Unsloth ملف تعريف المخاطر الخاص بك بقدر ما يفعل وقت التشغيل الخاص بك. لا تزال العوامل الكبيرة هي: مكان التدريب (محلي مقابل سحابي)، وما هي البيانات التي تستخدمها (معلومات التعريف الشخصية؟ منظمة؟)، وكيف تقوم بتخزين نقاط التفتيش. إذا كنت تتعامل مع بيانات حساسة، فقم بالنظافة القياسية الخاصة بك: قم بإخفاء الهوية حيثما أمكن، وعزل عمليات التدريب الخاصة بك، واحتفظ بسجلات التدقيق. إذا كان عليك شرح مسار الضبط الدقيق لمسؤول الامتثال، فإن Unsloth لا يجعل هذه المحادثة أكثر صعوبة. في الواقع، يمكن أن يؤدي الضبط الدقيق المحلي على جهازك الخاص في بعض الأحيان إلى تسهيل الأمر.

كيف تتراكم هذه ضد المشتبه بهم المعتادين

PEFT + Transformers عادي: مألوف ومدعوم على نطاق واسع ورائع - ولكنه قد يكون أبطأ وأكثر استهلاكًا للذاكرة. يضيف Unsloth السرعة وتخفيف VRAM.

الضبط الكامل بدقة 16 بت: قوي ولكنه مكلف. استخدمه عندما تحتاج حقًا إلى تغيير المعرفة الأساسية للنموذج. خلاف ذلك، فإن LoRA/QLoRA هو صديقك.

بدائل فعالة من حيث المعلمات (مثل المحولات والبادئات): في نفس عائلة LoRA. يمكن لـ Unsloth دعم هذه الأساليب مع الحفاظ على الأداء السريع.

هل يجب على المبتدئين تجربة Unsloth؟ نعم - مع عجلات التدريب. إذا لم تقم أبدًا بضبط أي شيء بدقة، فابدأ بنموذج صغير (7B)، ومجموعة بيانات صغيرة نظيفة، و QLoRA. سيكون نجاحك الأول هو أفضل معلم. تميل وثائق Unsloth وأجهزة الكمبيوتر المحمولة النموذجية إلى أن تكون أكثر ودية من جدار المعلمات الفائقة المعتاد. وعندما (وليس إذا) تعثرت، فإن المجتمع يستجيب تمامًا.

أين تتناسب Sider.AI مع هذه القصة إذا كنت من النوع الذي يقرأ عن الضبط الدقيق ويعتقد، "هل يمكنني العمل داخل متصفحي من فضلك؟" - هناك مفاجأة سارة. Sider.AI يعيش في متصفحك كنوع من المساعد الجانبي للذكاء الاصطناعي: تلخيص الصفحات وصياغة رسائل البريد الإلكتروني ومساعدتك في التعامل مع البحث. إنها ليست مكتبة ضبط دقيق، ولكنها رائعة بالنسبة للوسط الفوضوي: تنظيم مجموعات البيانات من محتوى الويب، وإنشاء مطالبات تدريب تركيبية، واختبار التعليمات بسرعة على نموذج أولي أو واجهة برمجة تطبيقات. استخدم Sider.AI لتبادل الأفكار حول المطالبات، أو استخراج أزواج الأسئلة والأجوبة من المستندات، أو صياغة أمثلة خاضعة للرقابة على النبرة - ثم قم بتغذية هذه في تشغيل Unsloth الخاص بك. حاول أن تجعل Sider.AI يقوم بالانتشار الخلفي وستقضي يومًا سيئًا. استخدمه لبناء بيانات أفضل وحلقات تكرار أسرع، وستشعر وكأنك تغش (بطريقة جيدة).

تجربة أخيرة تستحق المحاولة قبل إجراء تشغيل تدريب كبير، جرب هذا: أنشئ مجموعة بيانات صغيرة من 200-500 مثال عالي الجودة. قم بالضبط الدقيق لبضع فترات مع Unsloth. قم بتقييم المخرجات وفقط قم بالتوسع. سيوفر لك هذا التدريب الصغير ساعات - وستنتهي بنموذج أفضل لأن تمريرتك الثانية ستكون أكثر ذكاءً.

الخلاصة باللغة الإنجليزية البسيطة لا يخترع Unsloth رياضيات جديدة بقدر ما يرتب المنزل: فهو يعيد ترتيب الأثاث، ويضع ملصقات على الأدراج، ويثبت بهدوء زر التوربو. بالنسبة لأي شخص شاهد وحدة معالجة رسوميات تخبز لمدة نصف يوم، فإن توفير الوقت و VRAM يبدو وكأنه قوة عظمى. إنه ليس علاجًا لكل شيء - فالبيانات السيئة تظل سيئة، والنماذج الضخمة تظل ضخمة - لكنه يضع المزيد من الضبط الدقيق في متناول البشر العاديين. إذا كان هدفك هو التخصيص العملي على أجهزة واقعية، فإن Unsloth يكسب مكانه في مجموعة الأدوات الخاصة بك.

قائمة التحقق السريعة

ابدأ صغيرًا: نموذج 7B، وتسلسلات قصيرة، ومجموعة بيانات نظيفة.

استخدم QLoRA 4 بت ما لم يكن لديك سبب قوي لعدم القيام بذلك.

حافظ على أحجام الدفعات متواضعة؛ دع تجميع التدرج يقوم بالرفع الثقيل.

سجل كل شيء: عينات التحقق من الصحة، ومنحنيات الخسارة، والمطالبات الواقعية.

قم بالتصدير إلى التنسيق الذي ستخدمه فيه بالفعل (GGUF أو GPU-native) مبكرًا واختبر زمن الوصول.

قم بالتكرار على البيانات قبل المعلمات الفائقة؛ الأمثلة الأفضل تتفوق على الحيل الذكية.

الخلاصة (وغمزة) اعتاد الضبط الدقيق أن يكون بمثابة التدريب على الماراثون بأوزان الكاحل. Unsloth يفك الأوزان. لا يزال عليك الركض، ولكن فجأة تبدو المسافة... قابلة للإدارة. وعندما تشحن نموذجك الأول المضبوط في فترة ما بعد الظهر بدلاً من عطلة نهاية الأسبوع، فقد تجد نفسك تفعل ما فعلته: الاعتذار بهدوء لوحدة معالجة الرسوميات الخاصة بك عن جميع الأسماء التي أطلقتها عليها.

أسئلة متكررة

س1: ما هو Unsloth، بعبارات بسيطة؟ Unsloth هي مكتبة تجعل الضبط الدقيق للنماذج اللغوية الكبيرة أسرع وأقل استهلاكًا للذاكرة. يركز على QLoRA وغيرها من حيل الكفاءة حتى تتمكن من تدريب نماذج مفيدة على وحدة معالجة رسوميات واحدة بسعة 24 جيجابايت دون فقدان الجودة.

س2: هل Unsloth أفضل من PEFT القياسي لـ QLoRA؟ بالنسبة للعديد من المهام الواقعية، نعم - يوفر Unsloth عادةً تدريبًا أسرع و VRAM أقل مع الحفاظ على الدقة. لا تزال تستخدم أنماطًا مألوفة، ولكن ستنجز المزيد من التجارب في نفس الوقت.

س3: هل يمكنني استخدام Unsloth لضبط نموذج 70B بدقة على وحدة معالجة رسوميات واحدة؟ يمكنك غالبًا جعله يعمل بإعدادات دقيقة، ولكنه لن يكون سهلاً. يساعد Unsloth في السرعة و VRAM، ولكن النماذج الكبيرة لا تزال تتطلب صبرًا وأحجام دفعات دقيقة وأطوال تسلسل وتحديد كمية.

س4: هل يضر Unsloth بجودة النموذج مقارنة بالضبط الدقيق الكامل الدقة؟ مع مجموعات البيانات الجيدة و QLoRA، يرى معظم المستخدمين جودة مماثلة للمهام الشائعة مثل اتباع التعليمات أو التلخيص. بالنسبة للتغييرات المتخصصة للغاية أو الثقيلة المعرفة، قد يتفوق الضبط الدقيق الكامل الدقة.

س5: كيف يساعد Sider.AI إذا لم يكن أداة تدريب؟ استخدم Sider.AI لجمع بيانات التدريب الخاصة بك وتحسينها: تلخيص المستندات وإنشاء المطالبات وصياغة أمثلة متنوعة. البيانات الأفضل تجعل Unsloth يتألق - فكر في Sider.AI على أنه مساعد الطاهي الذي يسرع مطبخك.