Meta MobileLLM‑R1 समीक्षा: पॉकेट‑साइज़्ड रीज़नर जो अपनी क्षमता से अधिक प्रदर्शन करता है

MobileLLM‑R1 वास्तव में क्या है?

स्पेसिफिकेशन्स और सेटअप: इसे चलाने के लिए आपको क्या चाहिए

प्रदर्शन और बेंचमार्क: यह कहाँ आश्चर्यचकित करता है

R1 और चेन-ऑफ-थॉट: ट्रेड-ऑफ क्या है?

MobileLLM‑R1 बनाम अन्य ऑन-डिवाइस विकल्प

वास्तविक दुनिया के उपयोग के मामले (सेटअप युक्तियों के साथ)

डेवलपर अनुभव: प्रोटोटाइप से उत्पादन तक

गोपनीयता, सुरक्षा और अनुपालन

MobileLLM‑R1 को अभी किसे अपनाना चाहिए?

मूल्य निर्धारण और उपलब्धता

हैंड्स-ऑन: त्वरित शुरुआत स्केच

from transformers import AutoModelForCausalLM, AutoTokenizer
import torch
ckpt = "facebook/MobileLLM-R1-950M"
tok = AutoTokenizer.from_pretrained(ckpt)
model = AutoModelForCausalLM.from_pretrained(
 ckpt,
 torch_dtype=torch.float16, # or int8/int4 via bitsandbytes/AutoGPTQ
 device_map="auto"
)
prompt = "Solve 48/6 + 7*3. Show steps briefly."
inputs = tok(prompt, return_tensors="pt").to(model.device)
with torch.inference_mode:
 out = model.generate(
 **inputs,
 max_new_tokens=160,
 temperature=0.2,
 do_sample=False
 )
print(tok.decode(out[0], skip_special_tokens=True))

सीमाएँ और गोटचास

निष्कर्ष

मुख्य बातें

अक्सर पूछे जाने वाले प्रश्न