جویت‌برینز مدل Mellum2.1 را با لایسنس Apache 2.0 روی Hugging Face منتشر کرد. این یک مدل تفکر (thinking) با معماری mixture-of-experts است که ۱۲ میلیارد پارامتر کل دارد اما در هر توکن تنها ۲.۵ میلیارد پارامتر فعال می‌کند. معماری نسبت به Mellum2 تغییری نکرده؛ تمام ارتقا از مرحله‌ی پس‌آموزش (post-training) و به‌ویژه RL در محیط‌های نرم‌افزاری واقعی آمده است.

ساختار و آموزش#

مدل ۲۸ لایه و ۶۴ متخصص دارد؛ روتر در هر توکن ۸ متخصص فعال می‌کند. طول زمینه ۱۳۱,۰۷۲ توکن است و واژگان ۹۸,۳۰۴ توکن دارد. وزن‌ها به شکل bfloat16 منتشر شده‌اند.

جویت‌برینز در مرحله‌ی RL، تکلیف‌هایی در ریاضی، برنامه‌نویسی رقابتی، علوم، استفاده از ابزار و مهندسی نرم‌افزار اضافه کرد. برای مهندسی نرم‌افزار، مدل در ریپازیتوری‌های واقعی با شل و ابزار ویرایش فایل آموزش دیده و زمانی پاداش گرفته که تست‌ها پاس شوند. میلیون‌ها سندباکس در هزاران محیط برای این آموزش راه‌اندازی شده است.

عملکرد در بنچمارک‌ها#

بزرگ‌ترین جهش در کدنویسی ایجنتی است. SWE-bench Verified از ۲.۰ به ۴۷.۰ رسید. SWE-bench Pro از ۰.۰ به ۲۸.۰ و Terminal-Bench 2.1 از ۰.۶ به ۱۷.۴ ارتقا یافت. در اجرای ایجنتی از harness متن‌باز Pi v0.73.1 با زمینه‌ی ۱۱۴K توکن استفاده شده است.

Mellum2.1 در LiveCodeBench v6 با امتیاز ۸۲.۰ از Qwen3.5-9B (۷۵.۴) و Gemma 4 E4B (۶۹.۴) جلوتر است. در HumanEval+ امتیاز ۹۱.۵ و در BFCL v4 امتیاز ۶۲.۳ دارد. اما در SWE-bench Verified، Qwen3.5-9B با ۵۰.۰ هنوز جلوتر است. در Terminal-Bench 2.1 هم Mellum2.1 با ۱۷.۴ از Qwen3.5-9B (۲۱.۷) عقب‌تر است.

اجرای محلی#

مدل روی vLLM و SGLang اجرا می‌شود. جویت‌برینز دمای ۰.۶، top_p برابر ۰.۹۵ و top_k برابر ۲۰ را توصیه می‌کند. نسخه‌های GGUF برای llama.cpp، Ollama و LM Studio در دسترس‌اند:

  • BF16: ۲۴.۳ گیگابایت
  • Q8_0: ۱۲.۹ گیگابایت (۹۶.۱٪ تطابق توکن برتر)
  • Q4_K_M: ۸.۱ گیگابایت (۸۸.۰٪ تطابق، توصیه‌شده)
  • MXFP4_MOE: ۷.۰ گیگابایت (۸۵.۶٪ تطابق)

سرعت: روی یک GPU مدل H200، Mellum2.1 تقریباً دو برابر Qwen3.5-9B توکن سرو می‌دهد. برای درخواست تکی، با multi-token prediction حدود ۱.۶ برابر سریع‌تر است. هید MTP برای speculative decoding در vLLM «به‌زودی» اعلام شده.

تحلیل: برای کسی که ایجنت کدنویسی می‌سازد، این خبر یعنی چه#

Mellum2.1 یک مدل کوچک و خودمیزبان با سرعت بالا است که برای ایجنت‌های فرعی (sub-agents) در زنجیره‌ی کدنویسی طراحی شده. جهش از ۲.۰ به ۴۷.۰ در SWE-bench Verified چشمگیر است، اما باید توجه داشت که Qwen3.5-9B با ۵۰.۰ هنوز جلوتر است و در Terminal-Bench و GPQA Diamond فاصله‌ی بیشتری دارد. یعنی اگر ایجنت شما کارهای ایجنتی سنگین و چندمرحله‌ای انجام می‌دهد، Mellum2.1 هنوز انتخاب اول نیست.

آنچه واقعاً فرق می‌کند، نسبت سرعت به کیفیت است: ۲.۵ میلیارد پارامتر فعال با GGUF هشت‌گیگابایتی یعنی می‌توانید ایجنت‌های کمکی را روی سخت‌افزار خودتان اجرا کنید بدون اینکه به API وابسته باشید. برای سناریوهایی که حجم درخواست بالا است و هر ایجنت فقط یک کار کوچک و مشخص انجام می‌دهد، این مدل جایگاه مشخصی پیدا می‌کند. برای ایجنت‌های پیچیده‌تر، هنوز Qwen3.5-9B یا مدل‌های بزرگ‌تر ترجیح دارند.

نکته‌ی مهم: تمام اعداد خودگزارش‌شده توسط جویت‌برینز با یک pipeline مشترک‌اند و با اعدادی که Qwen در کارت مدل خودش منتشر کرده تفاوت دارند (مثلاً LiveCodeBench v6: ۷۵.۴ در مقابل ۶۵.۶). مقایسه‌ی مستقیم بین بنچمارک‌های مختلف منابع، احتیاط می‌خواهد.

منبع: MarkTechPost