آزمایشگاه Nanbeige LLM Lab، بخشی از پلتفرم استخدامی BOSS Zhipin، مدل زبان Nanbeige4.3-33B را روی Hugging Face با لایسنس Apache 2.0 منتشر کرد. این مدل فشرده (بدون MoE) با ۳۳ میلیارد پارامتر و پنجره متنی ۵۲۴,۲۸۸ توکن، برای کدنویسی عاملی و وظایف اداری سبک «cowork» ساخته شده است. نسخه پایه (Base) هم برای پس‌آموزش سفارشی در دسترس قرار گرفته.

معماری و جزئیات فنی#

مدل از معماری استاندارد LlamaForCausalLM استفاده می‌کند: ۵۲ لایه، اندازه پنهانی ۷,۱۶۸، ۵۶ سر پرسش و ۸ سر کلید-مقدار (توجه گروهی کوئری)، اندازه FFN برابر ۲۲,۰۱۶ و واژگان ۱۶۶,۹۱۲ توکنی. RoPE با theta برابر ۱۲۰,۰۰۰,۰۰۰ و حداکثر ۵۲۴,۲۸۸ موقعیت.

قالب چت سه کنترل دارد: enable_thinking (روشن‌کردن استدلال، پیش‌فرض فعال)، preserve_thinking (حفظ استدلال دورهای قبلی، توصیه‌شده برای عامل‌های چنددوره‌ای) و passing tools (فراخوانی ابزار با فرمت XML توصیه‌شده).

عملکرد در بنچمارک‌ها#

در مقایسه آزمایشگاه با Qwen3.8-27B، Muse-Glimmer-30B و Gemma4-31B (همگی با بالاترین سطح فکر، اعداد خودگزارشی):

  • Terminal-Bench 2.1: ۸۰.۹ در برابر ۷۳.۰ برای Qwen3.8-27B
  • DeepSWE: ۶۵.۵ در برابر ۴۲.۵ (بزرگ‌ترین فاصله)
  • Automation Bench: ۵۴.۲ در برابر ۳۸.۳
  • JobBench: ۴۴.۸ در برابر ۳۴.۵
  • AIME 2026: ۹۵.۲

در سه ردیف از ۲۰ شکست خورده: Qwen3.8-27B در SWE-Bench Pro (۶۱.۷ در برابر ۶۰.۳) و GDPval (۸۶.۴ در برابر ۸۴.۸) برتر است. Gemma4-31B در GPQA Diamond (۹۱.۳ در برابر ۸۹.۵) جلوتر است.

استقرار#

وزن‌های BF16 حدود ۶۶ گیگابایت حافظه نیاز دارند. دستورهای SGLang و vLLM آزمایشگاه از موازی‌سازی تانسوری ۴تایی استفاده می‌کنند. تنظیمات توصیه‌شده عامل: temperature 1.0، top_p 0.95 و حداکثر ۶۵,۵۳۶ توکن جدید. برای استدلال و چت: temperature 0.6 و حداکثر ۲۶۲,۱۴۴ توکن جدید. در زمان انتشار، هیچ Inference Provider روی Hugging Face این مدل را میزبانی نمی‌کند.

خوانش تحریریه#

پنجره ۵۱۲ هزار توکنی روی مدل فشرده ۳۳ میلیاردی، برای ایجنت‌هایی که باید چندین فایل کد یا لاگ بلند را هم‌زمان در زمینه نگه دارند، تفاوت عملی ایجاد می‌کند. اما دو نکته احتیاطی وجود دارد: اول، برخی اعداد رقبای Nanbeige با کارت‌های رسمی آن‌ها همخوانی ندارد (مثلاً جای SWE-Bench Pro بین Muse-Glimmer و Gemma جابه‌جا شده) و تا اجرای مستقل، اعتبار جدول کامل مشخص نیست. دوم، نبود میزبان استنتاج یعنی برای استفاده فوری باید سرور چند GPU داشته باشید. استراتژی معلم-دانش‌آموز (تقطیر به Nanbeige4.3-3B) اگر محقق شود، مسیر جالبی برای استقرار روی سخت‌افزار ارزان‌تر باز می‌کند — اما هنوز مدل کوچک منتشر نشده.

منبع: MarkTechPost