Nace AI وزن‌های مدل تصمیم‌گیری Drex Max v1 را با مجوز Nace.AI Open RAIL-M منتشر کرد. این مدل متراکم ۲۷ میلیارد پارامتری، نسخه‌ی متن‌بازِ مدل میزبان قبلی است و روی سخت‌افزار محلی — از جمله مک‌های Apple Silicon با ۲۴ گیگابایت رم به بالا — قابل اجراست.

مدل تصمیم‌گیری است، نه تولیدی#

Drex Max برخلاف مدل‌های زایا، متن تولید نمی‌کند. ورودی آن یک state (متن، JSON یا تصویر) به‌همراه پرسش‌های نام‌دار است و خروجی، احتمال هر گزینه در یک forward pass واحد. پرسش‌ها سه نوع دارند: انتخاب بین گزینه‌های نام‌دار، بله/خیر، و امتیاز ترتیبی. این ساختار آن را برای روتینگ ایجنت، تریاژ تیکت و بررسی گاردریل مناسب می‌کند.

معماری شامل ۶۴ لایه است: ۴۸ لایه‌ی Gated DeltaNet با توجه خطی (چپ‌به‌راست) و ۱۶ لایه‌ی توجه کامل غیرعلّی (هر توکن به کل توالی دسترسی دارد). پنجره‌ی context برابر ۲۶۲,۱۴۴ توکن است و حداکثر ۲۵۵ گزینه برای هر پرسش پشتیبانی می‌شود.

اجرای محلی و محدودیت‌ها#

Nace پنج runtime را مستند کرده که همه یک API مشترک (POST /v1/systemone) ارائه می‌دهند:

  • Python + NVIDIA GPU: bf16 (~۴۹ GB) یا ۸-بیت (~۲۶ GB)؛ از تصاویر پشتیبانی می‌کند.
  • llama.cpp و Ollama (fork): Q8_0 GGUF (۲۷.۲۵ GB) روی Apple Metal یا CPU؛ فقط متن.
  • Kapitsa v0.2.25+: Q8_0 یا affine Q4 روی Apple Silicon؛ فقط متن.
  • MLX: affine Q4 (۱۴.۴۵ GB) روی Apple Silicon؛ فقط متن.

نکته‌ی مهم: مسیرهای محلی (مک و CPU) در حال حاضر فقط متن را می‌پذیرند و از تصاویر پشتیبانی نمی‌کنند.

عملکرد و کوانتیزاسیون#

همه‌ی اعداد خودگزارشی Nace AI هستند. امتیاز Decision Index 0.4 برابر ۶۷.۵۲ است (Drex v2.0: ۶۱.۲۵، Jev 1.13.0: ۵۷.۹۶). در Artificial Analysis Decision Index با امتیاز ۶۴، چهارم از ۱۸ مدل قرار می‌گیرد. JevBench: ۹۲.۲٪، Decision Bench v4: ۹۴.۳۰٪.

روی یک Mac M5 Pro با ۴۸ GB، نسخه‌ی Q8_0 GGUF در حد ۰.۰۲ احتمال با bf16 روی H100 مطابقت داشت. نسخه‌ی affine Q4 در فاصله‌ی ۰.۰۳۲۹ از Q8_0 قرار گرفت و هیچ انتخابی تغییر نکرد.

قیمت میزبان و مقایسه#

نسخه‌ی میزبان در زمان عرضه با قیمت $۰.۰۳ به ازای هر ۱,۰۰۰ تصمیم ارائه می‌شود. Drex v2.0 قبلاً $۰.۰۶ و Drex v1.5 قبلاً $۰.۰۴ بود.

خوانش تحریریه#

برای کسی که ایجنت می‌سازد، Drex Max v1 یک گزینه‌ی جدید در لایه‌ی تصمیم‌گیری است: مدلی که به‌جای تولید متن، احتمال گزینه‌ها را در یک pass محاسبه می‌کند و حالا بدون وابستگی به API ابری روی مک‌های معمولی اجرا می‌شود. اما دو محدودیت عمده باقی است: اول، مسیرهای محلی هنوز تصاویر را نمی‌پذیرند و اگر روتینگ شما به ورودی بصری نیاز دارد، فعلاً باید به نسخه‌ی میزبان یا GPU انویدیا وابسته بمانید. دوم، همه‌ی بنچمارک‌ها خودگزارشی‌اند و هنوز third-party verification منتشر نشده. قیمت $۰.۰۳ برای هر ۱,۰۰۰ تصمیم رقابتی است، اما اگر حجم تصمیم‌گیری شما روزانه میلیون‌ها مورد باشد، اجرای محلی همچنان مقرون‌به‌صرفه‌تر است.

منبع: MarkTechPost