Nace.AI وزن‌های Drex 1.5 را روی Hugging Face منتشر کرد؛ یک مدل تصمیم‌گیر با ۸٫۹۵ میلیارد پارامتر که برخلاف مدل‌های زبانی، متن تولید نمی‌کند. ورودی آن یک وضعیت (متن یا JSON) و پرسش‌های نوع‌دار است و خروجی، احتمال هر گزینه در یک عبور جلویی (forward pass) است. سه نوع پرسش پشتیبانی می‌شود: choice، noul (بله/خیر) و ordinal score. چون توکنی نمونه‌برداری نمی‌شود، پارامترهایی مثل temperature و top_p بی‌معنا هستند.

عملکرد و محدودیت‌ها#

در Decision Index 0.3.1 (۳۷ معیار، تصحیح‌شده بر اساس شانس)، Drex 1.5 امتیاز ۵۸٫۰۸ کسب کرد؛ بالاتر از Jev 1.13.0 (۵۷٫۹۶) و Bespoke Nimble 9B v3 (۵۷٫۱۹). هر سه در نوار هم‌بازی ۰٫۹ امتیازی تخته قرار دارند. قوت اصلی در اسناد بلند است: دقت ۹۳٫۴٪ در بازه ۳۲K تا 128K توکن. نقطه ضعف آشکار در دانش عمومی و احساسات ریزدانه است: ۴۵٫۴٪ در GPQA Diamond (در مقابل ۷۸٫۶٪ Jev) و ۷٫۴٪ F1 در ACOS.

سخت‌افزار و استقرار#

مدل روی ۱ GPU با ۲۴ گیگابایت حافظه (A10G) در حالت bf16 اجرا می‌شود (وزن حدود ۱۸ گیگابایت). نسخه Q8_0 GGUF با حجم حدود ۹٫۵ گیگابایت روی Apple silicon و CPU کار می‌کند. زمینه پیش‌فرض ۱۶,۳۸۴ توکن است و تا ۱۳۱,۰۷۲ قابل افزایش. چهار مسیر استقرار وجود دارد:

  • Python (Kev runtime) روی CUDA
  • llama.cpp (fork اختصاصی Nace با GGUF)
  • Ollama (fork با قابلیت تصمیم‌گیری)
  • میزبانی روی OpenRouter: ۰٫۰۴ دلار به ازای هر ۱ میلیون توکن ورودی، ۰ دلار خروجی

فرمت API آن (POST /v1/systemone) با Jev یکسان است و Nace می‌گوید کلاینت‌های موجود Jev با تغییر چند متغیر محیطی کار می‌کنند.

آنچه این خبر برای سازندگان ایجنت تغییر می‌دهد#

اگر لایه تصمیم‌گیری ایجنت شما تا امروز فقط با Jev بسته‌منبع TypeSafe کار می‌کرد، Drex 1.5 اولین وزن باز هم‌سطحی است که روی یک GPU ارزان اجرا می‌شود. اما این جایگزینی کامل نیست: در حوزه دانش عمومی و احساسات ریزدانه فاصله با Jev زیاد است و اگر ایجنت شما به این نوع تصمیم‌ها نیاز دارد، باید لایه تصمیم را ترکیبی طراحی کنید. همچنین مجوز RAIL-M محدودیت‌های استفاده تجاری دارد و استقرار محلی از fork‌های اختصاصی Nace می‌گذرد، نه نسخه‌های اصلی llama.cpp و Ollama.

منبع: MarkTechPost