Perplexity دو مدل تصمیم‌گیرنده‌ی متن‌باز pplx-decider-v1.3 و pplx-decider-flash-v1.3 را منتشر کرد. این مدل‌ها به‌جای تولید متن، احتمال هر گزینه را برمی‌گردانند و به سؤالات بله/خیر، چندگزینه‌ای و امتیازدهی درباره‌ی یک متن یا تصویر پاسخ می‌دهند. اضافه‌ی اصلی نسخه‌ی v1.3 قابلیت Locate است که فاصله‌های دقیق متنی را بر اساس نوع یا دستور استخراج می‌کند و برای NER، تشخیص PII و پرسش‌وپاسخ استخراجی طراحی شده.

مشخصات فنی و عملکرد#

مدل اصلی 27 میلیارد پارامتر روی پایه‌ی Qwen3.8-27B و نسخه‌ی Flash 4 میلیارد پارامتر روی Qwen3.5-4B است. ورودی API تا زیر 256K توکن و پیش‌فرض محلی 32,768 توکن است. برای اجرای محلی، v1.3 به GPU با حدود 49 گیگابایت حافظه‌ی BF16 و Flash به حدود 8.5 گیگابایت نیاز دارد. هنوز نسخه‌ی کوانتایز‌شده منتشر نشده.

نتایج بنچمارک‌ها (همگی خودگزارش‌شده توسط Perplexity):

  • دقت میانگین 91.6 درصد روی 63 وظیفه‌ی طبقه‌بندی پرس‌وجو
  • امتیاد nDCG@10 برابر 83.99 روی 72 وظیفه‌ی بازیابی و رتبه‌بندی
  • دقت چندزبانه 88.16 درصد (v1.3) و 86.50 درصد (Flash) روی 19 وظیفه در 8 زبان
  • میانگین 69.0 برای Locate روی 17 وظیفه‌ی خارج از دامنه — پایین‌ترین امتیاد مطلق مدل
  • نرخ تغییر پاسخ (answer-flip) برابر 0.27 درصد در برابر 2.69 تا 4.84 درصد برای Jev 1.14

قیمت‌گذاری و استقرار#

قیمت API برابر 0.02 دلار به ازای هر میلیون توکن ورودی برای v1.3 و 0.01 دلار برای Flash است؛ خروجی رایگان محاسبه می‌شود. هزینه‌ی 1 میلیون درخواست عملیاتی به‌ترتیب 26.47 و 13.24 دلار برآورد شده. تأخیر یک درخواست حدود 243 هزار توکنی روی v1.3 در حدود 16 ثانیه و روی Flash در حدود 5 ثانیه اندازه‌گیری شده. درخواست‌های Locate تا 128 سؤال مجاز دارند.

وزن‌ها تحت مجوز Apache 2.0 روی Hugging Face و از طریق Perplexity Decisions API و OpenRouter در دسترس‌اند. برای اجرای محلی از متد Decider.from_pretrained() در بسته‌ی pplx_decider استفاده می‌شود و لایه‌های توجه کامل باید غیرعلّی (non-causal) اجرا شوند.

خوانش تحریریه#

Decider v1.3 یک ابزار تصمیم‌گیرنده است، نه یک مدل زبانی عمومی. اگر ایجنت شما نیاز دارد ورودی را طبقه‌بندی کند، رتبه‌بندی کند یا فیلدهای مشخصی را از متن بیرون بکشد، این مدل‌ها با قیمت‌گذاری خروجی رایگان و نرخ تغییر پاسخ پایین (0.27 درصد) گزینه‌ی عملی‌ای‌اند. اما دو احتیاط مهم: تمام اعداد عملکردی خودگزارش‌شده‌اند و هنوز نسخه‌ی کوانتایز‌شده‌ای منتشر نشده، یعنی اجرای محلی v1.3 عملاً به GPU با حافظه‌ی نزدیک 50 گیگابایت نیاز دارد. برای بسیاری از تیم‌ها، Flash با 8.5 گیگابایت و قیمت نصف، انتخاب واقع‌بینانه‌تری است. قابلیت Locate هم با امتیاد 69.0 هنوز از نظر دقت مطلق ضعیف‌ترین بخش مدل است و نباید بدون ارزیابی روی داده‌های خودتان به‌عنوان جایگزین NER سنتی استفاده شود.

منبع: MarkTechPost