Baseten از آزمایشگاه داخلی Base Labs، مدل joey-1 را منتشر کرد؛ یک مدل تصمیم‌گیر ۲ میلیارد پارامتری که به‌جای تولید متن آزاد، برچسب و احتمال کالیبره‌شده بازمی‌گرداند. این مدل سومین عضو خانواده تصمیم‌گیرهای Baseten است که پس از mammoth-1 (۲۷ میلیارد پارامتر) و elephant-1 (۹ میلیارد پارامتر) عرضه شده و هر سه از API مشترک /v1/systemone استفاده می‌کنند.
joey-1 چه کاری انجام می‌دهد؟#
مدل joey-1 در یک forward pass به سؤالات تایپ‌شده پاسخ می‌دهد. ورودی یک state (متن یا تصویر) و یک یا چند سؤال است؛ خروجی احتمال هر گزینه از هر سؤال. سه نوع سؤال پشتیبانی می‌شود:
- choice: انتخاب یک گزینه نام‌دار (مثلاً کدام تیم یک تیکت را مدیریت کند)
- yes/no: بازگرداندن احتمال «بله»
- score: سطوح ترتیبی (مثلاً سطح فوریت)
joey-1 از Qwen3.5-2B با fine-tune کامل زبان‌مدل ساخته شده و vision encoder آن فریز است. داده‌های آموزش شامل ۶٫۲۱ میلیون نمونه تصمیم‌گیری با ترکیب ۵۸٫۳ درصد مهارت‌های اصلی تصمیم‌گیری، ۱۶٫۱ درصد ایمنی، ۱۶٫۱ درصد داوری و دامنه‌های تخصصی، و ۹٫۵ درصد داده عمومی است.
عملکرد و قیمت#
Baseten تأخیر P50 برابر ۲۰ میلی‌ثانیه برای درخواست متوسط ۲٫۰۰۰ توکنی گزارش کرده که حدود ۲٫۵ برابر سریع‌تر از elephant-1 (۴۹ میلی‌ثانیه) است. قیمت در Model API برابر ۰٫۰۱ دلار به‌ازای هر میلیون توکن ورودی است؛ توکن خروجی و ورودی کش‌شده رایگان محاسبه می‌شوند. برای مقایسه، elephant-1 با ۰٫۰۳۵ دلار و mammoth-1 با ۰٫۱۰ دلار قیمت‌گذاری شده‌اند.
در معیار Jev Decision Index 0.4 (public split)، joey-1 امتیاز ۶۳٫۳۰ کسب کرده و رتبه ۳۷ از ۲۳۰ مدل را دارد. این بالاترین امتیاز بین مدل‌های زیر ۴ میلیارد پارامتر است، اما از elephant-1 (۷۲٫۲۴) به میزان ۸٫۹۴ امتیاز عقب‌تر است.
دسترسی#
وزن‌های مدل با مجوز MIT روی Hugging Face منتشر شده و برای self-host به ۱ GPU با CUDA نیاز دارد (تصویر PyTorch 2.8 / CUDA 12.8). حداکثر طول sequence در Model API برابر ۱۶٫۳۸۴ توکن است و در deployment اختصاصی تا ۲۶۲٫۰۰۰ توکن افزایش می‌یابد. joey-1 روی OpenRouter نیز با همان قیمت ۰٫۰۱ دلار در دسترس است.
این خبر برای سازندگان ایجنت یعنی چه؟#
ایده اصلی joey-1 این است که برای کارهای روتینگ و طبقه‌بندی، نیازی به تولید متن و سپس پارس آن نیست؛ مدل مستقیماً احتمال بازمی‌گرداند. این تفاوت در عمل یعنی هزینه کمتر و تأخیر کمتر در لایه تصمیم‌گیری. اما joey-1 یک روتر خط اول است، نه تصمیم‌گیر نهایی — فاصله ۸٫۹۴ امتیازی با elephant-1 یعنی هنوز برای سؤالات پیچیده‌تر باید به مدل بزرگ‌تر escalate شود. کالیبراسیون احتمال این کار را ساده می‌کند: آستانه اطمینان تعیین می‌کنید و پاسخ‌های کم‌اطمینان را به مدل بزرگ‌تر یا انسان هدایت می‌کنید. برای کسی که امروز با LLMهای generative روتینگ می‌سازد، جایگزینی آن لایه با joey-1 هزینه‌ها را به‌طور محسوسی کاهش می‌دهد، اما محدودیت ۱۶٫۳۸۴ توکنی در Model API و نبود build کوانتایز رسمی، یعنی هنوز برای همه سناریوهای production آماده نیست.
منبع: MarkTechPost
دیدگاهها
برای گذاشتن دیدگاه وارد شو
دیدگاهها فقط از حسابهای کاربری پذیرفته می‌شوند.
ورود / ثبتنامهنوز دیدگاهی ثبت نشده — اولین نفر باش.