سامایا AI مدل Sterling را منتشر کرد — یک مدل پس‌آموخته برای ایجنت پژوهش مالی که روی Nemotron 3.5 Lightning ساخته شده. این مدل با ۳۰ میلیارد پارامتر کل و ۳ میلیارد پارامتر فعال (معماری MoE) در بنچمارک FrontierFinance نمره ۵۸.۹٪ گرفته؛ در مقابل ۵۵.۹٪ برای Claude Fable 5.1. هزینه هر پرسش Sterling در این بنچمارک ۰.۶۱ دلار است، در حالی که Fable 5.1 حدود ۶.۸۹ دلار هزینه دارد — تقریباً ۱۱ برابر اختلاف.

معماری و هارنس#

Sterling یک LoRA post-trained روی Nemotron 3.5 Lightning است. مدل پایه در BF16 با کانتکست ۲۵۶K روی یک H100 80GB جا می‌شود و کانتکست مدل پایه تا ۱ میلیون توکن است. اما hardware سروینگ Sterling و کانتکست آن اعلام نشده.

تیم سامایا هارنس تولیدی خود را برای مدل کوچک بهینه کرد: راهنمای تفصیلی از سیستم‌پرامپت حذف شد، ابزارها ادغام شدند تا پرامپت کوتاه‌تر شود، و دو مدل کمکی (یک condenser برای خلاصه‌سازی نتایج بلند ابزار و یک compactor برای خلاصه‌سازی trace) مدیریت کانتکست را بر عهده دارند. یک research budget هم سقف زمانی ایجنت را کنترل می‌کند.

آموزش#

آموزش با LoRA روی Tinker (API آموزشی Thinking Machines Lab) و در ۴ مرحله انجام شد:

  1. SFT روی trace‌های مصنوعی: ۹۶۸ پرسش تحلیل‌گر مصنوعی تولید شد. مدل معلم (Kimi K3) هر پرسش را دو بار پاسخ داد و یک داور LLM بهترین پاسخ را انتخاب کرد. مدل یاد گرفت ۳۷ ابزار را با آرگومان معتبر صدا بزند.
  2. SFT روی بهترین از ۸ استراتژی: Kimi K3 به ۱,۸۱۹ پرسش متخصص‌نوشته با ۸ استراتژی پاسخ داد. پس از فیلترینگ، ۱,۱۵۷ پرسش باقی ماند.
  3. GRPO آفلاین: ۸ پاسخ معلم با هم مقایسه و نمره‌دهی شدند.
  4. GRPO آنلاین: مدل هر پرسش را ۸ بار پاسخ داد و از تلاش‌های نمره‌دهی‌شده یاد گرفت. یک truncated importance sampling برای اصلاح ناسازگاری sampler در MoE استفاده شد.

نمره در طول مراحل آموزش از ۴۲.۵٪ (مدل پایه) به ۵۱.۴٪، ۵۴.۸٪، ۵۷.۵٪ و نهایتاً ۵۸.۹٪ رسید. تعداد میانی فراخوانی‌های ابزار از ۳ به ۱۷ افزایش یافت. در حالت high-effort، Sterling به ۶۰.۶٪ با هزینه ۱.۸۳ دلار و تأخیر ۳۷۲ ثانیه می‌رسد. در سخت‌ترین یک‌سوم پرسش‌ها، نمره از ۳۱.۸٪ به ۴۵.۲٪ بالا رفت.

دسترسی و اعتبار نتایج#

وزن‌های عمومی یا API برای Sterling اعلام نشده. نتایج همه خودگزارش‌شده روی بنچمارک خود سامایا هستند. FrontierFinance شامل ۲۲۰ پرسش عمومی است که با rubric‌های متخصص‌نوشته و یک پنل داور ۳مدلی نمره‌دهی می‌شوند. تیم سامایا اعلام کرده هیچ پرسش بنچمارکی در آموزش استفاده نشده و چک‌پوینت‌ها روی ۱۰۰ پرسش اعتبارسنجی داخلی انتخاب شده‌اند.

این خبر برای سازندگان ایجنت یعنی چه#

پیام اصلی این خبر یک الگوی مهندسی است، نه یک رقابت مدل‌ها. Sterling نشان می‌دهد اگر هارنس و مدل را هم‌زمان بهینه کنید — با حذف راهنمای تفصیلی، ادغام ابزارها، و افزودن مدل‌های کمکی خلاصه‌سازی — یک مدل ۳B-active می‌تواند در یک دامنه باریک از یک مدل بسیار بزرگ‌تر پیشی بگیرد. اما سه نکته احتیاطی وجود دارد: اول، نتایج خودگزارش‌شده روی بنچمارک خود سازنده است و وزن‌های عمومی در دسترس نیست؛ بنابراین بازتولید مستقل ممکن نیست. دوم، هزینه ۰.۶۱ دلار فقط هزینه مدل نیست — ابزارها و مدل‌های کمکی بخش عمده آن را می‌سازند (خود مدل ۰.۰۴ دلار هزینه دارد). سوم، این دستاورد در یک دامنه مالی باریک است و تعمیم‌پذیری آن به حوزه‌های دیگر هنوز ثابت نشده.

منبع: MarkTechPost