شرکت TypeSafe AI مدل جدیدی به نام Jev را منتشر کرد که برخلاف مدل‌های زبانی بزرگ (LLM)، به جای تولید متن، تصمیم‌های ساختاریافته و کالیبره‌شده برمی‌گرداند. این مدل که یک سیستم «تفکر سریع» (System One) نام دارد، ورودی‌های مشخص را گرفته و خروجی‌های قابل‌برنامه‌نویسی با احتمال‌های دقیق تولید می‌کند.

مدل Jev بر پایه معماری ترنسفورمری ساخته شده، اما برای گفت‌وگو با انسان طراحی نشده است. تیم توسعه‌دهنده ادعا می‌کند که مدل‌های موجود به دلیل تنظیمات RLHF (یادگیری تقویتی از بازخورد انسانی) دچار بیش‌اعتمادی و حذف حالت‌های نادر می‌شوند. در مقابل، Jev از روش «یادگیری تقویتی برای تصمیم‌های کالیبره‌شده» (RLCD) و یک نمونه‌بردار موازی استفاده می‌کند.

نحوه عملکرد و انواع خروجی#

رابط برنامه‌نویسی (API) این مدل از یک نقطه پایانی واحد استفاده می‌کند و سه نوع سوال را پشتیبانی می‌کند:

  • Choice: انتخاب یک گزینه از لیست (حداکثر ۲۵۵ گزینه).
  • Score: امتیازدهی بر اساس سطوح مرتب‌شده.
  • Noul: تشخیص درستی یک گزاره با احتمال بین ۰ تا ۱.

هر پاسخ شامل یک مقدار «اعتماد» (Confidence) از ۰ تا ۱ است که از شکل توزیع احتمال‌ها استخراج می‌شود. توسعه‌دهندگان می‌توانند بر اساس این مقدار، تصمیم بگیرند که عمل کنند، بازبینی کنند یا مسئله را به انسان بسپارند.

عملکرد و هزینه#

مدل Jev در حال حاضر به صورت API میزبانی‌شده در دسترس است و وزن‌ها یا امکان اجرای محلی آن منتشر نشده است. هزینه ورودی این مدل ۴۲ دلار به ازای هر میلیارد توکن است. در مقایسه‌ای که شرکت ارائه کرده، سرعت ۱۹۳.۶ برابر بیشتر و هزینه ۴۴۴.۶ برابر کمتر از برخی مدل‌های زبانی گزارش شده است. با این حال، این اعداد بر اساس ارزیابی‌های داخلی شرکت به دست آمده‌اند.

خوانش تحریریه#

انتشار Jev نشان‌دهنده حرکت صنعت از «چت‌بات‌های عمومی» به سمت «اجرای دقیق کد» است. برای توسعه‌دهندگانی که ایجنت‌ها (Agents) و اتوماسیون می‌سازند، این مدل می‌تواند مشکل عدم قطعیت در خروجی‌های متنی را حل کند. اگرچه ادعاهای سرعت و هزینه جذاب هستند، اما باید توجه داشت که مقایسه با مدل‌های زبانی عمومی (که وظایف پیچیده‌تری دارند) ممکن است کمی ناعادلانه باشد. این ابزار برای کارهای طبقه‌بندی و تصمیم‌گیری سریع عالی است، اما جایگزین استدلال‌های پیچیده نخواهد بود.

منبع: MarkTechPost