پدرو آلمیدا، پژوهشگر سابق OpenAI و یکی از مخترعان تکنیک یادگیری تقویتی از بازخورد انسانی (RLHF)، از طریق استارتاپ خود به نام TypeSafe AI، مدلی جدید به نام Jev را منتشر کرد. برخلاف مدل‌های زبانی بزرگ (LLM)، این مدل خروجی متنی تولید نمی‌کند، بلکه احتمال‌ها یا به تعبیر شرکت، «تصمیم‌های کالیبره‌شده» را به‌عنوان خروجی ارائه می‌دهد.

آلمیدا که دو سال پیش OpenAI را ترک کرد، معتقد است بهینه‌سازی مدل‌ها برای زبان انسانی، آن‌ها را برای اتوماسیون ناکارآمد کرده است؛ چرا که کامپیوترها زبان دیگری دارند. حذف زبان از مدل، هزینه و سرعت آن را به‌طور چشمگیری بهبود بخشیده است. توکن‌های خروجی این مدل رایگان هستند و توکن‌های ورودی بر اساس میلیارد، نه میلیون، محاسبه می‌شوند. همچنین، چون کاربردها از پیش تعریف می‌شوند، مدل دچار توهم (Hallucination) نمی‌شود.

تقاضای توسعه‌دهندگان برای این مدل به‌قدری بالا بود که شرکت برای مدتی توان سرویس‌دهی به API خود را از دست داد. جاستین شارما، مهندس نرم‌افزار در شرکت Vercel، اعلام کرد که با جایگزینی مدل ChatGPT Luna 5.6 با Jev در یک طبقه‌بند امنیتی، سرعت پردازش بین ۵ تا ۱۸ برابر افزایش یافت و دقت نیز بالاتر رفت. نیکhil مودهلکار، مدیر فنی Bryo AI نیز در مقایسه Jev با Gemini برای طبقه‌بندی ایمیل‌های تجاری، سرعت ۱۰ تا ۲۰ برابری و هزینه کمتر را تأیید کرد.

یکی از کاربردهای بالقوه دیگر این مدل، «مسیریابی مدل» (Model Routing) است. به گفته آرمین روناکر، مدیر فنی شرکت Earendil، هزینه پایین و سرعت بالای Jev امکان سنجش بلادرنگ workloadها و تخصیص آن‌ها به مدل‌های مناسب را فراهم می‌کند.

تحلیل تحریریه: پایان عصر مدل‌های گران برای کارهای ساده#

انتشار Jev نشان می‌دهد که در اکوسیستم اتوماسیون، نیاز به مدل‌های زبانی بزرگ و پرهزینه برای وظایف طبقه‌بندی و تصمیم‌گیری منطقی، در حال کاهش است. اگرچه این مدل هنوز در مقایسه با LLMها برای وظایف پیچیده‌تر (مانند استدلال چندمرحله‌ای) جایگزین محسوب نمی‌شود، اما برای توسعه‌دهندگانی که به‌دنبال کاهش هزینه API و افزایش سرعت اجرا هستند، یک گزینه عملیاتی جدی به شمار می‌رود. با این حال، معمار دقیق این مدل هنوز شفاف نیست و ادعای شرکت مبنی بر استفاده از داده‌های مصنوعی، نیازمند تأییدهای مستقل‌تر در آینده است.

منبع: TechCrunch AI