Yandex با انتشار گزارش فنی مدل Sona، از جایگزینی کامل پایپ‌لاین چندمرحله‌ای توصیه‌گر با یک ترنسفورمر زایا خبر داد. این مدل در آزمایشی هفت‌روزه روی بلندگوهای هوشمند Yandex (سطح Yandex Music) سرو شد و بیش از ۱۵ مولد کاندید، مرحله پیش‌رتبه‌بندی و مرحله رتبه‌بندی را حذف کرد.

معماری: بدون ویژگی‌های مهندسی‌شده#

Sona دو بخش دارد: یک Encoder که تاریخچه ۸٫۱۹۲ رویداد شنیداری کاربر را می‌خواند و یک Decoder که با جستجوی پرتوی محدود (beam width 1,024) کاندیدها را تولید می‌کند. هر آهنگ به سه کد گسسته (Semantic ID) تبدیل می‌شود؛ سه کتاب‌کد ۳۲٫۰۰۰-entry از کوانتیزاسیون Residual K-means. هیچ ورودی‌ای از ویژگی‌های مهندسی‌شده دستی استفاده نمی‌کند — فقط فیلدهای رویداد لاگ‌شده.

بخش Ranking Module با چهار لایه cross-attention کاندیدها را نسبت به حافظه Encoder امتیازدهی می‌کند. این ماژول از یک Teacher Ranker با ۰٫۶ میلیارد پارامتر، که فقط در آموزش استفاده می‌شود و در سرو حذف می‌گردد، یاد می‌گیرد. روش تقطیر را تیم Rollout Distillation نامیده است.

آموزش آنلاین و سرو#

رویدادها در پنجره‌های ۱۵ دقیقه‌ای تجمیع و به GPU trainer فرستاده می‌شوند. وزن‌های جدید هر ۱۰ دقیقه به سرو می‌رسند. تأخیر end-to-end میانه ۴۵ دقیقه و p99 آن ۶۰ دقیقه گزارش شده. سرو روی NVIDIA Triton Inference Server با CUDA graphs انجام می‌شود و ۴۱٪ از FLOPs مدل را بهره‌برداری می‌کند.

نتایج آزمون A/B#

آزمون روی ۱۵٪ کاربران تصادفی به ازای هر گروه کنترل/آزمایش اجرا شد. تمام تغییرات نسبت به کنترل، از نظر آماری معنادار بودند:

  • کاربران فعال: +۴٫۵۳٪
  • زمان کل گوش‌دادن: +۶٫۳۰٪
  • لایک‌ها: +۱۱٫۴۲٪
  • دستورهای «تکرار»: +۱۷٫۹۹٪
  • کاربران با تعامل عمیق: +۷٫۳۷٪

افزایش ۴٫۵۳٪ی کاربران فعال، ۲٫۳۵ برابر increment قبلی Argus (۱٫۹۳٪) روی همین سطح است.

مقایسه با OneRec و HSTU#

Sona نخستین توصیه‌گر زایای end-to-end در محیط production نیست. Kuaishou با OneRec یک مدل encoder-decoder را سرو می‌کند و Meta با HSTU توصیه را به‌صورت sequential transduction بازتعریف کرده. آنچه Sona ترکیب می‌کند، جایگزینی کامل cascade، حذف کامل ویژگی‌های مهندسی‌شده و رتبه‌بندی تقطیرشده است — همه با اعتبارسنجی آنلاین.

خوانش تحریریه#

این خبر برای کسی که با APIها و ابزارهای موجود ایجنت می‌سازد، مستقیماً چیزی عوض نمی‌کند. Sona یک سیستم داخلی recommendation در مقیاس میلیون‌ها کاربر است و کد یا وزن عمومی ندارد. اما پیام معماری‌اش برای تیم‌های ML مهم است: اگر هنوز روی پایپ‌لاین‌های چندمرحله‌ای با صدها feature مهندسی‌شده کار می‌کنید، Sona نشان می‌دهد که یک مدل زایا با ورودی خام رویدادها می‌تواند آن‌ها را حذف کند و در عمل بهتر کار کند. نکته‌ی احتیاطی: نتایج روی یک سطح خاص (موسیقی روی بلندگوی هوشمند، بدون نیاز به انتخاب کاربر) به دست آمده. انتقال این الگو به حوزه‌هایی که کاربر از ابتدا هدفمند جستجو می‌کند، هنوز نشان داده نشده.

منبع: MarkTechPost