Box در کنفرانس توسعه‌دهندگان خود (پنج‌شنبه ۵ نوامبر ۲۰۲۶) از قابلیت جدیدی به نام Box Content Retrieval رونمایی کرد که سیستم embedding Nvidia Nemotron را در هسته‌ی محصول خود قرار می‌دهد. این قابلیت به ایجنت‌ها اجازه می‌دهد با اتکا به متادیتای جاسازی‌شده‌ی Nemotron، پرسش‌ها را دقیق‌تر و سریع‌تر پاسخ دهند.

کاری بریسکی، معاون نرم‌افزار هوش مصنوعی مولد Nvidia، به TechCrunch گفته است که انتظار می‌رود استعلام‌ها چهار برابر سریع‌تر پاسخ داده شوند، خطاها ۲۰٪ کمتر شوند و مصرف توکن ۹۰٪ کاهش یابد.

این سیستم پیاده‌سازی پروژه‌ی Nemotron Embed است؛ مجموعه‌ای از مدل‌های embedding با وزن‌های باز که برای بهبود سیستم‌های بازیابی خودکار طراحی شده‌اند. آرون لوی، مدیرعامل Box، گفته است که به‌جای آنکه ایجنت مجبور باشد هر سند را کامل بخواند، حالا می‌تواند بخش‌هایی از اسناد را که بیشترین ارتباط را با پرسش کاربر دارند دریافت کند.

چگونه کار می‌کند#

مدل‌های embedding فراتر از تطبیق کلیدواژه‌ها عمل می‌کنند و مفاهیم زیربنایی را نقشه‌برداری می‌کنند. به‌عنوان مثال، یک ابزار جست‌وجوی حقوقی می‌تواند مضامین مرتبط را حتی وقتی از واژگان یا زبان متفاوتی استفاده شده، پیدا کند. Box این قابلیت را بیش از همه برای ایجنت‌های فعال (مثلاً ایجنت‌هایی که وکلا برای یافتن بندها و سوابق قضایی استفاده می‌کنند) مفید می‌داند.

دسترسی و محدودیت‌ها#

Box Content Retrieval برای مشتریان Enterprise Advance در دسترس خواهد بود و از اوایل سال آینده عرضه می‌شود. اگرچه مدل‌های Nemotron به‌صورت آزاد در دسترس‌اند، این سیستم به متادیتا و کنترل‌های دسترسی از پیش موجود در Box وابسته است. لوی گفته است که «احتمالاً پنج فناوری مختلف را در یک API ساده بسته‌بندی کرده‌ایم» و بازسازی این سیستم از صفر دشوار خواهد بود.

برای سازندگان ایجنت چه معنایی دارد؟#

کاهش ۹۰٪ مصرف توکن عددی است که اگر در عمل تأیید شود، مستقیماً هزینه‌ی اجرای ایجنت‌های مبتنی بر retrieval را کاهش می‌دهد. اما نکته‌ی مهم‌تر این است که این بهبود نتیجه‌ی صرفاً مدل embedding نیست؛ ترکیب متادیتای ساختاریافته‌ی Box با Nemotron است. یعنی اگر از Box استفاده نمی‌کنید، نمی‌توانید انتظار داشته باشید که صرفاً با نصب Nemotron Embed همان اعداد را بگیرید. برای تیم‌هایی که محتوای سازمانی‌شان داخل Box است، این یک بهینه‌سازی عملیاتی واقعی است. برای بقیه، سیگنالی است که لایه‌ی embedding-based retrieval در استک‌های ایجنت سازمانی در حال استاندارد شدن است — و رقبایی مثل Microsoft و Google احتمالاً نسخه‌های خود را هم‌رسانی می‌کنند.

منبع: TechCrunch AI