شرکت PrismML، یک آزمایشگاه هوش مصنوعی که توسط پژوهشگران مؤسسه کالتک (Caltech) تأسیس شده و تحت راهنمایی Ion Stoica از دانشگاه کالیفرنیا، برکلی فعالیت می‌کند، نسخه‌ای از مدل‌های زبانی کوچک خود را برای عینک‌های هوشمند مبتنی بر چیپ‌های کوالکام توسعه داده است.

این شرکت روز چهارشنبه در رویداد Snapdragon Summit کوالکام، مدل ۱ بیتی Bonsai LLM خود را به نمایش گذاشت که قابلیت اجرای محلی روی عینک‌های هوشمند مبتنی بر پلتفرم Snapdragon AR1 Gen 1 را دارد.

مدل به نمایش درآمده دارای ۲ میلیارد پارامتر است و برای پردازش بینایی و زبان تنظیم شده تا کاربران بتوانند در لحظه درباره آنچه می‌بینند سوال بپرسند. PrismML ادعا می‌کند که این مدل با فشرده‌سازی ۴ برابری، تقریباً تمام عملکرد مدل‌های بزرگ‌تر را در معیارهای استاندارد حفظ کرده است.

هدف بلندتر PrismML، ارائه هوش مصنوعی با وزن‌های باز (open-weight) است که مستقیماً روی دستگاه‌ها اجرا شود و از قدرت پردازش موجود آن‌ها بهینه استفاده کند. این استارتاپ رویکرد خود را به‌عنوان جایگزینی برای وابستگی به وعده‌های حریم خصوصی آزمایشگاه‌های انحصاری و نیاز مداوم آن‌ها به قدرت محاسباتی بیشتر معرفی می‌کند.

انتشار مدل برای چیپ کوالکام گامی در جهت تحقق این چشم‌انداز است. با این حال، هنوز هیچ عینک هوشمندی که از PrismML استفاده کند به‌طور رسمی معرفی نشده است.

اجرای محلی به‌عنوان استراتژی فرار از وابستگی#

تلاش PrismML برای اجرای مدل‌های زبانی روی سخت‌افزارهای محدود مانند عینک‌های هوشمند، نشان‌دهنده یک تغییر رویکرد در صنعت است: گذار از مدل‌های بزرگ ابری به سمت مدل‌های کوچک و کارآمد محلی. برای توسعه‌دهندگانی که در حال ساخت ایجنت‌ها و ابزارهای اتوماسیون هستند، این خبر دو پیام مشخص دارد:

  • دسترس‌پذیری فنی: اگرچه مدل معرفی شده است، اما هنوز دستگاه مصرفی آن موجود نیست. تا زمان عرضه عینک‌های هوشمند نهایی، این فناوری در مرحله نمایشی باقی می‌ماند.
  • مزیت رقابتی: فشرده‌سازی مدل‌ها بدون افت شدید عملکرد، کلید اصلی موفقیت در دستگاه‌های پوشیدنی است. این رویکرد می‌تواند الگویی برای سایر شرکت‌ها باشد که می‌خواهند بدون وابستگی به سرورهای ابری، خدمات هوش مصنوعی ارائه دهند.

در عمل، این خبر فعلاً تأثیر مستقیمی بر ابزارهای موجود ندارد، اما نشان می‌دهد که زیرساخت‌های سخت‌افزاری (مانند چیپ‌های کوالکام) و نرم‌افزاری (مانند مدل‌های PrismML) برای هوش مصنوعی محلی آماده می‌شوند. نکته حیاتی برای توسعه‌دهندگان این است که موفقیت این رویکرد به تعادل بین «اندازه مدل» و «کیفیت پاسخ» بستگی دارد؛ چیزی که PrismML ادعا می‌کند به آن دست یافته است.

منبع: TechCrunch AI