Anthropic در پست وبلاگی منتشرشده در سه‌شنبه‌ی سوم نوامبر ۲۰۲۶، از سامانه‌ی متن‌بازی به نام FlashProve پرده برداشت که هدف آن ارائه‌ی آنچه پژوهشگران «استنتاج قابل‌اثبات» (provable inference) می‌نامند است: یک اثبات رمزنگاری که به‌صورت ریاضی تضمین می‌کند خروجی مشخص از مدل مشخصی تولید شده است.
کاربرد: جلوگیری از جایگزینی پنهانی مدل#
پژوهشگران در پست خود توضیح داده‌اند که FlashProve می‌تواند جلوی شرکت‌های هوش مصنوعی را بگیرد که به‌صورت پنهانی مدل ارزان‌تری را جایگزین مدل اعلام‌شده کنند تا هزینه کم شود، یا مدل گران‌تری را برای تورم نتایج بنچمارک استفاده کنند. این سامانه حتی در برابر «متقلبی» که خود آزمایشگاه سازنده‌ی مدل باشد، مقاوم طراحی شده است.
کاربرد دیگر، راستی‌آزمایی ادعاهای شخص ثالث است. پژوهشگران مثالی زده‌اند: توسعه‌دهنده‌ای ادعا کند کتابخانه‌ی نرم‌افزاری‌اش با یک مدل پیشرفته‌ی امنیت سایبری آسیب‌پذیری‌سنجی شده، یا شرکتی بگوید طرح تجاری‌اش توسط مدل مناسبی تأیید شده. FlashProve می‌تواند این ادعاها را قابل‌بررسی کند.
نحوه‌ی کار: اثر انگشت بدون افشای وزن‌ها#
سامانه از آزمایشگاه‌ها می‌خواهد «اثر انگشتی» (fingerprint) از هر مدلی که منتشر می‌کنند عمومی کنند. این اثر انگشت بعداً با خروجی‌های خاص تطبیق داده و به‌صورت رمزنگاری تأیید می‌شود. نکته‌ی کلیدی این است که اثر انگشت، وزن‌های مدل — یعنی اعداد درونی که رفتار مدل را تعریف می‌کنند — را افشا نمی‌کند. بنابراین شرکت‌هایی مثل Anthropic و OpenAI که وزن‌ها را محرمانه نگه می‌دارند، می‌توانند بدون افشای دارایی اصلی‌شان، اثر انگشت را منتشر کنند.
طراحی سامانه سبک است و تأیید می‌تواند روی دستگاه محلی انجام شود.
وضعیت فعلی: پژوهش، نه محصول#
Anthropic همراه با این اطلاعیه، مشخصات فنی و کد کارکردی بخش‌هایی از سامانه را تحت مجوز متن‌باز در GitHub منتشر کرده است. اما پژوهشگران صریحاً گفته‌اند که این «پیشرفت میانی» است و «دستورکار پژوهشی کامل نیست» و برنامه‌ای برای استقرار آن در Anthropic یا هر آزمایشگاه دیگری وجود ندارد.
خوانش تحریریه#
برای کسی که همین امروز با APIهای مدل‌های بسته ایجنت و اتوماسیون می‌سازد، این خبر عملاً چیزی عوض نمی‌کند. FlashProve نه در دسترس است، نه قرار است به‌کار گرفته شود، و حتی خود Anthropic آن را روی مدل‌هایش فعال نکرده. اما جهت‌گیری قابل‌توجه است: «منشأ مدل» دارد به یک مسئله‌ی فنی جدی تبدیل می‌شود. اگر از مدل‌های متعدد در یک پایپ‌لاین استفاده می‌کنید، در آینده‌ی نزدیک احتمالاً باید بتوانید ثابت کنید کدام خروجی واقعاً از کدام مدل آمده — نه برای مصرف‌کننده‌ی نهایی، بلکه برای ممیزی و انطباق. فعلاً، این یک اعلان پژوهشی است، نه یک ابزار.
منبع: TechCrunch AI
دیدگاه‌ها
برای گذاشتن دیدگاه وارد شو
دیدگاه‌ها فقط از حسابهای کاربری پذیرفته میشوند.
ورود / ثبتنامهنوز دیدگاهی ثبت نشده — اولین نفر باش.