انتروپیک در پست وبلاگی که پنج‌شنبه ۱۵ اکتبر ۲۰۲۶ منتشر شد، اعلام کرد شش پژوهشگر از METR — سازمان غیرانتفاعی سنجش مدل‌های مرزی هوش مصنوعی — دسترسی هم‌سطح کارمندان این شرکت را خواهند داشت تا مدل‌ها، شیوه‌های ایمنی و مدیریت ریسک را به‌صورت مستقل ارزیابی کنند.

پژوهشگران METR لپ‌تاپ‌های شرکتی، فضای اداری و دسترسی به ابزارهای داخلی انتروپیک را دریافت می‌کنند که تقریباً هم‌سطح آنچه تیم‌های ارزیابی ریسک خود انتروپیک استفاده می‌کنند است. انتروپیک گفته کارمندانش تشویق می‌شوند اطلاعات را با این پژوهشگران همان‌طور به اشتراک بگذارند که با همکاران خود در حوزه ریسک هم‌راستایی (alignment risk) می‌گذارند.

حق انتشار بدون وتو، سانسور محدود#

METR گزارش‌های مستقل خود درباره ریسک‌ها، رویدادها و شیوه‌های انتروپیک را منتشر خواهد کرد و این شرکت حق وتوی انتشار را از دست داده است. انتروپیک فقط می‌تواند سانسور اطلاعات در دسته‌های از پیش تعریف‌شده را بخواهد: داده‌های مشتری، اطلاعات مشمول راز وکیل-موکل، و جزئیات مربوط به معماری مدل‌ها. METR آزاد است که سانسورها را علنی توصیف کند و بگوید آیا آن‌ها را توجیه‌شده می‌داند یا نه، مشروط بر اینکه محتوای سانسورشده را فاش نکند.

سیستم سه‌لایه ارزیابان#

METR تنها ارزیاب لایه بالایی سیستمی است که انتروپیک در حال ساخت آن است:

  • لایه پایین: ارزیابانی مانند SecureBio (سازمان غیرانتفاعی امنیت زیستی) بازرسی‌های محدود انجام می‌دهند و برای انتشار نیاز به تأیید انتروپیک دارند.
  • لایه میانی: اطلاعات بیشتری دریافت می‌کنند و بدون تأیید می‌توانند منتشر کنند.
  • لایه بالا: دسترسی کارمندی کامل، همان‌طور که METR اکنون دارد.

انتروپیک این سازوکار را به بازرسان مقیم در بانک‌های بزرگ تشبیه کرده است.

زمینه خبر#

این اعلامیه وعده‌ای را عملی می‌کند که داریو آمودئی، مدیرعامل انتروپیک، در مقاله‌ای در سپتامبر داده بود: جای‌دادن ارزیابان بیرونی داخل آزمایشگاه‌های هوش مصنوعی به‌عنوان نخستین گام برای کند کردن توسعه این فناوری. اوپن‌ای‌آی نیز بلافاصله تعهد مشابهی داد و این دو شرکت به‌همراه گوگل، متا، انویدیا و xAI پیمان کاخ سفید را امضا کردند که به بازبینی مستقل متعهد است.

این تصمیم در شرایطی گرفته می‌شود که از اواخر اوت، تقریباً هر یک یا دو هفته رویدادهایی از خروج ایجنت‌های هوش مصنوعی از دستورالعمل‌ها علنی شده و فشار برای بازرسی مستقل را افزایش داده است.

خوانش تحریریه#

برای کسی که همین حالا با مدل‌های انتروپیک ایجنت یا اتوماسیون می‌سازد، این خبر در کوتاه‌مدت چیزی در دسترس‌بودن یا رفتار مدل‌ها عوض نمی‌کند. آنچه تغییر می‌کند، لایه حاکمیتی است: اگر METR در ارزیابی‌هایش مسئله‌ای پیدا کند، فشار عمومی برای اصلاح می‌تواند به تغییرات در مدل‌های آینده یا محدودیت‌های دسترسی منجر شود. نکته مهم‌تر، ساختار سه‌لایه‌ای است که انتروپیک طراحی کرده — این الگو احتمالاً توسط شرکت‌های دیگر کپی خواهد شد و در آینده معیار مقایسه‌پذیری ارزیابان بیرونی را تعیین می‌کند. اما هنوز هیچ گزارشی از METR منتشر نشده، پس نمی‌توان حدس زد که این دسترسی عمیق چه چیزی را آشکار خواهد کرد.

منبع: TechCrunch AI