Anthropic لایحه‌ای پیشنهادی درباره‌ی نظارت بر ایمنی هوش مصنوعی را به کنگره ارائه کرده است. طبق گزارش Politico، این لایحه در صورت وجود «خطر فوری و قابل پیش‌بینی» کشته شدن بیش از ۵۰ نفر یا خسارت مالی بالای ۱ میلیارد دلار، امکان مسدود کردن انتشار یک مدل هوش مصنوعی را فراهم می‌کند.

شرط‌های مسدودسازی مدل#

خطر فاجعه‌بار مورد نظر در این لایحه باید از یکی از سه منبع زیر ناشی شود:

  • ساخت یا انتشار یک سلاح بیولوژیکی
  • فرار مدل از کنترل‌های توسعه‌دهنده
  • حمله‌ی سایبری

این معیارها — ۵۰ نفر و ۱ میلیارد دلار — مشابه تعریف «خطر فاجعه‌بار» در Senate Bill 53 کالیفرنیا هستند که اخیراً به قانون تبدیل شده است.

نقش ارزیاب‌های مستقل#

طبق لایحه، ارزیاب‌های مستقلی که در وزارت بازرگانی آمریکا ثبت می‌شوند، پتانسیل فاجعه‌بار یک مدل را بررسی می‌کنند. این ارزیاب‌ها می‌توانند توسط خود آزمایشگاه‌های هوش مصنوعی پرداخت شوند، به شرطی که «پرداخت به نتایج ارزیابی مشروط نباشد». نحوه‌ی تضمین این شرط در لایحه مشخص نشده است.

وقتی ارزیاب خطر فوری فاجعه‌باری تشخیص دهد، ۷۲ ساعت فرصت دارد وزارت بازرگانی را مطلع کند. وزارت بازرگانی سپس باید از یک قاضی در واشینگتن دی‌سی درخواست توقف انتشار مدل کند. لایحه صریحاً به هیچ نهاد فدرالی اختیار مستقل برای توقف توزیع مدل نمی‌دهد.

پیش‌زمینه و واکنش‌ها#

سخنگوی Anthropic این لایحه را به Politico تأیید کرد و گفت این پیش‌نویس، پیشنهادهای مطرح‌شده در Advanced AI Framework این شرکت است که از ژوئن ۲۰۲۶ با قانون‌گذاران فدرال و ایالتی در میان گذاشته شده است.

این پیشنهاد از آنچه سایر بازیگران صنعت ارائه کرده‌اند فراتر می‌رود. Jensen Huang، مدیرعامل Nvidia، اخیراً استدلال کرده بود که صنعت هوش مصنوعی اصلاً به قوانین جدید نیاز ندارد. Demis Hassabis، رئیس DeepMind، ماه‌ها پیش پیشنهاد کرده بود نهادهای خودنظارتی هوش مصنوعی از مدل سازمان نظارت بر بازار مالی آمریکا (FINRA) الگو بگیرند.

خوانش تحریریه#

این لایحه از نظر ساختاری جالب است چون Anthropic — یکی از شرکت‌هایی که همیشه از خطرهای وجودی هوش مصنوعی حرف می‌زند — عملاً یک سازوکار قانونی با قابلیت بازداشت مدل پیشنهاد می‌کند. اما چند نکته‌ی عملی مهم است: اول، سناریوهای تعریف‌شده (سلاح بیولوژیکی، فرار از کنترل، حمله‌ی سایبری) با نگرانی‌های فعلی صنعت فاصله دارد؛ آنچه امروز رسانه‌ها را مشغول کرده، هک‌های عامل‌محور (agentic hacking) است که در این لایحه جای مشخصی ندارد. دوم، وابستگی ارزیاب‌ها به پرداخت آزمایشگاه‌ها، حتی با شرط عدم وابستگی به نتیجه، یک نقطه‌ی ضعف ساختاری است که لایحه پاسخی برای آن ندارد. سوم، این لایحه هنوز پیش‌نویس است و هیچ نشانه‌ای از پذیرش آن در کنگره وجود ندارد. برای کسی که امروز با ابزارهای موجود ایجنت می‌سازد، این خبر عملاً چیزی عوض نمی‌کند — اما نشان می‌دهد که لایه‌ی بعدی بحث تنظیم‌گری، «توقف انتشار مدل» به‌عنوان ابزار قانونی است.

منبع: TechCrunch AI