برد اسمیت، رئیس مایکروسافت، در پادکست بی‌بی‌سی گفت بریتانیا — نه آمریکا و نه اتحادیه‌ی اروپا — بهترین جایگاه را برای رهبری مقررات جهانی ایمنی هوش مصنوعی دارد. او همچنین خواستار وضع فوری مقررات شد و گفت محصولات مصرفی مثل شیر و ماشین‌لباس‌شویی نظارت بیشتری از شرکت‌های سازنده‌ی هوش مصنوعی دریافت می‌کنند.

چرا بریتانیا؟#

اسمیت به مؤسسه‌ی ایمنی هوش مصنوعی بریتانیا (AISI) اشاره کرد که در ۲۰۲۳ راه‌اندازی شده و پیش از استقرار، به مدل‌های آزمایشگاه‌های مرزی آمریکا دسترسی دارد. او گفت در واشینگتن، لندن را آن‌طور که بروکسل را نگاه می‌کنند نگاه نمی‌کنند و «این یک نقطه‌ی قوت است».

این موضع در هفته‌های اخیر زیر فشار قرار گرفته بود. دونالد ترامپ، رئیس‌جمهور آمریکا، از سازمان‌های «جهانی‌گرا» انتقاد کرده و گفته آن‌ها در امور شرکت‌های آمریکایی دخالت می‌کنند. به‌گزارش‌ها، ماه گذشته از Anthropic و OpenAI خواسته بود مدل‌های جدید را در اختیار آزمایشگران بریتانیایی نگذارند. AISI روز دوشنبه تأیید کرد همچنان می‌تواند به جدیدترین مدل‌ها دسترسی پیدا کند و آن‌ها را آزمایش کند.

نقد خودتنظیمی داوطلبانه#

ماه گذشته ترامپ میزبان رهبران شرکت‌های OpenAI، Anthropic، Nvidia، AMD، SpaceX، Meta و Google در کاخ سفید بود. آن‌ها سندی «اخلاقاً الزام‌آور» امضا کردند که بر اساس آن با «حسابرسان مستقل» برای ارزیابی ایمنی و قابلیت‌های مدل‌های هوش مصنوعی همکاری خواهند کرد.

اسمیت این سند را «قدم خوب» خواند اما گفت به حد کافی نیست. به گفته‌ی او مشکل خودتنظیمی داوطلبانه این است که «شرکت‌های خوب» رعایت می‌کنند، اما «شرکت‌هایی که مسئولیت‌پذیرتر نیستند» همان‌هایی هستند که باید نگران آن‌ها بود.

پیشنهادها#

اسمیت چند قاعده‌ی ایمنی را برشمرد که خواستار اجرای آن‌هاست:

  • الزام قانونی به اطلاع‌رسانی به سازمان‌ها در صورت نفوذ عامل‌های هوش مصنوعی به سیستم‌ها
  • دریافت تأیید ارزیابان بیرونی پیش از عرضه‌ی محصول هوش مصنوعی
  • استفاده از کلید خاموش‌کن (kill switch) برای توقف یا کند کردن هوش مصنوعی در صورت از دست رفتن کنترل انسانی

این اظهارات در حالی مطرح شده که داریو آمودی (Anthropic) و سم آلتمن (OpenAI) نیز پس از چند حادثه‌ی مربوط به عامل‌های هوش مصنوعی که از کنترل خارج شده‌اند، خواستار کند شدن روند توسعه شده‌اند.

خوانش تحریریه#

اگر شما همین حالا با ابزارهای موجود ایجنت یا اتوماسیون می‌سازید، این خبر عملاً چیزی در دسترس شما تغییر نمی‌دهد. آنچه اهمیت دارد این است که بزرگ‌ترین شرکت نرم‌افزاری جهان، صریحاً می‌گوید خودتنظیمی داوطلبانه کافی نیست و خواستار چارچوب قانونی الزام‌آور شده است. اگر این موضع در آینده به مقررات واقعی تبدیل شود، الزاماتی مثل اطلاع‌رسانی اجباری در صورت نفوذ یا تأیید پیش از عرضه، مستقیماً روی معماری محصولاتی که امروز در حال ساخت آن‌ها هستید اثر می‌گذارد. اما هنوز هیچ‌کدام از این‌ها قانون نشده‌اند.

منبع: TechCrunch AI