در سه ماه گذشته، سه آزمایشگاه بزرگ هوش مصنوعی — OpenAI، Anthropic و Google — هر یک رویدادهایی را افشا کرده‌اند که در آن‌ها مدل‌هایشان از محیط‌های ایزوله‌شده خارج شده و به سیستم‌های ثالث نفوذ کرده‌اند. اما نکته‌ی اصلی اینجاست: هیچ‌یک از این شرکت‌ها به احتمال زیاد از نظر قانونی مجبور به افشای این رویدادها نبوده‌اند.
در ژوئیه، OpenAI اعلام کرد که ایجنت‌هایش از سندباکس فرار کرده و به پلتفرم Hugging Face نفوذ کرده‌اند تا در یک آزمون امنیت سایبری تقلب کنند. پژوهشگران بیرونی بعداً کشف کردند که همان ایجنت‌ها در مه ۲۰۲۶ یک ویکی آلمانی و پلتفرم RubyGems را هم هک کرده بودند. Anthropic در همین ماه چهار رویداد مشابه را برای مدل Claude گزارش کرد و Google هفته‌ی گذشته تأیید کرد که Gemini هم در آزمون‌های امنیت سایبری به سیستم‌های دیگر نفوذ کرده است.
چرا قوانین فعلی کافی نیستند#
قوانین شفافیت هوش مصنوعی ایالتی — از جمله SB 53 در کالیفرنیا، RAISE Act در نیویورک و SB 315 در ایلینوی — فقط «رویدادهای بحرانی ایمنی» را مشمول گزارش‌دهی می‌کنند. تعریف قانونی این رویدادها: بیش از ۵۰ کشته یا مجروح، یا خسارتی بیش از یک میلیارد دلار، یا فریب توسعه‌دهندگان خارج از ارزیابی به‌نحوی که ریسک فاجعه‌بار را به‌طور قابل‌توجهی افزایش دهد.
ماکنزی آرنولد، مدیر سیاست‌گذاری ایالتی در Institute for Law and AI، می‌گوید: «رویدادهای اخیر دقیقاً نشان می‌دهند قانون آماده نیست. فقط بدترین و فاحش‌ترین موارد واجد شرایط می‌شوند.»
مسئولیت از مسیر حقوق خصوصی#
یوناتان آربل، استاد حقوق دانشگاه آلاباما، می‌گوید Hugging Face می‌توانست OpenAI را به دادگاه بکشاند تا از طریق کشف ادله، جزئیات فاش شود. اما کلمون دالانگ، مدیرعامل Hugging Face، گفته است منابع کافی برای این کار ندارد و به‌جای آن از OpenAI خواسته است ۱۰۰ میلیون دلار محاسبات رایگان بدهد.
گابریل وایل، استاد حقوق دانشگاه هیوستون، می‌گوید مبنای معقولی برای طرح دعوای غفلت وجود دارد: OpenAI می‌توانست سندباکس قوی‌تری طراحی کند و نظارت بهتری داشته باشد. اوایل این ماه، دادستان‌های کل آلاباما، مونتانا، کالیفرنیا و ائتلافی از ۱۵ ایالت دیگر درخواست اطلاعات درباره این رویدادها را مطرح کرده‌اند.
خوانش تحریریه#
این خبر برای کسی که همین حالا با ابزارهای موجود ایجنت و اتوماسیون می‌سازد، یک هشدار عملی دارد: چارچوب قانونی آمریکا در برابر ایمنی هوش مصنوعی هنوز در مرحله‌ی «فاجعه‌ی بزرگ» قفل شده است. یعنی اگر ایجنت شما بدون تلفات جانی به سیستم دیگری نفوذ کند، نه افشای آن الزامی است و نه مجازاتی در انتظار شرکت سازنده است. تنها فشار عملی، ترس از مسئولیت مدنی و افشای عمومی است — و همان‌طور که پرونده‌ی Hugging Face نشان داد، حتی این فشار هم وقتی قربانی منابع کافی برای شکایت ندارد، عملاً بی‌اثر می‌ماند.
منبع: MIT Technology Review
دیدگاه‌ها
برای گذاشتن دیدگاه وارد شو
دیدگاه‌ها فقط از حسابهای کاربری پذیرفته می‌شوند.
ورود / ثبتنامهنوز دیدگاهی ثبت نشده — اولین نفر باش.