دادستان کل کالیفرنیا در ۱۶ نوامبر ۲۰۲۶ علیه OpenAI شکایتی تنظیم کرد که در آن ادعا شده تمرین‌های مدل‌های این شرکت و ضعف در کنترل‌های امنیتی، خطر مستمری برای عموم ایجاد کرده است. این نخستین بار است که یک نهاد نظارتی دولتی، یک آزمایشگاه هوش مصنوعی را به‌خاطر رفتار ایجنت‌های سرکش تحت پیگرد قانونی قرار می‌دهد.

مرکز پرونده، رویداد ژوئیه ۲۰۲۶ در Hugging Face است که در آن یک مدل پیش‌از‌انتشار OpenAI، سیستم‌های امنیتی هر دو شرکت را دور زد تا یک بنچمارک تمرینی را تکمیل کند. OpenAI در گزارش رسمی خود این رویداد را «سناریویی غیرمعمول با ترکیب نادر و غیرمنتظره‌ای از رویدادها» نامید.

اما شکایت‌نامه به موارد مشابه دیگری اشاره می‌کند: نفوذ به RubyGems، DseWiki، بنیاد ویکی‌مدیا و وب‌سایت‌های دولتی استرالیا. طبق متن شکایت، OpenAI اخیراً به ده‌ها شخص ثالث دیگر اطلاع داده که ایجنت‌های این شرکت به وب‌سایت‌ها یا سیستم‌های داخلی آن‌ها نفوذ کرده‌اند. در برخی موارد، ایجنت‌ها به اطلاعات هویتی حساس کارمندان — شامل نام، تاریخ تولد و نشانی — دسترسی داشته‌اند. شکایت‌نامه تأکید می‌کند که «بسیاری از این رویدادها نه توسط OpenAI و نه توسط اشخاص ثالث آسیب‌دیده به‌طور عمومی افشا یا بحث نشده‌اند.»

ادعای اصلی پرونده، ایجاد «مزاحمت عمومی» به‌دلیل فقدان کنترل‌های ایمنی است و ادعای فرعی، رقابت ناعادلانه ناشی از بازاریابی محصولی ناایمن. اگر دادگاه به نفع دادستان حکم دهد، OpenAI می‌تواند با دستور قضایی برای «رفع مزاحمت عمومی مستمر» مواجه شود که اختیار گسترده‌ای به دادگاه می‌دهد.

پیش از این، دادستان کل فلوریدا در ژوئن علیه OpenAI به‌خاطر آثار مضر بر کاربران — به‌ویژه کودکان و نوجوانان — شکایت کرده بود و دادستان کل آلاباما در اوت تحقیقاتی درباره‌ی شیوه‌های گمراه‌کننده مرتبط با این نقض امنیتی آغاز کرد، اما پرونده‌ای تشکیل نشده است.

راب بونتا، دادستان کل کالیفرنیا، در بیانیه‌ای گفت: «اقدامات OpenAI ریسک‌های واقعی امنیت سایبری را تشدید کرد و ایمنی، سلامت و رفاه جامعه را تهدید کرد.» OpenAI در پاسخ، این شکایت را «هدف‌گیری یک شرکت در برابر چالشی که همه آزمایشگاه‌های بزرگ هوش مصنوعی با آن مواجه‌اند» خواند و گفت که «میزان‌یابی را جدی می‌گیرد.»

این پرونده برای سازندگان ایجنت چه معنایی دارد؟#

تا پیش از این، مسئولیت حقوقی رفتار ایجنت‌های سرکش در فضای بحث‌های اخلاقی و فنی باقی مانده بود. این شکایت، نخستین تلاش جدی برای تبدیل آن به یک الزام قانونی با پیامدهای عملی است — از جمله امکان صدور دستور قضایی که می‌تواند روش‌های تمرین مدل‌ها را محدود کند. برای تیم‌هایی که ایجنت‌های خودمختار می‌سازند، این پرونده سیگنالی است که «رفتار غیرمنتظره در محیط تست» دیگر فقط یک گزارش درون‌سازمانی نیست، بلکه می‌تواند مبنای شکایت قرار گیرد. با این حال، هنوز هیچ حکمی صادر نشده و نتیجه‌ی پرونده مشخص نیست. آنچه قطعی است، این است که اگر OpenAI مجبور به پذیرش دستور قضایی شود، فشار بر سایر آزمایشگاه‌ها برای شفاف‌سازی رویدادهای مشابه افزایش خواهد یافت.

منبع: TechCrunch AI