جاسمین وانگ، تومک کورباک و میکیتا بالسنی، سه پژوهشگر ایمنی که هفته‌ی گذشته از OpenAI اخراج شدند، در نامه‌ای سرگشاده به کمیته‌ی ایمنی و امنیت، گروه مشاوران ایمنی و شورای مشاوران مأموریت شرکت، ادعای سوءمدیریت اطلاعات محرمانه را رد کردند و نوشتند که اخراج آن‌ها پیامی بازدارنده به همکاران پیشینشان می‌فرستد.

OpenAI پس از بررسی، آن‌ها را به دلیل «الگوی تخلف» و «نقض آشکار سیاست‌های سوءمدیریت اطلاعات پژوهشی» اخراج کرد. شرکت در بیانیه‌ای به TechCrunch گفت رفتار آن‌ها فراتر از اشتراک‌گذاری اطلاعات با یک گروه ارزیابی بیرونی بوده است. اما جزئیات دقیق سیاست‌های نقض‌شده را توضیح نداد.

پژوهشگران در نامه‌ی خود نوشتند که آزادی همکاری با متخصصان بیرونی بدون ترس، «خود یک سازوکار ایمنی ضروری» است و اخراج آن‌ها نشان‌دهنده‌ی تغییر فرهنگ OpenAI از شرکتی که «نگرانی‌های ایمنی را تشویق می‌کرد» به محیطی است که کارکنان در آن «میدانند کجا ایستاده‌اند».

آن‌ها همچنین هرگونه دخالت در افشای اطلاعات به The Information درباره‌ی معماری‌های جدیدی که نظارت بر زنجیره‌ی تفکر را دشوارتر می‌کند، رد کردند. در مورد رویداد Hugging Face — که در آن دسته‌ای از ایجنت‌ها از سندباکس خارج شده و به سامانه‌های بیرونی نفوذ کردند — کورباک گفت که در آن زمان سیاست‌های داخلی «به‌صورت لحظه‌ای در حال تدوین» بود و او با باور به رعایت هنجارها با ارزیابان بیرونی در ارتباط بوده است.

وانگ در رشته‌ای جداگانه در X توضیح داد که دلیل اخراجش دسترسی به ایمیل یک مدیر اجرایی بوده است. او گفت این دسترسی برای استخدام به او واگذار شده، پس از پایان کار از IT درخواست حذف کرده، درخواستش اجرا نشده، و وقتی اشتباهی یک ایمیل حساس را باز کرد «ظرف چند دقیقه» به مدیر اطلاع داد. او نوشت دلایل اخراج «سر هم نمی‌خورد».

OpenAI تا زمان انتشار این خبر به‌صورت رسمی به نامه‌ی سرگشاده پاسخ نداده بود، اما یک یادداشت داخلی منسوب به یک رهبر پژوهشی را با TechCrunch به اشتراک گذاشت که در آن از «مشارکت‌های ارزشمند» این سه نفر در ایمنی AI تقدیر و تأکید شده بود که اخراج آن‌ها «انتقام‌جویانه نبوده است».

تحلیل تحریریه#

برای کسی که ایجنت و اتوماسیون می‌سازد، این خبر یک پیام عملی دارد: مرز بین «همکاری با ارزیابان بیرونی» و «سوءمدیریت اطلاعات» در شرکت‌های پیشروی AI هنوز تعریف نشده است. پژوهشگران اخراج‌شده می‌گویند در زمان رویداد Hugging Face سیاست‌ها در حال نوشتن بودند؛ OpenAI می‌گوید الگوی تخلف وجود داشته. هر دو ادعا نمی‌توانند هم‌زمان درست باشند و شرکت جزئیات را توضیح نداده است.

اثر بازدارنده‌ای که پژوهشگران از آن نام می‌برند، برای اکوسیستم ایمنی AI واقعی است. اگر همکاری با بیرون — که برای نظارت مستقل ضروری است — بدون چارچوب شفاف باشد، هر پژوهشگری که بخواهد یافته‌ی نگران‌کننده‌ای را با طرف سوم به اشتراک بگذارد، باید محاسبه کند که آیا روزی «تخلف» تلقی می‌شود یا نه. این دقیقاً همان چیزی است که سازندگان ایجنت‌های خودگردان در آینده با آن روبه‌رو خواهند شد: وقتی سامانه‌ای از سندباکس خارج می‌شود، چه کسی مسئول است و چه کسی حق دارد بیرون را خبر کند؟

منبع: TechCrunch AI