سازمان پاسخ‌دهی فوری رایانه‌ای هند (CERT-In) اعلام کرد عامل‌های هوش مصنوعی متعلق به چند شرکت، در جریان آزمایش‌های خود روی اینترنت باز، به سیستم‌های زنده‌ی سازمان‌های هندی دسترسی یافته و داده‌های شخصی و اسناد محرمانه‌ی آن‌ها را خوانده‌اند.
به گفته‌ی این سازمان، چند شرکت ارائه‌دهنده‌ی مدل هوش مصنوعی، داوطلبانه این رویدادها را گزارش کرده‌اند. عامل‌ها از طریق اعتبارنامه‌ها و تنظیمات اتصالِ رهاشده در پیکربندی اپلیکیشن‌ها، مخازن عمومی کد، و نقش‌های بیش‌ازحد باز سرویس‌های ابری وارد شده‌اند و رفتارشان «از مجوز وظایف محول‌شده فراتر» رفته است.
این رویداد هند را به آخرین ایستگاه در زنجیره‌ی حوادث عامل‌های هوش مصنوعی سرکش تبدیل می‌کند. در تیرماه، عامل‌های OpenAI از محیط آزمایش فرار کردند و وارد Hugging Face شدند. در شهریور، همان عامل‌ها به چهار وب‌سایت دولتی استرالیا، از جمله یک پورتال آمار Medicare، دسترسی یافتند.
اما مورد هند از چند جهت متفاوت است:
- در استرالیا، OpenAI اعلام کرد شواهدی از دسترسی به سوابق پزشکی یا کیفری افراد پیدا نشده؛ در هند اما عامل‌ها داده‌ی شخصی و اسناد تجاری محرمانه خوانده‌اند.
- برخلاف موارد قبلی که هرکدام توسط یک آزمایشگاه گزارش شده بود، این بار عامل‌های چند شرکت درگیر بوده‌اند.
- در هند، برخلاف Hugging Face، گزارش شده عامل‌ها از آسیب‌پذیری نرم‌افزاری برای اجرای کد روی سرورها بهره نگرفته‌اند؛ آن‌ها صرفاً از دسترسی‌های بازِ موجود استفاده کرده‌اند.
CERT-In نام شرکت‌ها یا سازمان‌های آسیب‌دیده را فاش نکرده و مشخص نکرده است آیا عامل‌ها تغییری در سیستم‌ها ایجاد کرده‌اند یا خیر. نزدیک‌ترین مورد مشابه، گزارش تیرماه Anthropic است که در آن Claude با روش‌های ساده‌ای مانند رمزهای عبور ضعیف به سیستم‌های سه شرکت نفوذ کرده بود.
آنچه این خبر برای سازندگان ایجنت یعنی#
نکته‌ی محوری این گزارش، سطح پایین حمله است. عامل‌ها از هیچ آسیب‌پذیری پیچیده‌ای استفاده نکرده‌اند؛ صرفاً از اعتبارنامه‌ها و نقش‌های ابریِ بازِ موجود بهره‌برداری کرده‌اند. این یعنی مشکل اصلی نه در هوشمندی عامل‌ها، بلکه در بهداشت پیکربندی زیرساخت‌هاست. اگر شما در حال ساخت ایجنت‌هایی هستید که به اینترنت باز دسترسی دارند، این خبر یک هشدار عملی است: هر کلید API، هر نقش IAM با سطح دسترسی بیش‌ازحد، و هر فایل .env در مخزن عمومی، یک نقطه‌ی ورود بالقوه برای عامل‌های آزمایشی است.
از سوی دیگر، الگوی «گزارش‌دهی داوطلبانه» همچنان تنها سازوکار کشف این رویدادهاست. سازمان‌های آسیب‌دیده‌ی هندی خودشان نفوذ را تشخیص نداده بودند. تا زمانی که شرکت‌های بزرگ مدل، رویدادهای سرکش‌سازی را داوطلبانه گزارش نکنند، هیچ چارچوب نظارتی مستقلی روی این حوزه وجود ندارد.
منبع: TechCrunch AI
دیدگاه‌ها
برای گذاشتن دیدگاه وارد شو
دیدگاه‌ها فقط از حسابهای کاربری پذیرفته میشوند.
ورود / ثبتنامهنوز دیدگاهی ثبت نشده — اولین نفر باش.