مایکروسافت در روز دوشنبه مجموعه‌ای از ابزارهای امنیتی جدید برای محافظت از سازمان‌ها در برابر تهدید ایجنت‌های هوش مصنوعی معرفی کرد. بارزترین این ابزارها Guardian Agents نام دارد — قابلیت نظارت بر ایجنت‌هایی که یک شرکت در حال استفاده از آن‌هاست.

Guardian Agents بخشی از Project Perception است؛ محصولی که مایکروسافت در ماه ژوئن راه‌اندازی کرده بود. این پروژه در پاسخ به مدل‌های قدرتمند هکینگ مثل Mythos و Fable از Anthropic و سامانه‌ی اسکن آسیب‌پذیری Daybreak از OpenAI طراحی شد و در ابتدا سه دسته ایجنت داشت: تیم قرمز (شبیه‌سازی حمله)، تیم آبی (شناسایی آسیب‌پذیری‌ها) و تیم سبز (رفع آن‌ها).

اما مایکروسافت حالا فرض اولیه‌ی خود را تغییر داده است. تا پیش از این، Project Perception بر این پایه بنا شده بود که هکرهای هوش مصنوعی از بیرون سازمان می‌آیند. اکنون Satya Nadella، مدیرعامل مایکروسافت، در وبلاگ شخصی‌اش هشدار داده که دشمن هوش مصنوعی ممکن است همان ایجنت‌هایی باشد که سازمان‌ها خودشان مستقر کرده‌اند — درست مثل یک کارمند سرکش.

Hayete Gallot، رئیس بخش امنیت مایکروسافت، در معرفی Guardian Agents صریح‌تر بود: «متأسفانه مدل‌های مرزی، صرف‌نظر از مبدأشان، قابل اعتماد نیستند.» به گفته‌ی او این به‌خاطر بدخواهی یا آسیب‌پذیری آن‌ها نیست، بلکه به‌خاطر غیرقابل‌پیش‌بینی بودنشان است؛ چون برای انجام وظیفه آموزش دیده‌اند، نه برای رعایت هنجارها و قضاوت سازمانی.

چه چیزی در Microsoft Defender اضافه شد؟#

مایکروسافت علاوه بر Guardian Agents، قابلیت شناسایی ایجنت را به Microsoft Defender افزوده است که می‌تواند تا ۶۰ نوع ایجنتی که کارمندان به محیط کاری می‌آورند را پیدا کند — از جمله Claude Code، Codex و OpenClaw. همچنین محدودیت دسترسی ایجنت‌ها به داده و سامانه‌ها، تنظیم پویای سطح دسترسی بر اساس وظیفه، و الزام تأیید انسانی در صورت تصمیم‌گیری پرخطر ایجنت از جمله ابزارهای جدید است.

مایکروسافت عضو بنیان‌گذار Open Agent Safety Platform انویدیا هم هست؛ پلتفرمی که بیش از ۱۰۰ شرکت فناوری از آن حمایت کرده‌اند و ایجنت‌ها را در محیط‌های ایزوله اجرا می‌کند با قابلیت توقف رفتار از طریق سخت‌افزار.

مایکروسافت هم بازیگر است هم داور — و این تضاد مهم است#

این خبر برای کسی که همین حالا ایجنت می‌سازد، دو پیام هم‌زمان دارد. اول، اینکه گدزنی ایجنت‌ها از یک تمرین خوب به یک دسته‌بندی محصولی تبدیل شده است؛ یعنی ابزارهای جداگانه‌ای برای نظارت، محدودسازی و توقف ایجنت‌ها در بازار وجود دارند و سازمان‌ها به‌زودی انتظار خواهند داشت که شما از آن‌ها استفاده می‌کنید. دوم، اینکه مایکروسافت هم‌زمان سرمایه‌گذار OpenAI و Anthropic است و حالا ابزار امنیتی در برابر محصولات آن‌ها می‌فروشد. منطق فنی‌اش درست است — ناظر باید مستقل از تأمین‌کننده باشد — اما انتخاب او از ناظر مستقل، خودش است. اگر ایجنت‌های سازمانی می‌سازید، سؤال عملی این نیست که آیا باید نظارت داشته باشید (باید)، بلکه این است که ابزار نظارت را از چه کسی بخرید و آیا آن فرد بی‌طرف واقعاً بی‌طرف است.

منبع: TechCrunch AI