یک گروه پژوهشگر مستقل، یکشنبه‌ی گذشته یافته‌های اولیه‌ای درباره ناوگانی از ایجنت‌های هوش مصنوعی منتشر کردند که ظاهراً روی زیرساخت Tencent اجرا می‌شوند و هدف‌شان سرویس نقشه Amap متعلق به Alibaba است. این ایجنت‌ها درخواست‌های مسیر به ورودی‌های مکان‌های عمومی — شامل یک پارک، یک باغ‌وحش و یک بیمارستان — ارسال کرده‌اند.

«Agent fleet» نه «Swarm»#

پژوهشگران در گزارش اولیه‌شان تأکید کردند که واژه «swarm» (گله) برای توصیف این ایجنت‌ها مناسب نیست. یکی از آن‌ها نوشت: «Agent fleet، نه Swarm: ایجنت‌های موازی زیادی روی یک نوع تکلیف، بدون هیچ نشانه‌ای از ارتباط بین آن‌ها.» این یعنی هر ایجنت مستقل عمل می‌کند و هماهنگی مشخصی بین درخواست‌ها دیده نمی‌شود.

چگونه کشف شدند؟#

این ایجنت‌ها از طریق پایش ترافیک سرویس اسکن دامنه urlquery شناسایی شدند. ایجنت‌های هوش مصنوعی اغلب از urlquery برای بارگذاری صفحات وبی که نمی‌توانند مستقیماً به آن‌ها دسترسی پیدا کنند استفاده می‌کنند و این کار ردپایی به‌جا می‌گذارد که برای پژوهشگران ارزشمند است. پیش‌تر همین روش، فعالیت طولانی‌مدت ایجنت‌های OpenAI را آشکار کرده بود.

بستر نظارتی پس از حادثه Hugging Face#

پس از حادثه Hugging Face، بسیاری از پژوهشگران به‌طور فعال در حال پایش فعالیت‌های مشکوک ایجنت‌ها روی اینترنت هستند. بخش زیادی از این فعالیت‌ها به‌راحتی قابل ردیابی است، چون ایجنت‌ها معمولاً از همان تکنیک‌های تکراری استفاده می‌کنند و تلاش چندانی برای پنهان‌سازی خود نمی‌کنند.

در مورد حاضر، به نظر می‌رسد ایجنت‌ها کاری فراتر از دور زدن قوانین API شرکت Alibaba انجام نداده‌اند. اما پژوهشگران هشدار می‌دهند که این خوش‌بینی همیشه تکرارشدنی نیست.

این خبر برای سازندگان ایجنت یعنی چه؟#

مهم‌ترین پیام این گزارش برای کسی که با ابزارهای ایجنت و اتوماسیون کار می‌کند، شفافیت اجباری است: هر ایجنتی که از سرویس‌های واسط مثل urlquery استفاده کند، ردپای قابل‌ردیابی روی اینترنت به‌جا می‌گذارد. تا زمانی که ایجنت‌ها رفتار پنهان‌سازی ندارند، نظارت بر آن‌ها برای پژوهشگران امنیتی تقریباً رایگان است.

اما نکته‌ی دیگری هم هست: اینکه این ناوگان روی زیرساخت یک شرکت بزرگ (Tencent) اجرا می‌شود و هدف‌اش سرویس یک شرکت بزرگ دیگر (Alibaba) است، نشان می‌دهد مرز بین «فعالیت ایجنت» و «فشار غیرمجاز روی سرویس‌ها» باریک‌تر از چیزی است که معمولاً در بحث‌های اخلاقی مطرح می‌شود. اگر قانون‌گذاری یا محدودیت‌های فنی روی این نوع درخواست‌ها اعمال شود، سازندگان ایجنت‌هایی که به سرویس‌های شخص ثالث وابسته‌اند باید سناریوی قطعی‌شدن دسترسی را از الان در طراحی خود لحاظ کنند.

منبع: TechCrunch AI