متا روز چهارشنبه از ابزارهای هوش مصنوعی جدیدی رونمایی کرد که هدفشان شناسایی تبلیغات و حساب‌هایی است که به‌صورت پنهان کاربران را به محتوای غیرقانونی سوءاستفاده از کودکان هدایت می‌کنند. این در حالی است که شرکت اعلام کرد در نیمه اول ۲۰۲۶ مجموعاً ۳۳.۲ میلیون مورد محتوای سوءاستفاده از کودکان را در فیس‌بوک و اینستاگرام حذف کرده است. طبق گفته متا، بیش از ۹۷ درصد این محتوا پیش از گزارش کاربران و توسط سیستم‌های خود شرکت شناسایی شده بود.

شناسایی «Signposting» با مدل زبانی بزرگ#

مهم‌ترین ابزار جدید، یک سیستم مبتنی بر مدل زبانی بزرگ (LLM) است که پدیده‌ای را شناسایی می‌کند که متا آن را «signposting» می‌نامد: تبلیغاتی که خودشان محتوای غیرقانونی ندارند، اما کاربران را به وب‌سایت‌هایی در خارج از پلتفرم‌های متا هدایت می‌کنند که میزبان محتوای سوءاستفاده از کودکان هستند. متا توضیح داد که این ترفند تازه توسط بدافزاران استفاده شده و آن‌ها مدام روش‌هایشان را برای فرار از شناسایی تغییر می‌دهند.

با این ابزار، متا نه‌تنها محتوای خودِ تبلیغ، بلکه مقصد ارجاع آن را هم بررسی می‌کند و در صورت مغایرت با قوانین، می‌تواند وب‌سایت مقصد را مسدود کند و با حساب‌های پشت آن برخورد نماید.

سایر ابزارها#

  • اسکن‌های هوش مصنوعی تکمیلی برای یافتن محتوایی که سیستم‌های قبلی از قلم انداخته بودند.
  • یک «عامل قرمزسنجی هوش مصنوعی» (red-teaming AI agent) که نقاط ضعف سیستم‌های ایمنی خود متا را شناسایی می‌کند تا روش‌های سوءاستفاده پیش از فراگیر شدن کشف شوند.
  • بهبود سیستم‌های شناسایی افرادی که پس از حذف حسابشان با حساب جدید بازمی‌گردند.

متا همچنین گزارش داد که در هند، در همین دوره ۵.۳ میلیون مورد محتوای سوءاستفاده از کودکان حذف شده و بیش از ۹۸ درصد آن‌ها پیش از گزارش کاربر شناسایی شده‌اند.

زمینه: فشار قانونی و توافقی ۱۸ میلیارد دلاری#

این اقدامات در حالی انجام می‌شود که متا همچنان تحت فشار قانون‌گذاران و شکایت‌ها درباره ایمنی کودکان در پلتفرم‌هایش قرار دارد. در ماه اوت، متا توافق کرد تا ۱۸ میلیارد دلار برای تسویه یک شکایت ایمنی کودکان که ۲۹ ایالت آمریکا در آن دخیل بودند بپردازد. در طول سال ۲۰۲۶، متا همچنین کنترل‌های والدین برای Meta AI، حساب‌های پیش‌نوجوان در واتساپ، هشدار به والدین هنگام جستجوی محتوای خودآزاری در اینستاگرام، و محدودیت‌های جدید والدین روی کانال‌ها و گروه‌های واتساپ را عرضه کرده است.

تحلیل: برای سازندگان ایجنت چه تغییری می‌کند؟#

این خبر عمدتاً در حوزه ایمنی پلتفرم‌های بزرگ است و برای کسی که ایجنت و اتوماسیون می‌سازد، تغییر عملی مستقیمی ایجاد نمی‌کند. اما دو نکته قابل توجه است: نخست، استفاده متا از LLM برای تحلیل «مقصد» یک تبلیغ به‌جای صرفاً «محتوای» آن، الگویی است که در سایر حوزه‌های نظارتی هم قابل پیاده‌سازی است — یعنی مدل زبانی نه‌تنها متن ورودی، بلکه گراف ارجاع‌های آن را هم در نظر می‌گیرد. دوم، مفهوم «red-teaming AI agent» که به‌صورت خودکار نقاط ضعف سیستم‌های ایمنی را می‌یابد، نمونه‌ای از به‌کارگیری ایجنت برای امنیت است که الگوی آن در ابزارهای DevSecOps و تست نفوذ خودکار هم دیده می‌شود. اگرچه متا جزئیات فنی مدل‌هایش را منتشر نکرده، این رویکرد — استفاده از مدل زبانی برای تحلیل بصری/رفتاری به‌جای فیلتر کلمه‌ای — در سیستم‌های محتوای فارسی‌زبان هم کاربرد دارد و می‌تواند الگویی برای تیم‌هایی باشد که با محدودیت داده‌های آموزشی مواجه‌اند.

منبع: TechCrunch AI