OpenAI اعلام کرد که در هفته‌های آینده واترمارک نامرئی متنی را به خروجی‌های ChatGPT و Codex برای کاربران اروپایی اضافه می‌کند. این اقدام پاسخی به قواعد شفافیت قانون هوش مصنوعی اتحادیه اروپا (EU AI Act) است که از دوم آگوست ۲۰۲۵ لازم‌الاجرا شده و شرکت‌ها را ملزم می‌کند محتوای تولیدشده با هوش مصنوعی را به‌شکلی قابل‌شناسایی برای سیستم‌های دیگر علامت‌گذاری کنند.

چطور کار می‌کند؟#

این واترمارک یک نماد یا علامت ظاهری نیست. روش کار بر پایه‌ی تغییر ظریف انتخاب واژه‌های مدل است؛ الگویی که خواننده نمی‌بیند اما یک حس‌گر (detector) می‌تواند آن را تشخیص دهد. چون این الگو در خودِ واژه‌ها نهفته است، هنگام کپی و پیست کردن متن نیز همراه آن باقی می‌ماند. OpenAI گفته که واترمارک هویت کاربر را مشخص نمی‌کند و با فعال بودن آن، افت محسوسی در عملکرد مدل‌ها مشاهده نشده است.

شرکت در کنار این اعلام، گزارش فنی روش خود را با نام textGrain منتشر کرده که با مشارکت پژوهشگران دانشگاه پنسیلوانیا و دانشگاه ییل نوشته شده است. در این روش، با استفاده از یک کلید محرمانه، پیش‌بینی واژه‌ی بعدی مدل مرتب‌سازی می‌شود. با انباشتن صدها «تلنگر» کوچک از این دست، حس‌گر می‌تواند با اتکا به خودِ متن و کلید، محتوای تولیدشده با هوش مصنوعی را شناسایی کند.

محدودیت‌های عملی#

آزمون‌های OpenAI نشان می‌دهد که واترمارک با ویرایش قابل حذف است. در یک آزمایش، جایگزین کردن ۱۰ درصد واژه‌ها با مترادف‌ها، نرخ تشخیص را از حدود ۹۲ درصد به ۶۶ درصد کاهش داد. همچنین، متن‌های کوتاه، پاسخ‌های ریاضی و متن‌های ترجمه‌شده سخت‌تر قابل‌تشخیص هستند.

OpenAI به‌همین دلیل دسترسی اولیه به حس‌گر را فقط به پژوهشگران تأییدشده و سازمان‌های متخصص محدود کرده است. شرکت همچنین تأکید کرده که نبود واترمارک «اثباتی بر تألیف انسانی نیست»؛ ممکن است متن کوتاه یا زیاد ویرایش شده باشد، یا از سیستم هوش مصنوعی دیگری آمده باشد.

پوشش و دسترسی#

  • کاربران ChatGPT و Codex در اتحادیه اروپا، روی همه پلن‌ها، در هفته‌های آینده واترمارک را دریافت می‌کنند.
  • توسعه‌دهندگان API در هر جای دنیا از همین امروز می‌توانند برای مدل‌های انتخابی آن را روشن کنند؛ به‌صورت پیش‌فرض خاموش است.
  • OpenAI تأکید کرده که در مرحله‌ی راه‌اندازی، واترمارک متنی را به تنظیم پیش‌فرض جهانی تبدیل نمی‌کند.

خوانش تحریریه: این خبر برای سازندگان ایجنت چه معنایی دارد؟#

اگر در اتحادیه اروپا با ChatGPT یا Codex کار می‌کنید، از هفته‌های آینده خروجی‌های شما واترمارک خواهد داشت و این واقعیت است که باید در طراحی جریان‌های کاری‌تان لحاظش کنید. اما برای توسعه‌دهندگان API در سایر نقاط جهان، چیزی تغییر نکرده — واترمارک پیش‌فرض خاموش است و شما تصمیم می‌گیرید روشنش کنید یا نه.

نکته‌ی مهم‌تر برای کسانی که ابزارهای اتوماسیون و ایجنت می‌سازند: اعداد نشان می‌دهند که این واترمارک در برابر ویرایش‌های معمولی مقاومت چندانی ندارد. اگر محصول شما خروجی مدل را بازنویسی یا خلاصه‌سازی می‌کند، احتمال از بین رفتن واترمارک بالاست. بنابراین نباید روی تشخیص‌پذیری حساب باز کنید — نه برای اثبات اصالت، نه برای انکار آن.

در نهایت، این خبر بیشتر یک حرکت تطبیقی با مقررات است تا یک تغییر فنی بنیادین. OpenAI پیش‌تر هم واترمارک ساخته بود اما به دلیل نگرانی از مهاجرت کاربران به رقبای بدون واترمارک آن را منتشر نکرده بود. حالا قانون اروپا آن‌ها را مجبور کرده، اما هنوز جهانی نیست.

منبع: TechCrunch AI