صنعت هوش مصنوعی در حال تجربه‌ی شلوغ‌ترین و تندترین بحث خود درباره احتمال تهدید وجودی این فناوری برای بشریت است. این موج نگرانی پس از اعلام استعفای پژوهشگر جیکاب کاکسون از شرکت Anthropic آغاز شد که دلیل آن را نگرانی از اینکه شرکت‌های پیشرو در این حوزه «با جان انسان‌ها قمار می‌کنند»، عنوان کرد.

این رویداد زمانی شدت گرفت که سرپرست هم‌راستایی (alignment lead) در Anthropic پستی منتشر کرد و ادعا نمود که آن‌ها «با جدیت معتقدند که هوش مصنوعی می‌تواند همه انسان‌ها را بکشد.» او همچنین تخمین زد که احتمال وقوع چنین سناریویی بیش از ۱۰ درصد در دهه‌ی آینده است. این اظهارات بلافاصله بازتاب گسترده‌ای در رسانه‌های اجتماعی داشت و واکنش‌های متفاوتی را برانگیخت.

در حالی که برخی این هشدارها را ناشی از ترس واقعی سازندگان می‌دانند، پرسش‌های دیگری نیز درباره انگیزه‌های پشت پرده مطرح شده است. در اپیزود اخیر پادکست Equity، مجریان بحث کردند که آیا انتشار مداوم گزارش‌هایی درباره نفوذ ناخواسته‌ی عامل‌های هوش مصنوعی (AI agents)، نوعی ابراز وجود (flexing) برای نشان دادن پیشرفت بی‌سابقه‌ی مدل‌های شرکت‌ها نیست؟ استدلال این گروه این است که اگر مدل‌ها به این سطح از توانمندی و خطرناک بودن نمی‌رسیدند، چنین نگرانی‌هایی مطرح نمی‌شد و این موضوع می‌تواند راهی غیرمستقیم برای تبلیغ قابلیت‌های محصولات باشد.

آنتونی ها (Anthony Ha) نویسنده‌ی این پادکست، با وجود تردید نسبت به اعداد تصادفی مانند «بیش از ۱۰ درصد»، بر تمایز مهم بین محققان مستقل و مدیران ارشد تأکید دارد. او اشاره می‌کند که برخلاف کسانی مانند سام آلتمن یا داریو آمودئی که ضمن بیان هشدارهای وجودی، به توسعه‌ی فعال ادامه می‌دهند، کاکسون با استعفا عمل خود را با حرف‌هایش هماهنگ کرده است. این اقدام شجاعت شخصی او را نشان می‌دهد، هرچند ها معتقد است صحبت از یک «جامعه‌ی واحد» هوش مصنوعی به عنوان یک بلوک یکپارچه، نادرست است.

از سوی دیگر، شان اوکان (Sean O’Kane) به زمان‌بندی دقیق این هشدارها پس از نقض امنیتی Hugging Face توسط مدل داخلی OpenAI و انتشار مدل‌های جدید Anthropic و OpenAI اشاره می‌کند. او معتقد است که این فضا مانند باروتی آماده انفجار بوده و انتشار چنین هشدارهایی می‌تواند در شرایطی که شرکت‌ها در آستانه‌ی عرضه اولیه سهام (IPO) هستند، پیام‌های پیچیده‌ای برای بازار و سرمایه‌گذاران ارسال کند. پرسشی که در لابلای این بحث‌ها باقی مانده، بررسی نحوه ثبت این ریسک‌های وجودی در اسناد رسمی شرکت‌ها برای عموم است.

منبع: TechCrunch AI