یک پژوهشگر در شرکت توسعهدهنده مدلهای زبانی بزرگ Anthropic این هفته رسماً از سمت خود استعفا داد. دلیل اصلی این کنارهگیری، انتشار پستی در شبکه اجتماعی X بود که در آن نویسنده، مسیر فعلی شرکت را به شدت مورد انتقاد قرار داده است.
در متن این پیام، پژوهشگر هشدار داده است که شرکت به طور مستقیم در حال «شتاب گرفتن به سوی هوش برتر خودبهبودبخش» (Self-improving superintelligence) است و در این راه جان انسانها را به قمار میگذارد. این ادعا که نشاندهنده نگرانی عمیق نسبت به خطرات وجودی هوش مصنوعی پیشرفته است، بازتابدهنده دیدگاههایی است که در لایههای خاصی از جامعه هوش مصنوعی مطرح میشود.
نکته قابل تأمل و شاید مهمترین بخش این ماجرا، واکنش داخلی شرکت به این انتقادات است. به جای رد یا تعدیل این سخنان، Alignment Lead (مسئول هماهنگی و ایمنی) شرکت خود Anthropic، این هشدار را امضا و تأیید کرده است. این اقدام غیرمعمول باعث شده تا نگرانیهای مطرح شده، وزن بیشتری پیدا کند و صرفاً به عنوان یک اعتراض شخصی تلقی نشود.
همزمانی حساس با شایعات عرضه اولیه#
این رویداد در زمان بسیار خاصی رخ داده است. گزارشهایی وجود دارد که شرکت Anthropic در حال آمادهسازی برای IPO (عرضه اولیه سهام) است. ترکیب استعفای یک پژوهشگر کلیدی با هشدارهای امنیتی جدی و اخبار مربوط به ورود شرکت به بازار سرمایه، شرایطی را ایجاد کرده است که این هشدارها متفاوت و چالشبرانگیزتر از گذشته به نظر میرسند.
اگرچه هشدارهای مشابه درباره خطرات هوش مصنوعی پیشرفته قبلاً نیز توسط برخی فعالان این حوزه مطرح شده بود، اما حمایت یک مقام ارشد داخلی از این دیدگاه و تداخل زمانی آن با مراحل نهایی عمومی شدن شرکت، سوالهای زیادی را درباره تعادل بین توسعه سریع فناوری و ملاحظات ایمنی در سازمان به وجود آورده است.
منبع: TechCrunch AI
دیدگاهها
برای گذاشتن دیدگاه وارد شو
دیدگاهها فقط از حسابهای کاربری پذیرفته میشوند.
ورود / ثبتنامهنوز دیدگاهی ثبت نشده — اولین نفر باش.