مقاله‌ای که ۲۶ اکتبر ۲۰۲۶ در MIT Technology Review منتشر شده، استدلال می‌کند که تعریف حاکم بر «ایمنی هوش مصنوعی» آن‌قدر باریک است که شرکت‌های فناوری می‌توانند با رفع چند خطر فاجعه‌بار، از مواجهه با آسیب‌های روزمره محصولاتشان فرار کنند. سام هاینر، هم‌بنیان‌گذار و مدیر اجرایی Young People's Alliance، و اما لایکن، مدیر اجرایی Respons، نویسندگان این مقاله‌اند.

مقاله به یافته‌ای از پژوهشگران MIT استناد می‌کند: نوجوانانی که از ChatGPT برای نوشتن تکالیف خود استفاده کردند، در حین انجام تکلیف اتصال عصبی ضعیف‌تری در مغزشان ثبت شد و پژوهشگران اصطلاح «بدهی شناختی» (cognitive debt) را به‌کار بردند — اثری که حتی پس از پایان تکلیف نیز باقی مانده بود. همچنین اشاره می‌کند که یک‌سوم نوجوانان اکنون گفت‌وگوهای جدی خود را با همراه‌های هوش مصنوعی (AI companions) انجام می‌دهند نه با انسان‌ها.

نویسندگان می‌گویند صنعت فناوری به‌طور فعال تعریف باریک ایمنی را ترویج می‌کند چون «جلوگیری از فاجعه‌های چشمگیر به نفع کسب‌وکار است: یعنی دادخواست کمتر و فشار کمتر برای مقررات جدی.» به‌عنوان نمونه، گوگل امسال لایحه‌هایی را برای تنظیم مقررات چت‌بات‌های هوش مصنوعی در چند ایالت آمریکا حمایت کرد. این لایحه‌ها حفاظت‌های مقدماتی در برابر محتوای جنسی و ترویج خودآزاری الزام می‌کردند — همان چیزهایی که شرکت‌ها باید از ابتدا رعایت می‌کردند — اما با معافیت‌های گسترده‌ای که می‌توانستند برخی از محبوب‌ترین خدمات را از شمول قانون خارج کنند. در ایالت نبراسکا، قانونی به تصویب رسید که تحت تأثیر شدید صنعت بود و در مقابل، لایحه‌هایی که می‌خواستند از وابستگی عاطفی کودکان به هوش مصنوعی جلوگیری کنند، شکست خوردند.

هاینر در سال ۲۰۲۶ ائتلافی را هماهنگ کرد که منجر به تصویب قوانین تنظیم مقررات AI companions در هشت ایالت آمریکا شد، از جمله SB1119 کالیفرنیا.

مقاله همچنین به سابقه شبکه‌های اجتماعی اشاره می‌کند: به‌طور میانگین، کاربران اینترنت در جهان روزانه بیش از دو ساعت را در پلتفرم‌های اجتماعی می‌گذرانند. پلتفرم‌های Meta در نسل‌کشی روهینگیا در میانمار، شورش‌های ضد‌مسلمان در سری‌لانکا، و فراخوان‌های خشونت‌آمیز در جنگ تیگرای اتیوپی نقش داشته‌اند.

خوانش تحریریه#

مقاله یک گزارش خبری نیست؛ یک استدلال سیاست‌گذاری است. اما اگر کسی همین حالا در حال ساخت ایجنت یا ابزار اتوماسیون با مدل‌های زبانی است، پیامش این است: «ایمنی» را صرفاً به‌عنوان فیلتر کردن محتوای خطرناک تعریف نکنید. اگر محصول شما طوری طراحی شده که کاربر به‌جای فکر کردن، از آن بخواهد فکر کند، یا به‌جای گفت‌وگو با انسان، با هوش مصنوعی صحبت کند، حتی اگر هیچ‌وقت کسی از آن به‌دلیل خودکشی شکایت نکند، مسئله‌ای وجود دارد. در عمل، این یعنی معیارهای ارزیابی محصول باید فراتر از «آیا محتوای مضر تولید می‌کند؟» برود. اما همین‌جا احتیاط لازم است: یافته «بدهی شناختی» MIT یک نقطه در اقیانوس ناشناخته‌هاست؛ مقاله خودش می‌گوید «هنوز چیزهای زیادی هست که باید درباره اثرات بلندمدت یاد بگیریم.» تعمیم دادن این یافته به تمام کاربردهای ChatGPT — مثلاً برای یادگیری زبان یا بازبینی کد — بدون شواهد بیشتر، منصفانه نیست.

منبع: MIT Technology Review