داریو آمودی (Dario Amodei)، مدیرعامل شرکت Anthropic، در پستی جدید خود در بلاگ این شرکت، نسبت به شتاب غیرقابل کنترلی که فناوری هوش مصنوعی در ماههای اخیر تجربه کرده است هشدار داد. او معتقد است که سرعت پیشرفت مدلها، بهویژه توانایی آنها در ساخت نسل بعدی هوش مصنوعی، بسیار فراتر از حد معمول حرکت کرده و زمان آن رسیده که شرکتهای پیشرو در این حوزه، سرعت بهبود قابلیتهای خود را کاهش دهند.
امودی در پاسخ به انتقالات اخیر درباره ایمنی هوش مصنوعی و همچنین رویدادهای امنیتی مانند نفوذ به زیرساختهای HuggingFace توسط حملهکنندگان مرتبط با OpenAI، سه راهبرد کلی برای «کنترل سرعت مرزهای فناوری» ترسیم کرد. نکته مهم این است که او اعلام کرد Anthropic به صورت یکجانبه متعهد به اجرای یکی از این راهبردها شده است.
تعهد به نظارتگران مستقل#
اولین قدم پیشنهادی امودی، معرفی «ارزیابان داخلی» از سوی سازمانهای شخص ثالث مانند METR است. این ارزیابان موظف خواهند بود تأیید کنند که شرکتهای هوش مصنوعی واقعاً به تعهدات ایمنی و برنامههای کندی سرعت پایبند هستند و اطمینان حاصل شود که حوادث ایمنی گزارش میشوند. امودی این رویکرد را شبیه به ناظرانی دانست که در بانکها حضور دارند. او تصریح کرد که Anthropic به این گروه دسترسیهایی مشابه با تیمهای ارزیابی ریسک داخلی شرکت خواهد داد و بدنههای شناسایی، میز کار و لپتاپ در اختیارشان قرار خواهد داد، مگر در مواردی که قانون یا قرارداد مانع شود.
هماهنگی بین رقبا و چالشهای انحصارطلبی#
در مرحله دوم، امودی خواستار هماهنگی شرکتهای پیشرو در کشورهای دموکراتیک برای تعیین استانداردهای ایمنی مشترک و محدودیتهایی بر پیشرفت بدون کنترل هوش مصنوعی شد. او اعتراف کرد که این همکاری به دلیل رقابت شدید و نگرانیهای مربوط به قوانین انحصارطلبی (Antitrust) دشوار است. بنابراین، پیشنهاد میدهد دولت آمریکا نقش میانجی را بر عهده گرفته و مجوزهای لازم برای گفتگوهای ایمنی بین رقبا را صادر کند.
در بخش سوم، وی به موضوع ژئوپلیتیک و نفوذ چین اشاره کرد. او استدلال میکند که اگر غرب جلوی فروش چیپهای قدرتمند و تجهیزات نیمههادی به چین را بگیرد و بر جلوگیری از فشردهسازی مدلها (Model Distillation) نظارت کند، میتواند پیشرفت چین را کند کرده و شکاف فناوری آمریکا را در ۳ تا ۵ سال آینده گسترش دهد. علاوه بر این، او خواستار هماهنگی جهانی برای ممنوعیت استفاده از هوش مصنوعی در تولید سلاحهای بیولوژیک است، حتی اگر این همکاری با دولتهای اقتدارگرا محدود باشد.
منبع: TechCrunch AI
دیدگاهها
برای گذاشتن دیدگاه وارد شو
دیدگاهها فقط از حسابهای کاربری پذیرفته میشوند.
ورود / ثبتنامهنوز دیدگاهی ثبت نشده — اولین نفر باش.