در ماههای اخیر، شرکتهای هوش مصنوعی ادعاهای متعددی را درباره تواناییهای مدلهای خود مطرح کردهاند. شرکت Anthropic اعلام کرد که مدل Claude Mythos در کشف آسیبپذیریهای نرمافزاری از اکثر متخصصان امنیت بهتر عمل میکند. پس از آن، حادثهی هکینگ بین OpenAI و Hugging Face رخ داد که منجر به افشای موارد مشابه توسط Anthropic و Meta شد. همچنین ادعاهایی درباره دستیابی به پیشرفتهای ریاضی توسط مدلهای این شرکتها مطرح گردید و جیکوب کاکسون، مهندس Anthropic، با اعلام خروج خود، مدعی شد که شرکتها در حال حرکت به سمت «ابر هوش خودبهبوددهنده» هستند.
اما بررسیهای مستقل تصویر متفاوتی ارائه میدهد. در مورد حوادث امنیتی، کارشناسان سایبری معتقدند که مسئله اصلی نه «مدلهای سرکش»، بلکه بیاحتیاطی OpenAI و عدم رعایت استانداردهای امنیتی است. در حوزه ریاضیات، تریستان باکماستر، استاد ریاضیات دانشگاه نیویورک، مدعی شد که OpenAI در مورد مدل Astra دچار سوءرفتار پژوهشی شده و نتایج اعلامشده چندان نوآورانه نبودهاند. حتی ریاضیدانان دیگر این شرکت را به سرقت علمی متهم کردهاند.
چرا ریاضیات و برنامهنویسی؟#
تأکید بر ریاضیات و کدنویسی به دلیل دو ویژگی این حوزههاست: ابتدا اینکه به عنوان اوج هوش انسانی شناخته میشوند و دوم اینکه پاسخهای آنها به سرعت قابل راستیآزمایی هستند. این ویژگی دوم به شرکتها اجازه میدهد تا بدون هزینهی زیاد برای نیروی انسانی، عملکرد مدلها را ارزیابی کنند. با این حال، صدها ریاضیدان در بیانیهای مشترک هشدار دادهاند که صنعت فناوری انگیزهی شدیدی برای بزرگنمایی تواناییهای محصولات خود دارد.
تحلیل تحریریه: فرار از پاسخگویی با روایت ابرهوش#
این ادعاهای مکرر درباره «ابر هوش» و «مدلهای سرکش» دو کارکرد اصلی برای شرکتها دارد: اول، بازاریابی محصولات به عنوان فناوریهای ابرانسانی و دوم، ایجاد یک حاشیه امن برای فرار از مسئولیتپذیری. به جای اینکه شرکتها بابت انتشار بدافزارها یا نقض حقوق مالکیت فکری پاسخگو باشند، توجه افکار عمومی و قانونگذاران به سمت ترسهای خیالی از آینده معطوف میشود. برای کسی که در حال توسعه ابزارهای هوش مصنوعی است، این خبر یادآوری میکند که در پشت بسیاری از هیاهوهای رسانهای، ممکن است مسائل مهندسی و اخلاقی سادهای پنهان شده باشد که نیاز به حلوفصل دارند، نه روایتهای علمی-تخیلی.
منبع: MIT Technology Review
دیدگاهها
برای گذاشتن دیدگاه وارد شو
دیدگاهها فقط از حسابهای کاربری پذیرفته میشوند.
ورود / ثبتنامهنوز دیدگاهی ثبت نشده — اولین نفر باش.