آمریکا طی ۲۵ سال گذشته میلیاردها دلار صرف ساخت «دیوار مجازی» از برجهای نظارتی در مرزهای جنوبی خود کرده است. وعده اصلی این پروژه، شناسایی سریع مهاجران، بازداشت آنها و در نهایت نجات جان آنها بود. اما یک تحقیق جدید و گسترده توسط MIT Technology Review نشان میدهد که این سیستم در عمل با شکستهای بزرگی مواجه شده است.
بر اساس این گزارش، بیش از یک هزار نفر در مناطقی که تحت پوشش برجهای نظارتی بودند، بدون اینکه شناسایی یا بازداشت شوند، جان خود را از دست دادند. نکته تکاندهنده اینجاست که برخی از این افراد حتی در زیر نظر برجهای نسل جدید و مجهز به هوش مصنوعی (AI) قرار داشتند که وظیفهی آنها شناسایی خودکار افراد در تاریکی یا فواصل دور است.
سردبیران و خبرنگاران MIT Technology Review در نشستی به بررسی دلایل این شکستهای امنیتی و بشردوستانه میپردازند. جیمز اودانل، خبرنگار ارشد حوزه هوش مصنوعی، و ایلین گو، خبرنگار بخش تحقیقات، از جمله شرکتکنندگان در این گفتگو هستند. آنها معتقدند ابعاد بحران انسانی در مناطق مرزی بسیار بیشتر از آنچه تا پیش از این گزارش شده، است.
تحلیل: چرا هوش مصنوعی نتوانست دیوار را هوشمند کند؟#
این خبر برای توسعهدهندگان و سیاستگذاران حوزه هوش مصنوعی یک درس مهم دارد: دقت الگوریتمها در محیطهای واقعی با شرایط آزمایشگاهی تفاوت بنیادین دارد. سیستمهای نظارتی مرزی آمریکا نمونهای بارز از «توهم تکنولوژیک» هستند؛ جایی که سرمایهگذاری روی سختافزار و مدلهای بینایی ماشین بدون در نظر گرفتن چالشهای پیچیدهی محیطی (مانند شرایط آبوهوایی، پوشش گیاهی و رفتار انسان) منجر به نتایج فاجعهبار میشود.
برای کسی که در حال ساخت ایجنتهای نظارتی یا سیستمهای امنیتی هوشمند است، این گزارش یادآوری میکند که «خودکارسازی» (Automation) به معنای «کمال» نیست. اگر سیستمهای فعلی نتوانستهاند حتی در شناسایی یک نفر که در حال مردن است موفق باشند، بازتولید این مدلها بدون نظارت انسانی دقیق (Human-in-the-loop) خطرناک خواهد بود. شکست این پروژه نه به دلیل ضعف هوش مصنوعی، بلکه به دلیل طراحی غلط سیستمی و نادیده گرفتن محدودیتهای فیزیکی و انسانی است.
منبع: MIT Technology Review
دیدگاهها
برای گذاشتن دیدگاه وارد شو
دیدگاهها فقط از حسابهای کاربری پذیرفته میشوند.
ورود / ثبتنامهنوز دیدگاهی ثبت نشده — اولین نفر باش.