تحقیق جدید «ام‌آی‌تی تکنولوژی ریویو» (MIT Technology Review) نشان می‌دهد که شبکه نظارتی مبتنی بر هوش مصنوعی در مرزهای ایالات متحده، موسوم به «دیوار مجازی»، با شکست‌های گسترده‌ای روبه‌روست. در این گزارش که بخشی از پروژه مشترک با «تایمز سن‌دیگو» (Times of San Diego) است، مشخص شده که افراد زیادی بدون آنکه توسط برج‌های نظارتی شناسایی شوند، از مناطق تحت پوشش عبور کرده و در نزدیکی همان برج‌ها جان باخته‌اند؛ جایی که اجساد آن‌ها برای هفته‌ها یا حتی ماه‌ها کشف نشده باقی مانده است.

نویسندگان گزارش به سه نقص اصلی در این سیستم اشاره می‌کنند: خرابی فیزیکی برج‌ها، ناتوانی الگوریتم‌ها در تشخیص افراد، و عدم پاسخ‌گویی عوامل گمرک و حفاظت مرزی (CBP) به هشدارهای ثبت‌شده. با وجود اینکه دولت آمریکا قصد دارد با تخصیص یک میلیارد دلار تا سال ۲۰۳۴ اندازه این دیوار مجازی را سه برابر کند، شرکت‌های دفاعی مانند «اندوریل» (Anduril) همچنان قراردادهای کلانی را برای توسعه این فناوری‌های ناکارآمد کسب می‌کنند.

تیم تحقیقاتی برای رسیدن به این نتایج، حدود ۶۰۰ برج را تحلیل کرده است، در حالی که دولت تعداد برج‌های فعال را ۸۰۰ مورد اعلام کرده است. این محدودیت در دسترسی به داده‌ها باعث شده تا تخمین تعداد کل جان‌باختگان که بیش از ۱۰۵۰ نفر اعلام شده، احتمالاً کمتر از واقعیت باشد. در ادامه، چهار پیشنهاد برای اصلاح این وضعیت ارائه شده است:

  • انجام ممیزی جامع مرگ‌ومیرها: با توجه به اینکه سازمان CBP نقشه کامل و عمومی از برج‌های خود منتشر نمی‌کند و تاکنون ممیزی دقیقی از عملکرد آن‌ها انجام نداده است، انجام یک بررسی داخلی برای سنجش میزان اثربخشی برج‌ها ضروری به نظر می‌رسد.
  • اصلاح سیستم ثبت مرگ‌ومیرها: سیستم فعلی برای ردیابی مرگ مهاجران ناکارآمد است. با وجود راه‌اندازی سیستم BSITS در سال ۲۰۰۷، هنوز پروتکل واحدی برای ثبت اطلاعات در سراسر کشور وجود ندارد و آمارهای دولتی اغلب کمتر از واقعیت هستند.
  • ثبت موارد دستگیری ناشی از فناوری: اگرچه در سال ۲۰۱۴ پیشنهاد شده بود عوامل مرزی مواردی که فناوری منجر به دستگیری می‌شود را ثبت کنند، اما گزارش‌های بعدی نشان داد که این داده‌ها اغلب نادرست و غیرقابل‌اتکا هستند.
  • پایش برنامه مهاجران گم‌شده: برنامه‌ای که در سال ۲۰۱۷ برای پیشگیری از مرگ‌ها راه‌اندازی شد، فاقد طرحی برای سنجش میزان موفقیت خود در افزایش نجات‌ها یا کاهش تلفات است.

تحلیل: هزینه بالای توهم امنیت#

این گزارش نشان می‌دهد که سرمایه‌گذاری سنگین روی «هوش مصنوعی» در حوزه امنیت مرزی، بدون زیرساخت‌های انسانی و رویه‌های شفاف، به جای افزایش امنیت، منجر به فاجعه‌ای خاموش شده است. برای توسعه‌دهندگان ایجنت‌ها و سیستم‌های خودکار، این خبر یک درس مهم دارد: الگوریتم‌های تشخیص اشیاء یا افراد (Computer Vision) به تنهایی کافی نیستند؛ اگر لایه‌های پاسخ‌گویی انسانی و پروتکل‌های اعتبارسنجی داده‌ها وجود نداشته باشند، سیستم‌های نظارتی نه‌تنها کارایی خود را از دست می‌دهند، بلکه مسئولیت اخلاقی و قانونی سنگینی را ایجاد می‌کنند. ادامه قرارداددهی به شرکت‌هایی مانند اندوریل، در حالی که شواهد به ناکارآمدی سیستم‌هایشان است، نشان‌دهنده شکاف عمیق بین «توانایی فنی» و «پیاده‌سازی عملیاتی» در پروژه‌های بزرگ دولتی است.

منبع: MIT Technology Review