با نزدیک شدن به رای گیری قانون هوش مصنوعی، اتحادیه اروپا باید خط قرمزی برای نظارت نژادپرستانه ترسیم کند.
قانون هوش مصنوعی اتحادیه اروپا که معمولاً به عنوان قانون هوش مصنوعی شناخته می شود، اولین در نوع خود است. این نه تنها به عنوان اولین قانون الزام آور در مورد هوش مصنوعی در جهان است بلکه نقطه عطفی خواهد بود چراکه یکی از اولین قوانین متمرکز بر فناوری است و به طور معناداری به چگونگی تداوم نژادپرستی ساختاری توسط فناوری‌ها می‌پردازد.
سیستم‌های پیش‌بینی‌کننده پلیسی متأثر از تبعیض نژادی است، سیستم‌های هوش مصنوعی برای برچسب‌گذاری نادرست (عمدتاً نژادپرستانه) افراد به‌عنوان کلاهبردار استفاده می‌شود. این نوع استفاده از فناوری می‌تواند آسیب را تداوم بخشد. قانون آگاه بر این موارد و بازدارنده لازم است.
قانونگذاران اقداماتی را انجام داده‌اند که استفاده‌های خاصی از هوش مصنوعی را در صورت «ناسازگاری با حقوق اساسی انسانی» ممنوع می‌کند. برخی از کاربردهای تشخیص چهره برای شناسایی افراد در مکان‌های عمومی و سیستم‌های هوش مصنوعی برای پیش‌بینی اینکه چه جرایمی، در چه محلی و توسط چه کسی ممکن است رخ دهد، برنامه ریزی شده است. با این حال، مذاکره‌کنندگان در پارلمان اروپا از شناسایی آسیب‌های خاص ناشی از استفاده از سیستم‌های هوش مصنوعی در زمینه مهاجرت کوتاهی می‌کنند.
هوش مصنوعی به عنوان یک عامل مهاجرت
سیستم های هوش مصنوعی به طور فزاینده‌ای یکی از ویژگی‌های رویکرد اتحادیه اروپا به مهاجرت هستند. هوش مصنوعی بر اساس معیارهای مبهم برای پیش‌بینی و ارزیابی در مورد افراد در ادعاهای مهاجرت استفاده می‌شود که شناخت آنها سخت و چالش‌برانگیزتر است. از دروغ یاب‌های هوش مصنوعی و “پروفایل خطر” هوش مصنوعی در بسیاری از روش‌های مهاجرت استفاده می‌شود و استفاده از این نوع فناوری به سرعت در حال گسترش در مرزهای اروپا است. در حال حاضر برنامه‌هایی برای استفاده از الگوریتم‌هایی برای ارزیابی «پروفایل خطر» همه مراجعه کنندگان وجود دارد و حال آنکه شواهدی وجود دارد که تصمیم‌های ویزا منعکس‌کننده تاریخچه‌ای از تبعیض است که ریشه در استعمار دارد.
سیستم‌های هوش مصنوعی به عنوان بخشی از یک دستگاه نظارت عمومی در حال گسترش هستند. این شامل هوش مصنوعی برای نظارت در مرز و سیستم های تحلیلی پیش بینی برای پیش بینی روند مهاجرت است. به گفته‌ی شبکه نظارت بر خشونت مرزی، ما در حال حاضر شاهد مواردی از فناوری‌های هوش مصنوعی هستیم که موجب افزایش فرار از مرز و ورود غیرقانونی می‌شود. در این زمینه، این خطر واقعی وجود دارد که از پیش‌بینی‌های به ظاهر بی‌ضرر در مورد الگوهای مهاجرت برای ورود غیرقانونی و یا راه‌هایی برای جلوگیری از اعمال حق پناهندگی افراد استفاده شود.
قومیت و رنگ پوست در حال تبدیل شدن به راه فرار و مانع برای وضعیت مهاجرت است. برای افرادی که از قدیم در اروپا هستند، پلیس محلی از فناوری به شیوه‌هایی استفاده می‌کند که هدف آن افزایش تعداد افرادی است که از طریق بازداشت‌های پلیس به‌عنوان غیرقانونی شناسایی می‌شوند و باعث تداوم پروفایل نژادی می‌شود. در فرانسه، آلمان، هلند و سوئد، به پلیس این اختیار داده شده است که از افراد در خیابان انگشت نگاری و وضعیت مهاجرت آنها را بررسی کند.
سازمان‌های حقوق بشر محلی، برنامه‌ی پلیس یونان که دستگاه‌های هوشمند را برای اسکن چهره افراد با هدف شناسایی افراد غیرقانونی مجهز می‌کند، به چالش کشیده‌اند. با توجه به اینکه نژاد، قومیت و رنگ پوست اغلب توسط مقامات به عنوان شاخصی برای وضعیت مهاجرت استفاده می‌شود، این روندها منجر به بازداشت بیشتر در جوامع و آزار و اذیت و فرصت‌های مرتبط برای بدرفتاری افراد نژادپرست با شهروندان و غیرشهروندان خواهد شد. استفاده فزاینده از هوش مصنوعی در زمینه مهاجرت، افراد رنگین پوست را در معرض نظارت بیشتر، تصمیم گیری تبعیض آمیزتر در ادعاهای مهاجرت، و نمایه سازی مضرتر توسط نرم افزار و حتی انسان قرار می‌دهد، و روندهای جرم انگاری و رفتارهای غیرانسانی در سیاست مهاجرت اتحادیه اروپا را تشدید می‌کند.
حقوق دیجیتال برای همه به جز مهاجران
این روندها در استقرار هوش مصنوعی بخشی از یک اکوسیستم نظارتی گسترده‌تر و رو به رشد است که در مرزهای اروپا و در داخل آن توسعه یافته است. به عنوان مثال، در اصلاحات پیشنهادی یوروداک (Eurodac)، اتحادیه اروپا به دنبال گسترش دامنه‌ی پایگاه‌های اطلاعاتی نظارتی با داده‌های مربوط به افرادی است که درخواست پناهندگی می‌کنند یا در مرز دستگیر می‌شوند، حتی شامل تصاویر چهره و داده‌های کودکان زیر 6 سال هم باشد.
این کاملاً با استانداردهای تعیین شده در مقررات عمومی حفاظت از داده اتحادیه اروپا در تضاد است. این نماد یک روند متناقض است، اتحادیه اروپا قانونی ایجاد می‌کند که از حقوق اساسی انسان محافظت می‌کند و سپس آن قانون را در تلاش برای مهر و موم کردن مرزهای خود نادیده می‌گیرد. این استثناگرایی به قیمت جان انسان‌ها تمام می‌شود و راه را برای فرسایش استانداردها و ارزش‌های اتحادیه اروپا باز می‌کند. این یک استاندارد دوگانه است که باید آن را آنچه هست نامید: یعنی نژادپرستی.
ممنوعیت هوش مصنوعی مضر در مهاجرت
همانطور که توسط پروفسور ایی تندایی آچیومی (E Tendayi Achiume)، گزارشگر سابق سازمان ملل در مورد اشکال معاصر نژادپرستی، و ائتلاف قوی جامعه مدنی برای جلوگیری از تجاورز به حقوق انسانی بوسیله هوش مصنوعی تاکید شده است، ما به تعهدی برای از بین بردن فن آوری‌هایی که آسیب را تداوم می‌بخشند، نیاز داریم.
در عمل، این بدان معناست که قانون هوش مصنوعی اتحادیه اروپا باید ابزارهای تبعیض‌آمیز پروفایل هوش مصنوعی مورد استفاده در روش‌های مهاجرت و پیش‌بینی مبتنی بر هوش مصنوعی را که موجب افزایش نقض قوانین بین‌المللی پناهندگان می‌شود، ممنوع کرده و از آن جلوگیری کند. باید اطمینان حاصل کند که استفاده از ابزارهای شناسایی بیومتریک مانند دستگاه های دستی پلیس که قانون در حال حاضر در مورد آنها سکوت کرده است به عنوان “افزاینده‌ی خطر” تنظیم شود.
قانون هوش مصنوعی سیاست‌های مهاجرتی عمیقاً معیوب اروپا را اصلاح نخواهد کرد، اما می‌تواند تضمین کند که فناوری‌های هوش مصنوعی به‌گونه‌ای تنظیم شوند که از آسیب‌های بیشتر جلوگیری کند و حفاظت برابر را نسبت به استانداردهای دوگانه جایگزین کند.
