قانون هوش مصنوعی اروپا: متن ملاحظه 60
سامانه‌های هوش مصنوعی که در مدیریت مهاجرت، پناهندگی و کنترل مرزها مورد استفاده قرار می‌گیرند، بر اشخاصی اثر می‌گذارند که غالباً در موقعیتی به‌ویژه آسیب‌پذیر قرار دارند و به نتایج اقدامات مراجع عمومی صلاحیت‌دار وابسته هستند. ازاین‌رو، دقت، عدم تبعیض و شفافیت سامانه‌های هوش مصنوعی مورد استفاده در این زمینه‌ها برای تضمین رعایت حقوق بنیادین اشخاص متأثر، به‌ویژه حقوق آنان در زمینه آزادی رفت‌وآمد، منع تبعیض، حمایت از زندگی خصوصی و داده‌های شخصی، حمایت بین‌المللی و حق برخورداری از اداره مطلوب، اهمیت ویژه‌ای دارد.بنابراین، مقتضی است که سامانه‌های هوش مصنوعی که ـ تا آنجا که استفاده از آن‌ها مطابق حقوق اتحادیه و حقوق ملی مجاز باشد ـ توسط یا به نمایندگی از مراجع عمومی صلاحیت‌دار، یا توسط نهادها، ارگان‌ها، دفاتر و آژانس‌های اتحادیه اروپا که مسئولیت‌هایی در حوزه‌های مهاجرت، پناهندگی و مدیریت کنترل مرزها بر عهده دارند، مورد استفاده قرار می‌گیرند، به‌عنوان سامانه‌های «پرخطر» طبقه‌بندی شوند. این سامانه‌ها به‌ویژه شامل موارد زیر هستند:
پلی‌گراف‌ها (دروغ‌سنج‌ها) و ابزارهای مشابه؛
سامانه‌هایی برای ارزیابی برخی خطرات ناشی از اشخاصی که وارد قلمرو یکی از دولت‌های عضو می‌شوند یا برای دریافت روادید یا پناهندگی درخواست می‌دهند؛
سامانه‌هایی برای کمک به مراجع صلاحیت‌دار در بررسی درخواست‌های پناهندگی، روادید و اجازه اقامت، از جمله ارزیابی قابلیت اعتماد ادله و رسیدگی به شکایات مرتبط، به‌منظور احراز شرایط متقاضیان برای دریافت وضعیت حقوقی مورد درخواست؛
سامانه‌هایی برای کشف، شناسایی یا تعیین هویت اشخاص در چارچوب مدیریت مهاجرت، پناهندگی و کنترل مرزها، به استثنای سامانه‌های مورد استفاده صرفاً برای راستی‌آزمایی اسناد مسافرتی.
سامانه‌های هوش مصنوعی مورد استفاده در حوزه مهاجرت، پناهندگی و کنترل مرزها که مشمول این مقرره هستند، باید با الزامات شکلی و آیین دادرسی مقرر در مقرره (EC) شماره 810/2009 (قانون روادید)، دستورالعمل 2013/32/EU و سایر مقررات مرتبط حقوق اتحادیه مطابقت داشته باشند.
استفاده از سامانه‌های هوش مصنوعی در این حوزه‌ها تحت هیچ شرایطی نباید از سوی دولت‌های عضو یا نهادهای اتحادیه اروپا به‌عنوان ابزاری برای دور زدن تعهدات بین‌المللی آن‌ها ذیل کنوانسیون ۱۹۵۱ ژنو درباره وضعیت پناهندگان و پروتکل ۱۹۶۷ مورد استفاده قرار گیرد. همچنین، این سامانه‌ها نباید به هیچ نحو اصل عدم بازگرداندن اجباری (non-refoulement) را نقض کنند یا راه‌های امن و مؤثر قانونی برای ورود به قلمرو اتحادیه اروپا، از جمله حق درخواست حمایت بین‌المللی، را محدود یا منتفی سازند.
.jpg "قانون هوش مصنوعی اروپا: ملاحظه 60")
تحلیل ملاحظه ۶۰
۱. شناسایی وضعیت آسیب‌پذیر مهاجران و پناهجویان
این ملاحظه بر این واقعیت تأکید دارد که مهاجران، متقاضیان پناهندگی و اشخاص تحت کنترل مرزی، غالباً در موقعیت‌هایی قرار دارند که از نظر حقوقی و اجتماعی بسیار آسیب‌پذیر هستند. تصمیمات اتخاذشده درباره آنان می‌تواند مستقیماً بر آزادی، امنیت، اقامت و حتی جان آن‌ها اثر بگذارد. ازاین‌رو، استفاده از هوش مصنوعی در این حوزه نیازمند حساسیت مضاعف است.۲. دلیل طبقه‌بندی به‌عنوان «پرخطر»
قانون‌گذار اروپایی این دسته از سامانه‌ها را پرخطر می‌داند زیرا خروجی آن‌ها ممکن است مبنای تصمیماتی درباره ورود به کشور، اعطای ویزا، پذیرش یا رد درخواست پناهندگی و اجازه اقامت قرار گیرد. هرگونه خطا، سوگیری یا فقدان شفافیت می‌تواند به نقض حقوق بنیادین و حتی بازگرداندن افراد به کشورهایی که در آن با خطر جدی مواجه هستند منجر شود.۳. نمونه‌های کاربردهای مشمول
مواردی مانند پلی‌گراف، ارزیابی ریسک متقاضیان، تحلیل اعتبار ادله و شناسایی افراد در مرزها به‌طور خاص ذکر شده‌اند. با این حال، راستی‌آزمایی ساده اسناد سفر (مثلاً تطبیق عکس پاسپورت با چهره دارنده) از این حکم مستثنا شده است.۴. ارتباط با حقوق بین‌الملل پناهندگان
یکی از مهم‌ترین بخش‌های این ملاحظه تأکید بر آن است که هوش مصنوعی نباید به ابزاری برای فرار از تعهدات بین‌المللی دولت‌ها تبدیل شود. اصل عدم بازگرداندن اجباری، که از اصول بنیادین حقوق پناهندگان است، حتی در صورت استفاده از فناوری‌های پیشرفته باید کاملاً رعایت شود.۵. تضمین حقوق بنیادین و دادرسی منصفانه
مراجع اداری نمی‌توانند صرفاً بر خروجی هوش مصنوعی تکیه کنند بدون آنکه الزامات قانونی مربوط به بررسی فردی، حق اعتراض و رسیدگی مؤثر رعایت شود. این ملاحظه نشان می‌دهد که فناوری باید در خدمت حقوق بشر باشد، نه جایگزین آن.منبع: ترجمه شده توسط بخش فناوری های نوین سایت راسخون
