قانون هوش مصنوعی اروپا: متن ملاحظه 59
با توجه به نقش و مسئولیت مراجع اجرای قانون، اقدامات این مراجع که متضمن استفاده از برخی سامانههای هوش مصنوعی است، با درجه قابل توجهی از عدم توازن قدرت همراه بوده و ممکن است به نظارت، بازداشت یا سلب آزادی اشخاص حقیقی و نیز سایر آثار نامطلوب بر حقوق بنیادین تضمینشده در منشور حقوق بنیادین اتحادیه اروپا منجر شود.بهویژه، چنانچه سامانه هوش مصنوعی با دادههای باکیفیت آموزش ندیده باشد، الزامات کافی از حیث عملکرد، دقت یا استحکام را برآورده نسازد، یا پیش از عرضه به بازار یا بهرهبرداری بهنحو مناسب طراحی و آزمون نشده باشد، ممکن است اشخاص را بهصورت تبعیضآمیز یا بهنحو نادرست و غیرمنصفانه مورد شناسایی یا ارزیابی قرار دهد.
علاوه بر این، اعمال حقوق بنیادین آیین دادرسی، از جمله حق برخورداری از جبران مؤثر و دادرسی عادلانه، حق دفاع و اصل برائت، ممکن است با مخاطره مواجه شود؛ بهویژه در مواردی که این سامانهها از شفافیت، قابلیت توضیح و مستندسازی کافی برخوردار نباشند.
ازاینرو، مناسب است که برخی از سامانههای هوش مصنوعی که برای استفاده در زمینه اجرای قانون طراحی شدهاند، تا آنجا که استفاده از آنها مطابق حقوق اتحادیه و حقوق ملی مجاز باشد، بهعنوان سامانههای «پرخطر» طبقهبندی شوند؛ بهویژه در مواردی که دقت، قابلیت اعتماد و شفافیت برای جلوگیری از آثار زیانبار، حفظ اعتماد عمومی و تضمین پاسخگویی و جبران مؤثر اهمیت ویژه دارد.
با توجه به ماهیت فعالیتها و مخاطرات مربوط، این سامانههای پرخطر بهویژه شامل موارد زیر هستند:
سامانههایی که توسط یا از طرف مراجع اجرای قانون، یا توسط نهادها، دفاتر، ارگانها و آژانسهای اتحادیه اروپا در حمایت از مراجع اجرای قانون، برای ارزیابی خطر قربانی شدن یک شخص در برابر جرایم مورد استفاده قرار میگیرند؛
پلیگرافها (دروغسنجها) و ابزارهای مشابه؛
سامانههایی برای ارزیابی قابلیت اعتماد ادله در جریان تحقیقات یا تعقیب جرایم؛
سامانههایی که ـ مادامی که به موجب این مقرره ممنوع نشده باشند ـ برای ارزیابی احتمال ارتکاب مجدد جرم توسط یک شخص، مشروط بر آنکه این ارزیابی صرفاً مبتنی بر پروفایلسازی یا ارزیابی ویژگیهای شخصیتی یا سوابق کیفری گذشته نباشد؛
سامانههایی برای پروفایلسازی در جریان کشف، تحقیق یا تعقیب جرایم.
در مقابل، سامانههای هوش مصنوعی که بهطور خاص برای رسیدگیهای اداری توسط مقامات مالیاتی و گمرکی، یا توسط واحدهای اطلاعات مالی در چارچوب وظایف اداری خود وفق مقررات مبارزه با پولشویی اتحادیه اروپا بهکار میروند، در زمره سامانههای پرخطر مورد استفاده توسط مراجع اجرای قانون محسوب نمیشوند.
استفاده از ابزارهای هوش مصنوعی توسط مراجع اجرای قانون و سایر مقامات ذیربط نباید به عاملی برای نابرابری یا طرد اجتماعی تبدیل شود. همچنین، تأثیر این ابزارها بر حقوق دفاعی مظنونان، بهویژه دشواری دسترسی به اطلاعات معنادار درباره نحوه عملکرد سامانهها و دشواری در به چالش کشیدن نتایج آنها در دادگاه، نباید نادیده گرفته شود.
.jpg "قانون هوش مصنوعی اروپا: ملاحظه 59")
تحلیل ملاحظه ۵۹
۱. عدم توازن قدرت میان دولت و شهروند
این ملاحظه بر این واقعیت تأکید میکند که در حوزه اجرای قانون، دولت از اختیارات گستردهای برخوردار است؛ از جمله امکان نظارت، بازداشت و محدودسازی آزادی افراد. استفاده از هوش مصنوعی در چنین بستری، خطر سوءاستفاده و تضییع حقوق بنیادین را تشدید میکند. بنابراین، قانونگذار اروپایی این حوزه را ذاتاً حساس و مستعد نقض حقوق شهروندان میداند.۲. اهمیت کیفیت داده، دقت و استحکام فنی
تصمیمات پلیسی مبتنی بر دادههای ناقص یا الگوریتمهای کمدقت میتوانند به اشتباه در شناسایی مظنونان، ارزیابی نادرست خطر یا حتی تعقیب افراد بیگناه منجر شوند. از اینرو، قانونگذار اروپایی تصریح میکند که این سامانهها باید از استانداردهای بسیار بالای فنی برخوردار باشند.۳. حمایت از حقوق آیین دادرسی
ملاحظه ۵۹ پیوند مستقیم میان هوش مصنوعی و حقوق دادرسی عادلانه را نشان میدهد. اگر متهم یا مظنون نتواند منطق تصمیم سامانه را درک کند یا آن را در دادگاه به چالش بکشد، حق دفاع وی عملاً تضعیف میشود. بنابراین، شفافیت، توضیحپذیری و مستندسازی برای این سامانهها الزامی است.۴. دامنه سامانههای پرخطر در حوزه اجرای قانون
مقرره، طیف وسیعی از کاربردهای هوش مصنوعی در پلیس و مراجع کیفری را پرخطر تلقی میکند؛ از جمله پلیگراف، ارزیابی اعتبار ادله، پیشبینی خطر ارتکاب جرم و پروفایلسازی. علت این طبقهبندی آن است که نتایج این سامانهها میتوانند مستقیماً بر آزادی و حیثیت اشخاص اثر بگذارند.۵. استثنای مراجع مالیاتی و واحدهای اطلاعات مالی
قانونگذار میان فعالیتهای اداری و فعالیتهای کیفری تفاوت قائل شده است. سامانههایی که صرفاً برای تحلیل اطلاعات در امور مالیاتی، گمرکی یا مبارزه با پولشویی استفاده میشوند، بهعنوان سامانههای پرخطر حوزه اجرای قانون شناخته نمیشوند؛ هرچند ممکن است تحت سایر مقررات همچنان پرخطر تلقی شوند.۶. تأکید بر عدالت و امکان اعتراض مؤثر
ملاحظه در پایان هشدار میدهد که هوش مصنوعی نباید موجب نابرابری یا محرومیت شود. همچنین، دشواری فنی در درک الگوریتمها نباید مانع از اعتراض قضایی مؤثر افراد نسبت به نتایج سامانه گردد.منبع: ترجمه شده توسط بخش فناوری های نوین سایت راسخون
.jpg "حکمرانی محله محور در ایران اسلامی")
