پیوست شماره سه: سامانههای هوش مصنوعی پرخطر موضوع ماده 6(2)
سامانههای هوش مصنوعی پرخطر طبق ماده 6 (2)، سامانههای هوش مصنوعی هستند که در هر یک از حوزههای زیر فهرست شدهاند:1. زیستسنجی (Biometrics)، تا آنجا که استفاده از آنها طبق حقوق اتحادیه یا حقوق ملی مربوط مجاز باشد:
(الف)
سامانههای شناسایی زیستسنجی از راه دور (remote biometric identification systems).
این شامل سامانههای هوش مصنوعی که برای احراز هویت زیستسنجی (biometric verification) طراحی شدهاند نمیشود، مشروط بر اینکه هدف انحصاری آنها صرفاً تأیید این باشد که یک شخص حقیقی مشخص همان فردی است که ادعا میکند.
(ب)
سامانههای هوش مصنوعی که برای دستهبندی زیستسنجی (biometric categorisation) بر اساس ویژگیها یا خصوصیات حساس یا محافظتشده، بر مبنای استنباط آن ویژگیها یا خصوصیات، طراحی شدهاند.
(ج)
سامانههای هوش مصنوعی که برای تشخیص احساسات (emotion recognition) طراحی شدهاند.
مرتبط: ملاحظه 54 و ملاحظه 159
2. زیرساختهای حیاتی (Critical infrastructure)
سامانههای هوش مصنوعی که بهعنوان اجزای ایمنی در مدیریت و بهرهبرداری از زیرساختهای دیجیتال حیاتی، ترافیک جادهای، یا در تأمین آب، گاز، گرمایش یا برق مورد استفاده قرار میگیرند.
مرتبط: ملاحظه 55
.jpg "قانون هوش مصنوعی اروپا: پیوست شماره سه")
(الف)
سامانههای هوش مصنوعی که برای تعیین دسترسی یا پذیرش یا برای تخصیص اشخاص حقیقی به مؤسسات آموزشی و آموزش حرفهای در تمام سطوح استفاده میشوند.
(ب)
سامانههای هوش مصنوعی که برای ارزیابی نتایج یادگیری استفاده میشوند، از جمله زمانی که این نتایج برای هدایت فرآیند یادگیری اشخاص حقیقی در مؤسسات آموزشی و آموزش حرفهای در همه سطوح به کار میروند.
(ج)
سامانههای هوش مصنوعی که برای ارزیابی سطح مناسب آموزش که یک فرد دریافت خواهد کرد یا قادر به دسترسی به آن خواهد بود، در چارچوب یا درون مؤسسات آموزشی و آموزش حرفهای در همه سطوح استفاده میشوند.
(د)
سامانههای هوش مصنوعی که برای پایش و تشخیص رفتار ممنوعه دانشآموزان در طول آزمونها در چارچوب یا درون مؤسسات آموزشی و آموزش حرفهای در همه سطوح استفاده میشوند.
مرتبط: ملاحظه 56
4. اشتغال، مدیریت نیروی کار و دسترسی به خوداشتغالی
(الف)
سامانههای هوش مصنوعی که برای استخدام یا انتخاب اشخاص حقیقی استفاده میشوند، بهویژه برای:
نمایش هدفمند آگهیهای شغلی،
تحلیل و فیلتر کردن درخواستهای شغلی،
ارزیابی داوطلبان.
(ب)
سامانههای هوش مصنوعی که برای اتخاذ تصمیماتی استفاده میشوند که بر شرایط روابط کاری تأثیر میگذارند، از جمله:
ارتقا یا خاتمه روابط قراردادی کاری،
تخصیص وظایف بر اساس رفتار فردی یا ویژگیها یا خصوصیات شخصی،
یا پایش و ارزیابی عملکرد و رفتار افراد در چنین روابطی.
مرتبط: ملاحظه 57
(الف)
سامانههای هوش مصنوعی که توسط مقامات عمومی یا از طرف آنها برای ارزیابی صلاحیت اشخاص حقیقی جهت دریافت مزایا و خدمات عمومی اساسی، از جمله خدمات سلامت، و همچنین برای اعطا، کاهش، لغو یا بازپسگیری چنین مزایا و خدماتی استفاده میشوند.
(ب)
سامانههای هوش مصنوعی که برای ارزیابی اعتبار مالی (creditworthiness) اشخاص حقیقی یا تعیین امتیاز اعتباری آنها استفاده میشوند، به استثنای سامانههایی که برای تشخیص تقلب مالی به کار میروند.
(ج)
سامانههای هوش مصنوعی که برای ارزیابی ریسک و قیمتگذاری در رابطه با اشخاص حقیقی در حوزه بیمه عمر و بیمه سلامت استفاده میشوند.
(د)
سامانههای هوش مصنوعی که برای ارزیابی و طبقهبندی تماسهای اضطراری اشخاص حقیقی یا برای اعزام یا تعیین اولویت اعزام خدمات واکنش اولیه اضطراری استفاده میشوند، از جمله توسط پلیس، آتشنشانی و خدمات پزشکی، و همچنین سامانههای تریاژ بیماران در شرایط اضطراری.
مرتبط: ملاحظه 58
6. اجرای قانون (Law enforcement)، تا آنجا که استفاده از آنها طبق حقوق اتحادیه یا ملی مربوط مجاز باشد:
(الف)
سامانههای هوش مصنوعی که توسط یا به نمایندگی از مقامات اجرای قانون یا توسط نهادها، ارگانها، دفاتر یا آژانسهای اتحادیه اروپا برای حمایت از مقامات اجرای قانون استفاده میشوند تا خطر قربانی شدن یک شخص حقیقی در جرائم کیفری را ارزیابی کنند.
(ب)
سامانههای هوش مصنوعی که توسط یا به نمایندگی از مقامات اجرای قانون یا نهادهای اتحادیه بهعنوان دروغسنج (polygraph) یا ابزارهای مشابه استفاده میشوند.
(ج)
سامانههای هوش مصنوعی که برای ارزیابی قابلیت اتکای ادله در جریان تحقیقات یا تعقیب جرائم کیفری استفاده میشوند.
(د)
سامانههای هوش مصنوعی که برای ارزیابی خطر ارتکاب جرم یا تکرار جرم توسط یک شخص حقیقی استفاده میشوند، نه صرفاً بر اساس پروفایلسازی اشخاص مطابق ماده 3(4) دستورالعمل (EU) 2016/680، یا برای ارزیابی ویژگیهای شخصیتی، خصوصیات یا سوابق کیفری افراد یا گروهها.
(هـ)
سامانههای هوش مصنوعی که برای پروفایلسازی اشخاص حقیقی مطابق ماده 3 (4) دستورالعمل (EU) 2016/680 در جریان کشف، تحقیق یا تعقیب جرائم کیفری توسط یا به نمایندگی از مقامات اجرای قانون استفاده میشوند.
مرتبط: ملاحظه 59
.jpg "قانون هوش مصنوعی اروپا: پیوست شماره سه")
(الف)
سامانههای هوش مصنوعی که بهعنوان دروغسنج یا ابزارهای مشابه توسط مقامات عمومی یا نهادهای اتحادیه استفاده میشوند.
(ب)
سامانههای هوش مصنوعی که برای ارزیابی ریسک، از جمله ریسک امنیتی، ریسک مهاجرت غیرقانونی یا ریسک سلامت، که توسط فردی که قصد ورود یا وارد شدن به قلمرو یک کشور عضو را دارد ایجاد میشود، استفاده میشوند.
(ج)
سامانههای هوش مصنوعی که برای کمک به مقامات در بررسی درخواستهای پناهندگی، ویزا یا اقامت و شکایات مرتبط، از جمله ارزیابی اعتبار ادله استفاده میشوند.
(د)
سامانههای هوش مصنوعی که در زمینه مدیریت مهاجرت، پناهندگی یا کنترل مرزها برای شناسایی، تشخیص یا احراز هویت اشخاص حقیقی استفاده میشوند، به استثنای تأیید اسناد مسافرتی.
مرتبط: ملاحظه 60
8. اداره عدالت و فرآیندهای دموکراتیک
(الف)
سامانههای هوش مصنوعی که توسط یک مرجع قضایی یا به نمایندگی از آن برای کمک به مرجع قضایی در تحقیق، تفسیر حقایق و قانون و اعمال قانون بر مجموعهای مشخص از حقایق استفاده میشوند، یا بهطور مشابه در حلوفصل جایگزین اختلافات به کار میروند.
مرتبط: ملاحظه 61
(ب)
سامانههای هوش مصنوعی که برای تأثیرگذاری بر نتیجه انتخابات یا همهپرسی یا رفتار رأیدهی اشخاص حقیقی در اعمال حق رأی آنها در انتخابات یا همهپرسیها استفاده میشوند.
این شامل سامانههای هوش مصنوعیای نمیشود که خروجی آنها بهطور مستقیم در معرض افراد قرار نمیگیرد، مانند ابزارهایی که برای سازماندهی، بهینهسازی یا ساختاردهی کمپینهای سیاسی از منظر اداری یا لجستیکی استفاده میشوند.
مرتبط: ملاحظه62
.jpg "قانون هوش مصنوعی اروپا: پیوست شماره سه")
تحلیل پیوست شماره III (Annex III) قانون هوش مصنوعی اتحادیه اروپا
پیوست شماره III در عمل یکی از «هستههای تعیینکننده ریسک» در کل قانون هوش مصنوعی اتحادیه اروپا است، چون دقیقاً مشخص میکند چه کاربردهایی از AI بهطور پیشفرض «پرخطر» محسوب میشوند. برخلاف پیوستهای دیگر که فهرست قوانین یا جرائم هستند، اینجا با یک طبقهبندی کاربردی و عملیاتی روبهرو هستیم: یعنی قانون میگوید اگر هوش مصنوعی در این حوزهها استفاده شود، بهطور خودکار وارد رژیم سختگیرانه High-Risk میشود.اولین بخش مربوط به زیستسنجی (Biometrics) است که از حساسترین حوزههای فناوریهای نوین محسوب میشود. سیستمهای تشخیص چهره از راه دور، دستهبندی افراد بر اساس ویژگیهای حساس (مثل نژاد، جنسیت، یا وضعیت جسمی) و تشخیص احساسات، همگی بهدلیل ریسک بالای نقض حریم خصوصی و امکان سوءاستفاده، در این دسته قرار گرفتهاند. استثنا شدن «احراز هویت ساده (verification)» نشان میدهد قانونگذار بین کاربردهای روزمره و کاربردهای نظارتی گسترده تفاوت قائل شده است.
بخش زیرساختهای حیاتی نشان میدهد که هرجا هوش مصنوعی وارد سیستمهای حیاتی مانند برق، آب، گاز، حملونقل و شبکههای دیجیتال شود، ریسک آن دیگر صرفاً فردی نیست بلکه سیستمی و اجتماعی است. اینجا منطق قانون بر این است که خطا یا دستکاری در چنین سیستمهایی میتواند اثرات زنجیرهای گسترده داشته باشد.
در حوزه آموزش، اشتغال و خدمات عمومی، قانون بر «قدرت تصمیمگیری AI درباره سرنوشت افراد» تمرکز دارد. تصمیمهایی مثل پذیرش دانشگاه، استخدام، ارتقا شغلی، تعیین سطح بیمه یا حتی دسترسی به خدمات درمانی، همگی مستقیماً بر زندگی افراد اثر میگذارند. به همین دلیل، استفاده از AI در این حوزهها پرخطر تلقی میشود، چون میتواند منجر به تبعیض ساختاری یا تصمیمگیری غیرشفاف شود.
بخش اجرای قانون، مهاجرت و عدالت قضایی حساسترین بخش از نظر حقوق بنیادین است. در اینجا AI وارد حوزههایی میشود که مستقیماً با آزادی فردی، عدالت کیفری و حق دادرسی مرتبط هستند. استفاده از AI برای پیشبینی جرم، ارزیابی اعتبار شواهد یا حتی تحلیل رفتار افراد میتواند به شدت بحثبرانگیز باشد، به همین دلیل در این پیوست بهطور دقیق محدود شده است.
در نهایت، بخش فرآیندهای دموکراتیک (انتخابات و رفراندوم) نشان میدهد که قانونگذار اروپایی حتی به تأثیر غیرمستقیم AI بر افکار عمومی و دموکراسی نیز حساس است. هرگونه سیستم که بتواند بر رفتار رأیدهی تأثیر بگذارد یا نتایج انتخابات را شکل دهد، در معرض کنترل شدید قرار میگیرد. این نشاندهنده نگرانی عمیق نسبت به «دستکاری اطلاعاتی و سیاسی با AI» است.
در مجموع، پیوست شماره III در واقع نقشه کامل «حوزههای حساس اجتماعی» است که در آنها تصمیمگیری الگوریتمی میتواند اثرات حقوقی، اخلاقی و سیاسی جدی داشته باشد. این پیوست نشان میدهد رویکرد اتحادیه اروپا مبتنی بر «ریسک اجتماعی-سیستمی» است، نه صرفاً ریسک فنی.
منبع: ترجمه شده توسط بخش فناوری های نوین سایت راسخون
.jpg "تفاوت بونوس، تخفیف و ریفاند در پراپ فرمها چیست؟")
