قانون هوش مصنوعی اروپا: ملاحظه 58

ملاحظه ۵۸ قانون هوش مصنوعی اتحادیه اروپا مقرر می‌کند که سامانه‌های هوش مصنوعی مورد استفاده برای تصمیم‌گیری درباره اعطا یا قطع مزایا و خدمات عمومی اساسی، ارزیابی امتیاز اعتباری، قیمت‌گذاری بیمه‌های درمانی و عمر، و نیز مدیریت تماس‌های اضطراری و تریاژ پزشکی، باید در زمره سامانه‌های پرخطر قرار گیرند. دلیل این امر آن است که این سامانه‌ها می‌توانند تأثیر مستقیم و عمیقی بر معیشت، سلامت، دسترسی به خدمات اساسی و حقوق بنیادینی همچون کرامت انسانی، منع تبعیض و حق برخورداری از حمایت اجتماعی داشته باشند.  

قانون هوش مصنوعی اروپا: متن ملاحظه 58

حوزه دیگری که استفاده از سامانه‌های هوش مصنوعی در آن مستلزم توجه ویژه است، دسترسی به برخی خدمات و مزایای اساسی خصوصی و عمومی و بهره‌مندی از آن‌هاست؛ خدمات و مزایایی که برای مشارکت کامل افراد در جامعه یا ارتقای سطح زندگی آنان ضروری هستند.

به‌طور خاص، اشخاص حقیقی که برای دریافت یا استفاده از مزایا و خدمات اساسی عمومی از مراجع عمومی درخواست می‌کنند یا از آن‌ها بهره‌مند می‌شوند ـ از جمله خدمات بهداشتی و درمانی، مزایای تأمین اجتماعی، خدمات اجتماعی حمایتی در مواردی مانند بارداری، بیماری، حوادث ناشی از کار، وابستگی، سالمندی و بیکاری، و نیز کمک‌های اجتماعی و مسکن ـ معمولاً به این خدمات وابسته بوده و در برابر مراجع تصمیم‌گیرنده در موقعیتی آسیب‌پذیر قرار دارند.

چنانچه از سامانه‌های هوش مصنوعی برای تعیین اعطا، رد، کاهش، لغو یا استرداد این مزایا و خدمات توسط مراجع ذی‌صلاح استفاده شود، از جمله برای تشخیص استحقاق قانونی دریافت‌کنندگان، این سامانه‌ها می‌توانند تأثیر قابل توجهی بر معیشت اشخاص داشته باشند و حقوق بنیادین آنان، نظیر حق حمایت اجتماعی، منع تبعیض، کرامت انسانی و حق برخورداری از جبران مؤثر را نقض کنند. بنابراین، چنین سامانه‌هایی باید به عنوان سامانه‌های هوش مصنوعی پرخطر طبقه‌بندی شوند.

با این حال، این مقرره نباید مانع توسعه و استفاده از رویکردهای نوآورانه در اداره عمومی شود، مشروط بر آنکه سامانه‌های مورد استفاده با الزامات قانونی مطابقت داشته و برای اشخاص حقیقی و حقوقی خطر بالایی ایجاد نکنند.

علاوه بر این، سامانه‌های هوش مصنوعی مورد استفاده برای ارزیابی امتیاز اعتباری یا اعتبارسنجی اشخاص حقیقی نیز باید در زمره سامانه‌های پرخطر قرار گیرند؛ زیرا این سامانه‌ها دسترسی اشخاص به منابع مالی یا خدمات اساسی مانند مسکن، برق و خدمات مخابراتی را تعیین می‌کنند. این سامانه‌ها ممکن است موجب تبعیض میان افراد یا گروه‌ها شوند و الگوهای تاریخی تبعیض مبتنی بر منشأ نژادی یا قومی، جنسیت، معلولیت، سن یا گرایش جنسی را استمرار بخشند یا اشکال جدیدی از آثار تبعیض‌آمیز ایجاد کنند.

با این وجود، سامانه‌های هوش مصنوعی که بر اساس حقوق اتحادیه اروپا برای کشف تقلب در ارائه خدمات مالی یا برای اهداف احتیاطی در محاسبه الزامات سرمایه‌ای مؤسسات اعتباری و شرکت‌های بیمه به کار می‌روند، در چارچوب این مقرره به عنوان سامانه‌های پرخطر تلقی نمی‌شوند.

همچنین، سامانه‌های هوش مصنوعی مورد استفاده برای ارزیابی ریسک و تعیین قیمت در بیمه‌های درمانی و بیمه عمر نیز می‌توانند تأثیر قابل توجهی بر معیشت اشخاص داشته باشند و در صورت طراحی، توسعه یا استفاده نامناسب، حقوق بنیادین آنان را نقض کرده و به پیامدهای جدی از جمله محرومیت مالی و تبعیض منجر شوند.

در نهایت، سامانه‌های هوش مصنوعی مورد استفاده برای ارزیابی و طبقه‌بندی تماس‌های اضطراری، اعزام یا تعیین اولویت در اعزام خدمات واکنش اولیه اضطراری ـ از جمله پلیس، آتش‌نشانی و امداد پزشکی ـ و همچنین سامانه‌های تریاژ بیماران در فوریت‌های پزشکی نیز باید به عنوان سامانه‌های پرخطر طبقه‌بندی شوند؛ زیرا در موقعیت‌هایی تصمیم‌گیری می‌کنند که مستقیماً با جان، سلامت و اموال اشخاص مرتبط است.
 

تحلیل ملاحظه 58

۱. اهمیت خدمات اساسی در حمایت از حقوق بنیادین

این ملاحظه بر این اصل استوار است که دسترسی به خدماتی مانند درمان، تأمین اجتماعی، مسکن و خدمات عمومی برای تحقق کرامت انسانی و مشارکت مؤثر در جامعه ضروری است. هر تصمیم خودکار درباره این خدمات می‌تواند آثار عمیق اجتماعی و اقتصادی بر زندگی افراد داشته باشد.
 

۲. آسیب‌پذیری متقاضیان و دریافت‌کنندگان

افرادی که متکی به خدمات عمومی یا حمایت‌های اجتماعی هستند غالباً در موقعیت نابرابر نسبت به دولت یا نهادهای تصمیم‌گیر قرار دارند. استفاده از هوش مصنوعی در چنین شرایطی، بدون تضمین‌های کافی، ممکن است به محرومیت ناعادلانه از حقوق اساسی منجر شود.  

۳. اعتبارسنجی و امتیاز اعتباری

سیستم‌های اعتبارسنجی تعیین می‌کنند چه کسی به وام، اجاره مسکن، برق یا خدمات مخابراتی دسترسی خواهد داشت. بنابراین، این سامانه‌ها نقش مستقیمی در شمول یا طرد اقتصادی افراد ایفا می‌کنند و از منظر قانون‌گذار اروپایی ذاتاً پرخطر هستند.
 

۴. بیمه درمانی و بیمه عمر

ارزیابی ریسک و قیمت‌گذاری در بیمه می‌تواند هزینه خدمات حیاتی را افزایش داده یا دسترسی برخی اشخاص را محدود کند. در صورت وجود سوگیری الگوریتمی، افراد ممکن است صرفاً به دلیل ویژگی‌های شخصی در معرض رفتار تبعیض‌آمیز قرار گیرند.
 

۵. خدمات اضطراری و فوریت‌های پزشکی

در تماس‌های اضطراری، زمان و اولویت‌بندی اهمیت حیاتی دارد. خطای سامانه هوش مصنوعی در دسته‌بندی تماس یا تریاژ می‌تواند مستقیماً به آسیب جانی یا خسارت مالی منجر شود.
 

۶. استثنای سامانه‌های کشف تقلب و اهداف احتیاطی

قانون‌گذار برخی کاربردهای تخصصی در حوزه مالی، مانند کشف تقلب یا محاسبه الزامات سرمایه‌ای بانک‌ها و بیمه‌ها را از طبقه‌بندی پرخطر مستثنا کرده است؛ زیرا این کاربردها مستقیماً درباره دسترسی اشخاص به خدمات تصمیم‌گیری نمی‌کنند.
 

۷. آثار حقوقی طبقه‌بندی به عنوان پرخطر

سامانه‌های مشمول باید تمام الزامات فصل سوم AI Act را رعایت کنند، از جمله:
مدیریت ریسک؛
تضمین کیفیت داده‌ها؛
مستندسازی فنی؛
ثبت وقایع؛
شفافیت؛
نظارت انسانی؛
ارزیابی انطباق.


منبع: ترجمه شده توسط بخش فناوری های نوین سایت راسخون