قانون هوش مصنوعی اروپا: ملاحظه 57

ملاحظه ۵۷ قانون هوش مصنوعی اتحادیه اروپا مقرر می‌کند که سامانه‌های هوش مصنوعی مورد استفاده در استخدام، گزینش، ارتقاء، خاتمه همکاری، تخصیص وظایف، ارزیابی و نظارت بر کارکنان و همچنین ارائه‌دهندگان خدمات پلتفرمی، در زمره سامانه‌های پرخطر قرار می‌گیرند؛ زیرا این سامانه‌ها می‌توانند تأثیر چشمگیری بر آینده شغلی، معیشت و حقوق بنیادین افراد داشته باشند. این سامانه‌ها در صورت طراحی یا استفاده نامناسب ممکن است تبعیض‌های تاریخی را بازتولید کرده و حقوقی همچون منع تبعیض، حریم خصوصی و حمایت از داده‌های شخصی را نقض کنند.  

قانون هوش مصنوعی اروپا: متن ملاحظه 57

سامانه‌های هوش مصنوعی که در حوزه اشتغال، مدیریت کارکنان و دسترسی به خوداشتغالی مورد استفاده قرار می‌گیرند، به‌ویژه برای استخدام و گزینش اشخاص، اتخاذ تصمیماتی که بر شرایط رابطه کاری اثر می‌گذارد، ارتقاء و خاتمه روابط قراردادی مرتبط با کار، تخصیص وظایف بر اساس رفتار فردی، ویژگی‌ها یا خصوصیات شخصی، و نیز برای نظارت یا ارزیابی اشخاص در چارچوب روابط قراردادی کاری، باید به عنوان سامانه‌های هوش مصنوعی پرخطر طبقه‌بندی شوند؛ زیرا این سامانه‌ها می‌توانند تأثیر قابل توجهی بر چشم‌انداز شغلی آتی، معیشت افراد و حقوق کارگران داشته باشند.

روابط قراردادی مرتبط با کار باید به نحو معناداری شامل کارکنان و اشخاصی باشد که از طریق سکوهای دیجیتال خدمات ارائه می‌کنند؛ مطابق مفهومی که در برنامه کاری کمیسیون اروپا برای سال ۲۰۲۱ مورد اشاره قرار گرفته است.

در سراسر فرایند استخدام و نیز در ارزیابی، ارتقاء یا حفظ اشخاص در روابط قراردادی کاری، چنین سامانه‌هایی ممکن است الگوهای تاریخی تبعیض را استمرار بخشند؛ برای مثال علیه زنان، برخی گروه‌های سنی، اشخاص دارای معلولیت، یا افراد متعلق به نژادها، قومیت‌ها یا گرایش‌های جنسی خاص.

سامانه‌های هوش مصنوعی مورد استفاده برای پایش عملکرد و رفتار این اشخاص نیز ممکن است حقوق بنیادین آنان، از جمله حق حمایت از داده‌های شخصی و حق حریم خصوصی، را تضعیف کنند.

تحلیل  ملاحظه 57

۱. جایگاه ویژه حوزه اشتغال در قانون هوش مصنوعی

ملاحظه ۵۷ یکی از مهم‌ترین موارد شناسایی کاربردهای پرخطر را در حوزه روابط کار مقرر می‌کند. اشتغال و دسترسی به فرصت‌های شغلی از حقوق بنیادین اجتماعی و اقتصادی است و تصمیمات مرتبط با آن می‌تواند مستقیماً بر معیشت، امنیت اقتصادی و کرامت انسانی افراد اثر بگذارد.
 

۲. دامنه گسترده شمول

این ملاحظه تنها به استخدام محدود نیست، بلکه طیف وسیعی از کاربردها را در بر می‌گیرد، از جمله:

غربالگری رزومه‌ها؛
رتبه‌بندی متقاضیان؛
تصمیم‌گیری درباره ارتقاء؛
خاتمه همکاری؛
تخصیص شیفت یا وظایف؛
ارزیابی عملکرد؛
نظارت بر کارکنان.

همچنین اشخاصی که از طریق پلتفرم‌های دیجیتال (مانند رانندگان یا پیک‌های پلتفرمی) خدمات ارائه می‌کنند نیز مشمول حمایت این مقرره هستند.
 

۳. خطر تبعیض الگوریتمی

سامانه‌های استخدامی معمولاً بر داده‌های تاریخی آموزش می‌بینند. اگر داده‌های گذشته حاوی تبعیض باشند، سیستم می‌تواند همان الگوها را بازتولید کند. برای نمونه، اگر در گذشته زنان کمتر در سمت‌های مدیریتی انتخاب شده باشند، الگوریتم ممکن است به‌طور غیرمستقیم آنان را پایین‌تر رتبه‌بندی کند.
 

۴. تأثیر بر حقوق بنیادین

این ملاحظه به طور خاص به حقوق زیر اشاره دارد:

حق کار و دسترسی برابر به فرصت‌های شغلی؛
منع تبعیض؛
حق حریم خصوصی؛
حق حمایت از داده‌های شخصی؛
حقوق کارگران.

نظارت مداوم بر رفتار یا بهره‌وری کارکنان نیز می‌تواند منجر به مداخلات نامتناسب در زندگی حرفه‌ای و شخصی آنان شود.
 

۵. پیامدهای طبقه‌بندی به عنوان پرخطر

سامانه‌های مشمول باید الزامات سخت‌گیرانه AI Act را رعایت کنند، از جمله:

مدیریت ریسک؛
تضمین کیفیت و بی‌طرفی داده‌ها؛
مستندسازی فنی؛
شفافیت نسبت به کاربران؛
نظارت انسانی مؤثر؛
ارزیابی انطباق پیش از عرضه یا استفاده.
 

۶. نمونه‌های عملی

نمونه‌های رایج عبارت‌اند از:
نرم‌افزار غربالگری رزومه‌ها؛
سیستم امتیازدهی متقاضیان؛
الگوریتم تخصیص شیفت در پلتفرم‌های کاری؛
سامانه ارزیابی عملکرد کارکنان؛
ابزارهای پایش رفتار و بهره‌وری.


منبع: ترجمه شده توسط بخش فناوری های نوین سایت راسخون