قانون هوش مصنوعی اروپا: ملاحظه 53

ملاحظه ۵۳ مقرر می‌دارد که برخی سامانه‌های هوش مصنوعی مورد استفاده در حوزه‌های مندرج در پیوست III، در صورتی که صرفاً وظایف محدود، مقدماتی یا پشتیبان انجام دهند و تأثیر مادی بر نتیجه تصمیم‌گیری نداشته باشند، ممکن است از طبقه سامانه‌های پرخطر خارج شوند. با این حال، سامانه‌هایی که شامل پروفایل‌سازی هستند اصولاً دارای خطر قابل‌توجه تلقی می‌شوند. ارائه‌دهنده برای بهره‌مندی از این استثنا باید ارزیابی مستند تهیه کرده، سامانه را در پایگاه داده اتحادیه ثبت کند و در صورت درخواست مستندات را به مراجع ذی‌صلاح ارائه دهد.  

قانون هوش مصنوعی اروپا: متن ملاحظه 53

همچنین لازم است تصریح شود که ممکن است در موارد خاصی، سامانه‌های هوش مصنوعی که در حوزه‌های از پیش تعیین‌شده موضوع این مقرره به کار می‌روند، به دلیل آنکه تأثیر مادی بر فرآیند تصمیم‌گیری ندارند یا به نحو قابل توجهی به منافع حقوقی مورد حمایت در آن حوزه‌ها لطمه وارد نمی‌کنند، موجب ایجاد خطر قابل‌ملاحظه برای آن منافع نشوند.

برای مقاصد این مقرره، سامانه هوش مصنوعی‌ای که «تأثیر مادی» بر نتیجه تصمیم‌گیری ندارد، سامانه‌ای است که بر ماهیت تصمیم و در نتیجه بر خروجی نهایی تصمیم‌گیری، اعم از انسانی یا خودکار، اثرگذار نباشد.

چنین وضعیتی می‌تواند در مواردی از جمله شرایط زیر محقق شود:

انجام یک وظیفه محدود و صرفاً رویه‌ای؛ مانند سامانه‌ای که داده‌های غیرساختاریافته را به داده‌های ساختاریافته تبدیل می‌کند، اسناد ورودی را دسته‌بندی می‌نماید یا درخواست‌های تکراری را شناسایی می‌کند.

بهبود نتیجه یک فعالیت انسانی از پیش انجام‌شده؛ مانند سامانه‌ای که صرفاً نگارش، لحن حرفه‌ای، سبک دانشگاهی یا هماهنگی متن با هویت برند را ارتقا می‌دهد.

شناسایی الگوها یا انحراف از الگوهای تصمیم‌گیری پیشین؛ مانند سامانه‌ای که الگوی نمره‌دهی یک معلم را بررسی و موارد غیرعادی را برای بازبینی انسانی علامت‌گذاری می‌کند.

انجام وظایف مقدماتی برای ارزیابی بعدی؛ مانند راهکارهای هوشمند مدیریت پرونده، نمایه‌سازی، جست‌وجو، پردازش متن و گفتار، پیونددهی داده‌ها یا ترجمه اسناد اولیه.

با این حال، در هر صورت، اگر سامانه‌های مورد استفاده در حوزه‌های مندرج در پیوست این مقرره متضمن «پروفایل‌سازی» به معنای مندرج در ماده ۴ بند (۴) Euopean Union GDPR (مقرره 2016/679)، ماده ۳ بند (۴) دستورالعمل 2016/680 یا ماده ۳ بند (۵) مقرره 2018/1725 باشند، باید اصولاً دارای خطر قابل‌توجه برای سلامت، ایمنی یا حقوق بنیادین تلقی شوند.

به منظور تضمین قابلیت ردیابی و شفافیت، ارائه‌دهنده‌ای که بر این باور است سامانه او بر اساس شرایط فوق «پرخطر» محسوب نمی‌شود، باید پیش از عرضه به بازار یا بهره‌برداری، مستندات ارزیابی مربوط را تهیه کند و در صورت درخواست، آن را در اختیار مراجع صلاحیت‌دار ملی قرار دهد. همچنین این ارائه‌دهنده موظف است سامانه مذکور را در پایگاه داده اتحادیه اروپا موضوع این مقرره ثبت نماید.

به منظور ارائه راهنمایی بیشتر برای اجرای عملی این شرایط، European Commission پس از مشورت با هیئت اروپایی هوش مصنوعی، دستورالعمل‌هایی مشتمل بر توضیحات اجرایی و نمونه‌های کاربردی جامع از موارد پرخطر و غیرپرخطر منتشر خواهد کرد.
 

تحلیل ملاحظه ۵۳

۱. ایجاد استثنا بر فهرست ظاهراً قطعی سامانه‌های پرخطر
ملاحظه ۵۳ یکی از مهم‌ترین مکانیسم‌های تعدیل‌کننده در قانون هوش مصنوعی اتحادیه اروپا است. اگرچه برخی حوزه‌ها در پیوست III به طور کلی پرخطر شناخته شده‌اند، این ملاحظه تصریح می‌کند که هر سامانه‌ای که در این حوزه‌ها استفاده می‌شود الزاماً پرخطر نیست.

بنابراین، قانونگذار اروپایی از یک رویکرد کاملاً صوری فاصله گرفته و ارزیابی واقعی میزان اثرگذاری سامانه بر تصمیم‌گیری را ملاک قرار داده است.  

۲. معیار اصلی: «تأثیر مادی» بر تصمیم‌گیری

محور اصلی این ملاحظه مفهوم «material influence» است. اگر خروجی سامانه در ماهیت تصمیم نهایی اثر نگذارد، سامانه ممکن است از طبقه پرخطر خارج شود.

این معیار ناظر به تأثیر واقعی سامانه است، نه صرف حضور آن در فرآیند کاری.
 

۳. چهار دسته نمونه از سامانه‌های کم‌خطر

ملاحظه ۵۳ چهار گروه نمونه را معرفی می‌کند:

ابزارهای صرفاً اداری و پردازشی؛
ابزارهای ویرایشی و بهبوددهنده خروجی انسانی؛
ابزارهای کشف الگو یا ناهنجاری برای بازبینی انسانی؛
ابزارهای مقدماتی مانند ترجمه و مدیریت اسناد.
وجه مشترک این موارد آن است که نقش آنها پشتیبان و غیرتعیین‌کننده است.
 

۴. استثنای مهم: پروفایل‌سازی

چنانچه سامانه شامل پروفایل‌سازی باشد، اصل بر آن است که خطر قابل‌توجهی برای حقوق بنیادین ایجاد می‌کند و نمی‌توان به آسانی آن را از شمول سامانه‌های پرخطر خارج کرد.

این حکم اهمیت ویژه‌ای برای سامانه‌های استخدام، ارزیابی اعتباری، رتبه‌بندی و تحلیل رفتاری دارد.
 

۵. الزامات اثباتی برای ارائه‌دهنده

بار اثبات بر عهده ارائه‌دهنده است. او باید:
ارزیابی مستند تهیه کند؛
سامانه را در پایگاه داده اتحادیه ثبت نماید؛
مستندات را در صورت مطالبه ارائه کند.
در نتیجه، ادعای «غیرپرخطر بودن» نیازمند توجیه مستند و قابل نظارت است.
 

۶. نقش راهنماهای کمیسیون

کمیسیون اروپا با همکاری هیئت اروپایی هوش مصنوعی، راهنماهایی برای تفسیر عملی این استثنا منتشر می‌کند. این راهنماها نقش مهمی در ایجاد وحدت رویه میان کشورهای عضو خواهند داشت.


منبع: ترجمه شده توسط بخش فناوری های نوین سایت راسخون