ماده ۲۷ قانون هوش مصنوعی اتحادیه اروپا با هدف صیانت از حقوق بنیادین، برخی به‌کارگیرندگان سامانه‌های هوش مصنوعی پرخطر—به‌ویژه نهادهای عمومی و ارائه‌دهندگان خدمات عمومی—را موظف می‌سازد پیش از نخستین استفاده از این سامانه‌ها، ارزیابی جامعی از آثار احتمالی آن‌ها بر حقوق و آزادی‌های اساسی اشخاص انجام دهند. این ارزیابی شامل بررسی زمینه‌های استفاده، دامنه و مدت کاربرد، گروه‌های متأثر، خطرات احتمالی آسیب، نحوه اعمال نظارت انسانی و سازوکارهای جبرانی است. نتایج این ارزیابی باید به مرجع نظارت بازار اعلام شود و در صورت تغییر شرایط، به‌روزرسانی گردد. این ماده با ایجاد پیوند میان AI Act و مقررات حفاظت از داده‌ها، چارچوبی منسجم برای مدیریت ریسک‌های حقوق بشری ناشی از هوش مصنوعی پرخطر فراهم می‌کند.

ماده قبلی: قانون هوش مصنوعی اتحادیه اروپا - فصل 3؛ ماده ۲۶: تعهدات به‌کارگیرندگان سامانه‌های هوش مصنوعی پرخطر

ماده ۲۷: ارزیابی اثرات بر حقوق بنیادین در سامانه‌های هوش مصنوعی پرخطر

1. پیش از به‌کارگیری یک سامانه هوش مصنوعی پرخطر موضوع ماده ۶ (۲)، به‌استثنای سامانه‌های هوش مصنوعی پرخطر که برای استفاده در حوزه مندرج در بند ۲ پیوست سوم طراحی شده‌اند، به‌کارگیرندگانی که نهادهای مشمول حقوق عمومی هستند یا اشخاص خصوصی‌ای که خدمات عمومی ارائه می‌دهند، و همچنین به‌کارگیرندگان سامانه‌های هوش مصنوعی پرخطر موضوع بندهای ۵(ب) و ۵(ج) پیوست سوم، موظف‌اند ارزیابی‌ای از آثار احتمالی استفاده از آن سامانه بر حقوق بنیادین انجام دهند.

به‌منظور این ارزیابی، به‌کارگیرندگان باید بررسی‌ای شامل موارد زیر انجام دهند:
الف) توصیف فرایندهای به‌کارگیرنده که سامانه هوش مصنوعی پرخطر، مطابق با هدف موردنظر آن، در آن‌ها مورد استفاده قرار خواهد گرفت؛

ب) توصیف بازه زمانی و میزان تکرار استفاده موردنظر از هر سامانه هوش مصنوعی پرخطر؛

ج) تعیین دسته‌های اشخاص حقیقی و گروه‌هایی که در بستر مشخص استفاده، احتمالاً تحت تأثیر قرار می‌گیرند؛

د) شناسایی خطرات مشخص آسیب‌رسانی که ممکن است بر دسته‌های اشخاص یا گروه‌های مذکور در بند (ج) اثر بگذارد، با لحاظ اطلاعات ارائه‌شده توسط ارائه‌دهنده مطابق ماده ۱۳؛

هـ) توصیف نحوه اجرای تدابیر نظارت انسانی، مطابق با دستورالعمل‌های استفاده؛

و) بیان تدابیر قابل اتخاذ در صورت تحقق این خطرات، از جمله ترتیبات حاکمیت داخلی و سازوکارهای رسیدگی به شکایات.

2. تعهد مقرر در بند ۱ در خصوص نخستین استفاده از سامانه هوش مصنوعی پرخطر اعمال می‌شود. به‌کارگیرنده می‌تواند در موارد مشابه، به ارزیابی‌های اثرات بر حقوق بنیادین که پیش‌تر انجام شده‌اند یا به ارزیابی‌های موجودی که توسط ارائه‌دهنده انجام شده است، استناد کند. چنانچه در طول استفاده از سامانه، به‌کارگیرنده تشخیص دهد که هر یک از عناصر مندرج در بند ۱ تغییر کرده یا دیگر به‌روز نیست، باید اقدامات لازم را برای به‌روزرسانی اطلاعات انجام دهد.

3. پس از انجام ارزیابی موضوع بند ۱ این ماده، به‌کارگیرنده موظف است نتایج آن را با ارائه فرم تکمیل‌شده موضوع بند ۵ این ماده، به‌عنوان بخشی از اعلام، به مرجع نظارت بازار اطلاع دهد. در موارد موضوع ماده ۴۶ (۱)، ممکن است به‌کارگیرندگان از تعهد اطلاع‌رسانی معاف شوند.

4. هرگاه هر یک از تعهدات مقرر در این ماده، پیش‌تر از طریق انجام ارزیابی اثرات حفاظت از داده‌ها مطابق ماده ۳۵ مقرره (EU) 2016/679 یا ماده ۲۷ دستورالعمل (EU) 2016/680 ایفا شده باشد، ارزیابی اثرات بر حقوق بنیادین موضوع بند ۱ این ماده، مکمل آن ارزیابی حفاظت از داده‌ها خواهد بود.

5. دفتر هوش مصنوعی (AI Office) موظف است به‌منظور تسهیل و ساده‌سازی ایفای تعهدات به‌کارگیرندگان ذیل این ماده، قالبی برای پرسش‌نامه، از جمله از طریق یک ابزار خودکار، تدوین نماید.
 

تحلیل حقوقی بندبه‌بند ماده ۲۷ ارزیابی اثرات بر حقوق بنیادین (FRIA) در سامانه‌های هوش مصنوعی پرخطر

ماده ۲۷ یکی از نوآورانه‌ترین مقررات AI Act است، زیرا برای نخستین بار در حقوق اتحادیه اروپا، ارزیابی پیشینی و نظام‌مند اثرات هوش مصنوعی بر حقوق بنیادین را به‌طور مستقل و الزام‌آور پیش‌بینی می‌کند. این ماده مکمل رژیم حفاظت از داده‌ها (GDPR) است، اما دامنه‌ای گسترده‌تر دارد و تمام حقوق بنیادین مندرج در منشور حقوق بنیادین اتحادیه اروپا (CFR) را در بر می‌گیرد.

🔹 بند ۱: ایجاد تعهد به ارزیابی پیشینی حقوق بنیادین

این بند، اصل پیشگیری (ex ante risk prevention) را در حوزه حقوق بنیادین نهادینه می‌کند. قانون‌گذار به‌جای واکنش پسینی به نقض حقوق، به‌کارگیرندگان خاصی را ملزم می‌سازد پیش از استفاده از سامانه، پیامدهای آن را بررسی کنند: دامنه اشخاص مشمول، نهادهای مشمول حقوق عمومی، اشخاص خصوصی ارائه‌دهنده خدمات عمومی، به‌کارگیرندگان سامانه‌های خاص پرخطر (پیوست سوم، بندهای 5(b) و 5(c)). این انتخاب نشان‌دهنده حساسیت بیشتر قانون‌گذار نسبت به قدرت عمومی و شبه‌عمومی در استفاده از AI است.

تحلیل بندهای فرعی (الف) تا (و)
الف) توصیف فرایندها
هدف: پیوند دادن سامانه AI به بستر واقعی تصمیم‌گیری مانع از ارزیابی انتزاعی و غیرواقعی می‌شود

(ب) بازه و تکرار استفاده
معیار سنجش شدت مداخله در حقوق بنیادین
استفاده مکرر = ریسک بالاتر

ج) شناسایی اشخاص و گروه‌های متأثر
توجه به «گروه‌ها» نشان‌دهنده دغدغه تبعیض ساختاری است
شامل اقلیت‌ها و گروه‌های آسیب‌پذیر

(د) شناسایی خطرات آسیب
الزام به استفاده از اطلاعات ماده ۱۳ → پیوند با تعهدات ارائه‌دهنده
مسئولیت مشترک در مدیریت ریسک

ه) نظارت انسانی
تضمین اینکه تصمیم‌گیری کاملاً خودکار نباشد
پیوند مستقیم با ماده ۲۶

(و) تدابیر جبرانی و شکایات
تبدیل FRIA از یک سند تشریفاتی به ابزار اجرایی
تضمین دسترسی به جبران خسارت مؤثر

🔹 بند ۲: زمان‌بندی، استمرار و به‌روزرسانی ارزیابی
تعهد FRIA به اولین استفاده محدود می‌شود، اما:
ماهیت آن ایستا نیست
امکان اتکا به ارزیابی‌های قبلی:
اصل تناسب و کاهش بار اداری
الزام به به‌روزرسانی در صورت تغییر:
تأکید بر ماهیت پویا و زنده ارزیابی
پیامد حقوقی
عدم به‌روزرسانی می‌تواند:
تخلف مستقل تلقی شود
مسئولیت اداری یا مدنی ایجاد کند

🔹 بند ۳: اطلاع‌رسانی به مرجع نظارت بازار
FRIA صرفاً سند داخلی نیست؛
ابزار نظارت تنظیم‌گرانه است
ارسال قالب استاندارد:
قابلیت مقایسه
تسهیل نظارت اتحادیه‌ای
استثنا (ماده ۴۶(۱))
ناظر بر محیط‌های آزمایشی تنظیم‌گرانه (Regulatory Sandboxes)
توازن میان نوآوری و حفاظت از حقوق

🔹 بند ۴: رابطه FRIA و DPIA
جلوگیری از موازی‌کاری مقرراتی
FRIA دامنه‌ای گسترده‌تر از DPIA دارد:
DPIA ← تمرکز بر داده‌های شخصی
FRIA ← کل حقوق بنیادین (برابری، کرامت، آزادی بیان، دادرسی عادلانه و …)

نتیجه
DPIA کافی نیست، اما می‌تواند بخشی از FRIA را پوشش دهد
FRIA نقش تکمیلی دارد، نه جایگزین

🔹 بند ۵: استانداردسازی و تسهیل اجرا
نقش فعال «دفتر هوش مصنوعی» در اجرای قانون
ابزار خودکار:
کاهش بار اجرایی
افزایش یکنواختی و کیفیت ارزیابی‌ها
اهمیت نهادی
این بند نشان می‌دهد که FRIA:
صرفاً تعهدی نظری نیست
بلکه قرار است به‌طور گسترده و عملی اجرا شود

جمع‌بندی 
ماده ۲۷، به‌کارگیرندگان خاص سامانه‌های هوش مصنوعی پرخطر را به پاسخ‌گویی فعال در برابر حقوق بنیادین متعهد می‌کند. این ماده با نهادینه‌سازی ارزیابی پیشینی، شفاف‌سازی گروه‌های متأثر، الزام به نظارت انسانی و ایجاد پیوند با مراجع نظارتی، نقطه تلاقی فناوری، حقوق بشر و تنظیم‌گری هوشمند در حقوق اتحادیه اروپا است. در واقع، FRIA ستون حقوق بشری AI Act و مکمل فنی ماده ۲۶ محسوب می‌شود.


منبع: ترجمه شده توسط واحد فناوری های نوین سایت راسخون