قانون هوش مصنوعی اروپا: پیوست شماره چهار

پیوست شماره IV مجموعه الزامات جامع مستندسازی فنی برای تضمین شفافیت، قابلیت ارزیابی و کنترل کامل چرخه عمر سامانه‌های هوش مصنوعی است.

شنبه، 22 فروردين 1405

تخمین زمان مطالعه:

نویسنده : تحریریه راسخون

موارد بیشتر برای شما

پیوست شماره IV قانون هوش مصنوعی اتحادیه اروپا مشخص می‌کند که هر سامانه AI باید دارای مستندات فنی بسیار دقیق شامل هدف، معماری، نسخه‌ها، نحوه تعامل با سیستم‌های دیگر، داده‌های آموزشی، طراحی الگوریتمی، روش‌های آزمون، شاخص‌های عملکرد، ریسک‌ها، تدابیر نظارت انسانی، امنیت سایبری و ارزیابی پس از عرضه باشد. هدف این پیوست ایجاد شفافیت کامل در طراحی و عملکرد سیستم‌های هوش مصنوعی و امکان نظارت، ممیزی و کنترل آن‌ها در طول چرخه عمرشان است. این چارچوب تلاش می‌کند از «جعبه سیاه بودن» AI جلوگیری کرده و امکان پاسخ‌گویی حقوقی و فنی برای توسعه‌دهندگان و استفاده‌کنندگان را فراهم کند.

پیوست شماره IV: مستندات فنی موضوع ماده 11 (1)

مستندات فنی موضوع ماده 11 (1) باید، حسب مورد و متناسب با سامانه هوش مصنوعی مربوطه، حداقل شامل اطلاعات زیر باشد:

1. توصیف کلی سامانه هوش مصنوعی شامل:

(الف)
هدف موردنظر سامانه، نام ارائه‌دهنده (provider) و نسخه سامانه که رابطه آن با نسخه‌های پیشین را منعکس می‌کند؛

(ب)
نحوه تعامل سامانه هوش مصنوعی با سخت‌افزار یا نرم‌افزار دیگر، یا امکان استفاده از آن برای تعامل با آن‌ها، از جمله با سایر سامانه‌های هوش مصنوعی که جزئی از خود سامانه نیستند، در صورت اقتضا؛

(ج)
نسخه‌های نرم‌افزار یا میان‌افزار (firmware) مرتبط و هرگونه الزامات مربوط به به‌روزرسانی نسخه‌ها؛

(د)
توصیف تمامی اشکالی که سامانه هوش مصنوعی در آن‌ها در بازار عرضه یا بهره‌برداری می‌شود، مانند بسته‌های نرم‌افزاری تعبیه‌شده در سخت‌افزار، دانلودها یا APIها؛

(هـ)
توصیف سخت‌افزاری که سامانه هوش مصنوعی برای اجرا بر روی آن طراحی شده است؛

(و)
در صورتی که سامانه هوش مصنوعی جزئی از محصولات باشد، عکس‌ها یا تصاویر توضیحی که ویژگی‌های خارجی، علائم (marking) و چیدمان داخلی آن محصولات را نشان می‌دهند؛

(ز)
توصیف پایه‌ای از رابط کاربری ارائه‌شده به بهره‌بردار (deployer)؛

(ح)
دستورالعمل‌های استفاده برای بهره‌بردار و در صورت اقتضا، توصیف پایه‌ای از رابط کاربری ارائه‌شده به بهره‌بردار؛

2. توصیف تفصیلی عناصر سامانه هوش مصنوعی و فرآیند توسعه آن شامل:
(الف)
روش‌ها و مراحل انجام‌شده برای توسعه سامانه هوش مصنوعی، از جمله در صورت اقتضا استفاده از سامانه‌ها یا ابزارهای از پیش آموزش‌دیده ارائه‌شده توسط اشخاص ثالث و نحوه استفاده، ادغام یا اصلاح آن‌ها توسط ارائه‌دهنده؛

(ب)
مشخصات طراحی سامانه، یعنی:

منطق کلی سامانه هوش مصنوعی و الگوریتم‌ها؛

انتخاب‌های کلیدی طراحی شامل دلایل و فرضیات اتخاذشده، از جمله در مورد اشخاص یا گروه‌هایی که سامانه برای استفاده درباره آن‌ها طراحی شده است؛

انتخاب‌های اصلی طبقه‌بندی؛

آنچه سامانه برای بهینه‌سازی آن طراحی شده است و اهمیت پارامترهای مختلف؛

توصیف خروجی مورد انتظار و کیفیت خروجی سامانه؛

تصمیمات مربوط به هرگونه مصالحه (trade-off) درباره راهکارهای فنی اتخاذشده برای رعایت الزامات فصل III، بخش 2؛

(ج)
توصیف معماری سامانه که توضیح دهد مؤلفه‌های نرم‌افزاری چگونه بر یکدیگر بنا می‌شوند یا به یکدیگر داده می‌دهند و چگونه در کل فرآیند پردازش ادغام می‌شوند؛ همچنین منابع محاسباتی مورد استفاده برای توسعه، آموزش، آزمون و اعتبارسنجی سامانه هوش مصنوعی؛

(د)
در صورت اقتضا، الزامات داده‌ای در قالب برگه‌های داده (datasheets) شامل:

روش‌ها و تکنیک‌های آموزش؛
مجموعه‌داده‌های آموزشی مورد استفاده؛
توصیف کلی این مجموعه‌داده‌ها؛
اطلاعات مربوط به منشأ، دامنه و ویژگی‌های اصلی آن‌ها؛
نحوه گردآوری و انتخاب داده‌ها؛
رویه‌های برچسب‌گذاری (مانند یادگیری نظارت‌شده)؛
روش‌های پاک‌سازی داده (مانند شناسایی داده‌های پرت)؛

(هـ)
ارزیابی تدابیر نظارت انسانی موردنیاز مطابق ماده 14، از جمله ارزیابی تدابیر فنی لازم برای تسهیل تفسیر خروجی‌های سامانه‌های هوش مصنوعی توسط بهره‌برداران، مطابق ماده 13 (3)، بند (د)؛

(و)
در صورت اقتضا، توصیف تفصیلی تغییرات از پیش تعیین‌شده در سامانه هوش مصنوعی و عملکرد آن، همراه با تمام اطلاعات مربوط به راهکارهای فنی اتخاذشده برای تضمین انطباق مستمر سامانه با الزامات مربوط در فصل III، بخش 2؛

(ز)
رویه‌های اعتبارسنجی و آزمون مورد استفاده، شامل:

اطلاعات مربوط به داده‌های اعتبارسنجی و آزمون و ویژگی‌های اصلی آن‌ها؛

شاخص‌های مورد استفاده برای اندازه‌گیری دقت، استحکام (robustness) و انطباق با سایر الزامات فصل III، بخش 2، و همچنین آثار بالقوه تبعیض‌آمیز؛

لاگ‌های آزمون؛

تمامی گزارش‌های آزمون دارای تاریخ و امضای اشخاص مسئول، از جمله در خصوص تغییرات از پیش تعیین‌شده موضوع بند (و)؛

(ح)
تدابیر امنیت سایبری اتخاذشده؛

3. اطلاعات تفصیلی درباره پایش، عملکرد و کنترل سامانه هوش مصنوعی
به‌ویژه در خصوص:
قابلیت‌ها و محدودیت‌های عملکرد سامانه، از جمله درجات دقت برای اشخاص یا گروه‌های خاصی که سامانه برای استفاده درباره آن‌ها طراحی شده است و سطح کلی دقت مورد انتظار نسبت به هدف موردنظر سامانه؛

نتایج ناخواسته قابل پیش‌بینی و منابع خطر برای سلامت و ایمنی، حقوق بنیادین و تبعیض با توجه به هدف موردنظر سامانه؛

تدابیر نظارت انسانی موردنیاز مطابق ماده 14، از جمله تدابیر فنی برای تسهیل تفسیر خروجی‌های سامانه توسط بهره‌برداران؛

مشخصات داده‌های ورودی، حسب مورد؛

4. توصیف مناسب بودن شاخص‌های عملکرد
توصیف مناسب بودن شاخص‌های عملکرد برای سامانه هوش مصنوعی خاص؛

5. توصیف تفصیلی سامانه مدیریت ریسک مطابق ماده 9

6. توصیف تغییرات مرتبط اعمال‌شده توسط ارائه‌دهنده در طول چرخه عمر سامانه

7. فهرست استانداردهای هماهنگ‌شده
فهرستی از استانداردهای هماهنگ‌شده که به‌طور کامل یا جزئی اعمال شده‌اند و مراجع آن‌ها در روزنامه رسمی اتحادیه اروپا منتشر شده است؛ در صورتی که چنین استانداردهایی اعمال نشده باشند، شرح تفصیلی راه‌حل‌های اتخاذشده برای رعایت الزامات فصل III، بخش 2، از جمله فهرست سایر استانداردها و مشخصات فنی مرتبط مورد استفاده؛

8. نسخه‌ای از اظهارنامه انطباق اتحادیه اروپا موضوع ماده 47

9. توصیف تفصیلی سامانه ارزیابی عملکرد در مرحله پس از عرضه به بازار

شامل سامانه موجود برای ارزیابی عملکرد سامانه هوش مصنوعی در مرحله پس از عرضه به بازار مطابق ماده 72، از جمله طرح پایش پس از عرضه به بازار موضوع ماده 72(3).

تحلیل پیوست شماره IV (Annex IV) — مستندات فنی در AI Act

پیوست شماره IV در واقع «نقشه مهندسی و شفافیت کامل یک سامانه هوش مصنوعی» است. اگر پیوست III مشخص می‌کرد کجاها AI پرخطر است، این پیوست توضیح می‌دهد وقتی یک سیستم وارد آن حوزه‌ها شد، دقیقاً باید چه چیزی از نظر فنی و مستندسازی درباره‌اش وجود داشته باشد. به زبان ساده، این پیوست ستون فقرات الزامات شفافیت، قابلیت حسابرسی (auditability) و پاسخ‌گویی فنی در قانون هوش مصنوعی اتحادیه اروپاست.

بخش اول این پیوست روی «شناخت کلی سیستم» تمرکز دارد: هدف، نسخه، سازنده، نوع استقرار (API، نرم‌افزار، سخت‌افزار)، رابط کاربری و محیط اجرا. این یعنی قانون‌گذار می‌خواهد هر سامانه AI به‌طور دقیق قابل شناسایی و ردیابی باشد. در عمل، این بخش مانع از آن می‌شود که یک مدل در نسخه‌ها یا محیط‌های مختلف بدون کنترل تغییر کند یا بدون مستندات روشن وارد بازار شود.

بخش دوم، قلب فنی سند است و عملاً وارد جزئیات «مهندسی یادگیری ماشین» می‌شود: معماری مدل، طراحی الگوریتم، انتخاب‌های فنی، داده‌های آموزشی، روش‌های پاک‌سازی داده، برچسب‌گذاری، و حتی فرضیات اخلاقی و آماری پشت طراحی. این سطح از الزام نشان می‌دهد که قانون به‌دنبال شفاف‌سازی کامل چرایی و چگونگی تصمیمات فنی است، نه فقط نتیجه نهایی. این رویکرد تلاش می‌کند «جعبه سیاه AI» را تا حد ممکن باز کند.

نکته مهم دیگر، تمرکز بر «قابلیت ارزیابی و آزمون» است. قانون‌گذار از توسعه‌دهنده می‌خواهد نه‌تنها مدل را آموزش دهد، بلکه دقیقاً توضیح دهد چگونه آن را تست کرده، با چه معیارهایی سنجیده، و چه اثرات تبعیض‌آمیزی ممکن است داشته باشد. این بخش به‌طور مستقیم به عدالت الگوریتمی (algorithmic fairness) و کنترل سوگیری‌ها (bias) مرتبط است.

بخش‌های مربوط به نظارت انسانی، امنیت سایبری و مدیریت ریسک نشان می‌دهند که این پیوست فقط فنی نیست، بلکه ترکیبی از مهندسی + حکمرانی است. یعنی سیستم باید نه‌تنها درست کار کند، بلکه قابل کنترل توسط انسان، مقاوم در برابر حمله، و قابل اصلاح در طول زمان باشد. همچنین الزام به پایش پس از عرضه (post-market monitoring) نشان می‌دهد که قانون، AI را یک محصول «ایستا» نمی‌بیند بلکه یک سیستم زنده و در حال تغییر تلقی می‌کند.

در مجموع، پیوست شماره چهار را می‌توان «قانون دفترچه مهندسی AI» دانست: هر سامانه‌ای که وارد بازار اروپا می‌شود، باید به اندازه‌ای مستند و شفاف باشد که یک نهاد مستقل بتواند آن را بازسازی، ارزیابی و در صورت نیاز ممیزی کند.

منبع: ترجمه شده توسط بخش فناوری های نوین سایت راسخون

ارسال نظر

با تشکر، نظر شما پس از بررسی و تایید در سایت قرار خواهد گرفت.

متاسفانه در برقراری ارتباط خطایی رخ داده. لطفاً دوباره تلاش کنید.

پیوست شماره IV: مستندات فنی موضوع ماده 11 (1)

1. توصیف کلی سامانه هوش مصنوعی شامل:

تحلیل پیوست شماره IV (Annex IV) — مستندات فنی در AI Act

مقالات مرتبط

تازه های مقالات

بیشترین بازدید هفته