پیوست شماره هفت: انطباق مبتنی بر ارزیابی سیستم مدیریت کیفیت و ارزیابی مستندات فنی
1. مقدمهانطباق مبتنی بر ارزیابی سیستم مدیریت کیفیت و ارزیابی مستندات فنی، رویه ارزیابی انطباقی است که مبتنی بر بندهای 2 تا 5 میباشد.
2. نمای کلی
سیستم مدیریت کیفیت تأییدشده برای طراحی، توسعه و آزمون سامانههای هوش مصنوعی مطابق ماده 17 باید طبق بند 3 مورد بررسی قرار گیرد و مطابق بند 5 تحت نظارت (surveillance) قرار گیرد. مستندات فنی سامانه هوش مصنوعی باید مطابق بند 4 بررسی شود.
3. سیستم مدیریت کیفیت
3.1. درخواست ارائهدهنده شامل موارد زیر خواهد بود:
(الف)
نام و نشانی ارائهدهنده و در صورتی که درخواست توسط نماینده مجاز ارائه شده باشد، نام و نشانی وی نیز؛
(ب)
فهرست سامانههای هوش مصنوعی تحت پوشش یک سیستم مدیریت کیفیت واحد؛
(ج)
مستندات فنی هر سامانه هوش مصنوعی تحت پوشش همان سیستم مدیریت کیفیت؛
(د)
مستندات مربوط به سیستم مدیریت کیفیت که باید تمامی جنبههای مندرج در ماده 17 را پوشش دهد؛
(هـ)
توصیف رویههای موجود برای اطمینان از اینکه سیستم مدیریت کیفیت همچنان مناسب و مؤثر باقی میماند؛
(و)
اظهارنامه کتبی مبنی بر اینکه همین درخواست به هیچ نهاد اطلاعرسان دیگری ارائه نشده است.
.jpg "قانون هوش مصنوعی اروپا: پیوست شماره هفت")
3.2.
سیستم مدیریت کیفیت باید توسط نهاد اطلاعرسان (notified body) ارزیابی شود، که تعیین میکند آیا با الزامات موضوع ماده 17 مطابقت دارد یا خیر.
تصمیم باید به ارائهدهنده یا نماینده مجاز او اطلاع داده شود. این اطلاعرسانی باید شامل نتایج ارزیابی سیستم مدیریت کیفیت و تصمیم مستدل (reasoned assessment decision) باشد.
3.3.
سیستم مدیریت کیفیت تأییدشده باید همچنان توسط ارائهدهنده اجرا و نگهداری شود تا مناسب و مؤثر باقی بماند.
3.4.
هرگونه تغییر موردنظر در سیستم مدیریت کیفیت تأییدشده یا فهرست سامانههای هوش مصنوعی تحت پوشش آن باید توسط ارائهدهنده به نهاد اطلاعرسان اعلام شود.
تغییرات پیشنهادی باید توسط نهاد اطلاعرسان بررسی شود، که تصمیم میگیرد آیا سیستم مدیریت کیفیت اصلاحشده همچنان الزامات بند 3.2 را برآورده میکند یا اینکه ارزیابی مجدد لازم است.
نهاد اطلاعرسان باید تصمیم خود را به ارائهدهنده اعلام کند. این اطلاعرسانی باید شامل نتایج بررسی تغییرات و تصمیم مستدل ارزیابی باشد.
4. کنترل مستندات فنی
4.1.علاوه بر درخواست موضوع بند 3، ارائهدهنده باید درخواست جداگانهای به نهاد اطلاعرسان منتخب خود برای ارزیابی مستندات فنی مربوط به سامانه هوش مصنوعی ارائه دهد که قصد دارد آن را در بازار عرضه یا بهرهبرداری کند و تحت پوشش سیستم مدیریت کیفیت موضوع بند 3 است.
4.2.
این درخواست باید شامل موارد زیر باشد:
(الف)
نام و نشانی ارائهدهنده؛
(ب)
اظهارنامه کتبی مبنی بر اینکه همان درخواست به هیچ نهاد اطلاعرسان دیگری ارائه نشده است؛
(ج)
مستندات فنی موضوع پیوست IV.
4.3.
مستندات فنی باید توسط نهاد اطلاعرسان بررسی شود. در صورت اقتضا و در حد ضروری برای انجام وظایف، نهاد اطلاعرسان باید دسترسی کامل به مجموعههای داده آموزش، اعتبارسنجی و آزمون مورد استفاده داشته باشد، از جمله در صورت مناسب و با رعایت تدابیر امنیتی، از طریق API یا سایر ابزارهای فنی مرتبط که امکان دسترسی از راه دور را فراهم میکنند.
4.4.
در بررسی مستندات فنی، نهاد اطلاعرسان میتواند از ارائهدهنده بخواهد شواهد بیشتری ارائه کند یا آزمونهای بیشتری انجام دهد تا امکان ارزیابی صحیح انطباق سامانه با الزامات فصل III، بخش 2 فراهم شود.
در صورتی که نهاد اطلاعرسان از آزمونهای انجامشده توسط ارائهدهنده رضایت نداشته باشد، خود نهاد میتواند مستقیماً آزمونهای مناسب را انجام دهد.
4.5.
در صورت ضرورت برای ارزیابی انطباق سامانه هوش مصنوعی پرخطر با الزامات فصل III، بخش 2، پس از اینکه تمام روشهای معقول دیگر برای بررسی انطباق استفاده شده و ناکافی تشخیص داده شده باشند، و بر اساس یک درخواست مستدل، نهاد اطلاعرسان باید به مدلهای آموزشدیده و مدلهای آموزشی سامانه هوش مصنوعی، از جمله پارامترهای مربوطه، دسترسی داشته باشد.
این دسترسی باید مطابق با قوانین اتحادیه در زمینه حفاظت از مالکیت فکری و اسرار تجاری باشد.
4.6.
تصمیم نهاد اطلاعرسان باید به ارائهدهنده یا نماینده مجاز او اطلاع داده شود. این اطلاعرسانی باید شامل نتایج ارزیابی مستندات فنی و تصمیم مستدل باشد.
در صورتی که سامانه هوش مصنوعی با الزامات فصل III، بخش 2 منطبق باشد، نهاد اطلاعرسان باید «گواهی ارزیابی مستندات فنی اتحادیه» صادر کند.
این گواهی باید شامل نام و نشانی ارائهدهنده، نتایج بررسی، شرایط (در صورت وجود) اعتبار آن و دادههای لازم برای شناسایی سامانه هوش مصنوعی باشد.
گواهی و پیوستهای آن باید شامل تمام اطلاعات مرتبط برای ارزیابی انطباق سامانه و کنترل آن در زمان استفاده، در صورت اقتضا، باشد.
در صورتی که سامانه با الزامات منطبق نباشد، نهاد اطلاعرسان باید از صدور گواهی خودداری کند و دلایل دقیق رد را اعلام نماید.
در صورتی که سامانه الزامات مربوط به دادههای آموزشی را رعایت نکند، بازآموزی (retraining) سامانه پیش از ارائه درخواست جدید ارزیابی انطباق لازم خواهد بود. در این حالت، تصمیم مستدل باید شامل ملاحظات خاص درباره کیفیت دادههای آموزشی و دلایل عدم انطباق باشد.
4.7.
هرگونه تغییر در سامانه هوش مصنوعی که ممکن است بر انطباق یا هدف موردنظر آن تأثیر بگذارد باید توسط همان نهاد اطلاعرسان صادرکننده گواهی ارزیابی شود.
ارائهدهنده باید نهاد را از قصد خود برای اعمال چنین تغییراتی مطلع کند یا در صورت آگاهی از وقوع آنها، اطلاع دهد.
تغییرات باید توسط نهاد اطلاعرسان بررسی شود، که تصمیم میگیرد آیا نیاز به ارزیابی انطباق جدید مطابق ماده 43 (4) وجود دارد یا اینکه میتوان آن را از طریق الحاقیه به گواهی مستندات فنی پوشش داد.
در حالت دوم، نهاد اطلاعرسان تغییرات را ارزیابی کرده، تصمیم خود را به ارائهدهنده اعلام میکند و در صورت تأیید، الحاقیهای به گواهی صادر میکند.
5. نظارت بر سیستم مدیریت کیفیت تأییدشده
5.1.هدف نظارتی که توسط نهاد اطلاعرسان موضوع بند 3 انجام میشود این است که اطمینان حاصل شود ارائهدهنده بهدرستی شرایط و الزامات سیستم مدیریت کیفیت تأییدشده را رعایت میکند.
5.2.
برای اهداف ارزیابی، ارائهدهنده باید به نهاد اطلاعرسان اجازه دسترسی به محلهایی را بدهد که طراحی، توسعه و آزمون سامانههای هوش مصنوعی در آن انجام میشود. همچنین باید تمام اطلاعات لازم را در اختیار نهاد قرار دهد.
5.3.
نهاد اطلاعرسان باید ممیزیهای دورهای انجام دهد تا اطمینان حاصل کند ارائهدهنده سیستم مدیریت کیفیت را حفظ و اجرا میکند و باید گزارش ممیزی را به ارائهدهنده ارائه دهد.
در چارچوب این ممیزیها، نهاد اطلاعرسان میتواند آزمونهای اضافی روی سامانههایی انجام دهد که برای آنها گواهی ارزیابی مستندات فنی اتحادیه صادر شده است.
تحلیل پیوست شماره VII (Annex VII) — ارزیابی انطباق ترکیبی
پیوست شماره VII یکی از پیچیدهترین و «نظارتیترین» بخشهای AI Act است، چون یک مدل دوگانه برای ارزیابی انطباق ارائه میدهد: ترکیب سیستم مدیریت کیفیت (Quality Management System) و بررسی مستندات فنی توسط نهادهای اطلاعرسان (Notified Bodies). این یعنی برخلاف مدل صرفاً داخلی (Annex VI)، اینجا نقش نهادهای بیرونی بسیار پررنگ است و عملاً یک رژیم نظارتی چندلایه شکل میگیرد.هسته اصلی این پیوست بر این ایده استوار است که انطباق واقعی یک سامانه هوش مصنوعی فقط با بررسی محصول نهایی ممکن نیست، بلکه باید کل «فرآیند تولید» هم کنترل شود. به همین دلیل، هم سیستم مدیریت کیفیت شرکت بررسی میشود و هم مستندات فنی هر سیستم بهطور جداگانه ارزیابی میگردد. این ترکیب باعث میشود قانونگذار هم به «فرآیند» و هم به «محصول» بهطور همزمان نظارت داشته باشد.
بخش مربوط به سیستم مدیریت کیفیت نشان میدهد که اتحادیه اروپا شرکتها را مجبور میکند یک ساختار سازمانی پایدار برای کنترل کیفیت، بهروزرسانی، مستندسازی و اصلاح سیستمهای AI داشته باشند. این سیستم باید نهتنها در زمان ارزیابی اولیه، بلکه در طول زمان هم معتبر باقی بماند و هر تغییر مهمی باید دوباره توسط نهاد اطلاعرسان بررسی شود. این موضوع یک لایه کنترل مستمر ایجاد میکند، نه یک بررسی یکباره.
بخش بررسی مستندات فنی حتی سختگیرانهتر است، چون نهاد اطلاعرسان میتواند به دادههای آموزشی، مدلها، پارامترها و حتی نتایج آزمایشها دسترسی پیدا کند. این سطح از دسترسی نشان میدهد که قانونگذار قصد دارد امکان «ممیزی واقعی الگوریتمی» را فراهم کند، نه صرفاً بررسی اسناد سطحی. همچنین امکان انجام آزمونهای مستقل توسط نهاد، نشاندهنده کاهش اعتماد صرف به گزارشهای شرکتهاست.
نکته مهم دیگر، مفهوم «چرخه عمر انطباق» است. هر تغییر در سیستم—چه در داده، چه در مدل، چه در عملکرد—میتواند نیازمند ارزیابی مجدد باشد یا حداقل باید به گواهی قبلی الحاق شود. این یعنی انطباق یک وضعیت ثابت نیست، بلکه یک فرآیند مداوم و پویاست.
در مجموع، Annex VII سختگیرانهترین مدل نظارتی را در AI Act ارائه میدهد، جایی که کنترل داخلی شرکتها با نظارت خارجی نهادهای تخصصی ترکیب میشود. نتیجه این طراحی، ایجاد یک سیستم چندلایه برای کاهش ریسک خطا، سوگیری و سوءاستفاده در سامانههای هوش مصنوعی پرخطر است.
منبع: ترجمه شده توسط بخش فناوری های نوین سایت راسخون
.jpg "تفاوت بونوس، تخفیف و ریفاند در پراپ فرمها چیست؟")
