قانون هوش مصنوعی اتحادیه اروپا عرضهکنندگان سامانههای هوش مصنوعی پرخطر را ملزم میکند که یک سامانه نظارت پس از عرضه ایجاد کنند. این سامانه باید دادههای مربوط به عملکرد این سامانهها را در سراسر چرخه عمر آنها گردآوری و تحلیل کند تا اطمینان حاصل شود که سامانهها بهطور مستمر با الزامات قانونی مطابقت دارند.
سامانه نظارت پس از عرضه باید مبتنی بر یک طرح نظارت پس از عرضه باشد که بخشی از مستندات فنی محسوب میشود. کمیسیون اروپا الگوی استاندارد این طرح را ارائه خواهد کرد. در صورتی که بر اساس سایر مقررات، سامانه نظارت از پیش برقرار شده باشد، عرضهکنندگان میتوانند عناصر الزامی این مقرره جدید را در آن ادغام کنند، مشروط بر آنکه سطح حفاظتی معادل حفظ شود.
متن ماده 72: نظارت پس از عرضه توسط عرضهکنندگان و طرح نظارت پس از عرضه برای سامانههای هوش مصنوعی پرخطر
۱. عرضه کنندگان باید یک سیستم نظارت پس از ورود به بازار را به شیوهای متناسب با ماهیت فناوریهای هوش مصنوعی و خطرات سیستم هوش مصنوعی پرخطر ایجاد و مستندسازی کنند.۲. سامانه نظارت پس از عرضه باید بهصورت فعال و نظاممند دادههای مرتبط مربوط به عملکرد سامانههای هوش مصنوعی پرخطر را در طول کل چرخه عمر آنها گردآوری، ثبت و تحلیل کند؛ این دادهها میتوانند توسط بهرهبرداران ارائه شوند یا از طریق سایر منابع جمعآوری گردند.
این دادهها باید امکان ارزیابی تداوم انطباق سامانههای هوش مصنوعی با الزامات مقرر در فصل سوم، بخش ۲ این مقرره را برای عرضهکننده فراهم سازند. در موارد مقتضی، نظارت پس از عرضه باید شامل تحلیل تعامل سامانه با سایر سامانههای هوش مصنوعی نیز باشد. این تعهد شامل دادههای عملیاتی حساسِ بهرهبردارانی که از مقامات مجری قانون هستند، نمیشود.
۳. سامانه نظارت پس از عرضه باید مبتنی بر یک طرح نظارت پس از عرضه باشد. این طرح باید بخشی از مستندات فنی موضوع پیوست 4 باشد. کمیسیون موظف است تا تاریخ ۲ فوریه ۲۰۲۶ از طریق یک اقدام اجرایی، مقررات تفصیلی شامل الگوی استاندارد طرح نظارت پس از عرضه و فهرست عناصر الزامی آن را تعیین کند. این اقدام اجرایی مطابق با رویه رسیدگی موضوع ماده ۹۸ بند (۲) تصویب خواهد شد.
۴. در خصوص سامانههای هوش مصنوعی پرخطر مشمول قوانین هماهنگسازی اتحادیه که در بخش «الف» پیوست 1 فهرست شدهاند، چنانچه بر اساس آن قوانین، سامانه و طرح نظارت پس از عرضه از پیش برقرار شده باشد، عرضهکنندگان ـ بهمنظور تضمین انسجام، اجتناب از تکرار و کاهش بارهای اضافی ـ میتوانند حسب مورد، عناصر ضروری مندرج در بندهای (۱)، (۲) و (۳) این ماده را با استفاده از الگوی مذکور در بند (۳)، در سامانهها و طرحهای موجود ادغام کنند، مشروط بر آنکه سطح حفاظتی معادل حاصل شود. حکم مندرج در جمله نخست این بند همچنین در مورد سامانههای هوش مصنوعی پرخطر موضوع بند (۵) پیوست 3 که توسط مؤسسات مالی و تحت الزامات حقوق اتحادیه در زمینه حاکمیت داخلی، ترتیبات یا فرآیندها به بازار عرضه شده یا به بهرهبرداری گذاشته میشوند نیز اعمال میگردد.
تحلیل و تفسیر بند به بند ماده 72: نظارت پس از عرضه توسط عرضهکنندگان و طرح نظارت پس از عرضه برای سامانههای هوش مصنوعی پرخطر
در بند نخست، قانونگذار مسئولیت مستقیم ایجاد و مستندسازی سامانه نظارت پس از عرضه را بر عهده «عرضهکننده» میگذارد و صراحتاً اصل تناسب را وارد میکند؛ یعنی شدت، گستره و پیچیدگی نظارت باید متناسب با نوع فناوری و سطح ریسک سامانه هوش مصنوعی پرخطر باشد. این بند از یکسو مانع تحمیل الزامات یکسان به همه عرضهکنندگان میشود و از سوی دیگر به مقام ناظر اجازه میدهد ارزیابی کند آیا سطح نظارت با ریسک واقعی سامانه همخوانی دارد یا خیر.در بند دوم، محتوای ماهوی نظارت پس از عرضه مشخص میشود و تأکید بر «فعال و نظاممند بودن» نشان میدهد که نظارت نباید صرفاً واکنشی یا صوری باشد. جمعآوری، ثبت و تحلیل دادههای عملکردی در طول کل چرخه عمر سامانه، ابزار اصلی برای احراز انطباق مستمر با الزامات فصل سوم است. گنجاندن تعامل با سایر سامانههای هوش مصنوعی بیانگر توجه قانونگذار به ریسکهای سیستمی و زنجیرهای است. استثنای مربوط به دادههای عملیاتی حساس مقامات مجری قانون نیز توازن میان الزامات نظارتی و ملاحظات امنیتی و حاکمیتی را حفظ میکند.
در بند سوم، «طرح نظارت پس از عرضه» بهعنوان ستون فقرات سامانه نظارت معرفی میشود و جایگاه آن در مستندات فنی رسمی تثبیت میگردد. الزام کمیسیون به ارائه الگوی استاندارد و فهرست عناصر الزامی، هدفی دوگانه دارد: نخست ایجاد هماهنگی و قابلیت مقایسه میان عرضهکنندگان، و دوم کاهش ابهام حقوقی درباره کف الزامات مورد انتظار. ارجاع به رویه رسیدگی نیز نشان میدهد این الزامات تفصیلی ماهیت الزامآور و اجرایی خواهند داشت.
در بند چهارم، اصل همافزایی مقرراتی حاکم است؛ به این معنا که اگر تحت سایر قوانین هماهنگسازی اتحادیه، سازوکار نظارت پس از عرضه از قبل وجود داشته باشد، عرضهکننده مجبور به ایجاد ساختار موازی نیست. ادغام عناصر جدید مجاز است مشروط بر آنکه سطح حفاظتی معادل تأمین شود، که این شرط مانع تضعیف استانداردهای ایمنی میگردد. تسری این قاعده به مؤسسات مالی نیز نشاندهنده توجه ویژه قانونگذار به چارچوبهای حاکمیت داخلی و نظارتی از پیش موجود در بخش خدمات مالی است.
منبع: ترجمه شده توسط بخش فناوری های نوین سایت راسخون
