ماده 16 قانون هوش مصنوعی اتحادیه اروپا، عرضه‌کنندگان سامانه‌های هوش مصنوعی پرمخاطره را موظف می‌کند تا پیش از عرضه، تمام الزامات فنی، مدیریتی و نظارتی را رعایت کرده و مسئولیت کامل کیفیت، ایمنی، انطباق و پاسخگویی سامانه را بر عهده گیرند.

ماده قبلی: قانون هوش مصنوعی اتحادیه اروپا - فصل 3؛ ماده 15 – دقت، استحکام و امنیت سایبری


ماده ۱۶ – تعهدات عرضه‌کنندگان سامانه‌های هوش مصنوعی پرمخاطره

عرضه‌کنندگان سامانه‌های هوش مصنوعی پرمخاطره موظف‌اند:

الف) اطمینان حاصل کنند که سامانه‌های هوش مصنوعی پرمخاطره آن‌ها با الزامات مندرج در بخش ۲ مطابقت دارند؛

ب) نام، نام تجاری ثبت‌شده یا علامت تجاری ثبت‌شده خود و نشانی تماس را بر روی سامانه هوش مصنوعی پرمخاطره یا — در صورتی که این امر ممکن نباشد — بر روی بسته‌بندی یا مستندات همراه آن، حسب مورد، درج کنند؛

ج) نظام مدیریت کیفیتی را برقرار کنند که مطابق با ماده ۱۷ باشد؛

د) مستندات اشاره‌شده در ماده ۱۸ را نگهداری نمایند؛

هـ) در صورتی که سامانه تحت کنترل آن‌ها باشد، سوابق (گزارش‌های خودکار) تولیدشده توسط سامانه‌های هوش مصنوعی پرمخاطره را مطابق ماده ۱۹ حفظ کنند؛

و) اطمینان حاصل کنند که سامانه هوش مصنوعی پرمخاطره پیش از عرضه به بازار یا بهره‌برداری، فرآیند ارزیابی انطباق مربوطه را مطابق ماده ۴۳ طی کرده است؛


ز) اعلامیه انطباق اتحادیه اروپا را مطابق ماده ۴۷ تنظیم نمایند؛

ح) علامت CE را بر روی سامانه هوش مصنوعی پرمخاطره یا، در صورت عدم امکان، بر روی بسته‌بندی یا مستندات همراه آن الصاق کنند تا نشانگر انطباق با این مقرره باشد، طبق ماده ۴۸؛

ط) تعهدات ثبت‌نام اشاره‌شده در بند (۱) ماده ۴۹ را رعایت کنند؛

ی) اقدامات اصلاحی لازم را انجام داده و اطلاعات مورد نیاز را طبق ماده ۲۰ ارائه نمایند؛

ک) بنا به درخواست مستدل مقام صلاحیت‌دار ملی، انطباق سامانه هوش مصنوعی پرمخاطره با الزامات مندرج در بخش ۲ را اثبات کنند؛

ل) اطمینان حاصل کنند که سامانه هوش مصنوعی پرمخاطره با الزامات قابلیت دسترسی (Accessibility) مطابق با دستورالعمل‌های (اتحادیه اروپا) ۲۰۱۶/۲۱۰۲ و (اتحادیه اروپا) ۲۰۱۹/۸۸۲ مطابقت دارد. (مرتبط: مقدمه (Recital) شماره ۸۰)
 

🔹 تحلیل و تفسیر ماده ۱۶ – تعهدات عرضه‌کنندگان سامانه‌های هوش مصنوعی پرمخاطره

بند (الف)
✅ الزام به انطباق با الزامات بخش ۲
عرضه‌کننده باید اطمینان دهد که سامانه هوش مصنوعی پرمخاطره با تمام الزامات فنی، مدیریتی و اخلاقی مندرج در بخش ۲ (مانند دقت، ایمنی، شفافیت، قابلیت ردیابی و امنیت سایبری) مطابقت دارد.

📘 یعنی مسئولیت نهایی کیفیت و ایمنی سامانه با عرضه‌کننده است.

بند (ب)
✅ شفافیت هویتی عرضه‌کننده
اطلاعات تماس و نام تجاری باید روی محصول، بسته‌بندی یا مستندات باشد تا در صورت بروز خطا یا آسیب، مصرف‌کننده یا نهاد نظارتی بتواند با عرضه‌کننده ارتباط برقرار کند.

📘 این بند مشابه الزامات محصولات CE در اتحادیه اروپاست.

بند (ج)
✅ ایجاد نظام مدیریت کیفیت (QMS)
عرضه‌کننده باید یک سیستم مدیریت کیفیت داشته باشد (مطابق ماده ۱۷) که شامل کنترل طراحی، تست، مدیریت ریسک، و اصلاح خطا باشد.

📘 این یعنی رویکرد مستمر به بهبود و پایش عملکرد سیستم.


بند (د)
✅ الزام به نگهداری مستندات فنی
تمامی مدارک طراحی، آزمایش، روش‌های کنترل، داده‌های آموزشی و آزمون‌های انطباق باید نگهداری شود تا در صورت بازرسی قابل ارائه باشد (ماده ۱۸).

📘 این بند پایه‌ی شفافیت نظارتی است.

بند (هـ)
✅ نگهداری گزارش‌های خودکار (Logs)
سامانه‌های پرمخاطره باید گزارش‌های عملکردی خود را ثبت کنند (ماده ۱۹) و عرضه‌کننده باید این گزارش‌ها را در صورت داشتن کنترل، نگهداری کند.

📘 Logs برای تحلیل خطا و اثبات انطباق قانونی ضروری‌اند.

بند (و)
✅ ارزیابی انطباق قبل از عرضه یا بهره‌برداری
پیش از اینکه سامانه وارد بازار شود، باید فرآیند ارزیابی انطباق (Conformity Assessment) را طی کند (ماده ۴۳).

📘 این شبیه گواهی استاندارد برای تضمین ایمنی و دقت سیستم است.

بند (ز)
✅ تنظیم اعلامیه انطباق اتحادیه اروپا (EU Declaration of Conformity) عرضه‌کننده باید مدرکی رسمی صادر کند که تأیید کند سیستم با همه الزامات قانونی مطابقت دارد (ماده ۴۷).

📘 این اعلامیه سند قانونی اصلی برای مسئولیت‌پذیری عرضه‌کننده است.

بند (ح)
✅ الصاق نشان CE (CE Marking) برای نشان دادن انطباق با مقررات اتحادیه اروپا، باید نشان CE روی محصول یا بسته‌بندی درج شود (ماده ۴۸).

📘 نشان CE به معنی اجازه قانونی توزیع در بازار اروپاست.

بند (ط)
✅ ثبت سامانه در پایگاه داده اتحادیه اروپا
عرضه‌کننده باید سامانه پرمخاطره را در سامانه ثبت اتحادیه (مطابق ماده ۴۹) ثبت کند.

📘 این کار برای شفافیت بازار و ردیابی سامانه‌ها انجام می‌شود.


بند (ی)
✅ اقدامات اصلاحی و اطلاع‌رسانی در صورت بروز مشکل
اگر نقص، خطا یا خطر جدیدی شناسایی شود، عرضه‌کننده باید فوراً اقدامات اصلاحی انجام دهد و به مقامات مربوط اطلاع دهد (مطابق ماده ۲۰).

📘 این بند شبیه «فراخوان محصولات معیوب» در صنعت دارو و خودرو است.

بند (ک)
✅ اثبات انطباق در صورت درخواست نهاد ملی
در صورت درخواست مستدل مقامات ملی، عرضه‌کننده باید مدارک لازم را برای اثبات انطباق سامانه ارائه دهد.

📘 هدف این بند، افزایش پاسخگویی قانونی عرضه‌کنندگان است.

بند (ل)
✅ رعایت الزامات دسترس‌پذیری (Accessibility)
سامانه باید با دستورالعمل‌های اتحادیه درباره دسترسی افراد دارای معلولیت (۲۰۱۶/۲۱۰۲ و ۲۰۱۹/۸۸۲) سازگار باشد.

📘 یعنی طراحی باید جامع و قابل استفاده برای همه کاربران باشد.

🧭 جمع‌بندی تحلیلی
ماده ۱۶ ستون اصلی تعهدات عرضه‌کننده (Provider) در قانون هوش مصنوعی اروپاست. این ماده عرضه‌کننده را نه فقط مسئول طراحی و توسعه، بلکه مسئول کل چرخه عمر سامانه از تولید تا عرضه، استفاده، ثبت، و واکنش به خطاها معرفی می‌کند. در واقع، عرضه‌کننده نقشی مشابه «تولیدکننده در صنایع پزشکی و خودروسازی» دارد — با مسئولیت حقوقی و فنی کامل در برابر کاربران و مقامات نظارتی.


منبع: تهیه شده در واحد فناوری های نوین راسخون