ماده ۱۲ قانون هوش مصنوعی اتحادیه اروپا بر لزوم نگهداری و ثبت دقیق سوابق (Logs) برای سامانه‌های هوش مصنوعی پرمخاطره تأکید دارد. هدف آن تضمین قابلیت ردیابی عملکرد سامانه در طول عمر آن است، به‌طوری که تصمیمات، رخدادها و تغییرات اساسی قابل بررسی باشند. این ثبت خودکار باید شامل زمان و دوره استفاده از سامانه، داده‌های ورودی و نتایج تطبیق، پایگاه‌های داده مرجع و شناسایی افراد دخیل در بررسی نتایج باشد. با این کار، مقامات نظارتی و نهادهای ارزیابی انطباق قادر خواهند بود عملکرد واقعی سامانه، انطباق آن با الزامات قانونی و اثرات احتمالی بر حقوق و ایمنی افراد را بررسی کنند و هرگونه سوگیری یا خطای سیستم را شناسایی و اصلاح نمایند. با راسخون همراه باشید. 


ماده قبلی: قانون هوش مصنوعی اتحادیه اروپا - فصل 3؛ ماده 11 – مستندات فنی

ماده ۱۲ – نگهداری سوابق

1. سامانه‌های هوش مصنوعی پرمخاطره باید از لحاظ فنی امکان ثبت خودکار رویدادها (Logs) را در طول عمر سامانه فراهم آورند.

۲. به منظور تضمین قابلیت ردیابی (traceability) عملکرد سامانهٔ هوش مصنوعی پرمخاطره به سطحی متناسب با هدف مورد نظر سامانه، امکانات ثبت رویداد باید امکان ضبط رویدادهای مرتبط با موارد زیر را فراهم نماید:

الف) شناسایی وضعیت‌هایی که ممکن است منجر به ایجاد ریسک در معنای ماده ۷۹(۱) یا ایجاد تغییرات اساسی در سامانه شود؛

ب) تسهیل نظارت پس از عرضه (post-market monitoring) مندرج در ماده ۷۲؛

ج) نظارت بر عملکرد سامانه‌های هوش مصنوعی پرمخاطره موضوع ماده ۲۶(۵).

۳. برای سامانه‌های هوش مصنوعی پرمخاطره مندرج در نقطه ۱ (الف) پیوست III، امکانات ثبت رویداد باید حداقل موارد زیر را فراهم نماید:

الف) ثبت دوره هر استفاده از سامانه (تاریخ و زمان آغاز و پایان هر استفاده)؛

ب) پایگاه داده مرجع که داده‌های ورودی سامانه بر اساس آن بررسی شده است؛

ج) داده‌های ورودی که جستجو منجر به تطابق با آن‌ها شده است؛

د) شناسایی اشخاص حقیقی دخیل در بررسی نتایج، مطابق ماده ۱۴(۵).

تفسیر و تحلیل ماده 12

بند ۱ – الزام به ثبت خودکار رویدادها

سامانه‌های هوش مصنوعی پرمخاطره باید به لحاظ فنی امکان ثبت خودکار (Automatic Logging) رویدادها در طول عمر سامانه را داشته باشند.

تفسیر و تحلیل:
ثبت خودکار به این معناست که سیستم باید بدون دخالت انسانی، داده‌های عملکردی را ضبط کند. این الزام، پایه‌ای برای حسابرسی مستقل و پیگیری حوادث (Post-market Audits) است.
طول عمر سامانه: همه فعالیت‌ها از اولین راه‌اندازی تا پایان عمر سامانه باید ثبت شوند. این بند مانع از حذف یا مخفی کردن داده‌های عملکردی مهم می‌شود.

ارتباط با Accountability: این الزام اساساً یک ابزار عملیاتی برای اجرای مسئولیت‌پذیری قانونی (Legal Accountability) است.
 

🔸 بند ۲ – اهداف ثبت رویدادها

ثبت رویدادها باید امکان ردیابی (traceability) عملکرد سامانه را فراهم آورد، و دسترسی به اطلاعات مربوط به موارد زیر را ممکن سازد:
الف) شناسایی وضعیت‌هایی که می‌توانند ریسک ایجاد کنند یا منجر به تغییر اساسی شوند (Article 79(1))
ب) تسهیل نظارت پس از عرضه (Post-Market Monitoring) (Article 72)
ج) نظارت بر عملکرد سامانه‌های پرمخاطره (Article 26(5))

تفسیر و تحلیل:
ردیابی ریسک‌ها و تغییرات اساسی: ثبت جزئیات هر رویداد به نهادهای نظارتی امکان می‌دهد ریسک‌های بالقوه یا تغییرات مهم در عملکرد سامانه را شناسایی کنند. به طور مثال اگر یک الگوریتم تصمیم‌گیری در حوزه پزشکی دچار تغییر ناخواسته در مدل پیش‌بینی شود، ثبت رویدادها می‌تواند منشأ مشکل را مشخص کند.


پشتیبانی از نظارت پس از عرضه: اطلاعات ثبت‌شده مبنای بررسی اثرات واقعی سامانه در بازار هستند. این بند مستقیماً به Post-Market Monitoring obligations متصل است.

عملکرد سامانه‌های پرمخاطره: ثبت رویدادها امکان بررسی دقیق عملیات سامانه در زمان اجرا را فراهم می‌کند و از این طریق شفافیت و قابلیت حسابرسی ایجاد می‌شود.



 

🔸 بند ۳ – الزامات فنی حداقلی برای سامانه‌های خاص

مضمون:
برای سامانه‌های مندرج در نقطه ۱ (الف) پیوست III، ثبت رویدادها باید حداقل موارد زیر را شامل شود:

الف) ثبت دوره هر استفاده از سامانه (تاریخ و زمان شروع و پایان هر استفاده)
ب) پایگاه داده مرجع که داده‌های ورودی بررسی شده‌اند
ج) داده‌های ورودی که جستجو با آن‌ها منجر به تطابق شده است
د) شناسایی اشخاص حقیقی دخیل در بررسی نتایج (Article 14(5))

تفسیر و تحلیل:
ثبت دوره استفاده امکان پیگیری زمان‌بندی دقیق فعالیت‌های سامانه را فراهم می‌کند. این اطلاعات برای تحلیل رخدادها و بررسی خطاهای احتمالی حیاتی است.

پایگاه داده مرجع و داده‌های ورودی شفافیت کامل در منابع داده و نتایج تطبیقی را ایجاد می‌کند. برای ارزیابی صحت عملکرد سامانه و انطباق با الزامات ماده ۱۰ و مدیریت داده‌ها ضروری است.

شناسایی افراد دخیل در بررسی نتایج: تضمین می‌کند که نظارت انسانی و تعامل با داده‌ها قابل ردیابی و حسابرسی باشد. این الزام از منظر حقوقی با اصول accountability و responsibility در AI Act و GDPR هماهنگ است.

منبع: تهیه شده در واحد فناوری های نوین راسخون