قانون هوش مصنوعی اتحادیه اروپا - فصل 3؛ ماده 12 – نگهداری سوابق

ماده ۱۲ قانون هوش مصنوعی اتحادیه اروپا بر لزوم نگهداری و ثبت دقیق سوابق (Logs) برای سامانه‌های هوش مصنوعی پرمخاطره تأکید دارد. هدف آن تضمین قابلیت ردیابی عملکرد سامانه در طول عمر آن است، به‌طوری که تصمیمات، رخدادها و تغییرات اساسی قابل بررسی باشند. این ثبت خودکار باید شامل زمان و دوره استفاده از سامانه، داده‌های ورودی و نتایج تطبیق، پایگاه‌های داده مرجع و شناسایی افراد دخیل در بررسی نتایج باشد. با این کار، مقامات نظارتی و نهادهای ارزیابی انطباق قادر خواهند بود عملکرد واقعی سامانه، انطباق آن با الزامات قانونی و اثرات احتمالی بر حقوق و ایمنی افراد را بررسی کنند و هرگونه سوگیری یا خطای سیستم را شناسایی و اصلاح نمایند. با راسخون همراه باشید. 

ماده قبلی: قانون هوش مصنوعی اتحادیه اروپا - فصل 3؛ ماده 11 – مستندات فنی

ماده ۱۲ – نگهداری سوابق

تفسیر و تحلیل ماده 12

بند ۱ – الزام به ثبت خودکار رویدادها

🔸 بند ۲ – اهداف ثبت رویدادها

ثبت رویدادها باید امکان ردیابی (traceability) عملکرد سامانه را فراهم آورد، و دسترسی به اطلاعات مربوط به موارد زیر را ممکن سازد:
الف) شناسایی وضعیت‌هایی که می‌توانند ریسک ایجاد کنند یا منجر به تغییر اساسی شوند (Article 79(1))
ب) تسهیل نظارت پس از عرضه (Post-Market Monitoring) (Article 72)
ج) نظارت بر عملکرد سامانه‌های پرمخاطره (Article 26(5))

تفسیر و تحلیل:
ردیابی ریسک‌ها و تغییرات اساسی: ثبت جزئیات هر رویداد به نهادهای نظارتی امکان می‌دهد ریسک‌های بالقوه یا تغییرات مهم در عملکرد سامانه را شناسایی کنند. به طور مثال اگر یک الگوریتم تصمیم‌گیری در حوزه پزشکی دچار تغییر ناخواسته در مدل پیش‌بینی شود، ثبت رویدادها می‌تواند منشأ مشکل را مشخص کند.

پشتیبانی از نظارت پس از عرضه: اطلاعات ثبت‌شده مبنای بررسی اثرات واقعی سامانه در بازار هستند. این بند مستقیماً به Post-Market Monitoring obligations متصل است.

عملکرد سامانه‌های پرمخاطره: ثبت رویدادها امکان بررسی دقیق عملیات سامانه در زمان اجرا را فراهم می‌کند و از این طریق شفافیت و قابلیت حسابرسی ایجاد می‌شود.

🔸 بند ۳ – الزامات فنی حداقلی برای سامانه‌های خاص

مضمون:
برای سامانه‌های مندرج در نقطه ۱ (الف) پیوست III، ثبت رویدادها باید حداقل موارد زیر را شامل شود:

الف) ثبت دوره هر استفاده از سامانه (تاریخ و زمان شروع و پایان هر استفاده)
ب) پایگاه داده مرجع که داده‌های ورودی بررسی شده‌اند
ج) داده‌های ورودی که جستجو با آن‌ها منجر به تطابق شده است
د) شناسایی اشخاص حقیقی دخیل در بررسی نتایج (Article 14(5))

تفسیر و تحلیل:
ثبت دوره استفاده امکان پیگیری زمان‌بندی دقیق فعالیت‌های سامانه را فراهم می‌کند. این اطلاعات برای تحلیل رخدادها و بررسی خطاهای احتمالی حیاتی است.

پایگاه داده مرجع و داده‌های ورودی شفافیت کامل در منابع داده و نتایج تطبیقی را ایجاد می‌کند. برای ارزیابی صحت عملکرد سامانه و انطباق با الزامات ماده ۱۰ و مدیریت داده‌ها ضروری است.

شناسایی افراد دخیل در بررسی نتایج: تضمین می‌کند که نظارت انسانی و تعامل با داده‌ها قابل ردیابی و حسابرسی باشد. این الزام از منظر حقوقی با اصول accountability و responsibility در AI Act و GDPR هماهنگ است.

منبع: تهیه شده در واحد فناوری های نوین راسخون