ماده ۱۳ قانون هوش مصنوعی اتحادیه اروپا بر الزامات شفافیت و ارائه اطلاعات به بهره‌برداران تأکید دارد و هدف آن اطمینان از این است که سامانه‌های هوش مصنوعی پرمخاطره به گونه‌ای طراحی و توسعه یابند که خروجی‌های آن‌ها قابل فهم و تفسیر برای بهره‌برداران باشد. این ماده مقرر می‌کند که سامانه‌ها باید با دستورالعمل‌های استفاده همراه باشند که شامل اطلاعات واضح و قابل فهم درباره هدف سامانه، سطح دقت، استحکام و امنیت سایبری، محدودیت‌ها و ریسک‌های احتمالی، داده‌های ورودی و مجموعه داده‌های آموزشی، نظارت انسانی، منابع سخت‌افزاری و نرم‌افزاری و مکانیزم ثبت رویدادها (Logs) باشد. هدف این الزامات، تضمین استفاده ایمن، مؤثر و قانونی از سامانه توسط بهره‌برداران و تسهیل پایش عملکرد و ردیابی تصمیمات سامانه در عمل است.

ماده قبلی: قانون هوش مصنوعی اتحادیه اروپا - فصل 3؛ ماده 12 – نگهداری سوابق


ماده ۱۳ – شفافیت و ارائه اطلاعات به بهره‌برداران

۱. سامانه‌های هوش مصنوعی پرمخاطره باید به‌گونه‌ای طراحی و توسعه یابند که عملکرد آن‌ها به اندازه کافی شفاف باشد تا بهره‌برداران (کسی که سامانه را خریداری، نصب یا در محیط عملیاتی استفاده می‌کند) بتوانند خروجی سامانه را تفسیر کرده و به نحو مناسب از آن استفاده نمایند. نوع و سطح مناسب شفافیت باید به گونه‌ای تضمین شود که انطباق با تعهدات مربوط به عرضه‌کننده و بهره‌بردار مندرج در بخش ۳ قانون تأمین گردد.

۲. سامانه‌های هوش مصنوعی پرمخاطره باید همراه با دستورالعمل‌های استفاده ارائه شوند، به صورت فرمت دیجیتال مناسب یا هر قالب دیگر که شامل اطلاعات مختصر، کامل، صحیح و واضح باشد و برای بهره‌برداران مرتبط، در دسترس و قابل فهم باشد.

۳. دستورالعمل‌های استفاده باید حداقل شامل اطلاعات زیر باشند:

الف) هویت و اطلاعات تماس عرضه‌کننده و در صورت لزوم، نماینده مجاز او؛



 

ب) ویژگی‌ها، قابلیت‌ها و محدودیت‌های عملکرد سامانه هوش مصنوعی پرمخاطره، شامل:

(i) هدف مورد نظر از سامانه
؛
(ii) سطح دقت سامانه، شامل معیارها، استحکام و امنیت سایبری (مطابق ماده ۱۵) که سامانه بر اساس آن‌ها آزمایش و اعتبارسنجی شده و قابل انتظار است، و هر شرایط شناخته‌شده یا قابل پیش‌بینی که ممکن است بر سطح دقت، استحکام و امنیت سایبری مورد انتظار تأثیر گذارد؛

(iii) هر شرایط شناخته‌شده یا قابل پیش‌بینی مرتبط با استفاده از سامانه مطابق با هدف مورد نظر یا در شرایط سوءاستفاده معقولاً قابل پیش‌بینی که ممکن است به ریسک برای سلامت و ایمنی یا حقوق بنیادین مطابق ماده ۹ (۲) منجر شود؛

(iv) در صورت لزوم، قابلیت‌ها و ویژگی‌های فنی سامانه برای ارائه اطلاعات مرتبط با توضیح خروجی آن؛

(v) در صورت لزوم، عملکرد سامانه در خصوص افراد یا گروه‌های خاصی که سامانه برای استفاده بر روی آن‌ها طراحی شده است؛

(vi) در صورت لزوم، مشخصات داده‌های ورودی یا هر اطلاعات مرتبط دیگر در خصوص مجموعه داده‌های آموزش، اعتبارسنجی و آزمون مورد استفاده، با توجه به هدف سامانه؛

(vii) در صورت لزوم، اطلاعاتی که امکان تفسیر خروجی سامانه توسط بهره‌بردار و استفاده مناسب از آن را فراهم نماید؛

ج) تغییرات سامانه و عملکرد آن که توسط عرضه‌کننده در زمان ارزیابی انطباق اولیه پیش‌بینی شده است، در صورت وجود؛

د) اقدامات نظارت انسانی مندرج در ماده ۱۴، شامل تدابیر فنی اتخاذ شده برای تسهیل تفسیر خروجی سامانه توسط بهره‌برداران؛

ه) منابع محاسباتی و سخت‌افزاری مورد نیاز، طول عمر پیش‌بینی‌شده سامانه و هر اقدام لازم برای نگهداری و مراقبت، شامل فرکانس آن‌ها، به منظور تضمین عملکرد مناسب سامانه، از جمله به‌روزرسانی‌های نرم‌افزاری؛

و) در صورت لزوم، توصیف مکانیزم‌هایی که در سامانه تعبیه شده‌اند تا بهره‌برداران بتوانند رویدادهای ثبت‌شده (Logs) را مطابق ماده ۱۲ جمع‌آوری، ذخیره و تفسیر کنند.


تحلیل و تفسیر ماده 13

ماده ۱۳ به الزامات شفافیت و ارائه اطلاعات به بهره‌برداران (Deployers) پرداخته است. هدف اصلی این ماده: اطمینان از این که سامانه‌های هوش مصنوعی پرمخاطره به گونه‌ای طراحی شده‌اند که خروجی‌هایشان قابل فهم و تفسیر برای بهره‌برداران باشند و بتوانند از آن به نحو مناسب استفاده کنند.

به بیان ساده: اگر ماده ۱۱ مستندات فنی را برای نهادهای ارزیابی فراهم می‌کند و ماده ۱۲ سوابق عملیاتی را ثبت می‌کند، ماده ۱۳ تضمین می‌کند که بهره‌برداران واقعی بتوانند سامانه را ایمن، مؤثر و مطابق قوانین به کار بگیرند.

 

🔸 بند ۱ – شفافیت عملکرد سامانه

مضمون:
سامانه‌های هوش مصنوعی پرمخاطره باید به گونه‌ای طراحی شوند که عملکرد آن‌ها به اندازه کافی شفاف باشد تا بهره‌برداران بتوانند خروجی‌ها را تفسیر و به طور مناسب استفاده کنند.

تحلیل:
شفافیت متناسب با هدف: سطح و نوع شفافیت باید با کاربرد سامانه همخوان باشد.

ارتباط با مسئولیت‌ها: این شفافیت به بهره‌برداران کمک می‌کند تا الزامات قانونی خود را رعایت کنند و از ریسک‌ها و سوءاستفاده‌های احتمالی جلوگیری شود.
 

🔸 بند ۲ – دستورالعمل‌های استفاده

مضمون:
سامانه‌های پرمخاطره باید با دستورالعمل‌های استفاده همراه باشند که شامل اطلاعات مختصر، کامل، صحیح و واضح باشد و برای بهره‌بردار مرتبط، قابل دسترس و قابل فهم باشد.

تحلیل:
قابلیت دسترسی: بهره‌بردار باید بدون نیاز به تخصص فنی پیچیده، بتواند دستورالعمل‌ها را درک کند.

امنیت و انطباق عملیاتی: دستورالعمل‌ها به کاهش خطاهای انسانی و سوءاستفاده احتمالی کمک می‌کنند.

 

🔸 بند ۳ – محتوای دستورالعمل‌های استفاده

مضمون:
دستورالعمل‌ها باید حداقل شامل موارد زیر باشند:

هویت و تماس عرضه‌کننده (Provider) و نماینده مجاز

ویژگی‌ها، قابلیت‌ها و محدودیت‌های عملکرد سامانه:
هدف مورد نظر

سطح دقت، معیارها، استحکام و امنیت سایبری

شرایط شناخته‌شده یا پیش‌بینی‌شده که ممکن است ریسک برای سلامت، ایمنی یا حقوق بنیادین ایجاد کند

قابلیت‌های فنی برای توضیح خروجی

عملکرد سامانه در گروه‌های خاص

مشخصات داده‌های ورودی و اطلاعات مربوط به مجموعه داده‌های آموزش، اعتبارسنجی و آزمون

اطلاعات لازم برای تفسیر خروجی توسط بهره‌بردار

تغییرات پیش‌بینی‌شده در سامانه و عملکرد آن هنگام ارزیابی انطباق اولیه

اقدامات نظارت انسانی و تدابیر فنی برای تسهیل تفسیر خروجی

منابع محاسباتی و سخت‌افزاری، طول عمر و اقدامات نگهداری

مکانیزم‌های مرتبط با ثبت و تفسیر Logs (ماده ۱۲)

تحلیل:
این بند به صراحت مسئولیت اطلاع‌رسانی دقیق و شفاف را بر عهده عرضه‌کننده گذاشته است. بهره‌برداران باید قادر باشند خروجی سامانه را درک و تفسیر کنند، ریسک‌های احتمالی را شناسایی کنند و تصمیمات ایمن بگیرند.

شامل ارتباط مستقیم با مواد ۱۰، ۱۱ و ۱۲ است: اطلاعات داده‌ها، مستندات فنی و سوابق عملکرد باید در دستورالعمل‌ها منعکس شوند تا بهره‌بردار بتواند سامانه را به درستی مدیریت کند.

منبع: تهیه شده در واحد فناوری های نوین راسخون