قانون هوش مصنوعی اروپا: ملاحظه 72

این ملاحظه بر ضرورت شفافیت سامانه‌های هوش مصنوعی پرخطر به‌عنوان شرط اساسی ایفای تعهدات قانونی بهره‌برداران تأکید می‌کند و شفافیت را الزام‌آور و پیشینی می‌داند. سامانه‌ها باید به‌گونه‌ای طراحی شوند که بهره‌بردار بتواند منطق عملکرد، کارکرد، توانمندی‌ها و محدودیت‌های آن‌ها را درک کند.

ارائه دستورالعمل‌های استفاده جامع و قابل فهم، شامل شرایط استفاده قابل پیش‌بینی، اقدامات مؤثر بهره‌بردار بر رفتار سامانه، مخاطرات احتمالی برای سلامت، ایمنی و حقوق بنیادین، تغییرات از پیش ارزیابی‌شده و تدابیر نظارت انسانی، از الزامات اصلی است. شفافیت باید تصمیم‌گیری آگاهانه، انتخاب صحیح سامانه، شناخت موارد استفاده مجاز و ممنوع و استفاده درست از سامانه را ممکن سازد.

عرضه‌کننده موظف است مستندات معنادار، جامع، در دسترس و قابل فهم، متناسب با نیازها و سطح دانش بهره‌برداران هدف و به زبانی قابل فهم طبق تعیین دولت عضو ذی‌ربط ارائه کند.
متن ملاحظه 72
به‌منظور رسیدگی به نگرانی‌های مرتبط با عدم شفافیت و پیچیدگی برخی سامانه‌های هوش مصنوعی و کمک به بهره‌برداران برای ایفای تعهدات خود وفق این مقرره، لازم است پیش از عرضه به بازار یا به‌کارگیری، شفافیت برای سامانه‌های هوش مصنوعی پرخطر الزامی باشد. سامانه‌های هوش مصنوعی پرخطر باید به‌گونه‌ای طراحی شوند که بهره‌برداران بتوانند نحوه عملکرد سامانه، کارکرد آن، و نقاط قوت و محدودیت‌هایش را درک و ارزیابی نمایند.

این سامانه‌ها باید همراه با اطلاعات متناسب، در قالب دستورالعمل‌های استفاده، ارائه شوند. این اطلاعات باید شامل ویژگی‌ها، قابلیت‌ها و محدودیت‌های عملکردی سامانه باشد. از جمله، این اطلاعات باید ناظر بر شرایط احتمالی شناخته‌شده و قابل پیش‌بینی مرتبط با استفاده از سامانه هوش مصنوعی پرخطر باشد،
 
از جمله اقداماتی از سوی بهره‌بردار که ممکن است بر رفتار و عملکرد سامانه اثر بگذارد، شرایطی که در آن‌ها سامانه می‌تواند به خطراتی برای سلامت، ایمنی و حقوق بنیادین منجر شود، تغییراتی که از پیش توسط عرضه‌کننده تعیین و از حیث انطباق ارزیابی شده‌اند، و نیز تدابیر نظارت انسانی مرتبط، از جمله تدابیری که تفسیر خروجی‌های سامانه توسط بهره‌برداران را تسهیل می‌کند.

شفافیت، از جمله دستورالعمل‌های استفاده همراه، باید بهره‌برداران را در استفاده از سامانه یاری دهد و تصمیم‌گیری آگاهانه آنان را پشتیبانی نماید. بهره‌برداران باید، از جمله، در موقعیت بهتری برای انتخاب صحیح سامانه‌ای که قصد استفاده از آن را دارند با توجه به تعهدات قابل اعمال بر آنان قرار گیرند، نسبت به موارد استفاده مجاز و ممنوع آگاه شوند، و سامانه هوش مصنوعی را به‌طور صحیح و متناسب به کار گیرند.

به‌منظور ارتقای خوانایی و دسترسی‌پذیری اطلاعات مندرج در دستورالعمل‌های استفاده، در صورت اقتضا، باید نمونه‌های توضیحی، برای مثال درباره محدودیت‌ها و موارد استفاده مجاز و ممنوع سامانه، درج شود.

عرضه‌کنندگان باید اطمینان حاصل نمایند که کلیه مستندات، از جمله دستورالعمل‌های استفاده، حاوی اطلاعات معنادار، جامع، قابل دسترس و قابل فهم باشد و در این راستا نیازها و سطح دانش قابل پیش‌بینی بهره‌برداران هدف را مدنظر قرار دهند. دستورالعمل‌های استفاده باید به زبانی در دسترس بهره‌برداران هدف ارائه شود که به‌سهولت قابل فهم باشد، آنگونه که توسط دولت عضو ذی‌ربط تعیین می‌شود.
 

تحلیل کوتاه حقوقی ملاحظه 72

این ملاحظه در بند نخست، مبنای الزام به شفافیت را بیان می‌کند و آن را پاسخی به دو مسئله اساسی یعنی پیچیدگی و عدم شفافیت سامانه‌های هوش مصنوعی پرخطر می‌داند. هدف اصلی، تسهیل ایفای تعهدات قانونی بهره‌برداران ذیل مقرره است؛ بنابراین شفافیت نه یک ارزش انتزاعی، بلکه یک الزام کارکردی برای تضمین قابلیت تبعیت عملی از مقرره تلقی می‌شود و پیش از عرضه به بازار یا به‌کارگیری سامانه باید تحقق یابد.
 

در بند دوم، ملاحظه بر طراحی ذاتی سامانه تمرکز دارد و شفافیت را صرفاً به ارائه اطلاعات پسینی محدود نمی‌کند. سامانه پرخطر باید به‌گونه‌ای طراحی شود که بهره‌بردار بتواند منطق عملکرد، کارکرد عملی، نقاط قوت و محدودیت‌ها را درک کند. از منظر حقوقی، این بند پیوندی مستقیم میان طراحی فنی و قابلیت اعمال مسئولیت و تکلیف قانونی برقرار می‌کند و نشان می‌دهد که عدم امکان فهم سامانه می‌تواند خود مصداق عدم انطباق باشد.

در بند سوم، الزام به ارائه دستورالعمل‌های استفاده به‌عنوان ابزار تحقق شفافیت تبیین می‌شود. این دستورالعمل‌ها باید حاوی اطلاعاتی فراتر از توصیف کلی سامانه باشند و مشخصات، توانمندی‌ها و محدودیت‌های عملکردی آن را پوشش دهند. این بخش، شفافیت را به یک تعهد مستندسازی الزام‌آور تبدیل می‌کند که نقش کلیدی در ارزیابی ریسک و استفاده صحیح دارد.

در بند چهارم، دامنه محتوای اطلاعات الزامی به‌طور تفصیلی گسترش می‌یابد و به شرایط استفاده قابل پیش‌بینی، اقدامات بهره‌بردار مؤثر بر رفتار سامانه، و موقعیت‌هایی که می‌تواند به مخاطره سلامت، ایمنی و حقوق بنیادین منجر شود اشاره می‌کند. همچنین، به تغییرات از پیش تعیین‌شده و ارزیابی‌شده توسط عرضه‌کننده و تدابیر نظارت انسانی توجه می‌شود. این بند نشان می‌دهد که شفافیت باید ناظر بر تعامل انسان و سامانه باشد و صرفاً به توصیف فنی محدود نماند.

در بند پنجم، نقش شفافیت در پشتیبانی از تصمیم‌گیری آگاهانه بهره‌برداران برجسته می‌شود. شفافیت به‌عنوان ابزاری برای استفاده صحیح از سامانه معرفی می‌شود و بهره‌بردار را در انتخاب آگاهانه سامانه، شناخت موارد استفاده مجاز و ممنوع، و بهره‌برداری متناسب با تعهدات قانونی یاری می‌دهد. این تحلیل نشان می‌دهد که مسئولیت بهره‌بردار بدون دسترسی به اطلاعات شفاف، عملاً قابل تحقق نیست.

در بند ششم، ملاحظه بر اهمیت خوانایی و دسترسی‌پذیری اطلاعات تأکید می‌کند و استفاده از مثال‌های توضیحی را در صورت اقتضا توصیه می‌نماید. از منظر حقوقی، این بند بیانگر آن است که صرف ارائه اطلاعات کافی نیست، بلکه کیفیت ارائه و قابلیت فهم آن برای بهره‌بردار نیز معیار انطباق محسوب می‌شود.

در بند پایانی، مسئولیت مستقیم عرضه‌کننده در تضمین جامعیت، معناداری و قابلیت فهم مستندات، با لحاظ نیازها و سطح دانش قابل پیش‌بینی بهره‌برداران هدف، تصریح می‌شود. همچنین الزام به ارائه دستورالعمل‌ها به زبانی قابل فهم برای بهره‌برداران، مطابق تعیین دولت عضو مربوط، نشان‌دهنده پیوند شفافیت با الزامات زبانی و حاکمیتی است و تأکید می‌کند که انطباق حقوقی باید در بستر عملی و واقعی استفاده از سامانه محقق شود.