قانون هوش مصنوعی اروپا: ملاحظه 115

این ملاحظه بر تعهد ارائه‌دهندگان مدل‌های هوش مصنوعی دارای مخاطره نظام‌مند برای ارزیابی و کاهش ریسک‌ها، گزارش فوری حوادث جدی، و تضمین سطح بالای امنیت سایبری در کل چرخه عمر مدل تأکید می‌کند و اقدامات حفاظتی فنی و سازمانی گسترده‌ای را برای مقابله با سوءاستفاده، حملات و نشت مدل پیش‌بینی می‌نماید.  

قانون هوش مصنوعی اروپا: متن ملاحظه 115

ارائه‌دهندگان مدل‌های هوش مصنوعی با کاربرد عمومی دارای مخاطره نظام‌مند باید مخاطرات نظام‌مند احتمالی را ارزیابی و کاهش دهند.

در صورتی که علی‌رغم تلاش‌ها برای شناسایی و پیشگیری از مخاطرات مرتبط با یک مدل هوش مصنوعی با کاربرد عمومی که ممکن است دارای مخاطره نظام‌مند باشد، توسعه یا استفاده از آن مدل منجر به وقوع یک حادثه جدی گردد، ارائه‌دهنده مدل هوش مصنوعی با کاربرد عمومی باید بدون تأخیر غیرموجه وقوع حادثه را ثبت و پیگیری نماید و هرگونه اطلاعات مرتبط و اقدامات اصلاحی احتمالی را به کمیسیون و مراجع ملی ذی‌صلاح گزارش دهد.

علاوه بر این، ارائه‌دهندگان باید سطح مناسبی از حفاظت امنیت سایبری را برای مدل و زیرساخت فیزیکی آن، در صورت اقتضا، در سراسر چرخه عمر مدل تضمین نمایند.

حفاظت امنیت سایبری مرتبط با مخاطرات نظام‌مند ناشی از استفاده سوء یا حملات باید به‌طور مقتضی شامل مواردی همچون نشت ناخواسته مدل، انتشار غیرمجاز، دور زدن تدابیر ایمنی، و مقابله با حملات سایبری، دسترسی غیرمجاز یا سرقت مدل باشد.

این نوع حفاظت می‌تواند از طریق ایمن‌سازی وزن‌های مدل، الگوریتم‌ها، سرورها و مجموعه‌داده‌ها تسهیل شود، از جمله با اتخاذ تدابیر عملیاتی برای امنیت اطلاعات، سیاست‌های مشخص امنیت سایبری، راهکارهای فنی مناسب و تثبیت‌شده، و همچنین کنترل‌های دسترسی سایبری و فیزیکی، متناسب با شرایط مربوط و سطح مخاطرات موجود.
 

تحلیل ملاحظه 115

در بند اول، تکلیف اصلی ارائه‌دهندگان مدل‌های هوش مصنوعی با کاربرد عمومی دارای مخاطره نظام‌مند بیان می‌شود. این ارائه‌دهندگان موظف‌اند به‌صورت فعالانه مخاطرات نظام‌مند احتمالی را ارزیابی کرده و اقدامات لازم برای کاهش آن‌ها را انجام دهند. این بند نقش پیشگیرانه و مسئولیت‌محور آن‌ها را در قبال ریسک‌های ناشی از مدل برجسته می‌کند.

در بند دوم، سازوکار واکنش به حوادث جدی توضیح داده می‌شود. اگر علی‌رغم تلاش‌های پیشگیرانه، حادثه‌ای جدی در نتیجه توسعه یا استفاده از مدل رخ دهد، ارائه‌دهنده موظف است بدون تأخیر غیرموجه آن را ثبت و پیگیری کند و تمامی اطلاعات مرتبط و اقدامات اصلاحی احتمالی را به مراجع نظارتی گزارش دهد. این بند بر ضرورت شفافیت و پاسخگویی پس از وقوع حادثه تأکید دارد.

در بند سوم، الزام کلی به تأمین امنیت سایبری در سراسر چرخه عمر مدل مطرح می‌شود. ارائه‌دهندگان باید سطح مناسبی از حفاظت امنیت سایبری را نه‌فقط برای خود مدل، بلکه در صورت لزوم برای زیرساخت فیزیکی مرتبط نیز تضمین کنند. این تعهد یک الزام مستمر و چرخه‌محور است.

در بند چهارم، مصادیق تهدیدات امنیتی به‌طور دقیق‌تر بیان می‌شود. مواردی مانند نشت ناخواسته مدل، انتشار غیرمجاز، دور زدن تدابیر ایمنی، حملات سایبری، دسترسی غیرمجاز و سرقت مدل به‌عنوان مخاطرات اصلی مطرح می‌شوند. این بند دامنه تهدیدات را روشن و عملیاتی می‌کند.

در بند پنجم، ابزارها و روش‌های تحقق امنیت سایبری تشریح می‌شود. تأکید می‌گردد که حفاظت مؤثر می‌تواند از طریق ایمن‌سازی اجزای اصلی مدل مانند وزن‌ها، الگوریتم‌ها، سرورها و داده‌ها انجام شود و این امر باید با مجموعه‌ای از تدابیر عملیاتی، سیاست‌های امنیتی، راهکارهای فنی و کنترل‌های دسترسی سایبری و فیزیکی پشتیبانی شود. این بند یک چارچوب اجرایی برای پیاده‌سازی امنیت ارائه می‌دهد.  

منبع: ترجمه شده توسط بخش فناوری های نوین سایت راسخون