قانون هوش مصنوعی اروپا: ملاحظه 115

این بند الزامات مدیریت ریسک، گزارش‌دهی حادثه و امنیت سایبری پیشرفته برای مدل‌های هوش مصنوعی دارای مخاطره نظام‌مند را تعیین می‌کند.
يکشنبه، 30 فروردين 1405
تخمین زمان مطالعه:
موارد بیشتر برای شما
قانون هوش مصنوعی اروپا: ملاحظه 115
این ملاحظه بر تعهد ارائه‌دهندگان مدل‌های هوش مصنوعی دارای مخاطره نظام‌مند برای ارزیابی و کاهش ریسک‌ها، گزارش فوری حوادث جدی، و تضمین سطح بالای امنیت سایبری در کل چرخه عمر مدل تأکید می‌کند و اقدامات حفاظتی فنی و سازمانی گسترده‌ای را برای مقابله با سوءاستفاده، حملات و نشت مدل پیش‌بینی می‌نماید.

ملاحظه قبلی:
قانون هوش مصنوعی اروپا: ملاحظه 114
 

قانون هوش مصنوعی اروپا: متن ملاحظه 115

ارائه‌دهندگان مدل‌های هوش مصنوعی با کاربرد عمومی دارای مخاطره نظام‌مند باید مخاطرات نظام‌مند احتمالی را ارزیابی و کاهش دهند.

در صورتی که علی‌رغم تلاش‌ها برای شناسایی و پیشگیری از مخاطرات مرتبط با یک مدل هوش مصنوعی با کاربرد عمومی که ممکن است دارای مخاطره نظام‌مند باشد، توسعه یا استفاده از آن مدل منجر به وقوع یک حادثه جدی گردد، ارائه‌دهنده مدل هوش مصنوعی با کاربرد عمومی باید بدون تأخیر غیرموجه وقوع حادثه را ثبت و پیگیری نماید و هرگونه اطلاعات مرتبط و اقدامات اصلاحی احتمالی را به کمیسیون و مراجع ملی ذی‌صلاح گزارش دهد.

علاوه بر این، ارائه‌دهندگان باید سطح مناسبی از حفاظت امنیت سایبری را برای مدل و زیرساخت فیزیکی آن، در صورت اقتضا، در سراسر چرخه عمر مدل تضمین نمایند.

حفاظت امنیت سایبری مرتبط با مخاطرات نظام‌مند ناشی از استفاده سوء یا حملات باید به‌طور مقتضی شامل مواردی همچون نشت ناخواسته مدل، انتشار غیرمجاز، دور زدن تدابیر ایمنی، و مقابله با حملات سایبری، دسترسی غیرمجاز یا سرقت مدل باشد.

این نوع حفاظت می‌تواند از طریق ایمن‌سازی وزن‌های مدل، الگوریتم‌ها، سرورها و مجموعه‌داده‌ها تسهیل شود، از جمله با اتخاذ تدابیر عملیاتی برای امنیت اطلاعات، سیاست‌های مشخص امنیت سایبری، راهکارهای فنی مناسب و تثبیت‌شده، و همچنین کنترل‌های دسترسی سایبری و فیزیکی، متناسب با شرایط مربوط و سطح مخاطرات موجود.
 

تحلیل ملاحظه 115

در بند اول، تکلیف اصلی ارائه‌دهندگان مدل‌های هوش مصنوعی با کاربرد عمومی دارای مخاطره نظام‌مند بیان می‌شود. این ارائه‌دهندگان موظف‌اند به‌صورت فعالانه مخاطرات نظام‌مند احتمالی را ارزیابی کرده و اقدامات لازم برای کاهش آن‌ها را انجام دهند. این بند نقش پیشگیرانه و مسئولیت‌محور آن‌ها را در قبال ریسک‌های ناشی از مدل برجسته می‌کند.

در بند دوم، سازوکار واکنش به حوادث جدی توضیح داده می‌شود. اگر علی‌رغم تلاش‌های پیشگیرانه، حادثه‌ای جدی در نتیجه توسعه یا استفاده از مدل رخ دهد، ارائه‌دهنده موظف است بدون تأخیر غیرموجه آن را ثبت و پیگیری کند و تمامی اطلاعات مرتبط و اقدامات اصلاحی احتمالی را به مراجع نظارتی گزارش دهد. این بند بر ضرورت شفافیت و پاسخگویی پس از وقوع حادثه تأکید دارد.

در بند سوم، الزام کلی به تأمین امنیت سایبری در سراسر چرخه عمر مدل مطرح می‌شود. ارائه‌دهندگان باید سطح مناسبی از حفاظت امنیت سایبری را نه‌فقط برای خود مدل، بلکه در صورت لزوم برای زیرساخت فیزیکی مرتبط نیز تضمین کنند. این تعهد یک الزام مستمر و چرخه‌محور است.

در بند چهارم، مصادیق تهدیدات امنیتی به‌طور دقیق‌تر بیان می‌شود. مواردی مانند نشت ناخواسته مدل، انتشار غیرمجاز، دور زدن تدابیر ایمنی، حملات سایبری، دسترسی غیرمجاز و سرقت مدل به‌عنوان مخاطرات اصلی مطرح می‌شوند. این بند دامنه تهدیدات را روشن و عملیاتی می‌کند.

در بند پنجم، ابزارها و روش‌های تحقق امنیت سایبری تشریح می‌شود. تأکید می‌گردد که حفاظت مؤثر می‌تواند از طریق ایمن‌سازی اجزای اصلی مدل مانند وزن‌ها، الگوریتم‌ها، سرورها و داده‌ها انجام شود و این امر باید با مجموعه‌ای از تدابیر عملیاتی، سیاست‌های امنیتی، راهکارهای فنی و کنترل‌های دسترسی سایبری و فیزیکی پشتیبانی شود. این بند یک چارچوب اجرایی برای پیاده‌سازی امنیت ارائه می‌دهد.

ملاحظه بعدی:
قانون هوش مصنوعی اروپا: ملاحظه 116
 

منبع: ترجمه شده توسط بخش فناوری های نوین سایت راسخون
تبلیغات در راسخون
ارسال نظر
با تشکر، نظر شما پس از بررسی و تایید در سایت قرار خواهد گرفت.
متاسفانه در برقراری ارتباط خطایی رخ داده. لطفاً دوباره تلاش کنید.
موارد بیشتر برای شما
مرگ ناگهانی و پرسش های ناتمام؛ چگونه درباره فقدان با کودکان حرف بزنیم؟
مرگ ناگهانی و پرسش های ناتمام؛ چگونه درباره فقدان با کودکان حرف بزنیم؟
واکنش صلیب سرخ جهانی به جنایت‌های دشمن در جنگ چهل روزه علیه ایران چه بود؟
play_arrow
واکنش صلیب سرخ جهانی به جنایت‌های دشمن در جنگ چهل روزه علیه ایران چه بود؟
پرونده جدید علیه رسایی
play_arrow
پرونده جدید علیه رسایی
سواد مرگ، چرا جامعه ای که درباره زندگی حرف می زند از مرگ سخن نمی گوید؟
سواد مرگ، چرا جامعه ای که درباره زندگی حرف می زند از مرگ سخن نمی گوید؟
سلاح شیمیایی ایرانی در قلب واشنگتن؟!
play_arrow
سلاح شیمیایی ایرانی در قلب واشنگتن؟!
ضرب و شتم محمد خردادیان پس از افشاگری علیه پهلوی
play_arrow
ضرب و شتم محمد خردادیان پس از افشاگری علیه پهلوی
اولین ساعت‌مچی تلویزیون دار جهان سیکو در سال ۱۹۸۲ + فیلم
play_arrow
اولین ساعت‌مچی تلویزیون دار جهان سیکو در سال ۱۹۸۲ + فیلم
پیرترین ایرانی در سرشماری جدید شناسایی شد + فیلم
play_arrow
پیرترین ایرانی در سرشماری جدید شناسایی شد + فیلم
آیا هر رازی را باید با یک ربات در میان گذاشت؟
آیا هر رازی را باید با یک ربات در میان گذاشت؟
تقدیر از معلمی که جان دانش‌آموز را براثر خفگی نجات داد + فیلم
play_arrow
تقدیر از معلمی که جان دانش‌آموز را براثر خفگی نجات داد + فیلم
تعبیر جدید ترامپ از ونزوئلا ؛ دارایی جدید آمریکا است + فیلم
play_arrow
تعبیر جدید ترامپ از ونزوئلا ؛ دارایی جدید آمریکا است + فیلم
ادعای کارشناس پزشکی قانونی: جفری اپستین خفه شده است + فیلم
play_arrow
ادعای کارشناس پزشکی قانونی: جفری اپستین خفه شده است + فیلم
نجات خدمه نفتکش متخلف در تنگه هرمز توسط صیادان + فیلم
play_arrow
نجات خدمه نفتکش متخلف در تنگه هرمز توسط صیادان + فیلم
مسیریاب ایرانی با حال‌وهوای بازی GTA به‌روزرسانی شد + فیلم
play_arrow
مسیریاب ایرانی با حال‌وهوای بازی GTA به‌روزرسانی شد + فیلم
گروسی: بازگشت بازرسان آژانس به ایران نباید به توافق سیاسی مشروط شود + فیلم
play_arrow
گروسی: بازگشت بازرسان آژانس به ایران نباید به توافق سیاسی مشروط شود + فیلم