قانون هوش مصنوعی اروپا: ملاحظه 76

این ملاحظه عرضه‌کنندگان سامانه‌های هوش مصنوعی پرخطر را به تأمین امنیت سایبری متناسب با مخاطرات، برای جلوگیری از مداخله مخرب و سوءاستفاده از دارایی‌ها و زیرساخت‌های سامانه، ملزم می‌کند.

يکشنبه، 23 فروردين 1405

تخمین زمان مطالعه:

نویسنده : تحریریه راسخون

موارد بیشتر برای شما

این ملاحظه امنیت سایبری را به‌عنوان عنصر اساسی تاب‌آوری سامانه‌های هوش مصنوعی پرخطر معرفی می‌کند و بر ضرورت حفاظت از آن‌ها در برابر مداخلات مخرب، سوءاستفاده از داده‌های آموزشی، مدل‌های آموزش‌دیده و آسیب‌پذیری‌های زیرساختی تأکید دارد. مسئولیت اصلی تضمین سطح متناسب امنیت سایبری، از طریق اتخاذ تدابیر و کنترل‌های مناسب با توجه به کل زیرساخت فنی، بر عهده عرضه‌کنندگان قرار داده شده است.

ملاحظه قبلی:
قانون هوش مصنوعی اروپا: ملاحظه 75

قانون هوش مصنوعی اروپا: متن ملاحظه 76

امنیت سایبری نقش اساسی در تضمین مقاومت سامانه‌های هوش مصنوعی در برابر تلاش اشخاص ثالث مخرب برای تغییر نحوه استفاده، رفتار یا عملکرد سامانه، یا نقض ویژگی‌های امنیتی آن، از طریق بهره‌برداری از آسیب‌پذیری‌های سامانه ایفا می‌کند. حملات سایبری علیه سامانه‌های هوش مصنوعی می‌تواند با اتکا به دارایی‌های خاص این سامانه‌ها صورت گیرد، از جمله مجموعه‌داده‌های آموزشی که ممکن است دچار آلایش شوند، یا مدل‌های آموزش‌دیده که می‌توانند هدف حملات تقابلی یا استنتاج عضویت قرار گیرند، یا از طریق بهره‌برداری از آسیب‌پذیری‌های دارایی‌های دیجیتال سامانه یا زیرساخت‌های فناوری اطلاعات و ارتباطات زیربنایی آن انجام شود. ازاین‌رو، به‌منظور تضمین سطحی از امنیت سایبری متناسب با مخاطرات موجود، لازم است عرضه‌کنندگان سامانه‌های هوش مصنوعی پرخطر، با لحاظ مقتضیات زیرساخت‌های فناوری اطلاعات و ارتباطات زیربنایی، تدابیر مناسب، از جمله کنترل‌های امنیتی، را اتخاذ نمایند.

تحلیل ملاحظه 76

در بند نخست، ملاحظه بر نقش محوری امنیت سایبری در حفظ تاب‌آوری سامانه‌های هوش مصنوعی تأکید می‌کند و آن را شرط لازم برای جلوگیری از مداخله اشخاص ثالث مخرب می‌داند. این بند نشان می‌دهد که تهدید صرفاً ناظر بر نقض داده یا دسترسی غیرمجاز نیست، بلکه هرگونه تغییر در نحوه استفاده، رفتار، عملکرد یا ویژگی‌های امنیتی سامانه نیز می‌تواند موضوع مخاطره قرار گیرد و باید از منظر حقوقی و فنی مورد پیشگیری واقع شود.

در بند دوم، دامنه تهدیدات سایبری به‌طور مشخص تبیین می‌شود و بر ماهیت خاص دارایی‌های سامانه‌های هوش مصنوعی تمرکز دارد. اشاره به سوءاستفاده از مجموعه‌داده‌های آموزشی، مدل‌های آموزش‌دیده و سایر دارایی‌های دیجیتال نشان می‌دهد که مخاطرات این سامانه‌ها با سامانه‌های سنتی تفاوت ماهوی دارد و نیازمند توجه ویژه به آسیب‌پذیری‌های خاص این فناوری است.

در بند سوم، ملاحظه پیوند میان امنیت سامانه هوش مصنوعی و زیرساخت‌های فناوری اطلاعات و ارتباطات زیربنایی را برجسته می‌کند. این بند بیانگر آن است که ارزیابی امنیت سایبری نباید به خود سامانه محدود شود، بلکه کل محیط فنی و زیرساختی که سامانه در آن عمل می‌کند باید در نظر گرفته شود، زیرا ضعف در هر یک از این لایه‌ها می‌تواند کل سامانه را در معرض مخاطره قرار دهد.

در بند پایانی، مسئولیت اتخاذ تدابیر متناسب امنیت سایبری به‌صراحت بر عهده عرضه‌کنندگان سامانه‌های هوش مصنوعی پرخطر گذاشته می‌شود. این تدابیر، از جمله کنترل‌های امنیتی، باید متناسب با سطح مخاطرات باشند و نشان می‌دهد که امنیت سایبری یک الزام ایستا یا حداقلی نیست، بلکه تعهدی پویا و مبتنی بر ارزیابی ریسک محسوب می‌شود.

قانون هوش مصنوعی اروپا: متن ملاحظه 76

تحلیل ملاحظه 76

مقالات مرتبط

تازه های مقالات

بیشترین بازدید هفته