قانون هوش مصنوعی اروپا: متن ملاحظه 114
ارائهدهندگان مدلهای هوش مصنوعی با کاربرد عمومی که دارای مخاطرات نظاممند هستند، باید علاوه بر تعهدات مقرر برای ارائهدهندگان مدلهای هوش مصنوعی با کاربرد عمومی، مشمول تعهداتی نیز باشند که هدف آنها شناسایی و کاهش این مخاطرات و تضمین سطح مناسب حفاظت در برابر تهدیدات امنیت سایبری است، بدون توجه به اینکه این مدلها بهصورت مستقل ارائه شوند یا در یک سامانه هوش مصنوعی یا محصول ادغام گردند.برای تحقق این اهداف، این مقرره باید ارائهدهندگان را ملزم کند که ارزیابیهای لازم بر روی مدل را انجام دهند، بهویژه پیش از نخستین عرضه آن در بازار، از جمله انجام و مستندسازی آزمونهای خصمانه بر روی مدل، همچنین در صورت اقتضا از طریق آزمونهای داخلی یا آزمونهای خارجی مستقل.
علاوه بر این، ارائهدهندگان مدلهای هوش مصنوعی با کاربرد عمومی دارای مخاطره نظاممند باید بهطور مستمر مخاطرات نظاممند را ارزیابی و کاهش دهند؛ از جمله از طریق استقرار سیاستهای مدیریت ریسک مانند فرآیندهای پاسخگویی و حاکمیت، اجرای نظارت پس از عرضه، اتخاذ اقدامات مناسب در سراسر چرخه عمر مدل و همکاری با بازیگران مرتبط در زنجیره ارزش هوش مصنوعی.
تحلیل ملاحظه 114
در بند اول، دامنه تعهدات ارائهدهندگان مدلهای هوش مصنوعی با کاربرد عمومی دارای مخاطره نظاممند گسترش داده میشود. بیان میگردد که این دسته از ارائهدهندگان علاوه بر الزامات عمومی، باید بهطور خاص اقدامات لازم برای شناسایی و کاهش ریسکهای نظاممند را انجام دهند و سطح مناسبی از امنیت سایبری را تضمین کنند. همچنین تأکید میشود که این تعهدات مستقل از نحوه عرضه مدل است و چه مدل بهصورت مستقل ارائه شود و چه در سامانه یا محصولی ادغام گردد، همچنان برقرار است.در بند دوم، ابزارهای اجرایی این الزامات تشریح میشود. مقرر میگردد که ارائهدهندگان موظفاند پیش از اولین عرضه مدل در بازار، ارزیابیهای لازم را انجام دهند. این ارزیابیها شامل آزمونهای خصمانه برای شناسایی ضعفها و آسیبپذیریها است که باید بهطور دقیق مستندسازی شود. همچنین این آزمونها میتوانند بهصورت داخلی یا توسط نهادهای مستقل خارجی انجام شوند تا اعتبار و دقت نتایج افزایش یابد.
در بند سوم، تعهدات مستمر پس از عرضه مدل بیان میشود. ارائهدهندگان موظف هستند بهصورت مداوم مخاطرات نظاممند را پایش و کاهش دهند. این امر از طریق ایجاد نظامهای مدیریت ریسک مانند ساختارهای پاسخگویی و حکمرانی داخلی، اجرای نظارت پس از عرضه، و اتخاذ اقدامات اصلاحی در کل چرخه عمر مدل انجام میشود. همچنین همکاری فعال با سایر بازیگران زنجیره ارزش هوش مصنوعی بهعنوان بخشی از این تعهدات مطرح میگردد.
منبع: ترجمه شده توسط بخش فناوری های نوین سایت راسخون
