قانون هوش مصنوعی اروپا: ملاحظه ۱۲۵

این ملاحظه توضیح می‌دهد که به علت پیچیدگی فنی و خطرات بالقوه سیستم‌های هوش مصنوعی پرخطر، لازم است یک رویه مناسب برای ارزیابی انطباق آن‌ها طراحی شود که نهادهای اعلام‌شده و ارزیابی توسط شخص ثالث را نیز دربرگیرد.
سه‌شنبه، 22 ارديبهشت 1405
تخمین زمان مطالعه:
موارد بیشتر برای شما
قانون هوش مصنوعی اروپا: ملاحظه ۱۲۵

به دلیل پیچیدگی و ریسک بالای سیستم‌های هوش مصنوعی پرخطر، وجود سازوکار ارزیابی انطباق با مشارکت نهادهای اعلام‌شده ضروری است، اما در مرحله آغازین اجرای مقرره، دامنه این ارزیابی توسط شخص ثالث محدود می‌شود و اصل بر ارزیابی توسط ارائه‌دهنده است، به‌جز در سامانه‌های زیست‌سنجی.


این ملاحظه توضیح می‌دهد که به علت پیچیدگی فنی و خطرات بالقوه سیستم‌های هوش مصنوعی پرخطر، لازم است یک رویه مناسب برای ارزیابی انطباق آن‌ها طراحی شود که نهادهای اعلام‌شده و ارزیابی توسط شخص ثالث را نیز دربرگیرد.

با این حال، به دلیل تجربه فعلی نهادهای حرفه‌ای صدور گواهی پیش از عرضه در حوزه ایمنی محصولات و نیز تفاوت ماهیت ریسک‌های مرتبط با هوش مصنوعی، قانون‌گذار تشخیص می‌دهد که در مرحله ابتدایی اجرای این مقرره، دامنه ارزیابی توسط شخص ثالث محدود بماند. بر این اساس، قاعده کلی آن است که ارزیابی انطباق این سیستم‌ها توسط خود ارائه‌دهنده و تحت مسئولیت وی انجام شود، مگر در خصوص سیستم‌های هوش مصنوعی که برای کاربردهای زیست‌سنجی در نظر گرفته شده‌اند.

مقاله قبلی:
قانون هوش مصنوعی اروپا: ملاحظه ۱۲۴
 

قانون هوش مصنوعی اروپا: ملاحظه ۱۲۵

با توجه به پیچیدگی سیستم‌های هوش مصنوعی پرخطر و خطراتی که با آن‌ها مرتبط است، ایجاد یک رویه مناسب ارزیابی انطباق برای این سیستم‌ها که نهادهای اعلام‌شده را دربرگیرد، موسوم به ارزیابی انطباق توسط شخص ثالث، حائز اهمیت است. با این حال، با در نظر گرفتن تجربه فعلی گواهی‌دهندگان حرفه‌ای پیش از عرضه در بازار در حوزه ایمنی محصولات و نیز ماهیت متفاوت ریسک‌های درگیر، مناسب است

که دست‌کم در مرحله ابتدایی اجرای این مقرره، دامنه شمول ارزیابی انطباق توسط شخص ثالث برای سیستم‌های هوش مصنوعی پرخطر، به‌جز آن دسته که با محصولات مرتبط هستند، محدود شود. بنابراین، ارزیابی انطباق چنین سیستم‌هایی باید به‌عنوان قاعده عمومی توسط ارائه‌دهنده و تحت مسئولیت خود وی انجام پذیرد، با این تنها استثنا که سیستم‌های هوش مصنوعیِ در نظر گرفته‌شده برای استفاده‌های زیست‌سنجی از این قاعده مستثنا هستند.
 

تحلیل بند به بند ملاحظه ۱۲۵

۱. «با توجه به پیچیدگی سیستم‌های هوش مصنوعی پرخطر و خطراتی که با آن‌ها مرتبط است»

این بخش مبنای توجیهی مقرره را بیان می‌کند. قانون‌گذار ابتدا به ماهیت فنی پیچیده و سطح بالای ریسک این سیستم‌ها اشاره می‌کند تا ضرورت نظارت و ارزیابی دقیق را مستند سازد.

۲. «ایجاد یک رویه مناسب ارزیابی انطباق … با مشارکت نهادهای اعلام‌شده، موسوم به ارزیابی توسط شخص ثالث»
در این قسمت بر لزوم طراحی یک سازوکار رسمی و ساختاریافته برای ارزیابی انطباق تأکید می‌شود که در آن نهادهای تخصصی و مستقل بیرونی نیز حضور دارند. هدف، افزایش بی‌طرفی، دقت و اعتماد عمومی به نتایج ارزیابی است.

۳. «با در نظر گرفتن تجربه فعلی گواهی‌دهندگان حرفه‌ای پیش از عرضه در حوزه ایمنی محصولات و ماهیت متفاوت ریسک‌ها»
این بند به یک ملاحظه عملی و تجربی اشاره دارد. نهادهای صدور گواهی پیش از عرضه عمدتاً در زمینه ایمنی محصولات فیزیکی تجربه دارند، در حالی که ریسک‌های هوش مصنوعی ماهیتی متفاوت، غیرملموس و پیچیده‌تر دارند؛ بنابراین اتکای کامل و فوری به آن‌ها ممکن است کارآمد نباشد.

۴. «محدود کردن دامنه شمول ارزیابی توسط شخص ثالث در مرحله ابتدایی اجرای مقرره»
این بخش یک سیاست تدریجی را معرفی می‌کند. قانون‌گذار به‌جای اعمال الزامات سخت‌گیرانه از ابتدا، رویکرد مرحله‌ای را انتخاب می‌کند تا نظام نظارتی به‌تدریج تکامل یابد و بازیگران بازار فرصت تطبیق داشته باشند.

۵. «قاعده عمومی: ارزیابی توسط ارائه‌دهنده و تحت مسئولیت خود او»
این قسمت اصل کلی را تعیین می‌کند. مسئولیت اولیه ارزیابی انطباق بر عهده خود ارائه‌دهنده سیستم قرار می‌گیرد که نوعی خوداظهاری مسئولانه محسوب می‌شود و بار اداری و هزینه‌های اضافی را کاهش می‌دهد.

۶. «تنها استثنا: سیستم‌های هوش مصنوعی برای استفاده‌های زیست‌سنجی»
در این بند یک استثنای مهم پیش‌بینی شده است. به دلیل حساسیت بالا، آثار مستقیم بر حقوق بنیادین اشخاص و خطرات بالقوه در حوزه شناسایی و داده‌های بدنی و هویتی، این دسته از سیستم‌ها نیازمند نظارت سخت‌گیرانه‌تر و ارزیابی بیرونی هستند و از قاعده خودارزیابی مستثنا می‌شوند.

مقاله بعدی:
قانون هوش مصنوعی اروپا: ملاحظه ۱۲۶

منبع: ترجمه شده توسط بخش فناوری های نوین سایت راسخون
تبلیغات در راسخون
ارسال نظر
با تشکر، نظر شما پس از بررسی و تایید در سایت قرار خواهد گرفت.
متاسفانه در برقراری ارتباط خطایی رخ داده. لطفاً دوباره تلاش کنید.
موارد بیشتر برای شما
روز تکریم مادران و همسران شهدا؛ از ادای دین نمادین تا مسئولیت اجتماعی
روز تکریم مادران و همسران شهدا؛ از ادای دین نمادین تا مسئولیت اجتماعی
از اسنپ‌شاپ بخر، شانسِ بُردن فولکس ID.4 رو بالا ببر!
از اسنپ‌شاپ بخر، شانسِ بُردن فولکس ID.4 رو بالا ببر!
ایثار یا خود فراموشی؟ الگوی فاطمی براساس قرآن و روایات
ایثار یا خود فراموشی؟ الگوی فاطمی براساس قرآن و روایات
پس از حذف فیزیکی ولی فقیه، نوبت حذف اسلام سیاسی است
play_arrow
پس از حذف فیزیکی ولی فقیه، نوبت حذف اسلام سیاسی است
فریب روباه دم بریده را نخورید...!
play_arrow
فریب روباه دم بریده را نخورید...!
کراکت سیب‌زمینی قلبی با مرغ و پنیر 🧡
play_arrow
کراکت سیب‌زمینی قلبی با مرغ و پنیر 🧡
چه می کنیم!؟
play_arrow
چه می کنیم!؟
حجت الاسلام والمسلمین احمد اولیایی در جمع عزاداران فاطمی _ فاطمیه 1405 _ بیت الزهراء
music_note
حجت الاسلام والمسلمین احمد اولیایی در جمع عزاداران فاطمی _ فاطمیه 1405 _ بیت الزهراء
روضه خوانی حجت الاسلام والمسلمین حسینی نژاد - فاطمیه 1405
music_note
روضه خوانی حجت الاسلام والمسلمین حسینی نژاد - فاطمیه 1405
آیا ژن‌ها سرنوشت اخلاقی ما را تعیین می‌کنند؟ مرز وراثت و انتخاب
آیا ژن‌ها سرنوشت اخلاقی ما را تعیین می‌کنند؟ مرز وراثت و انتخاب
تصاویر خارق‌العاده از شکار مزدوران سعودی توسط تک تیراندازان یمنی
play_arrow
تصاویر خارق‌العاده از شکار مزدوران سعودی توسط تک تیراندازان یمنی
ایران، گورستان پهپادهای آمریکا
play_arrow
ایران، گورستان پهپادهای آمریکا
دستگیری باند گروگان‌گیری اتباع خارجی و آزادی ۲ گروگان
play_arrow
دستگیری باند گروگان‌گیری اتباع خارجی و آزادی ۲ گروگان
قرائت پاسخ رهبر شهید انقلاب به نامه حداد عادل درباره اهدای کتابخانه شخصی وی به بنیاد دایرةالمعارف انقلاب اسلامی
play_arrow
قرائت پاسخ رهبر شهید انقلاب به نامه حداد عادل درباره اهدای کتابخانه شخصی وی به بنیاد دایرةالمعارف انقلاب اسلامی
تظاهرات دانشجویان در بروکسل در حمایت از فلسطین
play_arrow
تظاهرات دانشجویان در بروکسل در حمایت از فلسطین