قانون هوش مصنوعی اروپا: ملاحظه ۱۲۵

به دلیل پیچیدگی و ریسک بالای سیستم‌های هوش مصنوعی پرخطر، وجود سازوکار ارزیابی انطباق با مشارکت نهادهای اعلام‌شده ضروری است، اما در مرحله آغازین اجرای مقرره، دامنه این ارزیابی توسط شخص ثالث محدود می‌شود و اصل بر ارزیابی توسط ارائه‌دهنده است، به‌جز در سامانه‌های زیست‌سنجی.

این ملاحظه توضیح می‌دهد که به علت پیچیدگی فنی و خطرات بالقوه سیستم‌های هوش مصنوعی پرخطر، لازم است یک رویه مناسب برای ارزیابی انطباق آن‌ها طراحی شود که نهادهای اعلام‌شده و ارزیابی توسط شخص ثالث را نیز دربرگیرد.

با این حال، به دلیل تجربه فعلی نهادهای حرفه‌ای صدور گواهی پیش از عرضه در حوزه ایمنی محصولات و نیز تفاوت ماهیت ریسک‌های مرتبط با هوش مصنوعی، قانون‌گذار تشخیص می‌دهد که در مرحله ابتدایی اجرای این مقرره، دامنه ارزیابی توسط شخص ثالث محدود بماند. بر این اساس، قاعده کلی آن است که ارزیابی انطباق این سیستم‌ها توسط خود ارائه‌دهنده و تحت مسئولیت وی انجام شود، مگر در خصوص سیستم‌های هوش مصنوعی که برای کاربردهای زیست‌سنجی در نظر گرفته شده‌اند.  

قانون هوش مصنوعی اروپا: ملاحظه ۱۲۵

با توجه به پیچیدگی سیستم‌های هوش مصنوعی پرخطر و خطراتی که با آن‌ها مرتبط است، ایجاد یک رویه مناسب ارزیابی انطباق برای این سیستم‌ها که نهادهای اعلام‌شده را دربرگیرد، موسوم به ارزیابی انطباق توسط شخص ثالث، حائز اهمیت است. با این حال، با در نظر گرفتن تجربه فعلی گواهی‌دهندگان حرفه‌ای پیش از عرضه در بازار در حوزه ایمنی محصولات و نیز ماهیت متفاوت ریسک‌های درگیر، مناسب است

که دست‌کم در مرحله ابتدایی اجرای این مقرره، دامنه شمول ارزیابی انطباق توسط شخص ثالث برای سیستم‌های هوش مصنوعی پرخطر، به‌جز آن دسته که با محصولات مرتبط هستند، محدود شود. بنابراین، ارزیابی انطباق چنین سیستم‌هایی باید به‌عنوان قاعده عمومی توسط ارائه‌دهنده و تحت مسئولیت خود وی انجام پذیرد، با این تنها استثنا که سیستم‌های هوش مصنوعیِ در نظر گرفته‌شده برای استفاده‌های زیست‌سنجی از این قاعده مستثنا هستند.
 

تحلیل بند به بند ملاحظه ۱۲۵

۱. «با توجه به پیچیدگی سیستم‌های هوش مصنوعی پرخطر و خطراتی که با آن‌ها مرتبط است»

این بخش مبنای توجیهی مقرره را بیان می‌کند. قانون‌گذار ابتدا به ماهیت فنی پیچیده و سطح بالای ریسک این سیستم‌ها اشاره می‌کند تا ضرورت نظارت و ارزیابی دقیق را مستند سازد.

۲. «ایجاد یک رویه مناسب ارزیابی انطباق … با مشارکت نهادهای اعلام‌شده، موسوم به ارزیابی توسط شخص ثالث»
در این قسمت بر لزوم طراحی یک سازوکار رسمی و ساختاریافته برای ارزیابی انطباق تأکید می‌شود که در آن نهادهای تخصصی و مستقل بیرونی نیز حضور دارند. هدف، افزایش بی‌طرفی، دقت و اعتماد عمومی به نتایج ارزیابی است.

۳. «با در نظر گرفتن تجربه فعلی گواهی‌دهندگان حرفه‌ای پیش از عرضه در حوزه ایمنی محصولات و ماهیت متفاوت ریسک‌ها»
این بند به یک ملاحظه عملی و تجربی اشاره دارد. نهادهای صدور گواهی پیش از عرضه عمدتاً در زمینه ایمنی محصولات فیزیکی تجربه دارند، در حالی که ریسک‌های هوش مصنوعی ماهیتی متفاوت، غیرملموس و پیچیده‌تر دارند؛ بنابراین اتکای کامل و فوری به آن‌ها ممکن است کارآمد نباشد.

۴. «محدود کردن دامنه شمول ارزیابی توسط شخص ثالث در مرحله ابتدایی اجرای مقرره»
این بخش یک سیاست تدریجی را معرفی می‌کند. قانون‌گذار به‌جای اعمال الزامات سخت‌گیرانه از ابتدا، رویکرد مرحله‌ای را انتخاب می‌کند تا نظام نظارتی به‌تدریج تکامل یابد و بازیگران بازار فرصت تطبیق داشته باشند.

۵. «قاعده عمومی: ارزیابی توسط ارائه‌دهنده و تحت مسئولیت خود او»
این قسمت اصل کلی را تعیین می‌کند. مسئولیت اولیه ارزیابی انطباق بر عهده خود ارائه‌دهنده سیستم قرار می‌گیرد که نوعی خوداظهاری مسئولانه محسوب می‌شود و بار اداری و هزینه‌های اضافی را کاهش می‌دهد.

۶. «تنها استثنا: سیستم‌های هوش مصنوعی برای استفاده‌های زیست‌سنجی»
در این بند یک استثنای مهم پیش‌بینی شده است. به دلیل حساسیت بالا، آثار مستقیم بر حقوق بنیادین اشخاص و خطرات بالقوه در حوزه شناسایی و داده‌های بدنی و هویتی، این دسته از سیستم‌ها نیازمند نظارت سخت‌گیرانه‌تر و ارزیابی بیرونی هستند و از قاعده خودارزیابی مستثنا می‌شوند.
منبع: ترجمه شده توسط بخش فناوری های نوین سایت راسخون