قانون هوش مصنوعی اروپا: ملاحظه 66

این ملاحظه مقرر می‌کند که برای سیستم‌های هوش مصنوعی پرخطر مجموعه‌ای از الزامات الزامی شامل مدیریت ریسک، کیفیت داده، مستندسازی، شفافیت، نظارت انسانی و امنیت سایبری باید رعایت شود تا از سلامت، ایمنی و حقوق بنیادین افراد محافظت گردد. همچنین تأکید می‌شود که این الزامات به دلیل نبود گزینه‌های جایگزین کمتر محدودکننده، از نظر حقوق تجارت بین‌المللی موجه و متناسب هستند و به‌عنوان مانع غیرموجه تجارت تلقی نمی‌شوند.  

قانون هوش مصنوعی اروپا: متن ملاحظه 66

الزامات مقرر در این مقرره باید در مورد سیستم‌های هوش مصنوعی پرخطر از حیث مدیریت ریسک، کیفیت و مرتبط بودن مجموعه داده‌های مورد استفاده، مستندسازی فنی و ثبت سوابق، شفافیت و ارائه اطلاعات به بهره‌برداران، نظارت انسانی، و همچنین تاب‌آوری، دقت و امنیت سایبری اعمال شود. این الزامات برای کاهش مؤثر خطرات مرتبط با سلامت، ایمنی و حقوق بنیادین ضروری هستند. از آنجا که هیچ تدبیر جایگزینِ کمتر محدودکننده‌ای در تجارت به‌طور معقول قابل دسترس نیست، این الزامات به‌عنوان محدودیت‌های غیرموجه در تجارت تلقی نمی‌شوند.  

تحلیل ملاحظه 66

این ملاحظه در واقع نقش «معیارهای حداقلی اما الزامی» را برای سیستم‌های هوش مصنوعی پرخطر تثبیت می‌کند. اتحادیه اروپا در اینجا تأکید می‌کند که وقتی یک سیستم در طبقه «پرخطر» قرار می‌گیرد، باید مجموعه‌ای از الزامات فنی و حکمرانی را رعایت کند. این الزامات صرفاً توصیه‌ای نیستند، بلکه شرط ورود و فعالیت در بازار اتحادیه محسوب می‌شوند.
نکته مهم این است که مقرره، دامنه این الزامات را چندلایه طراحی کرده است: از داده (کیفیت و مرتبط بودن داده‌ها) تا طراحی سیستم (مستندسازی و شفافیت)، از رفتار سیستم (دقت و تاب‌آوری) تا کنترل انسانی (human oversight) و امنیت (cybersecurity). این نشان می‌دهد که قانون‌گذار صرفاً به «نتیجه» سیستم نگاه نمی‌کند، بلکه کل چرخه عمر آن را تحت نظارت قرار می‌دهد.

در سطح سیاست‌گذاری تجاری، این بند تلاش می‌کند از انتقاد احتمالی مبنی بر «محدودیت تجارت آزاد» پیشگیری کند. به همین دلیل تصریح می‌کند که این الزامات به‌عنوان موانع غیرموجه تجاری محسوب نمی‌شوند، چون هیچ ابزار کم‌محدودکننده‌تری برای مدیریت این سطح از ریسک وجود ندارد. به بیان ساده، اتحادیه اروپا استدلال می‌کند که این سطح از تنظیم‌گری «ضروری و متناسب» است.

در مجموع، این Recital پایه فلسفی بخش مهمی از قانون هوش مصنوعی است: ایجاد تعادل بین نوآوری فناوری و حفاظت از حقوق بنیادین و ایمنی عمومی، با پذیرش این اصل که در حوزه AI پرخطر، تنظیم‌گری سخت‌گیرانه اجتناب‌ناپذیر است.


منبع: ترجمه شده توسط بخش فناوری های نوین سایت راسخون