قانون هوش مصنوعی اروپا:  ملاحظه 71

خلاصه قانون هوش مصنوعی اروپا:  ملاحظه 71:

این ملاحظه نظارت انسانی را به‌عنوان یک الزام حقوقی ساختاری و مؤثر برای سامانه‌های هوش مصنوعی پرخطر تثبیت می‌کند و آن را در طراحی، بهره‌برداری و کل چرخه عمر سامانه جاری می‌داند. نظارت باید واقعی و توانمند باشد و در حوزه‌های پرریسک‌تری مانند سامانه‌های زیست‌سنجی به‌صورت تقویت‌شده اعمال شود تا از استفاده مطابق هدف، کاهش مخاطرات و حفاظت از حقوق اشخاص اطمینان حاصل گردد.

متن ملاحظه 71

دریافت اطلاعات قابل فهم در مورد نحوه توسعه سیستم‌های هوش مصنوعی پرخطر و نحوه عملکرد آن‌ها در طول چرخه عمرشان برای امکان‌پذیر ساختن ردیابی این سیستم‌ها، تأیید انطباق با الزامات تحت این مقرره، همچنین نظارت بر عملیات آن‌ها و نظارت پس از عرضه به بازار ضروری است.

این امر نیازمند نگهداری سوابق و در دسترس بودن مستندات فنی است که شامل اطلاعاتی باشد که برای ارزیابی انطباق سیستم هوش مصنوعی با الزامات مربوطه ضروری است و نظارت پس از عرضه به بازار را تسهیل کند.

چنین اطلاعاتی باید شامل ویژگی‌ها، قابلیت‌ها و محدودیت‌های عمومی سیستم، الگوریتم‌ها، داده‌ها، فرایندهای آموزش، آزمایش و اعتبارسنجی استفاده‌شده، همچنین مستندات مربوط به سیستم مدیریت ریسک مرتبط باشد و به‌صورت واضح و جامع تنظیم گردد. مستندات فنی باید در طول چرخه عمر سیستم هوش مصنوعی به‌طور مناسب و به‌روزرسانی‌شده نگهداری شوند. علاوه بر این، سیستم‌های هوش مصنوعی پرخطر باید از نظر فنی به‌گونه‌ای طراحی شوند که امکان ثبت خودکار رویدادها، از طریق گزارش‌ها، در طول مدت زمان عمر سیستم فراهم باشد.  

تحلیل کوتاه حقوقی ملاحظه 71

در بند نخست، متن بر «الزام» نظارت انسانی تأکید دارد و آن را یک انتخاب یا توصیه فنی تلقی نمی‌کند، بلکه به‌عنوان یک تکلیف حقوقی لازم‌الاجرا برای سامانه‌های هوش مصنوعی پرخطر معرفی می‌نماید. این الزام نشان می‌دهد که اتکا به خودکاربودن سامانه به‌تنهایی پذیرفته نیست و حضور انسان در زنجیره تصمیم‌گیری همچنان عنصر مرکزی تنظیم‌گری باقی می‌ماند.

در بند دوم، ویژگی «ساختاری و توانمند» بودن نظارت انسانی برجسته می‌شود که بیانگر آن است که نظارت نباید صوری یا نمایشی باشد. نظارت باید در طراحی و معماری سامانه ادغام شده و اشخاص ناظر نیز از ابزارها، صلاحیت و اختیار واقعی برای اثرگذاری بر عملکرد سامانه برخوردار باشند، به‌نحوی که بتوانند در عمل از بروز خطا یا آسیب جلوگیری نمایند.

در بند سوم، متن به‌طور خاص به سامانه‌های زیست‌سنجی اشاره می‌کند و تقویت نظارت انسانی در این حوزه را ضروری می‌داند. این تفکیک نشان می‌دهد که قانون‌گذار میان سطوح مختلف خطر تمایز قائل شده و در حوزه‌هایی که پیامدهای خطا می‌تواند شدیدتر و جبران‌ناپذیرتر باشد، سطح بالاتری از کنترل انسانی را مطالبه می‌کند.

در بند چهارم، هدف از این الزامات تبیین می‌شود که شامل تضمین استفاده از سامانه مطابق با هدف تعیین‌شده، پیشگیری از مخاطرات، و حفاظت از حقوق اشخاص است. این بند نشان می‌دهد که نظارت انسانی نه‌تنها برای کارکرد صحیح فنی، بلکه به‌عنوان ابزار حمایت از حقوق بنیادین و منافع عمومی طراحی شده است.

در بند پایانی، دامنه زمانی این تعهد مشخص می‌شود و بر اعمال آن در سراسر چرخه عمر سامانه تأکید می‌گردد. این امر بیانگر آن است که مسئولیت نظارت انسانی محدود به مرحله استقرار اولیه نیست، بلکه باید در طول استفاده، به‌روزرسانی و بهره‌برداری مستمر از سامانه نیز استمرار داشته باشد.  
منبع: ترجمه شده توسط بخش فناوری های نوین سایت راسخون