این ملاحظه بر ضرورت تعبیه نظارت انسانی مؤثر در طراحی و توسعه سامانه‌های هوش مصنوعی پرخطر در سراسر چرخه عمر آن‌ها تأکید دارد و مسئولیت شناسایی تدابیر نظارت انسانی را پیش از عرضه یا بهره‌برداری بر عهده عرضه‌کننده قرار می‌دهد.


نظارت انسانی باید واقعی و توانمند باشد و از طریق محدودیت‌های عملیاتی غیرقابل نقض، پاسخ‌گویی سامانه به عامل انسانی، و برخورداری ناظران از صلاحیت، آموزش و اختیار لازم تضمین شود.

سامانه‌ها باید دارای سازوکارهایی باشند که شخص ناظر را برای مداخله آگاهانه یا توقف سامانه در صورت عملکرد نامناسب راهنمایی کند. برای سامانه‌های شناسایی زیست‌سنجی، به دلیل پیامدهای شدید خطا، الزام به نظارت انسانی تقویت‌شده و راستی‌آزمایی مستقل توسط حداقل دو شخص حقیقی پیش‌بینی می‌شود، با رعایت کارآمدی عملی و امکان ثبت خودکار. با این حال، در حوزه‌های خاصی مانند اجرای قانون، مهاجرت، کنترل مرزها و پناهندگی، در صورت نامتناسب بودن، امکان عدم اعمال این الزام طبق حقوق اتحادیه یا ملی وجود دارد.

ملاحظه قبلی:
قانون هوش مصنوعی اروپا: ملاحظه 72
 


متن ملاحظه 73

سامانه‌های هوش مصنوعی پرخطر باید به‌گونه‌ای طراحی و توسعه داده شوند که اشخاص حقیقی بتوانند بر عملکرد آن‌ها نظارت داشته باشند، از استفاده سامانه مطابق با هدف تعیین‌شده اطمینان حاصل نمایند و آثار و پیامدهای آن‌ها را در سراسر چرخه عمر سامانه مورد رسیدگی قرار دهند. بدین منظور، تدابیر مناسب نظارت انسانی باید پیش از عرضه سامانه به بازار یا به‌کارگیری آن، توسط عرضه‌کننده سامانه شناسایی و تعیین شود.

به‌ویژه، در موارد مقتضی، این تدابیر باید تضمین کند که سامانه تابع محدودیت‌های عملیاتی تعبیه‌شده‌ای باشد که توسط خود سامانه قابل نقض نباشد و نسبت به عامل انسانی پاسخ‌گو باشد، و نیز اشخاص حقیقی که مسئولیت نظارت انسانی به آنان واگذار شده است، از صلاحیت، آموزش و اختیار لازم برای ایفای این نقش برخوردار باشند.

همچنین، در صورت اقتضا، ضروری است اطمینان حاصل شود که سامانه‌های هوش مصنوعی پرخطر شامل سازوکارهایی باشند که شخص حقیقی مسئول نظارت انسانی را برای اتخاذ تصمیم آگاهانه در خصوص اینکه آیا، چه زمانی و چگونه مداخله کند، به‌منظور جلوگیری از پیامدها یا مخاطرات منفی، یا متوقف‌سازی سامانه در صورت عدم عملکرد مطابق با هدف تعیین‌شده، راهنمایی و مطلع نمایند.

با توجه به پیامدهای قابل‌توجه برای اشخاص در صورت تطبیق نادرست توسط برخی سامانه‌های شناسایی زیست‌سنجی، پیش‌بینی الزام تقویت‌شده نظارت انسانی برای این سامانه‌ها مناسب است، به‌نحوی که هیچ اقدام یا تصمیمی توسط بهره‌بردار بر مبنای شناسایی حاصل از سامانه اتخاذ نشود، مگر آنکه این شناسایی به‌طور جداگانه توسط دست‌کم دو شخص حقیقی راستی‌آزمایی و تأیید شده باشد.

این اشخاص می‌توانند از یک یا چند نهاد باشند و شخصی که سامانه را راهبری یا استفاده می‌کند نیز می‌تواند از جمله آنان باشد. این الزام نباید موجب تحمیل بار یا تأخیر غیرضروری گردد و می‌تواند کفایت کند که راستی‌آزمایی‌های جداگانه توسط اشخاص مختلف به‌صورت خودکار در گزارش‌های ثبت‌شده تولیدشده توسط سامانه ضبط شده باشد.

با عنایت به ویژگی‌های خاص حوزه‌های اجرای قانون، مهاجرت، کنترل مرزها و پناهندگی، این الزام نباید در مواردی اعمال شود که حقوق اتحادیه یا حقوق ملی، اعمال آن را نامتناسب تلقی نماید.
 

تحلیل کوتاه حقوقی ملاحظه 73

در بند نخست، ملاحظه بر پیوند میان طراحی فنی سامانه و امکان اعمال نظارت انسانی تأکید می‌کند و تصریح دارد که نظارت اشخاص حقیقی باید در سراسر چرخه عمر سامانه ممکن باشد. این بند نظارت انسانی را نه امری پسینی یا استثنایی، بلکه عنصری ساختاری در طراحی و توسعه سامانه می‌داند که هدف آن تضمین استفاده مطابق با مقصود و مدیریت آثار و پیامدهای سامانه است.

در بند دوم، مسئولیت اولیه شناسایی و تعریف تدابیر نظارت انسانی بر عهده عرضه‌کننده قرار می‌گیرد و این مسئولیت به مرحله پیش از عرضه یا بهره‌برداری محدود می‌شود. از منظر حقوقی، این امر نشان می‌دهد که نظارت انسانی نباید به تصمیمات موردی بهره‌بردار واگذار شود، بلکه باید از ابتدا به‌عنوان بخشی از انطباق سامانه با مقرره پیش‌بینی گردد.

در بند سوم، محتوای حداقلی تدابیر نظارت انسانی تشریح می‌شود و بر وجود محدودیت‌های عملیاتی تعبیه‌شده‌ای تأکید می‌گردد که سامانه نتواند آن‌ها را نادیده بگیرد. همچنین پاسخ‌گویی سامانه به عامل انسانی و صلاحیت، آموزش و اختیار اشخاص ناظر به‌عنوان شروط اساسی ایفای مؤثر نقش نظارتی معرفی می‌شود. این بند نشان می‌دهد که نظارت انسانی بدون توانمندسازی واقعی اشخاص ناظر، فاقد اثر حقوقی و عملی خواهد بود.

در بند چهارم، بر ضرورت وجود سازوکارهای راهنما و اطلاع‌رسان برای شخص ناظر تأکید می‌شود تا بتواند آگاهانه درباره زمان، نحوه و میزان مداخله تصمیم بگیرد یا در صورت لزوم سامانه را متوقف سازد. این بند به‌روشنی بیان می‌کند که نظارت انسانی نباید صرفاً صوری باشد، بلکه باید با ابزارهای تصمیم‌سازی مؤثر پشتیبانی شود تا از بروز پیامدها و مخاطرات منفی جلوگیری گردد.
 

در بند پنجم، به‌طور خاص به سامانه‌های شناسایی زیست‌سنجی پرداخته می‌شود و به دلیل پیامدهای سنگین خطای تطبیق، سطح بالاتری از نظارت انسانی مقرر می‌گردد. الزام به راستی‌آزمایی و تأیید مستقل توسط حداقل دو شخص حقیقی، شرط اعتبار تصمیم یا اقدام بهره‌بردار قرار می‌گیرد و نشان می‌دهد که اتکای صرف به خروجی سامانه در این حوزه‌ها غیرقابل قبول تلقی می‌شود.

در بند ششم، انعطاف‌پذیری اجرای این الزام تقویت‌شده تبیین می‌شود، به‌گونه‌ای که اشخاص راستی‌آزمایی‌کننده می‌توانند از یک یا چند نهاد باشند و حتی شخص بهره‌بردار سامانه نیز بتواند یکی از آنان باشد. همچنین تأکید می‌شود که این الزام نباید موجب تحمیل بار یا تأخیر غیرضروری گردد و ثبت خودکار راستی‌آزمایی‌ها در گزارش‌های سامانه می‌تواند کفایت کند، که بیانگر تلاش مقرره برای توازن میان حفاظت از حقوق اشخاص و کارآمدی عملی است.

در بند پایانی، استثنایی مبتنی بر تناسب‌پذیری پیش‌بینی می‌شود که با توجه به ویژگی‌های خاص حوزه‌های اجرای قانون، مهاجرت، کنترل مرزها و پناهندگی، امکان عدم اعمال الزام یادشده را در مواردی که حقوق اتحادیه یا حقوق ملی آن را نامتناسب بداند فراهم می‌سازد. این بند نشان می‌دهد که مقرره ضمن تأکید بر نظارت انسانی تقویت‌شده، به اقتضائات عملی و حقوقی حوزه‌های حساس نیز توجه دارد.

ملاحظه بعدی:
قانون هوش مصنوعی اروپا: ملاحظه 74


 
منبع: ترجمه شده توسط بخش فناوری های نوین سایت راسخون