قانون هوش مصنوعی اروپا: متن ملاحظه 91
با توجه به ماهیت سامانه‌های هوش مصنوعی و مخاطراتی که ممکن است در نتیجه استفاده از آن‌ها متوجه ایمنی و حقوق بنیادین گردد، از جمله ضرورت تضمین نظارت مناسب بر عملکرد سامانه هوش مصنوعی در شرایط واقعی، تعیین مسئولیت‌های مشخص برای بهره‌برداران امری مقتضی است.بهره‌برداران باید به‌ویژه تدابیر فنی و سازمانی مناسب را اتخاذ نمایند تا اطمینان حاصل شود سامانه‌های هوش مصنوعی پرخطر را مطابق با دستورالعمل‌های استفاده به‌کار می‌گیرند و همچنین لازم است تعهدات معینی در خصوص پایش عملکرد سامانه‌های هوش مصنوعی و نیز نگهداری سوابق، حسب مورد، پیش‌بینی شود.
علاوه بر این، بهره‌برداران باید تضمین نمایند اشخاصی که اجرای دستورالعمل‌های استفاده و نظارت انسانی مقرر در این مقرره به آنان واگذار شده است، از صلاحیت لازم برخوردار باشند؛ به‌ویژه باید از سطح کافی سواد مرتبط با هوش مصنوعی، آموزش مناسب و اختیار لازم برخوردار باشند تا بتوانند وظایف مزبور را به‌درستی ایفا نمایند.
این تعهدات نباید به سایر تعهدات بهره‌برداران در ارتباط با سامانه‌های هوش مصنوعی پرخطر که به موجب حقوق اتحادیه یا حقوق ملی مقرر شده است، خللی وارد سازد.
تحلیل ملاحظه 91
در این ملاحظه، ابتدا مبنای توجیهی تعیین مسئولیت برای بهره‌برداران بیان می‌شود. با توجه به ماهیت پویا و پیچیده سامانه‌های هوش مصنوعی و مخاطرات بالقوه آن‌ها نسبت به ایمنی و حقوق بنیادین، قانون‌گذار بر این نکته تأکید می‌کند که صرف تنظیم تعهدات برای عرضه‌کننده کافی نیست. به‌ویژه نظارت بر عملکرد سامانه در شرایط واقعی بهره‌برداری، که ممکن است با محیط آزمایشگاهی تفاوت داشته باشد، ضرورت دارد. از این رو، تخصیص مسئولیت مشخص به بهره‌بردار به‌عنوان بازیگری که سامانه را در بستر عملیاتی به‌کار می‌گیرد، منطقی و متناسب تلقی می‌شود.در ادامه، دامنه تعهدات بهره‌بردار تبیین می‌گردد. وی مکلف است تدابیر فنی و سازمانی مناسب اتخاذ کند تا استفاده از سامانه‌های پرخطر مطابق دستورالعمل‌های استفاده انجام شود. این امر نشان‌دهنده پیوند میان مسئولیت بهره‌بردار و چارچوب تعیین‌شده توسط عرضه‌کننده است. همچنین، تعهد به پایش عملکرد سامانه و نگهداری سوابق، بیانگر اهمیت قابلیت ردیابی، پاسخگویی و امکان ارزیابی پسینی عملکرد سامانه است. این تعهدات، سازوکارهای کنترلی تکمیلی را در مرحله بهره‌برداری ایجاد می‌کند.
در بخش بعدی، بر عنصر انسانی در اجرای الزامات تأکید می‌شود. بهره‌بردار باید اطمینان حاصل کند افرادی که مسئول اجرای دستورالعمل‌ها و اعمال نظارت انسانی هستند، از صلاحیت کافی برخوردارند. این صلاحیت شامل سطح مناسب دانش مرتبط با هوش مصنوعی، آموزش کافی و اختیار لازم برای مداخله مؤثر است. بدین‌ترتیب، نظارت انسانی صرفاً صوری تلقی نمی‌شود، بلکه باید مبتنی بر توانمندی واقعی و اختیار اجرایی باشد تا بتواند نقش حفاظتی خود را ایفا کند.
در نهایت، قاعده عدم اخلال تصریح می‌شود. تعهدات مقرر در این مقرره نافی سایر تعهدات بهره‌بردار که به موجب حقوق اتحادیه یا حقوق ملی برقرار شده‌اند، نیست. بنابراین، این مقرره حداقل یا لایه‌ای از الزامات را تعیین می‌کند که ممکن است در کنار سایر رژیم‌های حقوقی قابل اعمال باشند و جایگزین آن‌ها محسوب نمی‌شوند.
منبع: ترجمه شده توسط بخش فناوری های نوین سایت راسخون
