قانون هوش مصنوعی اروپا: متن ملاحظه 164
دفتر هوش مصنوعی باید قادر باشد اقدامات لازم را برای پایش اجرای مؤثر و رعایت تعهدات ارائهدهندگان مدلهای هوش مصنوعی با کاربرد عمومی که در این مقرره مقرر شدهاند، اتخاذ نماید. این دفتر باید بتواند تخلفات احتمالی را مطابق اختیارات پیشبینیشده در این مقرره مورد بررسی قرار دهد، از جمله از طریق درخواست اسناد و اطلاعات، انجام ارزیابیها و نیز مطالبه اتخاذ اقدامات از ارائهدهندگان مدلهای هوش مصنوعی با کاربرد عمومی. در جریان انجام ارزیابیها، بهمنظور بهرهگیری از تخصص مستقل، دفتر هوش مصنوعی باید بتواند کارشناسان مستقل را برای انجام ارزیابیها از جانب خود بهکار گیرد.
رعایت تعهدات باید قابل الزام باشد، از جمله از طریق درخواست اتخاذ اقدامات مناسب، شامل اقدامات کاهش ریسک در صورت شناسایی ریسکهای سیستمی، و همچنین محدود کردن عرضه در بازار، جمعآوری یا فراخوانی مدل. بهعنوان تضمین، در مواردی که فراتر از حقوق شکلی پیشبینیشده در این مقرره لازم باشد، ارائهدهندگان مدلهای هوش مصنوعی با کاربرد عمومی باید از حقوق شکلی مقرر در ماده ۱۸ مقرره (اتحادیه اروپا) ۲۰۱۹/۱۰۲۰ برخوردار باشند که با اعمال لازمالتغییر اجرا میشود، بدون آنکه به حقوق شکلی خاصتر پیشبینیشده در این مقرره خدشهای وارد شود.
تحلیل ملاحظه 164
در این ملاحظه، ابتدا نقش و اختیار «دفتر هوش مصنوعی» در نظارت بر اجرای مقرره تبیین میشود. این نهاد باید بتواند بهطور فعال اجرای مؤثر تعهدات ارائهدهندگان مدلهای با کاربرد عمومی را پایش کند. تأکید بر «پایش اجرای مؤثر» نشان میدهد که صرف وجود قواعد کافی نیست و باید سازوکاری نهادی برای بررسی واقعی میزان رعایت آنها وجود داشته باشد.
در ادامه، ابزارهای عملی این نظارت مشخص میشود. دفتر میتواند برای بررسی تخلفات احتمالی اقدام کند و در این راستا اختیار دارد اسناد و اطلاعات مطالبه کند، ارزیابی انجام دهد و از ارائهدهندگان بخواهد اقدامات اصلاحی انجام دهند. این مجموعه اختیارات نشاندهنده یک نظام نظارتی فعال و مداخلهگر است که صرفاً به دریافت گزارش بسنده نمیکند.
سپس به موضوع ارزیابی و استفاده از تخصص مستقل پرداخته میشود. بهمنظور افزایش دقت و بیطرفی، دفتر میتواند از کارشناسان مستقل برای انجام ارزیابیها استفاده کند. این امر اهمیت ویژهای دارد، زیرا پیچیدگی فنی مدلهای هوش مصنوعی نیازمند دانش تخصصی عمیق و گاه خارج از ساختار اداری است.
در بخش بعدی، به ضمانت اجرای تعهدات اشاره میشود. رعایت الزامات باید قابل الزام باشد و دفتر میتواند اقدامات مشخصی را مطالبه کند؛ از جمله اقدامات کاهش ریسک در صورت وجود ریسکهای سیستمی. همچنین ابزارهای شدیدتری مانند محدود کردن عرضه در بازار، جمعآوری یا فراخوانی مدل پیشبینی شدهاند که نشاندهنده سطح بالای مداخله در صورت بروز خطرات جدی است.
در نهایت، برای ایجاد توازن میان قدرت نظارتی و حقوق اشخاص، به حقوق شکلی ارائهدهندگان اشاره میشود. اگرچه مقرره اختیارات گستردهای به دفتر اعطا میکند، اما ارائهدهندگان نیز از حقوق رویهای برخوردارند، از جمله حقوق مقرر در مقرره دیگر که با تطبیق لازم اعمال میشود. این بخش تضمین میکند که فرآیندهای نظارتی عادلانه، شفاف و قابل دفاع باشند و از حقوق دفاعی اشخاص حفاظت شود.
منبع: ترجمه شده توسط بخش فناوری های نوین سایت راسخون
