قانون هوش مصنوعی اروپا: ملاحظه 96

این ملاحظه برخی بهره‌برداران سامانه‌های پرخطر، به‌ویژه در بخش عمومی و حوزه‌های حساس، را ملزم می‌کند پیش از بهره‌برداری ارزیابی اثرات بر حقوق بنیادین انجام دهند، مخاطرات و تدابیر کاهنده را شناسایی کنند، ارزیابی را به‌روزرسانی نمایند، مرجع نظارتی را مطلع سازند و در صورت لزوم از مشارکت ذی‌نفعان بهره گیرند، و برای تسهیل این فرایند ابزارهای استاندارد نیز پیش‌بینی می‌شود.  

قانون هوش مصنوعی اروپا: متن ملاحظه 96

به‌منظور تضمین مؤثر حفاظت از حقوق بنیادین، بهره‌برداران سامانه‌های هوش مصنوعی پرخطر که نهادهای تابع حقوق عمومی هستند، یا اشخاص حقوقی خصوصی که خدمات عمومی ارائه می‌کنند، و نیز بهره‌برداران برخی از سامانه‌های پرخطر مندرج در پیوست این مقرره، از جمله در حوزه‌های بانکی یا بیمه‌ای، باید پیش از به‌کارگیری سامانه، ارزیابی اثرات بر حقوق بنیادین را انجام دهند. خدماتی که برای اشخاص اهمیت اساسی دارد و ماهیت عمومی دارد، ممکن است توسط اشخاص خصوصی نیز ارائه شود. این اشخاص خصوصی در انجام وظایف مرتبط با منافع عمومی، از جمله در حوزه‌های آموزش، بهداشت، خدمات اجتماعی، مسکن و اداره عدالت، ایفای نقش می‌کنند.

هدف از ارزیابی اثرات بر حقوق بنیادین آن است که بهره‌بردار، مخاطرات مشخص نسبت به حقوق اشخاص یا گروه‌های اشخاصی را که احتمال دارد تحت تأثیر قرار گیرند شناسایی کند و تدابیری را که در صورت تحقق آن مخاطرات باید اتخاذ شود تعیین نماید. این ارزیابی باید پیش از استقرار سامانه انجام شود و هرگاه بهره‌بردار تشخیص دهد عوامل مرتبط تغییر یافته است، به‌روزرسانی گردد. ارزیابی باید فرایندهای مرتبط بهره‌بردار را که سامانه در چارچوب هدف موردنظر در آن‌ها به‌کار گرفته خواهد شد مشخص سازد و شامل توصیف مدت و تناوب استفاده از سامانه، همچنین دسته‌های خاص اشخاص حقیقی یا گروه‌هایی باشد که در زمینه استفاده مورد نظر احتمال دارد تحت تأثیر قرار گیرند.

این ارزیابی همچنین باید شناسایی مخاطرات مشخص ورود زیان را که احتمال دارد بر حقوق بنیادین آن اشخاص یا گروه‌ها اثر بگذارد دربر گیرد. بهره‌بردار در انجام این ارزیابی باید اطلاعات مرتبط با ارزیابی صحیح اثرات را مدنظر قرار دهد، از جمله و نه محدود به اطلاعاتی که عرضه‌کننده سامانه در دستورالعمل‌های استفاده ارائه کرده است.

با توجه به مخاطرات شناسایی‌شده، بهره‌بردار باید تدابیری را که در صورت تحقق آن مخاطرات باید اتخاذ شود تعیین کند، از جمله ترتیبات حکمرانی در زمینه استفاده خاص، مانند سازوکارهای نظارت انسانی مطابق دستورالعمل‌های استفاده، یا سازوکارهای رسیدگی به شکایات و جبران خسارت؛ زیرا این تدابیر می‌تواند در کاهش مخاطرات نسبت به حقوق بنیادین در موارد کاربرد مشخص نقش مؤثری ایفا کند.

پس از انجام ارزیابی اثرات، بهره‌بردار باید مرجع صلاحیت‌دار نظارت بر بازار را مطلع سازد. در صورت اقتضا، به‌منظور گردآوری اطلاعات لازم برای انجام ارزیابی، بهره‌برداران سامانه‌های پرخطر، به‌ویژه هنگامی که سامانه‌ها در بخش عمومی به‌کار می‌روند، می‌توانند ذی‌نفعان مرتبط، از جمله نمایندگان گروه‌های اشخاصی که احتمال دارد تحت تأثیر قرار گیرند، کارشناسان مستقل و سازمان‌های جامعه مدنی را در انجام ارزیابی و طراحی تدابیر لازم در صورت تحقق مخاطرات مشارکت دهند.

دفتر هوش مصنوعی اروپا باید نمونه‌ای برای پرسش‌نامه تهیه کند تا رعایت الزامات تسهیل شود و بار اداری بهره‌برداران کاهش یابد.
 

تحلیل ملاحظه 96

این ملاحظه با هدف تقویت حمایت مؤثر از حقوق بنیادین، گروهی از بهره‌برداران سامانه‌های پرخطر را مکلف به انجام ارزیابی اثرات بر حقوق بنیادین پیش از بهره‌برداری می‌کند. این تکلیف متوجه نهادهای عمومی، اشخاص خصوصی ارائه‌دهنده خدمات عمومی و نیز برخی حوزه‌های حساس مانند بانکداری و بیمه است. منطق این رویکرد آن است که هر جا تصمیمات مبتنی بر سامانه‌های پرخطر می‌تواند آثار گسترده اجتماعی داشته باشد، ارزیابی پیشینی ریسک ضروری است، حتی اگر ارائه‌دهنده خدمت یک شخص خصوصی باشد اما وظیفه‌ای در راستای منافع عمومی انجام دهد.

در ادامه، هدف و محتوای این ارزیابی تبیین می‌شود. بهره‌بردار باید مخاطرات مشخص نسبت به حقوق اشخاص یا گروه‌های احتمالیِ متأثر را شناسایی و تدابیر لازم در صورت تحقق آن مخاطرات را تعیین کند. ارزیابی باید پیش از استقرار سامانه انجام شود و در صورت تغییر عوامل مرتبط به‌روزرسانی گردد. همچنین لازم است فرایندهای داخلی که سامانه در آن‌ها به کار می‌رود، مدت و تناوب استفاده و دسته‌های اشخاص تحت تأثیر به‌طور دقیق توصیف شود. این امر نشان‌دهنده تأکید بر تحلیل زمینه‌محور و متناسب با کاربرد واقعی است.

سپس بر ضرورت شناسایی مخاطرات مشخص ورود زیان و اتکای ارزیابی بر اطلاعات کافی تأکید می‌شود. بهره‌بردار باید اطلاعات عرضه‌کننده در دستورالعمل‌های استفاده و سایر داده‌های مرتبط را در نظر گیرد تا ارزیابی جامع و مستند باشد. بدین ترتیب، مسئولیت مدیریت ریسک در مرحله بهره‌برداری تکمیل‌کننده تعهدات عرضه‌کننده در مرحله توسعه است.

در مرحله بعد، تعیین تدابیر کاهنده ریسک مورد توجه قرار می‌گیرد. این تدابیر می‌تواند شامل ترتیبات حکمرانی، سازوکارهای نظارت انسانی، نظام رسیدگی به شکایات و جبران خسارت باشد. هدف آن است که در صورت تحقق ریسک، سازوکارهای واکنشی و پیشگیرانه از پیش طراحی شده باشد. پس از انجام ارزیابی، بهره‌بردار باید مرجع نظارت بر بازار را مطلع سازد که این امر بعد پاسخگویی و نظارتی را تقویت می‌کند.

همچنین امکان مشارکت ذی‌نفعان، نمایندگان گروه‌های متأثر، کارشناسان مستقل و سازمان‌های جامعه مدنی پیش‌بینی شده است، به‌ویژه در بخش عمومی. این مشارکت می‌تواند به واقع‌بینی ارزیابی و افزایش مشروعیت آن کمک کند. در نهایت، پیش‌بینی تهیه الگوی پرسش‌نامه توسط دفتر هوش مصنوعی اروپا با هدف تسهیل انطباق و کاهش بار اداری، نشان‌دهنده تلاش برای استانداردسازی و عملیاتی‌سازی این تکلیف است.  


منبع: ترجمه شده توسط بخش فناوری های نوین سایت راسخون