قانون هوش مصنوعی اروپا: ملاحظه 93

این ملاحظه تأکید می‌کند که مخاطرات سامانه‌های هوش مصنوعی ناشی از طراحی و استفاده آن‌هاست و بهره‌برداران سامانه‌های پرخطر نقش مکمل و حیاتی در شناسایی خطرات، اطلاع‌رسانی به اشخاص حقیقی، تضمین شفافیت تصمیمات سامانه و حفظ حقوق بنیادین دارند، و برای سامانه‌های کاربردی در اجرای قانون، این الزامات باید مطابق چارچوب قانونی خاص رعایت شود.  

قانون هوش مصنوعی اروپا: متن ملاحظه 93

در حالی که مخاطرات مرتبط با سامانه‌های هوش مصنوعی می‌تواند ناشی از نحوه طراحی این سامانه‌ها باشد، این مخاطرات می‌توانند از شیوه استفاده از آن‌ها نیز ناشی شوند. از این رو، بهره‌برداران سامانه‌های هوش مصنوعی پرخطر نقش حیاتی در تضمین حفاظت از حقوق بنیادین ایفا می‌کنند و این نقش مکمل تعهدات عرضه‌کننده در هنگام توسعه سامانه است.

بهره‌برداران بیشترین شناخت را از نحوه استفاده عملیاتی سامانه‌های پرخطر دارند و بنابراین قادرند مخاطرات مهم احتمالی را که در مرحله توسعه پیش‌بینی نشده‌اند شناسایی کنند، زیرا آن‌ها دانش دقیق‌تری از زمینه استفاده، افراد یا گروه‌های احتمالی متاثر، از جمله گروه‌های آسیب‌پذیر، دارند.

بهره‌برداران سامانه‌های هوش مصنوعی پرخطر که در پیوست این مقرره فهرست شده‌اند، نقش مهمی در اطلاع‌رسانی به اشخاص حقیقی نیز دارند و هنگامی که تصمیم‌گیری یا کمک به تصمیم‌گیری مرتبط با اشخاص حقیقی انجام می‌دهند، در صورت لزوم باید به آن‌ها اطلاع دهند که تحت استفاده از سامانه هوش مصنوعی پرخطر قرار دارند. این اطلاع باید شامل هدف موردنظر و نوع تصمیماتی باشد که سامانه اتخاذ می‌کند.

علاوه بر این، بهره‌بردار باید اشخاص حقیقی را درباره حق خود برای دریافت توضیح مطابق این مقرره نیز مطلع سازد. در خصوص سامانه‌های هوش مصنوعی پرخطر که برای مقاصد اجرای قانون به‌کار می‌روند، اجرای این تعهد باید مطابق ماده ۱۳ دستورالعمل (اتحادیه اروپا) ۲۰۱۶/۶۸۰ انجام شود.


تحلیل ملاحظه 93
این ملاحظه ابتدا بر دو منبع اصلی مخاطرات سامانه‌های هوش مصنوعی تأکید می‌کند: طراحی سامانه و شیوه استفاده از آن. بدین ترتیب، مسئولیت حفاظت از حقوق بنیادین تنها بر عهده عرضه‌کننده نیست و بهره‌برداران سامانه‌های پرخطر نقش حیاتی و مکمل دارند، زیرا آن‌ها مستقیماً با شرایط عملیاتی و کاربران سامانه در تعامل هستند.

در ادامه، بر توانایی بهره‌برداران در شناسایی مخاطرات احتمالی تأکید می‌شود. از آنجا که بهره‌برداران شناخت دقیقی از زمینه استفاده، افراد یا گروه‌های تحت تأثیر، به‌ویژه گروه‌های آسیب‌پذیر دارند، می‌توانند خطراتی را کشف کنند که در مرحله توسعه پیش‌بینی نشده بودند. این شناخت عملیاتی بهره‌بردار را به بازیگری کلیدی در مدیریت ریسک تبدیل می‌کند.

سپس به مسئولیت اطلاع‌رسانی بهره‌برداران به اشخاص حقیقی پرداخته می‌شود. بهره‌برداران باید هنگام تصمیم‌گیری یا کمک به تصمیم‌گیری درباره اشخاص حقیقی، آن‌ها را مطلع سازند که تحت تأثیر استفاده از سامانه هوش مصنوعی پرخطر قرار دارند و اطلاعاتی درباره هدف سامانه و نوع تصمیماتی که اتخاذ می‌کند ارائه دهند. علاوه بر این، بهره‌برداران موظف‌اند حق دریافت توضیح از سامانه طبق مقرره را نیز به اشخاص اطلاع دهند.

در نهایت، برای سامانه‌های هوش مصنوعی پرخطر مورد استفاده در اجرای قانون، اجرای این الزامات اطلاع‌رسانی باید مطابق ماده ۱۳ دستورالعمل ۲۰۱۶/۶۸۰ اتحادیه اروپا صورت گیرد، که نشان‌دهنده لزوم هماهنگی با چارچوب‌های قانونی ویژه این بخش است.  


منبع: ترجمه شده توسط بخش فناوری های نوین سایت راسخون