قانون هوش مصنوعی اروپا: ملاحظه 141

این ملاحظه به ارائه‌دهندگان سامانه‌های هوش مصنوعی پرخطر اجازه می‌دهد تا برای تسریع توسعه و عرضه به بازار، این سامانه‌ها را در شرایط واقعی و خارج از محیط‌های آزمون نظارتی آزمایش کنند.

با این حال، به دلیل تأثیرات بالقوه بر افراد، مقرره مجموعه‌ای از تضمین‌ها و شرایط سخت‌گیرانه را وضع می‌کند، از جمله اخذ رضایت آگاهانه، ارائه برنامه آزمون، ثبت در پایگاه داده اتحادیه اروپا، محدودیت زمانی، حمایت از گروه‌های آسیب‌پذیر و نظارت مؤثر. همچنین بر امکان بازگشت‌پذیری تصمیمات سامانه، حذف داده‌ها در صورت انصراف افراد، و رعایت قواعد انتقال داده به کشورهای ثالث تأکید می‌کند.  

خلاصه قانون هوش مصنوعی اروپا: ملاحظه 141:

به‌منظور تسریع فرایند توسعه و عرضه به بازار سامانه‌های هوش مصنوعی پرخطر که در پیوست این مقرره فهرست شده‌اند، اهمیت دارد که ارائه‌دهندگان یا ارائه‌دهندگان بالقوه چنین سامانه‌هایی بتوانند از یک رژیم خاص برای آزمون این سامانه‌ها در شرایط واقعی نیز بهره‌مند شوند، بدون آنکه در محیط آزمون نظارتی هوش مصنوعی مشارکت داشته باشند. با این حال، در چنین مواردی، با در نظر گرفتن پیامدهای احتمالی این‌گونه آزمون‌ها بر افراد، باید تضمین شود که تضمین‌ها و شرایط مناسب و کافی توسط این مقرره برای ارائه‌دهندگان یا ارائه‌دهندگان بالقوه پیش‌بینی شده است.

 این تضمین‌ها باید، از جمله، شامل اخذ رضایت آگاهانه اشخاص حقیقی برای مشارکت در آزمون در شرایط واقعی باشد، به‌استثنای حوزه اجرای قانون که در آن اخذ رضایت آگاهانه مانع از انجام آزمون سامانه هوش مصنوعی خواهد شد. رضایت اشخاص برای مشارکت در چنین آزمونی طبق این مقرره، متمایز از رضایت اشخاص موضوع داده برای پردازش داده‌های شخصی آنان بر اساس قوانین مربوط به حفاظت از داده بوده و خدشه‌ای به آن وارد نمی‌کند.
 

 همچنین، اهمیت دارد که خطرات به حداقل برسد و امکان نظارت توسط مقامات صلاحیت‌دار فراهم گردد؛ از این‌رو، لازم است که ارائه‌دهندگان بالقوه دارای یک طرح آزمون در شرایط واقعی باشند که به مرجع صلاحیت‌دار نظارت بر بازار ارائه شده باشد، آزمون را در بخش‌های اختصاصی پایگاه داده اتحادیه اروپا ثبت نمایند (با رعایت برخی استثنائات محدود)، محدودیت‌هایی برای مدت انجام آزمون تعیین گردد و تدابیر حفاظتی اضافی برای اشخاص متعلق به برخی گروه‌های آسیب‌پذیر پیش‌بینی شود.

همچنین توافق‌نامه‌ای کتبی برای تعیین نقش‌ها و مسئولیت‌های ارائه‌دهندگان بالقوه و بهره‌برداران تنظیم گردد و نظارت مؤثر توسط کارکنان صلاحیت‌دار دخیل در آزمون در شرایط واقعی تضمین شود. علاوه بر این، مناسب است تدابیر حفاظتی بیشتری پیش‌بینی شود تا اطمینان حاصل گردد که پیش‌بینی‌ها، توصیه‌ها یا تصمیمات سامانه هوش مصنوعی می‌توانند به‌طور مؤثر برگشت‌پذیر بوده و نادیده گرفته شوند و اینکه داده‌های شخصی حفاظت شده و در صورتی که اشخاص رضایت خود برای مشارکت در آزمون را پس بگیرند، حذف شوند، بدون آنکه به حقوق آنان به‌عنوان اشخاص موضوع داده بر اساس حقوق اتحادیه در زمینه حفاظت از داده خدشه‌ای وارد شود.

در خصوص انتقال داده، همچنین مناسب است پیش‌بینی شود که داده‌های جمع‌آوری‌شده و پردازش‌شده برای اهداف آزمون در شرایط واقعی، تنها در صورتی به کشورهای ثالث منتقل شوند که تضمین‌های مناسب و قابل اعمال طبق حقوق اتحادیه برقرار شده باشد، به‌ویژه مطابق با مبانی انتقال داده‌های شخصی تحت حقوق اتحادیه در زمینه حفاظت از داده، و در خصوص داده‌های غیرشخصی نیز تدابیر حفاظتی مناسب مطابق حقوق اتحادیه، از جمله مقررات (اتحادیه اروپا) ۲۰۲۲/۸۶۸ و (اتحادیه اروپا) ۲۰۲۳/۲۸۵۴ پارلمان اروپا و شورا، پیش‌بینی گردد.
 

تحلیل بند به بند ملاحظه 141

1. هدف: تسریع توسعه و ورود به بازار:
   قانون‌گذار تلاش دارد با فراهم کردن امکان آزمون در شرایط واقعی، روند توسعه و تجاری‌سازی سامانه‌های پرخطر را سرعت ببخشد.
2. امکان آزمون خارج از محیط آزمون نظارتی:
   برخلاف ملاحظه قبلی، اینجا شرکت‌ها می‌توانند بدون حضور در محیط‌های آزمون رسمی، در دنیای واقعی تست انجام دهند.
3. ضرورت پیش‌بینی تضمین‌ها به دلیل ریسک برای افراد:
   چون آزمون در محیط واقعی مستقیماً روی انسان‌ها اثر دارد، قانون مجموعه‌ای از شرایط سخت‌گیرانه را الزامی می‌کند.
4. الزام به اخذ رضایت آگاهانه:
   افراد باید با اطلاع کامل در آزمون شرکت کنند، مگر در حوزه اجرای قانون که این الزام ممکن است مانع آزمون شود.
5. تفکیک دو نوع رضایت:
   رضایت برای «شرکت در آزمون» با رضایت برای «پردازش داده‌های شخصی» متفاوت است و هر دو باید جداگانه رعایت شوند.
6. الزام به برنامه‌ریزی و ثبت آزمون:
   ارائه‌دهندگان باید طرح آزمون داشته باشند، آن را به مقام ناظر ارائه دهند و در پایگاه داده اتحادیه ثبت کنند.
7. محدودیت زمانی آزمون:
   آزمون‌ها نباید نامحدود باشند و باید در بازه زمانی مشخص انجام شوند.
8. حمایت ویژه از گروه‌های آسیب‌پذیر:
   برای افرادی مانند کودکان یا افراد در شرایط خاص، تدابیر حفاظتی بیشتری لازم است.
9. تعیین نقش‌ها با توافق‌نامه کتبی:
   مسئولیت‌ها بین ارائه‌دهنده و بهره‌بردار باید شفاف و مکتوب باشد (خیلی شبیه قراردادهای سطح سرویس در پروژه‌های نرم‌افزاری).
10. نظارت انسانی مؤثر:
    آزمون باید تحت نظارت افراد متخصص انجام شود، نه صرفاً به‌صورت خودکار.
11. قابلیت بازگشت‌پذیری تصمیمات سامانه:
    تصمیمات یا خروجی‌های سامانه باید قابل لغو یا نادیده گرفتن باشند (اصل کنترل انسانی).
12. حذف داده‌ها در صورت انصراف:
    اگر فرد رضایتش را پس بگیرد، داده‌هایش باید حذف شود، بدون اینکه سایر حقوقش نقض شود.
13. قواعد سخت‌گیرانه برای انتقال داده به خارج از اتحادیه:
    انتقال داده فقط در صورت وجود تضمین‌های قانونی مناسب مجاز است.
14. تفکیک داده شخصی و غیرشخصی در انتقال:
    برای هر نوع داده، چارچوب حفاظتی متفاوت ولی مشخصی در نظر گرفته شده است.

منبع: ترجمه شده توسط بخش فناوری های نوین سایت راسخون