قانون هوش مصنوعی اروپا: ملاحظه 141

این ملاحظه چارچوبی برای آزمون سامانه‌های هوش مصنوعی پرخطر در شرایط واقعی بدون حضور در محیط آزمون نظارتی تعیین می‌کند، همراه با الزامات سخت‌گیرانه برای رضایت، نظارت، کاهش ریسک و حفاظت از داده‌ها.
پنجشنبه، 24 ارديبهشت 1405
تخمین زمان مطالعه:
موارد بیشتر برای شما
قانون هوش مصنوعی اروپا: ملاحظه 141

این ملاحظه به ارائه‌دهندگان سامانه‌های هوش مصنوعی پرخطر اجازه می‌دهد تا برای تسریع توسعه و عرضه به بازار، این سامانه‌ها را در شرایط واقعی و خارج از محیط‌های آزمون نظارتی آزمایش کنند.


با این حال، به دلیل تأثیرات بالقوه بر افراد، مقرره مجموعه‌ای از تضمین‌ها و شرایط سخت‌گیرانه را وضع می‌کند، از جمله اخذ رضایت آگاهانه، ارائه برنامه آزمون، ثبت در پایگاه داده اتحادیه اروپا، محدودیت زمانی، حمایت از گروه‌های آسیب‌پذیر و نظارت مؤثر. همچنین بر امکان بازگشت‌پذیری تصمیمات سامانه، حذف داده‌ها در صورت انصراف افراد، و رعایت قواعد انتقال داده به کشورهای ثالث تأکید می‌کند.

مقاله قبلی:
قانون هوش مصنوعی  اروپا: ملاحظه 140
 

خلاصه قانون هوش مصنوعی اروپا: ملاحظه 141:

به‌منظور تسریع فرایند توسعه و عرضه به بازار سامانه‌های هوش مصنوعی پرخطر که در پیوست این مقرره فهرست شده‌اند، اهمیت دارد که ارائه‌دهندگان یا ارائه‌دهندگان بالقوه چنین سامانه‌هایی بتوانند از یک رژیم خاص برای آزمون این سامانه‌ها در شرایط واقعی نیز بهره‌مند شوند، بدون آنکه در محیط آزمون نظارتی هوش مصنوعی مشارکت داشته باشند. با این حال، در چنین مواردی، با در نظر گرفتن پیامدهای احتمالی این‌گونه آزمون‌ها بر افراد، باید تضمین شود که تضمین‌ها و شرایط مناسب و کافی توسط این مقرره برای ارائه‌دهندگان یا ارائه‌دهندگان بالقوه پیش‌بینی شده است.

 این تضمین‌ها باید، از جمله، شامل اخذ رضایت آگاهانه اشخاص حقیقی برای مشارکت در آزمون در شرایط واقعی باشد، به‌استثنای حوزه اجرای قانون که در آن اخذ رضایت آگاهانه مانع از انجام آزمون سامانه هوش مصنوعی خواهد شد. رضایت اشخاص برای مشارکت در چنین آزمونی طبق این مقرره، متمایز از رضایت اشخاص موضوع داده برای پردازش داده‌های شخصی آنان بر اساس قوانین مربوط به حفاظت از داده بوده و خدشه‌ای به آن وارد نمی‌کند.
 
قانون هوش مصنوعی اروپا: ملاحظه 141


 همچنین، اهمیت دارد که خطرات به حداقل برسد و امکان نظارت توسط مقامات صلاحیت‌دار فراهم گردد؛ از این‌رو، لازم است که ارائه‌دهندگان بالقوه دارای یک طرح آزمون در شرایط واقعی باشند که به مرجع صلاحیت‌دار نظارت بر بازار ارائه شده باشد، آزمون را در بخش‌های اختصاصی پایگاه داده اتحادیه اروپا ثبت نمایند (با رعایت برخی استثنائات محدود)، محدودیت‌هایی برای مدت انجام آزمون تعیین گردد و تدابیر حفاظتی اضافی برای اشخاص متعلق به برخی گروه‌های آسیب‌پذیر پیش‌بینی شود.

همچنین توافق‌نامه‌ای کتبی برای تعیین نقش‌ها و مسئولیت‌های ارائه‌دهندگان بالقوه و بهره‌برداران تنظیم گردد و نظارت مؤثر توسط کارکنان صلاحیت‌دار دخیل در آزمون در شرایط واقعی تضمین شود. علاوه بر این، مناسب است تدابیر حفاظتی بیشتری پیش‌بینی شود تا اطمینان حاصل گردد که پیش‌بینی‌ها، توصیه‌ها یا تصمیمات سامانه هوش مصنوعی می‌توانند به‌طور مؤثر برگشت‌پذیر بوده و نادیده گرفته شوند و اینکه داده‌های شخصی حفاظت شده و در صورتی که اشخاص رضایت خود برای مشارکت در آزمون را پس بگیرند، حذف شوند، بدون آنکه به حقوق آنان به‌عنوان اشخاص موضوع داده بر اساس حقوق اتحادیه در زمینه حفاظت از داده خدشه‌ای وارد شود.

در خصوص انتقال داده، همچنین مناسب است پیش‌بینی شود که داده‌های جمع‌آوری‌شده و پردازش‌شده برای اهداف آزمون در شرایط واقعی، تنها در صورتی به کشورهای ثالث منتقل شوند که تضمین‌های مناسب و قابل اعمال طبق حقوق اتحادیه برقرار شده باشد، به‌ویژه مطابق با مبانی انتقال داده‌های شخصی تحت حقوق اتحادیه در زمینه حفاظت از داده، و در خصوص داده‌های غیرشخصی نیز تدابیر حفاظتی مناسب مطابق حقوق اتحادیه، از جمله مقررات (اتحادیه اروپا) ۲۰۲۲/۸۶۸ و (اتحادیه اروپا) ۲۰۲۳/۲۸۵۴ پارلمان اروپا و شورا، پیش‌بینی گردد.
 

تحلیل بند به بند ملاحظه 141

  1. هدف: تسریع توسعه و ورود به بازار:
    قانون‌گذار تلاش دارد با فراهم کردن امکان آزمون در شرایط واقعی، روند توسعه و تجاری‌سازی سامانه‌های پرخطر را سرعت ببخشد.
  2. امکان آزمون خارج از محیط آزمون نظارتی:
    برخلاف ملاحظه قبلی، اینجا شرکت‌ها می‌توانند بدون حضور در محیط‌های آزمون رسمی، در دنیای واقعی تست انجام دهند.
  3. ضرورت پیش‌بینی تضمین‌ها به دلیل ریسک برای افراد:
    چون آزمون در محیط واقعی مستقیماً روی انسان‌ها اثر دارد، قانون مجموعه‌ای از شرایط سخت‌گیرانه را الزامی می‌کند.
  4. الزام به اخذ رضایت آگاهانه:
    افراد باید با اطلاع کامل در آزمون شرکت کنند، مگر در حوزه اجرای قانون که این الزام ممکن است مانع آزمون شود.
  5. تفکیک دو نوع رضایت:
    رضایت برای «شرکت در آزمون» با رضایت برای «پردازش داده‌های شخصی» متفاوت است و هر دو باید جداگانه رعایت شوند.
  6. الزام به برنامه‌ریزی و ثبت آزمون:
    ارائه‌دهندگان باید طرح آزمون داشته باشند، آن را به مقام ناظر ارائه دهند و در پایگاه داده اتحادیه ثبت کنند.
  7. محدودیت زمانی آزمون:
    آزمون‌ها نباید نامحدود باشند و باید در بازه زمانی مشخص انجام شوند.
  8. حمایت ویژه از گروه‌های آسیب‌پذیر:
    برای افرادی مانند کودکان یا افراد در شرایط خاص، تدابیر حفاظتی بیشتری لازم است.
  9. تعیین نقش‌ها با توافق‌نامه کتبی:
    مسئولیت‌ها بین ارائه‌دهنده و بهره‌بردار باید شفاف و مکتوب باشد (خیلی شبیه قراردادهای سطح سرویس در پروژه‌های نرم‌افزاری).
  10. نظارت انسانی مؤثر:
    آزمون باید تحت نظارت افراد متخصص انجام شود، نه صرفاً به‌صورت خودکار.
  11. قابلیت بازگشت‌پذیری تصمیمات سامانه:
    تصمیمات یا خروجی‌های سامانه باید قابل لغو یا نادیده گرفتن باشند (اصل کنترل انسانی).
  12. حذف داده‌ها در صورت انصراف:
    اگر فرد رضایتش را پس بگیرد، داده‌هایش باید حذف شود، بدون اینکه سایر حقوقش نقض شود.
  13. قواعد سخت‌گیرانه برای انتقال داده به خارج از اتحادیه:
    انتقال داده فقط در صورت وجود تضمین‌های قانونی مناسب مجاز است.
  14. تفکیک داده شخصی و غیرشخصی در انتقال:
    برای هر نوع داده، چارچوب حفاظتی متفاوت ولی مشخصی در نظر گرفته شده است.

مقاله بعدی:
قانون هوش مصنوعی اروپا: ملاحظه 142
منبع: ترجمه شده توسط بخش فناوری های نوین سایت راسخون
تبلیغات در راسخون
ارسال نظر
با تشکر، نظر شما پس از بررسی و تایید در سایت قرار خواهد گرفت.
متاسفانه در برقراری ارتباط خطایی رخ داده. لطفاً دوباره تلاش کنید.
موارد بیشتر برای شما
مرگ ناگهانی و پرسش های ناتمام؛ چگونه درباره فقدان با کودکان حرف بزنیم؟
مرگ ناگهانی و پرسش های ناتمام؛ چگونه درباره فقدان با کودکان حرف بزنیم؟
واکنش صلیب سرخ جهانی به جنایت‌های دشمن در جنگ چهل روزه علیه ایران چه بود؟
play_arrow
واکنش صلیب سرخ جهانی به جنایت‌های دشمن در جنگ چهل روزه علیه ایران چه بود؟
پرونده جدید علیه رسایی
play_arrow
پرونده جدید علیه رسایی
سواد مرگ، چرا جامعه ای که درباره زندگی حرف می زند از مرگ سخن نمی گوید؟
سواد مرگ، چرا جامعه ای که درباره زندگی حرف می زند از مرگ سخن نمی گوید؟
سلاح شیمیایی ایرانی در قلب واشنگتن؟!
play_arrow
سلاح شیمیایی ایرانی در قلب واشنگتن؟!
ضرب و شتم محمد خردادیان پس از افشاگری علیه پهلوی
play_arrow
ضرب و شتم محمد خردادیان پس از افشاگری علیه پهلوی
اولین ساعت‌مچی تلویزیون دار جهان سیکو در سال ۱۹۸۲ + فیلم
play_arrow
اولین ساعت‌مچی تلویزیون دار جهان سیکو در سال ۱۹۸۲ + فیلم
پیرترین ایرانی در سرشماری جدید شناسایی شد + فیلم
play_arrow
پیرترین ایرانی در سرشماری جدید شناسایی شد + فیلم
آیا هر رازی را باید با یک ربات در میان گذاشت؟
آیا هر رازی را باید با یک ربات در میان گذاشت؟
تقدیر از معلمی که جان دانش‌آموز را براثر خفگی نجات داد + فیلم
play_arrow
تقدیر از معلمی که جان دانش‌آموز را براثر خفگی نجات داد + فیلم
تعبیر جدید ترامپ از ونزوئلا ؛ دارایی جدید آمریکا است + فیلم
play_arrow
تعبیر جدید ترامپ از ونزوئلا ؛ دارایی جدید آمریکا است + فیلم
ادعای کارشناس پزشکی قانونی: جفری اپستین خفه شده است + فیلم
play_arrow
ادعای کارشناس پزشکی قانونی: جفری اپستین خفه شده است + فیلم
نجات خدمه نفتکش متخلف در تنگه هرمز توسط صیادان + فیلم
play_arrow
نجات خدمه نفتکش متخلف در تنگه هرمز توسط صیادان + فیلم
مسیریاب ایرانی با حال‌وهوای بازی GTA به‌روزرسانی شد + فیلم
play_arrow
مسیریاب ایرانی با حال‌وهوای بازی GTA به‌روزرسانی شد + فیلم
گروسی: بازگشت بازرسان آژانس به ایران نباید به توافق سیاسی مشروط شود + فیلم
play_arrow
گروسی: بازگشت بازرسان آژانس به ایران نباید به توافق سیاسی مشروط شود + فیلم