این ماده به قواعد حاکم بر آزمایش سیستمهای هوش مصنوعی پرخطر در شرایط واقعی میپردازد. اشخاص حقوقی که قصد انجام چنین آزمایشهایی را دارند، مکلفاند پیش از شروع آزمایش، طرح آزمایش را به مرجع ذیصلاح در دولت عضو اتحادیه اروپا که آزمایش در قلمرو آن انجام میشود ارائه کنند. در صورتی که مرجع مزبور ظرف مدت ۳۰ روز پاسخی ارائه نکند، طرح آزمایش بهمنزله مورد تأیید تلقی میشود.
مدت آزمایش نباید بیش از شش ماه باشد، لیکن در صورت ضرورت، امکان تمدید آن برای یک دوره ششماهه دیگر وجود دارد. عرضهکنندگان موظفاند اطمینان حاصل کنند که آزمایش هیچگونه آسیب یا اثر منفی بر گروههای آسیبپذیر وارد نمیکند و دادههای جمعآوریشده در جریان آزمایش بهطور مناسب مورد حفاظت قرار میگیرد. در صورت وقوع هرگونه حادثه جدی در خلال آزمایش، گزارش آن الزامی است و آزمایش باید تا زمان رفع مشکل و اتخاذ اقدامات اصلاحی لازم، به حالت تعلیق درآید.
ماده قبلی:
متن ماده قانون هوش مصنوعی اروپا؛ فصل 6 - ماده 60:
- 1. آزمایش سیستمهای هوش مصنوعی پرخطر در شرایط واقعی خارج از محیطهای نظارتی هوش مصنوعی میتواند توسط عرضهکنندگان یا عرضهکنندگان بالقوه سیستمهای هوش مصنوعی پرخطرِ مندرج در پیوست 3، مطابق با مفاد این ماده و بر اساس «طرح آزمایش در شرایط واقعی» موضوع این ماده بدون خدشه به ممنوعیت های مقرر در ماده 5 انجام شود.
- کمیسیون اروپا از طریق اعمال اجرایی، عناصر تفصیلی طرح آزمایش در شرایط واقعی را مشخص خواهد کرد. این اعمال اجرایی مطابق با رویه رسیدگی مقرر در ماده ۹۸ (۲) تصویب میشوند.
2. عرضهکنندگان یا عرضهکنندگان بالقوه میتوانند آزمایش سیستمهای هوش مصنوعی پرخطر مندرج در پیوست 3 را در شرایط واقعی، در هر زمان پیش از عرضه به بازار یا بهرهبرداری از سیستم هوش مصنوعی، بهصورت مستقل یا در مشارکت با یک یا چند بهرهبردار یا بهرهبردار بالقوه انجام دهند.
3. آزمایش سیستمهای هوش مصنوعی پرخطر در شرایط واقعی تحت این ماده، خدشهای به هرگونه بازبینی یا ارزیابی اخلاقی که به موجب حقوق اتحادیه یا حقوق ملی الزامی است، وارد نمیکند.
4. عرضهکنندگان یا عرضهکنندگان بالقوه تنها در صورتی مجاز به انجام آزمایش در شرایط واقعی هستند که تمامی شرایط زیر احراز شود:
(الف) عرضهکننده یا عرضهکننده بالقوه، طرح آزمایش در شرایط واقعی را تهیه و آن را به مرجع نظارت بر بازار در دولت عضوی که آزمایش در آن انجام میشود، ارائه کرده باشد؛
(ب) مرجع نظارت بر بازار در دولت عضو محل انجام آزمایش، آزمایش در شرایط واقعی و طرح مربوطه را تأیید کرده باشد؛ در صورتی که مرجع مذکور ظرف ۳۰ روز پاسخی ارائه نکند، آزمایش و طرح آزمایش بهمنزله تأییدشده تلقی میشوند. در مواردی که حقوق ملی تأیید ضمنی را پیشبینی نکرده باشد، آزمایش همچنان منوط به اخذ مجوز خواهد بود؛
.jpg "قانون هوش مصنوعی اروپا؛ فصل 6 - ماده 60: آزمایش هوش مصنوعی پرخطر در شرایط واقعی خارج از نظارت هوش")
(ج) عرضهکننده یا عرضهکننده بالقوه، بهاستثنای عرضهکنندگان یا عرضهکنندگان بالقوه سیستمهای هوش مصنوعی پرخطر موضوع بندهای ۱، ۶ و ۷ پیوست 3 در حوزههای اجرای قانون، مهاجرت، پناهندگی و مدیریت کنترل مرزها، و نیز سیستمهای هوش مصنوعی پرخطر موضوع بند ۲ پیوست 3، آزمایش در شرایط واقعی را مطابق با ماده ۷۱ (۴) با یک شناسه یکتای واحد در سطح اتحادیه و با اطلاعات مندرج در پیوست 9 ثبت کرده باشد؛
عرضهکنندگان یا عرضهکنندگان بالقوه سیستمهای موضوع بندهای ۱، ۶ و ۷ پیوست 3 در حوزههای اجرای قانون، مهاجرت، پناهندگی و مدیریت کنترل مرزها، آزمایش را در بخش امن و غیرعمومی پایگاه داده اتحادیه اروپا مطابق با ماده ۴۹ (۴)(د)، با شناسه یکتای واحد در سطح اتحادیه و اطلاعات مقرر در آن ثبت کرده باشند؛
عرضهکنندگان یا عرضهکنندگان بالقوه سیستمهای موضوع بند ۲ پیوست 3، آزمایش را مطابق با ماده ۴۹ (۵) ثبت کرده باشند؛
(د) عرضهکننده یا عرضهکننده بالقوهای که آزمایش را انجام میدهد، در اتحادیه اروپا مستقر باشد یا نماینده قانونیای را که در اتحادیه اروپا مستقر است، منصوب کرده باشد؛
(هـ) دادههایی که بهمنظور آزمایش در شرایط واقعی جمعآوری و پردازش میشوند، تنها در صورتی به کشورهای ثالث منتقل شوند که تضمینها و حمایتهای مناسب و قابل اعمال مطابق با حقوق اتحادیه برقرار شده باشد؛
(و) مدت آزمایش در شرایط واقعی بیش از حد لازم برای تحقق اهداف آن نباشد و در هر حال از شش ماه تجاوز نکند؛ مشروط به اعلام قبلی عرضهکننده یا عرضهکننده بالقوه به مرجع نظارت بر بازار همراه با توضیح ضرورت این تمدید این مدت میتواند برای یک دوره ششماهه اضافی تمدید شود؛
(ز) اشخاص موضوع آزمایش در شرایط واقعی که به دلیل سن یا معلولیت در زمره گروههای آسیبپذیر قرار دارند، بهطور مناسب مورد حمایت و حفاظت قرار گیرند؛
(ح) در صورتی که عرضهکننده یا عرضهکننده بالقوه آزمایش را با همکاری یک یا چند بهرهبردار یا بهرهبردار بالقوه سازماندهی کند، بهرهبرداران مذکور از تمامی جنبههای آزمایش که برای تصمیمگیری آنان جهت مشارکت مرتبط است، مطلع شده و دستورالعملهای مربوط به استفاده از سیستم هوش مصنوعی موضوع ماده ۱۳ را دریافت کرده باشند؛ عرضهکننده یا عرضهکننده بالقوه و بهرهبردار یا بهرهبردار بالقوه باید توافقنامهای منعقد کنند که نقشها و مسئولیتهای آنان را بهمنظور تضمین رعایت مقررات مربوط به آزمایش در شرایط واقعی تحت این مقرره و سایر حقوق قابل اعمال اتحادیه و ملی مشخص نماید؛
.png "قانون هوش مصنوعی اروپا؛ فصل 6 - ماده 60: آزمایش هوش مصنوعی پرخطر در شرایط واقعی خارج از نظارت هوش")
(ط) اشخاص موضوع آزمایش در شرایط واقعی، رضایت آگاهانه خود را مطابق با ماده ۶۱ اعلام کرده باشند؛ یا در حوزه اجرای قانون، در مواردی که اخذ رضایت آگاهانه مانع انجام آزمایش سیستم هوش مصنوعی شود، خود آزمایش و نتایج آن در شرایط واقعی نباید هیچ اثر منفی بر اشخاص موضوع آزمایش داشته باشد و دادههای شخصی آنان پس از انجام آزمایش حذف شود؛
(ی) آزمایش در شرایط واقعی بهطور مؤثر تحت نظارت عرضهکننده یا عرضهکننده بالقوه و همچنین بهرهبرداران یا بهرهبرداران بالقوه، از طریق اشخاصی که دارای صلاحیت حرفهای مناسب در حوزه مربوطه بوده و از ظرفیت، آموزش و اختیار لازم برای انجام وظایف خود برخوردارند، انجام شود؛
(ک) پیشبینیها، توصیهها یا تصمیمات سیستم هوش مصنوعی بهطور مؤثر قابل بازگشت، لغو و نادیده گرفتن باشند.
5. هر یک از اشخاص موضوع آزمایش در شرایط واقعی، یا حسب مورد نماینده قانونی آنان، میتوانند در هر زمان، بدون تحمل هیچگونه ضرر یا پیامد منفی و بدون ارائه توجیه، با لغو رضایت آگاهانه خود از آزمایش خارج شوند و میتوانند درخواست حذف فوری و دائمی دادههای شخصی خود را مطرح کنند. لغو رضایت آگاهانه، فعالیتهایی را که پیشتر انجام شدهاند، تحت تأثیر قرار نمیدهد.
6. مطابق با ماده ۷۵، دولتهای عضو باید به مراجع نظارت بر بازار خود اختیارات لازم برای الزام عرضهکنندگان و عرضهکنندگان بالقوه به ارائه اطلاعات، انجام بازرسیهای از راه دور یا حضوری بدون اطلاع قبلی، و انجام کنترل بر نحوه اجرای آزمایش در شرایط واقعی و سیستمهای هوش مصنوعی پرخطر مرتبط را اعطا کنند. این مراجع باید از این اختیارات برای تضمین توسعه ایمن آزمایشها در شرایط واقعی استفاده نمایند.
7. هرگونه حادثه جدی که در جریان آزمایش در شرایط واقعی شناسایی شود، باید مطابق با ماده ۷۳ به مرجع ملی نظارت بر بازار گزارش گردد. عرضهکننده یا عرضهکننده بالقوه باید فوراً اقدامات کاهشی مناسب را اتخاذ کند و در صورت عدم امکان، آزمایش را تا زمان اجرای این اقدامات به حالت تعلیق درآورد یا در غیر این صورت آن را خاتمه دهد. همچنین عرضهکننده یا عرضهکننده بالقوه باید رویهای برای فراخوان فوری سیستم هوش مصنوعی در صورت خاتمه آزمایش در شرایط واقعی برقرار کند.
8. عرضهکنندگان یا عرضهکنندگان بالقوه باید مرجع ملی نظارت بر بازار در دولت عضو محل انجام آزمایش را از تعلیق یا خاتمه آزمایش در شرایط واقعی و از نتایج نهایی آن مطلع سازند.
9. عرضهکننده یا عرضهکننده بالقوه مطابق با حقوق مسئولیت مدنی قابل اعمال اتحادیه و حقوق ملی، نسبت به هرگونه خسارتی که در جریان آزمایش در شرایط واقعی ایجاد شود، مسئول خواهد بود.
تحلیل و تفسیر بند به بند:
بند ۱این بند اصل جواز انجام آزمایش سیستمهای هوش مصنوعی پرخطر در شرایط واقعی خارج از محیطهای نظارتی مشروط به رعایت چارچوب ماده ۶۰ و بدون نقض ممنوعیتهای مطلق ماده ۵ را تثبیت میکند. نقش کمیسیون اروپا در تعیین اجزای دقیق «طرح آزمایش در شرایط واقعی» نشاندهنده رویکرد متمرکز و هماهنگ اتحادیه برای جلوگیری از تفسیرهای پراکنده در سطح دولتهای عضو است. همچنین، این بند تصریح میکند که مقررات خاص محصولات مشمول قوانین هماهنگسازی اتحادیه همچنان حاکم باقی میمانند.
بند ۲
این بند دامنه زمانی آزمایش را روشن میسازد و اجازه میدهد آزمایش در هر مرحله پیش از عرضه به بازار یا بهرهبرداری انجام شود. همچنین امکان انجام آزمایش بهصورت مشارکتی با بهرهبرداران را پیشبینی میکند که نشاندهنده پذیرش واقعیتهای عملی توسعه و استقرار سیستمهای هوش مصنوعی است.
بند ۳
این بند استقلال الزامات اخلاقی را تضمین میکند و تصریح مینماید که مجوز آزمایش بر اساس ماده ۶۰، جایگزین ارزیابیهای اخلاقی الزامآور در حقوق اتحادیه یا حقوق ملی نمیشود. این امر بهویژه در حوزههایی مانند سلامت، زیستپزشکی یا اجرای قانون اهمیت مضاعف دارد.
.png "قانون هوش مصنوعی اروپا؛ فصل 6 - ماده 60: آزمایش هوش مصنوعی پرخطر در شرایط واقعی خارج از نظارت هوش")
بند ۴
این بند هسته اصلی ماده ۶۰ محسوب میشود و مجموعهای از شروط ماهوی، شکلی و حمایتی را برای انجام آزمایش تعیین میکند:
- )الف) و (ب): اصل نظارت پیشینی مرجع نظارت بر بازار و سازوکار «تأیید ضمنی» ۳۰روزه، تعادلی میان حمایت از نوآوری و جلوگیری از بوروکراسی بیشازحد ایجاد میکند.
- )ج: (نظام ثبت آزمایش با تفکیک سطح دسترسی (عمومی/غیرعمومی) نشاندهنده حساسیت ویژه حوزههایی مانند اجرای قانون، مهاجرت و کنترل مرزهاست.
- )د:( الزام به استقرار در اتحادیه یا داشتن نماینده قانونی، امکان اعمال مؤثر صلاحیت و مسئولیتپذیری حقوقی را تضمین میکند.
- )ه:( انتقال داده به کشورهای ثالث منوط به تضمینهای حقوقی، همراستا با رژیم حفاظت از دادههای اتحادیه است.
- )و:( محدودیت زمانی آزمایش، از تبدیل آزمایش به بهرهبرداری عملی بدون طی مراحل قانونی جلوگیری میکند.
- )ز:( حمایت مضاعف از گروههای آسیبپذیر بیانگر رویکرد مبتنی بر حقوق بنیادین است.
- )ح: (الزام به شفافیت و قرارداد میان عرضهکننده و بهرهبردار، توزیع مسئولیتها را روشن و قابل پیگیری میسازد.
- )ط: (اصل رضایت آگاهانه قاعده است و استثنای اجرای قانون بهطور محدود و مشروط پذیرفته شده است.
- )ی: (نظارت انسانی مؤثر تضمین میکند که آزمایش کاملاً خودکار و خارج از کنترل انسانی نباشد.
- )ک: (قابلیت بازگشت یا بیاثر کردن تصمیمات سیستم، تضمین عملی اصل کنترل انسانی است.
بند ۵
این بند حق خروج آزادانه اشخاص موضوع آزمایش را تثبیت میکند و آن را بدون نیاز به توجیه یا تحمل پیامد منفی تضمین مینماید. همچنین، حق حذف فوری دادههای شخصی تأکیدی مضاعف بر حاکمیت فرد بر دادههای خود است.
بند ۶
این بند اختیارات گسترده مراجع نظارت بر بازار را تصریح میکند، از جمله بازرسیهای بدون اطلاع قبلی. هدف آن تضمین ایمنی عمومی و جلوگیری از سوءاستفاده از عنوان «آزمایش» برای دور زدن مقررات است.
بند ۷
این بند سازوکار واکنش به حوادث جدی را تعیین میکند. الزام به گزارش فوری، اتخاذ اقدامات کاهشی و امکان تعلیق یا خاتمه آزمایش، بیانگر تقدم ایمنی و حقوق اشخاص بر ادامه پروژههای فناورانه است.
بند ۸
این بند تکلیف اطلاعرسانی رسمی درباره تعلیق، خاتمه و نتایج نهایی آزمایش را مقرر میدارد و شفافیت نظارتی پسینی را تضمین میکند.
بند ۹
این بند اصل مسئولیت مدنی کامل عرضهکننده یا عرضهکننده بالقوه را تثبیت میکند و تصریح مینماید که انجام آزمایش، موجب معافیت از مسئولیت جبران خسارت تحت حقوق اتحادیه یا حقوق ملی نخواهد شد.
منبع: ترجمه شده توسط بخش فناوری های نوین سایت راسخون
