قانون هوش مصنوعی اروپا؛ فصل 6 - ماده 57: محیط‌های آزمون قانون‌مند هوش مصنوعی

خلاصه:

اتحادیه اروپا دولت‌های عضو را ملزم می‌کند که دست‌کم یک «محیط آزمون نظارتی هوش مصنوعی» در سطح ملی ایجاد کنند. این محیط‌ها بسترهایی کنترل‌شده هستند که در آن‌ها سامانه‌های هوش مصنوعی پیش از ورود به بازار، توسعه، آزمون و ارزیابی می‌شوند. هدف از ایجاد این محیط‌ها، حمایت از نوآوری و در عین حال شناسایی و کاهش مخاطرات بالقوه، به‌ویژه در ارتباط با حقوق بنیادین، سلامت و ایمنی است.

این محیط‌ها همچنین راهنمایی‌های لازم درخصوص الزامات و انتظارات مقرراتی را فراهم می‌آورند. چنانچه یک سامانه هوش مصنوعی با موفقیت در چنین محیطی مورد آزمون قرار گیرد، ارائه‌دهنده می‌تواند از این امر به‌عنوان مستند رعایت مقررات استفاده کند. افزون بر این، محیط‌های آزمون مزبور با هدف تسهیل همکاری فرامرزی و تبادل رویه‌ها و الگوهای برتر ایجاد می‌شوند.

متن ماده:

۱.دولت‌های عضو باید اطمینان حاصل کنند که مقامات صلاحیت‌دار آن‌ها حداقل یک محیط آزمون قانون‌مند هوش مصنوعی در سطح ملی ایجاد کنند، که باید تا تاریخ ۲ اوت ۲۰۲۶ عملیاتی شده باشد. این محیط می‌تواند به‌صورت مشترک با مقامات صلاحیت‌دار سایر دولت‌های عضو ایجاد شود. کمیسیون می‌تواند برای ایجاد و بهره‌برداری از این محیط‌ها، پشتیبانی فنی، مشاوره و ابزارهای لازم را فراهم کند. انجام این تکلیف همچنین می‌تواند از طریق مشارکت در یک محیط آزمون موجود محقق شود، مشروط بر این‌که آن مشارکت پوشش ملی معادل را برای دولت عضو مشارکت‌کننده فراهم کند.

۲.ایجاد محیط‌های آزمون قانون‌مند اضافی در سطح منطقه‌ای یا محلی، یا به‌صورت مشترک با مقامات صلاحیت‌دار سایر دولت‌های عضو نیز امکان‌پذیر است.

۳.ناظر اروپایی حفاظت از داده‌ها نیز می‌تواند محیط آزمون قانون‌مند هوش مصنوعی برای نهادها، سازمان‌ها، دفاتر و آژانس‌های اتحادیه ایجاد کرده و وظایف و نقش‌های مقامات صلاحیت‌دار ملی را مطابق این فصل اعمال کند.

۴.دولت‌های عضو باید تضمین کنند که مقامات صلاحیت‌دار یادشده در بندهای ۱ و ۲ منابع کافی برای اجرای مؤثر و به‌موقع این ماده اختصاص دهند. در صورت اقتضاء، مقامات ملی باید با سایر مراجع ذی‌ربط همکاری کنند و می‌توانند مشارکت دیگر بازیگران اکوسیستم هوش مصنوعی را نیز مجاز بشمارند. این ماده تأثیری بر سایر محیط‌های آزمون ایجادشده تحت قوانین ملی یا اتحادیه ندارد. دولت‌های عضو باید سطح مناسبی از همکاری را میان مراجع ناظر بر آن محیط‌ها و مقامات صلاحیت‌دار ملی برقرار سازند.

۵.محیط‌های آزمون قانون‌مند ایجادشده طبق بند ۱ باید محیطی کنترل‌شده فراهم کنند که نوآوری را تقویت نموده و توسعه، آموزش، آزمون و اعتبارسنجی سامانه‌های نوآورانه هوش مصنوعی را برای مدت زمانی محدود، پیش از عرضه به بازار یا بهره‌برداری، مطابق «طرح اختصاصی محیط آزمون» مورد توافق بین ارائه‌دهنده (یا ارائه‌دهنده بالقوه) و مرجع صلاحیت‌دار، تسهیل کند. این محیط‌ها می‌توانند شامل آزمون در شرایط واقعی نیز باشند، مشروط بر آن‌که تحت نظارت محیط آزمون انجام شود.

۶.مراجع صلاحیت‌دار باید در محیط آزمون، حسب مورد، راهنمایی، نظارت و پشتیبانی لازم را برای شناسایی ریسک‌ها به‌ویژه نسبت به حقوق بنیادین، سلامت و ایمنی و نیز برای آزمون و پایش اقدامات کاهش ریسک و ارزیابی اثربخشی آن‌ها در چارچوب الزامات این مقرره و سایر قوانین ملی یا اتحادیه مرتبط ارائه دهند.

۷.مراجع صلاحیت‌دار باید به ارائه‌دهندگان یا ارائه‌دهندگان بالقوه مشارکت‌کننده در محیط آزمون، راهنمایی‌هایی درخصوص انتظارات مقرراتی و نحوه رعایت الزامات این مقرره ارائه کنند. بنا به درخواست ارائه‌دهنده (یا ارائه‌دهنده بالقوه)، مرجع صلاحیت‌دار باید گواهی کتبی فعالیت‌های موفقیت‌آمیز انجام‌شده در محیط آزمون را صادر کند. همچنین باید «گزارش خروج» شامل شرح فعالیت‌ها، نتایج و دستاوردهای حاصل را ارائه دهد. ارائه‌دهندگان می‌توانند این اسناد را در ارزیابی انطباق یا فعالیت‌های نظارت بازار برای اثبات رعایت این مقرره به کار گیرند. گزارش خروج و گواهی صادره باید از سوی نهادهای نظارت بازار و نهادهای ارزیاب انطباق به‌طور مثبت و با هدف تسریع روند ارزیابی انطباق مدنظر قرار گیرد.

۸.با رعایت مقررات محرمانگی ماده ۷۸ و با موافقت ارائه‌دهنده یا ارائه‌دهنده بالقوه، کمیسیون و هیئت مجازند به گزارش‌های خروج دسترسی داشته باشند و می‌توانند آن‌ها را حسب مورد در اجرای وظایف خود تحت این مقرره لحاظ کنند. در صورت موافقت صریح ارائه‌دهنده و مرجع صلاحیت‌دار ملی، گزارش خروج می‌تواند به‌صورت عمومی و از طریق سکوی اطلاعاتی یکپارچه منتشر شود.

۹.ایجاد محیط‌های آزمون قانون‌مند هوش مصنوعی باید با اهداف زیر همراه باشد:
الف) افزایش قطعیت حقوقی برای تحقق انطباق با این مقرره یا سایر قوانین ملی یا اتحادیه؛
ب) پشتیبانی از اشتراک بهترین رویه‌ها از طریق همکاری میان مراجع درگیر در محیط آزمون؛
ج) تقویت نوآوری و رقابت‌پذیری و تسهیل ایجاد اکوسیستم هوش مصنوعی؛
د) کمک به یادگیری مبتنی بر شواهد برای سیاست‌گذاری و تنظیم‌گری؛
ه) تسهیل و تسریع دسترسی سامانه‌های هوش مصنوعی به‌ویژه از سوی شرکت‌های کوچک و متوسط و استارتاپ‌ها به بازار اتحادیه.

۱۰.مراجع صلاحیت‌دار ملی باید اطمینان حاصل کنند که در صورت دخالت پردازش داده شخصی یا قرار گرفتن سامانه تحت حوزه نظارتی سایر مراجع ملی، مراجع حفاظت از داده و سایر مراجع ذی‌صلاح در عملیات محیط آزمون مشارکت کرده و نظارت لازم را در حدود وظایف و اختیارات قانونی خود اعمال کنند.

۱۱.محیط‌های آزمون قانون‌مند تأثیری بر اختیارات نظارتی یا اصلاحی مراجع ناظر از جمله در سطوح منطقه‌ای یا محلی ندارند. هرگونه ریسک جدی نسبت به سلامت، ایمنی یا حقوق بنیادین شناسایی‌شده در فرآیند توسعه و آزمون سامانه باید به‌طور کافی کاهش یابد. مراجع صلاحیت‌دار ملی اختیار دارند در صورت عدم امکان کاهش مؤثر ریسک، فرآیند آزمون یا مشارکت در محیط آزمون را موقتاً یا دائماً تعلیق کنند و باید این تصمیم را به دفتر هوش مصنوعی اطلاع دهند. این مراجع باید اختیارات خود را در حدود قانون و با صلاحدید لازم و با هدف حمایت از نوآوری هوش مصنوعی در اتحادیه اعمال کنند.

۱۲.ارائه‌دهندگان و ارائه‌دهندگان بالقوه مشارکت‌کننده در محیط آزمون همچنان طبق قوانین مسئولیت مدنی اتحادیه و قوانین ملی، مسئول هرگونه خسارت واردشده به اشخاص ثالث در نتیجه آزمایش‌ها هستند. با این حال، در صورتی که ارائه‌دهنده طرح اختصاصی محیط آزمون و شرایط مشارکت را رعایت کرده و با حسن نیت از راهنمایی‌های مرجع صلاحیت‌دار پیروی کند، هیچ جریمه اداری برای تخلف از این مقرره بر او تحمیل نخواهد شد. همین قاعده برای سایر قوانین ملی یا اتحادیه که مراجع مربوطه در محیط آزمون بر آن نظارت داشته‌اند نیز اعمال می‌شود.

۱۳.محیط‌های آزمون قانون‌مند باید به‌گونه‌ای طراحی و اجرا شوند که همکاری فرامرزی میان مراجع صلاحیت‌دار ملی را در صورت اقتضاء تسهیل کنند.

۱۴.مراجع صلاحیت‌دار ملی باید فعالیت‌های خود را هماهنگ کرده و در چارچوب هیئت همکاری نمایند.

۱۵.مراجع صلاحیت‌دار ملی باید ایجاد محیط آزمون را به دفتر هوش مصنوعی و هیئت اطلاع داده و می‌توانند درخواست پشتیبانی و راهنمایی کنند. دفتر هوش مصنوعی باید فهرست محیط‌های آزمون برنامه‌ریزی‌شده و موجود را منتشر و به‌روز نگه دارد تا تعامل و همکاری فرامرزی بیشتر تسهیل شود.

۱۶.از یک سال پس از ایجاد محیط آزمون و سپس هر سال تا پایان آن، و همچنین از طریق یک گزارش نهایی، مراجع صلاحیت‌دار ملی باید به دفتر هوش مصنوعی و هیئت گزارش ارائه دهند. این گزارش‌ها باید شامل پیشرفت، نتایج، بهترین رویه‌ها، رویدادها، درس‌های آموخته‌شده و توصیه‌ها درباره ایجاد محیط آزمون و در صورت اقتضاء درباره اجرای این مقرره یا بازنگری احتمالی آن و سایر قوانین اتحادیه تحت نظارت باشند. این گزارش‌ها یا خلاصه آن‌ها باید به‌صورت عمومی و آنلاین منتشر شوند. کمیسیون نیز حسب مورد از آن‌ها در انجام وظایف خود استفاده خواهد کرد.

۱۷.کمیسیون باید یک رابط اختصاصی یکپارچه ایجاد کند که تمام اطلاعات مربوط به محیط‌های آزمون قانون‌مند هوش مصنوعی را ارائه کرده و امکان تعامل ذی‌نفعان با این محیط‌ها، طرح پرسش به مراجع صلاحیت‌دار و دریافت راهنمایی غیرالزام‌آور درباره انطباق محصولات، خدمات و مدل‌های تجاری نوآورانه مبتنی بر هوش مصنوعی را فراهم کند، طبق ماده ۶۲(۱)(ج). کمیسیون باید در صورت اقتضاء با مراجع صلاحیت‌دار ملی هماهنگی فعال داشته باشد.

تحلیل و تفسیر بند به بند:

بند اول
این بند الزام اصلی را بیان می‌کند:
اتحادیه اروپا کشورهای عضو را موظف کرده که حداقل یک محیط آزمون نظارتی هوش مصنوعی در سطح ملی ایجاد کنند. هدف این محیط، فراهم کردن یک فضای کنترل‌شده برای توسعه و آزمایش سیستم‌های هوش مصنوعی پیش از عرضه در بازار است.
اهمیت حقوقی: ایجاد چنین محیطی، بار حقوقی روی دولت‌ها می‌گذارد و عدم ایجاد آن نقض قانون محسوب می‌شود.

بند دوم
این بند هدف محیط‌های آزمون را تشریح می‌کند:
این محیط‌ها باید امکان نوآوری، آزمایش، ارزیابی و اعتبارسنجی سیستم‌های هوش مصنوعی را فراهم کنند، در حالی که ریسک‌های احتمالی به‌ویژه در حوزه حقوق بنیادین، سلامت و ایمنی پیش از عرضه شناسایی و کاهش یابند.
اهمیت حقوقی: تأکید بر توازن میان نوآوری و حفاظت از حقوق شهروندان.

بند سوم
در این بند نقش نظارتی مشخص می‌شود:
مقامات نظارتی در این محیط‌ها باید راهنمایی، نظارت و پشتیبانی ارائه دهند تا توسعه‌دهندگان بدانند الزامات قانون چگونه باید رعایت شود.
اهمیت حقوقی: این محیط‌ها تنها آزمایشگاه نیستند؛ ابزار آموزشی و تفسیرگر قانون هستند.

بند چهارم
این بند تصریح می‌کند که اگر یک ارائه‌دهنده در محیط آزمون به‌طور موفق عمل کند، مدارک و گزارش‌های خروجی به‌عنوان قرینه مثبت در فرآیند ارزیابی انطباق پذیرفته می‌شود.
اهمیت حقوقی: این بند یک امتیاز قانونی ایجاد می‌کند که می‌تواند زمان ورود به بازار را کاهش دهد.

بند پنجم
این بند هدف ثانویه اما بسیار مهم را بیان می‌کند:
محیط‌های آزمون باید به همکاری میان کشورها، اشتراک تجربیات و افزایش یکپارچگی در فضای تنظیم‌گری هوش مصنوعی کمک کنند.
اهمیت حقوقی: این موضوع از پراکندگی قوانین بین کشورهای عضو جلوگیری می‌کند و همگرایی حقوقی ایجاد می‌کند.

بند ششم
این بند هدف کلی سیاستی را خلاصه می‌کند:
یعنی تقویت نوآوری، تسهیل ورود محصولات به بازار اتحادیه اروپا، و ارتقای رقابت‌پذیریبه‌ویژه برای شرکت‌های کوچک و نوپا و استارت‌آپ‌ها.
اهمیت حقوقی: اتحادیه اروپا می‌خواهد «نوآوری‌محور» باشد و در عین حال کنترل ریسک‌ها را از دست ندهد.