این ماده قواعد مربوط به نظارت و کنترل سامانههای هوش مصنوعی در بازار اتحادیه اروپا را تبیین میکند و مقرر میدارد که سامانههای هوش مصنوعی، همانند سایر محصولات اقتصادی، مشمول مقررات نظارت بر بازار هستند. مراجع نظارت بر بازار موظفاند بهصورت سالانه کمیسیون و مراجع ملی رقابت را از هرگونه مسئله بالقوه یا استفاده از رویههای ممنوعه مطلع سازند.
سامانههای هوش مصنوعی پرخطر تحت نظارت شدیدتری قرار میگیرند، بهویژه آن دسته از سامانههایی که توسط مؤسسات مالی مورد استفاده قرار میگیرند یا در حوزههای اجرای قانون به کار میروند. مراجع صلاحیتدار میتوانند برای ارتقای انطباق با مقررات و شناسایی موارد عدم انطباق، فعالیتها و تحقیقات مشترک پیشنهاد دهند. همچنین، این مراجع در شرایط معین و با رعایت الزامات قانونی، مجاز به دسترسی به کُد منبع سامانههای هوش مصنوعی پرخطر خواهند بود.
ماده قبلی:
متن ماده 74: نظارت بر بازار و کنترل سامانههای هوش مصنوعی در بازار اتحادیه
۱. مقرره (EU) 2019/1020 در خصوص سامانههای هوش مصنوعی مشمول این مقرره اعمال میشود. بهمنظور تضمین اجرای مؤثر این مقرره:(الف) هرگونه ارجاع به «عامل اقتصادی» در مقرره (EU) 2019/1020، شامل کلیه اشخاص و نهادهای شناساییشده در ماده ۲ (۱) این مقرره تلقی میگردد؛
(ب) هرگونه ارجاع به «محصول» در مقرره (EU) 2019/1020، شامل کلیه سامانههای هوش مصنوعی واقع در دامنه شمول این مقرره خواهد بود.
۲. مراجع نظارت بر بازار موظفاند در چارچوب تعهدات گزارشدهی خود، سالانه هرگونه اطلاعاتی را که در جریان فعالیتهای نظارتی ممکن است برای اجرای قواعد رقابت اتحادیه اروپا اهمیت داشته باشد، به کمیسیون و مراجع ملی رقابت گزارش دهند. همچنین این مراجع باید هر ساله موارد استفاده از رویههای ممنوعه و اقدامات انجامشده در این خصوص را به کمیسیون اعلام کنند.
۳. در مورد سامانههای هوش مصنوعی پرخطر مرتبط با محصولاتی که مشمول قوانین هماهنگسازی اتحادیه اروپا مندرج در پیوست 1 هستند، مرجع نظارت بر بازار همان مرجعی خواهد بود که طبق آن قوانین برای نظارت تعیین شده است. با این حال، کشورهای عضو میتوانند در شرایط مقتضی، مرجع صلاحیتدار دیگری را تعیین کنند، مشروط بر آنکه هماهنگی لازم با مراجع تخصصی ذیربط تضمین شود.
۴. رویههای مقرر در این مقرره در مورد سامانههای هوش مصنوعی مرتبط با محصولاتی که از پیش تحت قوانین هماهنگسازی اتحادیه دارای رویههای حمایتی معادل هستند، اعمال نخواهد شد و در این موارد، رویههای تخصصی مربوطه اجرا میشود.
۵. مراجع نظارت بر بازار میتوانند، در صورت لزوم و بدون لطمه به اختیارات قانونی خود، برخی از اختیارات نظارتی را بهصورت از راه دور اعمال کنند تا اجرای مؤثر این مقرره تضمین شود.
۶. در مورد سامانههای هوش مصنوعی پرخطر مورد استفاده یا عرضهشده توسط مؤسسات مالی مشمول مقررات خدمات مالی اتحادیه اروپا، مرجع نظارت بر بازار، مرجع ملی مسئول نظارت مالی بر آن مؤسسات خواهد بود، مشروط بر آنکه استفاده از سامانه هوش مصنوعی مستقیماً با ارائه خدمات مالی مرتبط باشد.
.jpg "قانون هوش مصنوعی اروپا؛ فصل 9 - ماده 74")
۷. در شرایط خاص و با تضمین هماهنگی، کشورهای عضو میتوانند مرجع دیگری را بهعنوان مرجع نظارت بر بازار تعیین کنند. مراجع ملی نظارت بر مؤسسات اعتباری مشارکتکننده در سازوکار نظارتی واحد اتحادیه اروپا موظفاند هرگونه اطلاعات مهم برای وظایف نظارتی بانک مرکزی اروپا را بدون تأخیر به آن نهاد گزارش دهند.
۸. در خصوص سامانههای هوش مصنوعی پرخطر مورد استفاده در اجرای قانون، مدیریت مرزها، عدالت و دموکراسی، کشورهای عضو باید مراجع حفاظت از دادهها یا سایر مراجع واجد شرایط را بهعنوان مرجع نظارت بر بازار تعیین کنند. فعالیتهای نظارتی نباید به استقلال مراجع قضایی لطمه وارد کند یا در انجام وظایف قضایی آنان مداخله نماید.
۹. در صورتی که نهادها و سازمانهای اتحادیه اروپا مشمول این مقرره باشند، ناظر اروپایی حفاظت از دادهها مرجع نظارت بر بازار آنها خواهد بود، بهجز در مواردی که دیوان دادگستری اتحادیه اروپا در مقام قضایی خود عمل میکند.
۱۰. کشورهای عضو موظفاند هماهنگی میان مراجع نظارت بر بازار و سایر مراجع ملی مرتبط با قوانین اتحادیه اروپا را تسهیل کنند.
۱۱. مراجع نظارت بر بازار و کمیسیون میتوانند تحقیقات و فعالیتهای مشترکی را با هدف افزایش انطباق، شناسایی تخلفات، ارتقای آگاهی یا ارائه راهنمایی در خصوص سامانههای هوش مصنوعی پرخطر که در چند کشور عضو خطر جدی ایجاد میکنند، انجام دهند. دفتر هوش مصنوعی اتحادیه اروپا وظیفه پشتیبانی هماهنگی این اقدامات را بر عهده دارد.
۱۲. مراجع نظارت بر بازار میتوانند در حد ضرورت، به مستندات و دادههای آموزشی، اعتبارسنجی و آزمون سامانههای هوش مصنوعی پرخطر دسترسی کامل داشته باشند، از جمله از طریق ابزارهای فنی و دسترسی از راه دور، مشروط بر رعایت الزامات امنیتی.
۱۳. دسترسی به کُد منبع سامانه هوش مصنوعی پرخطر تنها در صورت درخواست مستدل و در موارد ضروری برای بررسی انطباق قانونی، و پس از ناکافی بودن سایر روشهای نظارتی، مجاز خواهد بود.
۱۴. کلیه اطلاعات و مستندات بهدستآمده توسط مراجع نظارت بر بازار، مشمول الزامات محرمانگی مقرر در این مقرره خواهند بود.
.jpg "قانون هوش مصنوعی اروپا؛ فصل 9 - ماده 74")
تحلیل و تفسیر بند به بند ماده 74: نظارت بر بازار و کنترل سامانههای هوش مصنوعی در بازار اتحادیه
بند نخست ماده ۷۴ جایگاه سامانههای هوش مصنوعی را در نظام نظارت بر بازار اتحادیه اروپا روشن میکند و آنها را از حیث نظارتی همتراز «محصولات اقتصادی» قرار میدهد. با تعمیم مفاهیم «عامل اقتصادی» و «محصول» در مقرره 2019/1020 به سامانههای هوش مصنوعی، قانونگذار قصد دارد خلأ نظارتی ایجاد نشود و تمام بازیگران زنجیره ارزش هوش مصنوعی تحت یک چارچوب اجرایی منسجم قرار گیرند. این بند نقش پیونددهنده میان قانون هوش مصنوعی و رژیم عمومی نظارت بر بازار را ایفا میکند.بند دوم وظیفه اطلاعرسانی مراجع نظارت بر بازار را فراتر از ایمنی و انطباق فنی برده و آن را به حوزه رقابت نیز گسترش میدهد. الزام به گزارش سالانه اطلاعات مرتبط با قواعد رقابت و رویههای ممنوعه نشان میدهد که قانونگذار به آثار اقتصادی و ساختاری هوش مصنوعی، از جمله سوءاستفادههای رقابتی، توجه دارد و میخواهد اجرای قانون هوش مصنوعی با سیاست رقابت اتحادیه هماهنگ باشد.
بند سوم به مسأله تعیین مرجع صلاحیتدار نظارت بر بازار در مواردی میپردازد که سامانههای هوش مصنوعی با محصولات مشمول قوانین هماهنگسازی اتحادیه در ارتباط هستند. اصل بر آن است که مرجع بخشی موجود مسئول نظارت باشد، اما انعطاف لازم برای تعیین مرجع دیگر نیز پیشبینی شده است. این بند در عمل از تداخل صلاحیتها جلوگیری کرده و در عین حال امکان مدیریت مؤثر موارد پیچیده یا خاص را فراهم میکند.
بند چهار با حذف اعمال برخی رویههای این مقرره در مواردی که قوانین بخشی معادل وجود دارد، از تکرار مقررات و بار نظارتی مضاعف جلوگیری میکند. این رویکرد نشاندهنده اصل هماهنگی و تناسب در قانونگذاری اتحادیه است، بهگونهای که هدف حمایت و ایمنی حفظ میشود بدون آنکه نظامهای نظارتی موازی و غیرضروری ایجاد شود.
بند پنجم اختیارات نظارتی مراجع را تقویت میکند و اجازه میدهد برخی ابزارهای کنترلی بهصورت از راه دور اعمال شوند. این بند پاسخ مستقیمی به ماهیت دیجیتال و غیرمتمرکز سامانههای هوش مصنوعی است و امکان نظارت مؤثر را حتی بدون حضور فیزیکی فراهم میسازد، در حالی که اختیارات عمومی مراجع طبق مقررات پیشین محفوظ میماند.
بند ششم نظارت بر سامانههای هوش مصنوعی پرخطر در حوزه خدمات مالی را به مراجع نظارتی مالی ملی میسپارد، مشروط بر آنکه استفاده از سامانه مستقیماً با ارائه خدمات مالی مرتبط باشد. این بند بر تخصصمحوری تأکید دارد و میپذیرد که نهادهای مالی، به دلیل پیچیدگی و حساسیت این حوزه، نیازمند نظارتی تخصصی و هماهنگ با مقررات مالی هستند.
بند هفتم با حفظ اصل تخصصمحوری، امکان استثنا و تعیین مرجع دیگر را فراهم میکند، اما شرط اساسی را هماهنگی نهادی قرار میدهد. همچنین، تکلیف گزارشدهی به بانک مرکزی اروپا در چارچوب سازوکار نظارتی واحد، نشاندهنده اهمیت پیوند میان نظارت بر هوش مصنوعی و ثبات نظام بانکی در سطح اتحادیه است.
بند هشتم حوزههای حساس حاکمیتی مانند اجرای قانون، مدیریت مرزها، عدالت و دموکراسی را بهطور خاص مورد توجه قرار میدهد و نظارت بر سامانههای پرخطر در این حوزهها را به مراجع حفاظت از دادهها یا مراجع همتراز میسپارد. در عین حال، استقلال مراجع قضایی بهصراحت تضمین شده است تا نظارت بر بازار به مداخله در عملکرد قضایی منجر نشود.
بند نهم برای نهادها و سازمانهای اتحادیه اروپا یک مرجع واحد نظارتی تعیین میکند و آن ناظر اروپایی حفاظت از دادههاست. استثنای مربوط به دیوان دادگستری اتحادیه اروپا، اصل استقلال قوه قضاییه را در سطح اتحادیه تثبیت میکند و نشان میدهد که حتی در چارچوب نظارت بر هوش مصنوعی، مرزهای نهادی رعایت میشود.
بند دهم بر ضرورت هماهنگی افقی میان مراجع نظارت بر بازار و سایر نهادهای ملی تأکید دارد. این بند اذعان میکند که سامانههای هوش مصنوعی پرخطر اغلب در تقاطع چند رژیم حقوقی قرار میگیرند و بدون همکاری نهادی، اجرای مؤثر مقررات امکانپذیر نخواهد بود.
بند یازدهم امکان انجام فعالیتها و تحقیقات مشترک میان مراجع نظارتی و کمیسیون را پیشبینی میکند و بهویژه بر مواردی تمرکز دارد که سامانههای هوش مصنوعی پرخطر در چند کشور عضو خطر جدی ایجاد میکنند. نقش دفتر هوش مصنوعی در هماهنگی این اقدامات، نشاندهنده گرایش به نظارت متمرکزتر در موارد پرریسک فرامرزی است.
بند دوازدهم اختیارات گستردهای برای دسترسی مراجع نظارت بر بازار به مستندات و دادههای مورد استفاده در توسعه سامانههای هوش مصنوعی پرخطر پیشبینی میکند. این بند شفافیت فنی را شرط اجرای مؤثر مقررات میداند، اما همزمان آن را به ضرورت انجام وظایف نظارتی و رعایت ملاحظات امنیتی محدود میسازد.
بند سیزدهم دسترسی به کد منبع را بهعنوان شدیدترین ابزار نظارتی، به شرایط سختگیرانهای مقید میکند. این بند توازن میان حفاظت از اسرار تجاری و نیاز به ارزیابی انطباق قانونی را برقرار کرده و کد منبع را تنها زمانی قابل دسترسی میداند که سایر ابزارهای نظارتی ناکافی بوده باشند.
بند چهاردهم در نهایت با تأکید بر محرمانگی اطلاعات، اطمینان میدهد که دادهها و مستندات حساس ارائهدهندگان در چارچوب تعهدات قانونی محافظت میشود. این بند برای ایجاد اعتماد میان فعالان بازار و مراجع نظارتی ضروری است و شرط موفقیت عملی نظام نظارت بر بازار هوش مصنوعی محسوب میشود.
منبع: ترجمه شده توسط بخش فناوری های نوین سایت راسخون
