قانون هوش مصنوعی اروپا: ملاحظه 64

ملاحظه 64 مقرر می‌دارد که برای کاهش ریسک‌های سامانه‌های هوش مصنوعی پرخطر و تضمین قابلیت اعتماد آن‌ها، مجموعه‌ای از الزامات الزامی باید بر اساس هدف مورد نظر سامانه، زمینه استفاده و نظام مدیریت ریسک ارائه‌دهنده اعمال شود. این الزامات باید متناسب، مؤثر و مبتنی بر آخرین وضعیت فنی باشند. AI Act جایگزین قوانین بخشی اتحادیه مانند مقررات تجهیزات پزشکی یا ماشین‌آلات نیست، بلکه مکمل آن‌هاست و خطرات خاص هوش مصنوعی را پوشش می‌دهد. ارائه‌دهندگان می‌توانند برای کاهش هزینه‌ها و بار اداری، مستندات و آزمون‌های مورد نیاز را با رویه‌های موجود ادغام کنند، اما همچنان موظف به رعایت کامل همه الزامات قانونی قابل اعمال هستند.

ملاحظه قبلی:
قانون هوش مصنوعی اروپا: ملاحظه 63

قانون هوش مصنوعی اروپا: ملاحظه 64

به منظور کاهش مخاطرات ناشی از سامانه‌های هوش مصنوعی پرخطر که در بازار عرضه شده یا به بهره‌برداری گذاشته می‌شوند، و نیز برای تضمین سطح بالایی از قابلیت اعتماد، لازم است مجموعه‌ای از الزامات الزامی بر این سامانه‌ها اعمال شود. این الزامات باید با توجه به هدف مورد نظر سامانه هوش مصنوعی، زمینه استفاده از آن، و بر اساس نظام مدیریت ریسکی که توسط ارائه‌دهنده ایجاد می‌شود، تعیین و اجرا گردد.

اقداماتی که ارائه‌دهندگان برای رعایت الزامات الزامی این مقرره اتخاذ می‌کنند باید وضعیت فنی شناخته‌شده و پذیرفته‌شده (state of the art) در حوزه هوش مصنوعی را مدنظر قرار داده و از حیث دامنه و شدت، متناسب و مؤثر برای تحقق اهداف این مقرره باشند.

بر اساس چارچوب قانون‌گذاری جدید اتحادیه اروپا (New Legislative Framework)، همان‌گونه که در اطلاعیه کمیسیون موسوم به The Blue Guide on the implementation of EU product rules 2022 تبیین شده است، قاعده کلی آن است که ممکن است بیش از یک سند تقنینی هماهنگ‌ساز اتحادیه اروپا به یک محصول واحد اعمال شود، زیرا عرضه یا بهره‌برداری از محصول تنها زمانی مجاز است که محصول با تمامی مقررات هماهنگ‌ساز قابل اعمال مطابقت داشته باشد.

خطراتی که سامانه‌های هوش مصنوعی موضوع این مقرره ایجاد می‌کنند، ناظر به جنبه‌هایی متفاوت از موضوعات تحت پوشش قوانین بخشی موجود اتحادیه است. از این رو، الزامات این مقرره مکمل مقررات هماهنگ‌ساز موجود اتحادیه خواهد بود. برای مثال، ماشین‌آلات یا تجهیزات پزشکی مجهز به سامانه هوش مصنوعی ممکن است مخاطراتی ایجاد کنند که در الزامات اساسی سلامت و ایمنی قوانین بخشی مربوط پیش‌بینی نشده است، زیرا آن قوانین به طور خاص به خطرات ویژه سامانه‌های هوش مصنوعی نمی‌پردازند.

این امر مستلزم اجرای هم‌زمان و مکمل چندین سند قانونی است. به منظور تضمین انسجام و جلوگیری از تحمیل بار اداری و هزینه‌های غیرضروری، ارائه‌دهندگان محصولاتی که مشتمل بر یک یا چند سامانه هوش مصنوعی پرخطر هستند و هم‌زمان مشمول این مقرره و سایر مقررات هماهنگ‌ساز اتحادیه می‌شوند، باید در خصوص نحوه عملیاتی تضمین انطباق محصول با تمامی الزامات قابل اعمال از انعطاف لازم برخوردار باشند.

این انعطاف می‌تواند، برای نمونه، به این معنا باشد که ارائه‌دهنده بخشی از آزمون‌ها، فرایندهای گزارش‌دهی، اطلاعات و مستندات موردنیاز این مقرره را در رویه‌ها و اسناد موجودی که بر اساس قوانین بخشی اتحادیه تهیه می‌شوند ادغام کند. با این حال، چنین انعطافی به هیچ وجه نباید موجب تضعیف تعهد ارائه‌دهنده به رعایت کامل تمامی الزامات قانونی قابل اعمال گردد.

تحلیل ملاحظه 64

1. هدف اصلی ملاحظه

این ملاحظه مبنای حقوقی الزامات اجباری برای سامانه‌های هوش مصنوعی پرخطر را بیان می‌کند. قانون‌گذار اتحادیه اروپا تصریح می‌کند که برای ایجاد اعتماد عمومی و کاهش ریسک‌های مرتبط با این سامانه‌ها، رعایت مجموعه‌ای از الزامات فنی و حقوقی ضروری است.

2. اصل تناسب و توجه به «وضعیت فنی روز»

الزامات مقرر نباید مطلق یا غیرمنعطف باشند؛ بلکه باید:

متناسب با نوع و شدت ریسک باشند؛
با هدف مورد نظر سامانه هماهنگ شوند؛
مطابق با آخرین دستاوردهای فنی شناخته‌شده در حوزه هوش مصنوعی طراحی شوند.
بنابراین ارائه‌دهنده مکلف است از استانداردهای به‌روز و بهترین رویه‌های صنعتی بهره گیرد.

3. تکمیل‌کننده بودن AI Act نسبت به قوانین بخشی

AI Act جایگزین مقررات بخشی موجود مانند قوانین تجهیزات پزشکی یا ماشین‌آلات نیست، بلکه خطرات خاص هوش مصنوعی را پوشش می‌دهد؛ خطراتی مانند:

سوگیری الگوریتمی؛
کاهش شفافیت؛
خطاهای ناشی از داده‌های نامناسب؛
ضعف در نظارت انسانی.

4. اصل اجرای هم‌زمان مقررات

یک محصول ممکن است هم‌زمان مشمول:

AI Act؛
مقررات تجهیزات پزشکی؛
مقررات ماشین‌آلات؛
مقررات ایمنی محصول.

در نتیجه، عرضه محصول تنها زمانی مجاز است که تمامی الزامات قانونی قابل اعمال رعایت شده باشند.

5. انعطاف در نحوه رعایت الزامات

قانون‌گذار برای جلوگیری از دوباره‌کاری اجازه می‌دهد که مستندات و آزمون‌های لازم برای AI Act در مستندات موجود دیگر ادغام شوند. این امر موجب کاهش هزینه‌ها و بار اداری می‌شود.

6. محدودیت انعطاف

انعطاف صرفاً ناظر به شیوه اجرایی است، نه اصل تعهدات. ادغام فرایندها نباید به حذف یا تضعیف هیچ‌یک از الزامات قانونی منجر شود.

7. پیامد عملی برای ارائه‌دهندگان

تولیدکنندگان محصولات مبتنی بر هوش مصنوعی باید یک چارچوب انطباق یکپارچه ایجاد کنند که:

الزامات AI Act؛
الزامات مقررات بخشی؛
آزمون‌ها و مستندسازی؛
فرایندهای گزارش‌دهی
را به صورت هماهنگ پوشش دهد.