قانون هوش مصنوعی اروپا: متن ملاحظه 52
در خصوص سامانههای هوش مصنوعی مستقل (stand-alone AI systems)، یعنی سامانههای هوش مصنوعی پرخطری که نه جزء ایمنی یک محصول محسوب میشوند و نه خود بهعنوان محصول موضوع مقررات بخشی اتحادیه اروپا قرار میگیرند، شایسته است این سامانهها در صورتی بهعنوان «پرخطر» طبقهبندی شوند که با توجه به هدف موردنظر (intended purpose) آنها، خطر بالایی از ورود آسیب به سلامت و ایمنی اشخاص یا به حقوق بنیادین آنان ایجاد کنند؛ با لحاظ هم شدت آسیب احتمالی و هم احتمال وقوع آن، و مشروط بر آنکه در یکی از حوزههای مشخص و از پیش تعیینشدهای که در این مقرره تصریح شدهاند مورد استفاده قرار گیرند.شناسایی این سامانهها بر مبنای همان روششناسی و معیارهایی صورت میگیرد که برای اصلاحات آتی فهرست سامانههای هوش مصنوعی پرخطر نیز پیشبینی شده است؛ اصلاحاتی که کمیسیون اروپا مجاز است بهمنظور لحاظ کردن سرعت بالای تحولات فناوری و نیز تغییرات احتمالی در نحوه استفاده از سامانههای هوش مصنوعی، از طریق تصویب اعمال تفویضی (delegated acts) اتخاذ نماید.
تحلیل ملاحظه ۵۲
۱. تعریف سامانههای هوش مصنوعی مستقل
این ملاحظه به دستهای از سامانههای هوش مصنوعی میپردازد که به صورت مستقل عمل میکنند و جزئی از یک محصول فیزیکی یا جزء ایمنی آن نیستند. برای مثال:سامانههای استخدام و گزینش نیروی انسانی؛
سامانههای ارزیابی اعتباری؛
سامانههای تصمیمیار قضایی یا اداری؛
سامانههای پذیرش دانشجو یا ارزیابی آموزشی.
این سامانهها برخلاف سامانههای تعبیهشده در محصولات (مانند خودرو یا دستگاه پزشکی)، بهطور مستقیم بر فرآیندهای تصمیمگیری اجتماعی و حقوق افراد اثر میگذارند.
.jpg "قانون هوش مصنوعی اروپا: ملاحظه 52")
۲. معیار دوگانه برای طبقهبندی به عنوان پرخطر
برای آنکه یک سامانه مستقل در زمره سامانههای پرخطر قرار گیرد، دو شرط اساسی باید همزمان وجود داشته باشد:الف) خطر بالا از حیث ماهوی
سامانه باید با توجه به هدف موردنظر خود، خطر قابلتوجهی برای:
سلامت،
ایمنی،
یا حقوق بنیادین اشخاص
ایجاد کند.
ب) استفاده در حوزههای مشخص
سامانه باید در یکی از حوزههای خاصی که قانونگذار در پیوست III AI Act احصا کرده است به کار رود؛ از جمله:
آموزش،
اشتغال،
خدمات مالی،
اجرای قانون،
مهاجرت،
عدالت و فرآیندهای دموکراتیک.
بنابراین صرف خطرناک بودن یا صرف استفاده در یک حوزه خاص، به تنهایی کافی نیست.
۳. معیار ارزیابی خطر: شدت و احتمال وقوع
این ملاحظه تأکید میکند که ارزیابی خطر باید بر پایه دو مؤلفه انجام شود:شدت آسیب احتمالی (Severity of harm)
احتمال وقوع آسیب (Probability of occurrence)
این رویکرد با اصول پذیرفتهشده مدیریت ریسک هماهنگ است و موجب میشود ارزیابی صرفاً نظری نباشد، بلکه بر واقعیتهای عملی مبتنی شود.
۴. نقش هدف موردنظر (Intended Purpose)
طبقهبندی ریسک نه بر اساس قابلیت فنی سامانه، بلکه بر مبنای هدفی انجام میشود که ارائهدهنده برای سامانه تعریف کرده است.به عنوان مثال، یک مدل هوش مصنوعی واحد ممکن است:
در یک کاربرد آموزشی، پرخطر باشد؛
در یک کاربرد تفریحی، خارج از طبقه پرخطر قرار گیرد.
بنابراین، کاربری موردنظر عنصر کلیدی در تحلیل حقوقی است.
۵. اختیار کمیسیون اروپا برای بهروزرسانی فهرست
با توجه به تحول سریع فناوری، قانونگذار اختیار داده است که European Commission از طریق اعمال تفویضی، فهرست حوزههای پرخطر را اصلاح کند.این سازوکار به قانون امکان میدهد بدون نیاز به اصلاح کامل مقرره، با فناوریهای نوظهور سازگار شود.
۶. اهمیت حقوقی ملاحظه ۵۲
این ملاحظه چارچوب حقوقی طبقهبندی سامانههای مستقل را روشن میکند و نشان میدهد که قانونگذار اروپایی تلاش کرده است میان حمایت از حقوق بنیادین و جلوگیری از تحمیل بار مقرراتی غیرضروری تعادل برقرار کند.منبع: ترجمه شده توسط بخش فناوری های نوین سایت راسخون
