قانون هوش مصنوعی اروپا: ملاحظه 54
از آنجا که داده‌های زیست‌سنجی (biometric data) در زمره دسته‌های خاص داده‌های شخصی قرار می‌گیرند، مقتضی است چندین مورد استفاده حساس و حیاتی از سامانه‌های زیست‌سنجی، تا آنجا که استفاده از آنها مطابق حقوق اتحادیه و حقوق ملی مجاز باشد، به عنوان سامانه‌های هوش مصنوعی «پرخطر» طبقه‌بندی شوند.عدم دقت‌های فنی در سامانه‌های هوش مصنوعی که برای شناسایی زیست‌سنجی از راه دور اشخاص حقیقی طراحی شده‌اند، می‌تواند به نتایج جانبدارانه و آثار تبعیض‌آمیز منجر شود. خطر بروز چنین نتایجی به‌ویژه در ارتباط با سن، قومیت، نژاد، جنسیت یا معلولیت اهمیت ویژه‌ای دارد. از این‌رو، سامانه‌های شناسایی زیست‌سنجی از راه دور باید با توجه به مخاطراتی که ایجاد می‌کنند، در زمره سامانه‌های پرخطر طبقه‌بندی شوند.
این طبقه‌بندی شامل سامانه‌های هوش مصنوعی‌ای نمی‌شود که صرفاً برای «راستی‌آزمایی زیست‌سنجی» (biometric verification)، از جمله احراز هویت، مورد استفاده قرار می‌گیرند و هدف انحصاری آنها تأیید این امر است که شخص معین همان فردی است که ادعا می‌کند، و یا تأیید هویت شخص صرفاً به منظور دسترسی به یک خدمت، باز کردن یک دستگاه یا دسترسی ایمن به اماکن.
علاوه بر این، سامانه‌های هوش مصنوعی‌ای که برای دسته‌بندی زیست‌سنجی بر اساس ویژگی‌ها یا اوصاف حساس مورد حمایت بند ۱ ماده ۹ European Union GDPR (مقرره 2016/679) طراحی شده‌اند ــ تا جایی که استفاده از آنها تحت این مقرره ممنوع نشده باشد ــ و نیز سامانه‌های تشخیص احساسات که تحت این مقرره ممنوع نیستند، باید به عنوان سامانه‌های پرخطر طبقه‌بندی شوند.
در مقابل، سامانه‌های زیست‌سنجی که منحصراً با هدف امکان‌پذیر ساختن اقدامات امنیت سایبری و حفاظت از داده‌های شخصی مورد استفاده قرار می‌گیرند، نباید سامانه‌های هوش مصنوعی پرخطر تلقی شوند.
.jpg "قانون هوش مصنوعی اروپا: ملاحظه 54")
تحلیل حقوقی ملاحظه ۵۴
۱. داده‌های زیست‌سنجی به عنوان داده‌های حساسمبنای اصلی این ملاحظه آن است که داده‌های زیست‌سنجی، مانند تصویر چهره، اثر انگشت، صدا یا الگوی عنبیه، جزء «داده‌های خاص» یا حساس محسوب می‌شوند. این داده‌ها به دلیل قابلیت منحصر به فردشان در شناسایی اشخاص، در صورت سوءاستفاده می‌توانند آثار عمیقی بر حریم خصوصی، کرامت انسانی و منع تبعیض داشته باشند.
۲. شناسایی زیست‌سنجی از راه دور به عنوان مصداق پرخطر
سامانه‌های شناسایی زیست‌سنجی از راه دور (Remote Biometric Identification) از پرمخاطره‌ترین کاربردهای هوش مصنوعی به شمار می‌روند. این سامانه‌ها غالباً بدون مشارکت فعال فرد و در فضاهای عمومی مورد استفاده قرار می‌گیرند و خطاهای آنها ممکن است منجر به شناسایی نادرست، تبعیض یا نقض حقوق بنیادین شود.
به همین دلیل، حتی در مواردی که این سامانه‌ها ممنوع نشده‌اند، قانونگذار آنها را در طبقه سامانه‌های پرخطر قرار داده است.
۳. تمایز میان شناسایی و راستی‌آزمایی زیست‌سنجی
این ملاحظه میان دو مفهوم مهم تمایز می‌گذارد:Biometric Identification (شناسایی): تطبیق یک فرد با پایگاه داده‌ای از افراد متعدد؛
Biometric Verification (راستی‌آزمایی/احراز هویت): تأیید اینکه شخص همان فردی است که ادعا می‌کند.
احراز هویت برای ورود به تلفن همراه، حساب کاربری یا ساختمان معمولاً در طبقه پرخطر قرار نمی‌گیرد، زیرا دامنه و آثار آن محدودتر است.
۴. دسته‌بندی زیست‌سنجی و تشخیص احساسات
اگر سامانه‌ای با استفاده از داده‌های زیست‌سنجی، ویژگی‌های حساس مانند گرایش سیاسی، باورهای مذهبی یا گرایش جنسی را استنتاج کند، یا برای تشخیص احساسات به کار رود، و استفاده از آن مطلقاً ممنوع نباشد، این سامانه به عنوان پرخطر تلقی می‌شود.این حکم نشان‌دهنده نگرانی جدی قانونگذار نسبت به فناوری‌هایی است که به ارزیابی عمیق ویژگی‌های شخصیتی یا روانی افراد می‌پردازند.
۵. استثنای امنیت سایبری و حفاظت از داده‌ها
سامانه‌هایی که صرفاً برای مقاصدی مانند:تشخیص نفوذ،
کنترل دسترسی،
جلوگیری از سوءاستفاده،
یا تضمین امنیت داده‌ها
به کار می‌روند، از طبقه سامانه‌های پرخطر خارج شده‌اند؛ زیرا هدف آنها حفاظت از امنیت اطلاعات است و معمولاً آثار محدودتری بر حقوق اشخاص دارند.
۶. فلسفه مقرره
این ملاحظه رویکردی مبتنی بر تناسب را نشان می‌دهد: هرجا کاربرد زیست‌سنجی می‌تواند به نظارت، تبعیض یا استنتاج ویژگی‌های حساس منجر شود، مقررات سخت‌گیرانه اعمال می‌شود؛ اما در کاربردهای محدود و ضروری مانند احراز هویت یا امنیت سایبری، رویکرد انعطاف‌پذیرتری اتخاذ شده است.منبع: ترجمه شده توسط بخش فناوری های نوین سایت راسخون
