قانون هوش مصنوعی اتحادیه اروپا - فصل 2؛ ماده 5: کارهای ممنوعه در حوزه هوش مصنوعی

قانون هوش مصنوعی اتحادیه اروپا انجام کارهای با هوش مصنوعی (AI) را ممنوع می‌کند. این موارد شامل سیستم‌های هوش مصنوعی می‌شود که تصمیم‌گیری‌های افراد را دستکاری می‌کنند یا از آسیب‌پذیری‌های آن‌ها سوءاستفاده می‌کنند، سیستم‌هایی که افراد را بر اساس رفتار اجتماعی یا ویژگی‌های شخصیتی‌شان ارزیابی یا طبقه‌بندی می‌کنند، و سیستم‌هایی که ریسک ارتکاب جرم توسط یک شخص را پیش‌بینی می‌کنند. این قانون همچنین سیستم‌های هوش مصنوعی را که تصاویر چهره را از اینترنت یا فیلم‌های CCTV بدون هدف جمع‌آوری می‌کنند، احساسات را در محل کار یا مؤسسات آموزشی استنباط می‌کنند، و افراد را بر اساس داده‌های بیومتریک‌شان دسته‌بندی می‌کنند، ممنوع می‌کند. با این حال، استثناهایی برای اهداف اجرای قانون در نظر گرفته شده است، مانند جستجو برای اشخاص گمشده یا پیشگیری از حملات تروریستی.

قانون هوش مصنوعی اتحادیه اروپا - فصل 1؛ ماده 4: سواد هوش مصنوعی

ماده ۵: کارهای ممنوعه در هوش مصنوعی

۱. انجام این کارها در حوزه هوش مصنوعی ممنوع خواهند بود:
(الف) عرضه در بازار، راه‌اندازی و یا استفاده از سیستم هوش مصنوعی‌ای که از تکنیک‌های سابلیمینال یا زیرآستانه‌ای فراتر از آگاهی شخص یا تکنیک‌های عمداً دستکاری‌کننده یا فریبنده استفاده می‌کند، با هدف یا اثر تحریف ماهوی رفتار یک شخص یا گروهی از اشخاص از طریق اختلال قابل توجه در توانایی آن‌ها برای اتخاذ تصمیم آگاهانه، به طوری که باعث شود آن‌ها تصمیمی اتخاذ کنند که در غیر این صورت اتخاذ نمی‌کردند، به شیوه‌ای که باعث آسیب قابل توجه به آن شخص، شخص دیگری یا گروهی از اشخاص شود یا به طور معقول احتمال وقوع آن را داشته باشد؛ (مرتبط با بند ۲۹)

(ب) عرضه در بازار، راه‌اندازی و یا استفاده از یک سیستم هوش مصنوعی که از هرگونه آسیب‌پذیری‌های یک شخص طبیعی یا گروه خاصی از اشخاص به دلیل سن، ناتوانی یا وضعیت اجتماعی یا اقتصادی خاص آن‌ها سوءاستفاده می‌کند، با هدف یا اثر تحریف ماهوی رفتار آن شخص یا شخص متعلق به آن گروه به شیوه‌ای که باعث آسیب قابل توجه به آن شخص یا شخص دیگری شود یا به طور معقول احتمال وقوع آن را داشته باشد؛ (مرتبط با بند ۲۹)

(ج) عرضه در بازار، راه‌اندازی یا استفاده از سیستم‌های هوش مصنوعی برای ارزیابی یا طبقه‌بندی اشخاص طبیعی یا گروهی از اشخاص در طول دوره زمانی معینی بر اساس رفتار اجتماعی آن‌ها یا ویژگی‌های شخصی یا شخصیتی شناخته‌شده، استنباط‌شده یا پیش‌بینی‌شده، با امتیاز اجتماعی که منجر به یکی یا هر دو مورد زیر شود:

(۱) رفتار زیان‌بار یا نامطلوب نسبت به اشخاص طبیعی یا گروهی از اشخاص در زمینه‌های اجتماعی که نامرتبط با زمینه‌هایی است که داده‌ها در آن‌ها به طور اولیه تولید یا جمع‌آوری شده‌اند؛
(۲) رفتار زیان‌بار یا نامطلوب نسبت به اشخاص طبیعی یا گروهی از اشخاص که توجیه‌ناپذیر یا نامتناسب با رفتار اجتماعی آن‌ها یا شدت آن است؛ (مرتبط: بند ۳۱)

(د) عرضه در بازار، راه‌اندازی برای این هدف خاص، یا استفاده از یک سیستم هوش مصنوعی برای انجام ارزیابی‌های ریسک اشخاص طبیعی به منظور ارزیابی یا پیش‌بینی ریسک ارتکاب جرم کیفری توسط یک شخص طبیعی، صرفاً بر اساس پروفایلینگ یک شخص طبیعی یا ارزیابی ویژگی‌ها و خصوصیات شخصیتی آن‌ها؛ این ممنوعیت در مورد سیستم‌های هوش مصنوعی که برای حمایت از ارزیابی انسانی درگیری یک شخص در فعالیت جنایی استفاده می‌شوند و که قبلاً بر اساس واقعیت‌های عینی و قابل تأیید مستقیماً مرتبط با فعالیت جنایی است، اعمال نمی‌شود؛ (مرتبط: بند ۴۲)

(ه) عرضه در بازار، راه‌اندازی برای این هدف خاص، یا استفاده از سیستم‌های هوش مصنوعی که پایگاه‌های داده تشخیص چهره را از طریق جمع‌آوری بدون هدف تصاویر چهره از اینترنت یا فیلم‌های CCTV ایجاد یا گسترش می‌دهند؛ مرتبط: بند ۴۳)

(و) عرضه در بازار، راه‌اندازی برای این هدف خاص، یا استفاده از سیستم‌های هوش مصنوعی برای استنباط احساسات یک شخص طبیعی در زمینه‌های محل کار و مؤسسات آموزشی، مگر در مواردی که استفاده از سیستم هوش مصنوعی برای اهداف پزشکی یا ایمنی در نظر گرفته شده یا عرضه در بازار شود؛ مرتبط: بند ۴۴)

(ز) عرضه در بازار، راه‌اندازی برای این هدف خاص، یا استفاده از سیستم‌های دسته‌بندی بیومتریک که اشخاص طبیعی را بر اساس داده‌های بیومتریک آن‌ها به صورت فردی دسته‌بندی می‌کنند تا نژاد، نظرات سیاسی، عضویت در اتحادیه‌های کارگری، باورهای مذهبی یا فلسفی، زندگی جنسی یا گرایش جنسی آن‌ها را استنباط یا نتیجه‌گیری کنند؛ این ممنوعیت شامل برچسب‌گذاری یا فیلتر کردن مجموعه‌های داده بیومتریک قانونی به دست آمده، مانند تصاویر، بر اساس داده‌های بیومتریک یا دسته‌بندی داده‌های بیومتریک در زمینه اجرای قانون نمی‌شود؛ مرتبط: بند ۳۰)

(ح) استفاده از سیستم‌های شناسایی بیومتریک از راه دور «بلادرنگ» در فضاهای عمومی قابل دسترسی برای اهداف اجرای قانون، مگر و تا جایی که چنین استفاده‌ای کاملاً ضروری برای یکی از اهداف زیر باشد:
(۱) جستجوی هدفمند برای قربانیان خاص آدم‌ربایی، قاچاق انسان یا بهره‌کشی جنسی از انسان‌ها، و همچنین جستجو برای اشخاص گمشده؛

(۲) پیشگیری از تهدید خاص، قابل توجه و قریب‌الوقوع نسبت به زندگی یا ایمنی جسمانی اشخاص طبیعی یا تهدید واقعی و حاضر یا واقعی و قابل پیش‌بینی حمله تروریستی؛

(۳) مکان‌یابی یا شناسایی یک شخص مشکوک به ارتکاب جرم کیفری، برای هدف انجام تحقیقات یا تعقیب کیفری یا اجرای مجازات کیفری برای جرایم اشاره‌شده در پیوست II و قابل مجازات در دولت عضو مربوطه با حکم زندان یا دستور بازداشت برای حداکثر دوره حداقل چهار سال. بند (ح) از بند اول زیربند اول، بدون تأثیر بر ماده ۹ مقررات (EU) ۲۰۱۶/۶۷۹ برای پردازش داده‌های بیومتریک برای اهداف غیر از اجرای قانون است.مرتبط: بندهای ۳۲، ۳۳، ۳۸، ۳۹، ۴۰ و ۴۱)

۲. استفاده از سیستم‌های شناسایی بیومتریک از راه دور «بلادرنگ» در فضاهای عمومی قابل دسترسی برای اهداف اجرای قانون برای هر یک از اهداف اشاره‌شده در بند ۱، بند اول زیربند (ح)، تنها برای تأیید هویت فرد هدفمند خاص مستقر خواهد شد و باید عناصر زیر را در نظر بگیرد:

(الف) ماهیت وضعیتی که منجر به استفاده احتمالی می‌شود، به ویژه جدیت، احتمال و مقیاس آسیبی که اگر سیستم استفاده نشود، ایجاد می‌شود؛

(ب) عواقب استفاده از سیستم برای حقوق و آزادی‌های همه اشخاص مربوطه، به ویژه جدیت، احتمال و مقیاس آن عواقب. علاوه بر این، استفاده از سیستم‌های شناسایی بیومتریک از راه دور «بلادرنگ» در فضاهای عمومی قابل دسترسی برای اهداف اجرای قانون برای هر یک از اهداف اشاره‌شده در بند ۱، بند اول زیربند (ح) این ماده، باید با تضمین‌ها و شرایط لازم و متناسب در رابطه با استفاده مطابق با قانون ملی مجوزدهنده آن، به ویژه در مورد محدودیت‌های زمانی، جغرافیایی و شخصی، مطابقت داشته باشد. استفاده از سیستم شناسایی بیومتریک از راه دور «بلادرنگ» در فضاهای عمومی قابل دسترسی تنها در صورتی مجاز است که مقام اجرای قانون ارزیابی تأثیر بر حقوق اساسی مطابق با ماده ۲۷ را تکمیل کرده و سیستم را در پایگاه داده اتحادیه اروپا طبق ماده ۴۹ ثبت کرده باشد. با این حال، در موارد توجیه‌شده فوریت، استفاده از چنین سیستم‌هایی ممکن است بدون ثبت در پایگاه داده اتحادیه اروپا آغاز شود، مشروط بر اینکه چنین ثبت بدون تأخیر غیرموجه تکمیل شود.مرتبط: بندهای ۳۴، ۳۸، ۳۹، ۴۰ و ۴۱)

۳. برای اهداف بند ۱، بند اول زیربند (ح) و بند ۲، هر استفاده از سیستم شناسایی بیومتریک از راه دور «بلادرنگ» در فضاهای عمومی قابل دسترسی برای اهداف اجرای قانون، مشمول مجوز قبلی صادرشده توسط مقام قضایی یا مقام اداری مستقل که تصمیم آن الزام‌آور است در دولت عضوی که استفاده در آن انجام می‌شود، بر اساس درخواست مستدل و مطابق با قواعد دقیق قانون ملی اشاره‌شده در بند ۵، خواهد بود. با این حال، در وضعیت توجیه‌شده فوریت، استفاده از چنین سیستمی ممکن است بدون مجوز آغاز شود مشروط بر اینکه چنین مجوزی بدون تأخیر غیرموجه، حداکثر ظرف ۲۴ ساعت، درخواست شود. اگر چنین مجوزی رد شود، استفاده باید فوراً متوقف شود و تمام داده‌ها، و همچنین نتایج و خروجی‌های آن استفاده باید فوراً دور ریخته و حذف شوند. مقام قضایی صالح یا مقام اداری مستقل که تصمیم آن الزام‌آور است، مجوز را تنها در جایی اعطا خواهد کرد که بر اساس شواهد عینی یا نشانه‌های واضح ارائه‌شده به آن، متقاعد شود که استفاده از سیستم شناسایی بیومتریک از راه دور «بلادرنگ» مربوطه برای دستیابی به یکی از اهداف مشخص‌شده در بند ۱، بند اول زیربند (ح)، به عنوان شناسایی‌شده در درخواست، لازم و متناسب است و به ویژه محدود به آنچه کاملاً ضروری است در مورد دوره زمانی و همچنین دامنه جغرافیایی و شخصی باقی می‌ماند. در تصمیم‌گیری در مورد درخواست، آن مقام باید عناصر اشاره‌شده در بند ۲ را در نظر بگیرد. هیچ تصمیمی که اثر حقوقی نامطلوب بر یک شخص ایجاد کند، نمی‌تواند صرفاً بر اساس خروجی سیستم شناسایی بیومتریک از راه دور «بلادرنگ» اتخاذ شود. مرتبط: بندهای ۳۵، ۳۸، ۳۹، ۴۰ و ۴۱)

۴. بدون تأثیر بر بند ۳، هر استفاده از سیستم شناسایی بیومتریک از راه دور «بلادرنگ» در فضاهای عمومی قابل دسترسی برای اهداف اجرای قانون، باید به مقام نظارت بازار مربوطه و مقام حفاظت از داده‌های ملی مطابق با قواعد ملی اشاره‌شده در بند ۵، اطلاع‌رسانی شود. اطلاع‌رسانی باید حداقل شامل اطلاعات مشخص‌شده تحت بند ۶ باشد و شامل داده‌های عملیاتی حساس نشود. مرتبط: بندهای ۳۶، ۳۸، ۳۹، ۴۰ و ۴۱)

۵. یک دولت عضو ممکن است تصمیم بگیرد تا امکان صدور کامل یا جزئی مجوز برای استفاده از سیستم‌های شناسایی بیومتریک از راه دور «بلادرنگ» در فضاهای عمومی قابل دسترسی برای اهداف اجرای قانون را در چارچوب محدودیت‌ها و تحت شرایط فهرست‌شده در بند ۱، بند اول زیربند (ح)، و بندهای ۲ و ۳، فراهم کند. دولت‌های عضو مربوطه باید قواعد دقیق لازم را در قانون ملی خود برای درخواست، صدور و اعمال، و همچنین نظارت و گزارش‌دهی مربوط به مجوزهای اشاره‌شده در بند ۳، وضع کنند. آن قواعد همچنین باید مشخص کنند که در مورد کدام یک از اهداف فهرست‌شده در بند ۱، بند اول زیربند (ح)، از جمله کدام یک از جرایم کیفری اشاره‌شده در بند (ح)(۳) آن، مقامات صالح ممکن است برای اهداف اجرای قانون مجاز به استفاده از آن سیستم‌ها شوند. دولت‌های عضو باید آن قواعد را حداکثر ۳۰ روز پس از تصویب آن‌ها به کمیسیون اطلاع دهند. دولت‌های عضو ممکن است، مطابق با قانون اتحادیه، قوانین محدودکننده‌تری در مورد استفاده از سیستم‌های شناسایی بیومتریک از راه دور وضع کنند. مرتبط: بندهای ۳۷، ۳۸، ۳۹، ۴۰ و ۴۱)

۶. مقامات نظارت بازار ملی و مقامات حفاظت از داده‌های ملی دولت‌های عضوی که از استفاده از سیستم‌های شناسایی بیومتریک از راه دور «بلادرنگ» در فضاهای عمومی قابل دسترسی برای اهداف اجرای قانون طبق بند ۴ مطلع شده‌اند، باید گزارش‌های سالانه در مورد چنین استفاده‌ای به کمیسیون ارائه دهند. برای این منظور، کمیسیون باید الگویی را برای دولت‌های عضو و مقامات نظارت بازار و حفاظت از داده‌های ملی فراهم کند، شامل اطلاعات در مورد تعداد تصمیمات اتخاذشده توسط مقامات قضایی صالح یا مقام اداری مستقل که تصمیم آن الزام‌آور است بر اساس درخواست‌های مجوز مطابق با بند ۳ و نتیجه آن‌ها. مرتبط: بندهای ۳۸، ۳۹، ۴۰ و ۴۱)

۷. کمیسیون باید گزارش‌های سالانه در مورد استفاده از سیستم‌های شناسایی بیومتریک از راه دور "بلادرنگ" در فضاهای عمومی قابل دسترسی برای اهداف اجرای قانون، بر اساس داده‌های تجمیعی در دولت‌های عضو بر اساس گزارش‌های سالانه اشاره‌شده در بند ۶، منتشر کند. آن گزارش‌های سالانه نباید شامل داده‌های عملیاتی حساس فعالیت‌های اجرای قانون مربوطه باشند. مرتبط: بندهای ۳۸، ۳۹، ۴۰ و ۴۱)

۸. 8. این ماده بر ممنوعیت‌هایی که در صورتی که یک شیوه هوش مصنوعی حقوق دیگر قوانین اتحادیه را نقض کند، تأثیر نخواهد گذاشت.

منبع: تهیه شده در واحد فناوری های نوین راسخون