​​​​​​​قانون هوش مصنوعی اروپا: ملاحظه 28

ملاحظه مقدماتی بیست‌وهشتم تصریح می‌کند که اگرچه هوش مصنوعی کاربردهای سودمند فراوانی دارد، می‌تواند به ابزاری برای دست‌کاری، بهره‌کشی و کنترل اجتماعی نیز تبدیل شود. قانون‌گذار این دسته از کاربردها را نه صرفاً پرخطر، بلکه ذاتاً مغایر با ارزش‌های بنیادین اتحادیه اروپا ــ از جمله کرامت انسانی، آزادی، برابری، دموکراسی و حاکمیت قانون ــ می‌داند. از آنجا که این رویه‌ها می‌توانند حقوق بنیادینی چون عدم تبعیض، حریم خصوصی، حفاظت از داده و حقوق کودک را به‌طور جدی نقض کنند، این ملاحظه مبنای هنجاری ممنوعیت برخی کاربردهای غیرقابل‌قبول هوش مصنوعی را فراهم می‌کند.  

قانون هوش مصنوعی اروپا: متن ملاحظه 28

«علاوه بر کاربردهای سودمند فراوان هوش مصنوعی، این فناوری می‌تواند مورد سوءاستفاده نیز قرار گیرد و ابزارهای نوین و قدرتمندی برای رویه‌های دست‌کاری‌گرانه، بهره‌کشانه و کنترل اجتماعی فراهم آورد. این‌گونه رویه‌ها به‌ویژه زیان‌بار و سوءاستفاده‌گرانه‌اند و باید ممنوع شوند، زیرا با ارزش‌های اتحادیه ــ از جمله احترام به کرامت انسانی، آزادی، برابری، دموکراسی و حاکمیت قانون ــ و نیز با حقوق بنیادین مندرج در منشور، از جمله حق بر عدم تبعیض، حق بر حفاظت از داده‌ها، حق بر حریم خصوصی و حقوق کودک، در تعارض‌اند.»
 

تحلیل ملاحظه 28

این ملاحظه یکی از مهم‌ترین بیانیه‌های هنجاری قانون هوش مصنوعی اتحادیه اروپاست، زیرا نقطه‌ای را مشخص می‌کند که قانون‌گذار در آن از منطق «تنظیم» عبور می‌کند و به منطق «ممنوعیت» می‌رسد. پیام اصلی این ملاحظه روشن است: برخی کاربردهای هوش مصنوعی صرفاً پرخطر نیستند، بلکه ذاتاً با نظم ارزشی اتحادیه ناسازگارند و از همین رو نباید صرفاً محدود یا مدیریت شوند، بلکه باید اصولاً ممنوع شوند.

نخستین نکته مهم این ملاحظه، تفکیک میان «خطر» و «سوءاستفاده» است. قانون‌گذار در اینجا دیگر صرفاً از ریسک‌های ناخواسته یا آثار جانبی فناوری سخن نمی‌گوید، بلکه از کاربردهای عامدانه و ساختاریِ هوش مصنوعی برای دست‌کاری، استثمار و کنترل اجتماعی سخن می‌گوید. این تغییر لحن مهم است، زیرا نشان می‌دهد مسئله فقط خطای فنی یا نقص طراحی نیست، بلکه امکان استفاده آگاهانه از هوش مصنوعی برای سلطه و مهندسی رفتار انسان‌هاست.
دومین نکته محوری، سه‌گانه‌ای است که قانون‌گذار آن را خطر ویژه می‌داند: «دست‌کاری» (manipulation)، «بهره‌کشی» (exploitation) و «کنترل اجتماعی» (social control). این سه مفهوم نشان می‌دهند که دغدغه قانون‌گذار صرفاً امنیت فنی سامانه‌ها نیست، بلکه تهدیدهای عمیق‌تر نسبت به خودمختاری انسان، آزادی انتخاب و ساختارهای دموکراتیک است. در اینجا هوش مصنوعی نه فقط یک ابزار تصمیم‌گیری، بلکه بالقوه ابزاری برای شکل‌دهی، هدایت و انقیاد رفتار انسانی تلقی می‌شود.

سومین نکته مهم، پیوند مستقیم این ملاحظه با ارزش‌های بنیادین اتحادیه است. قانون‌گذار این رویه‌ها را صرفاً ناکارآمد، ناعادلانه یا پرریسک نمی‌خواند، بلکه آن‌ها را مغایر با بنیان هنجاری نظم اروپایی معرفی می‌کند: کرامت انسانی، آزادی، برابری، دموکراسی و حاکمیت قانون. این زبان نشان می‌دهد که ممنوعیت این کاربردها صرفاً یک انتخاب سیاست‌گذاری نیست، بلکه یک موضع قانون اساسی‌گونه در دفاع از نظم ارزشی اتحادیه است.

چهارمین نکته، پیوند این ملاحظه با حقوق بنیادین مشخص است. قانون‌گذار به‌صراحت از حق بر عدم تبعیض، حفاظت از داده، حریم خصوصی و حقوق کودک نام می‌برد. این تصریح مهم است، زیرا نشان می‌دهد ممنوعیت این دسته از کاربردها نه صرفاً بر مبنای نگرانی‌های انتزاعی اخلاقی، بلکه بر پایه تهدید مستقیم حقوق قابل شناسایی و قابل حمایت اشخاص بنا شده است.

پنجمین نکته مهم، این ملاحظه شالوده هنجاری بخش «کاربردهای ممنوعه» قانون را فراهم می‌کند. اگر ملاحظه ۲۶ ساختار مبتنی بر ریسک را توضیح می‌داد، ملاحظه ۲۸ توضیح می‌دهد که چرا برخی کاربردها اصلاً وارد منطق موازنه ریسک نمی‌شوند. این‌ها مواردی نیستند که صرفاً نیازمند شفافیت یا انطباق بیشتر باشند؛ بلکه قانون‌گذار آن‌ها را از اساس نامشروع می‌داند.

در نهایت، این ملاحظه نشان می‌دهد که در منطق قانون هوش مصنوعی اتحادیه اروپا، مسئله فقط این نیست که هوش مصنوعی «چقدر خطرناک» است، بلکه این نیز هست که «برای چه نوع رابطه‌ای با انسان و جامعه به کار گرفته می‌شود». و اگر آن رابطه مبتنی بر سلطه، دست‌کاری و بهره‌کشی باشد، پاسخ قانون نه تنظیم، بلکه ممنوعیت است.

منبع: ترجمه شده توسط بخش فناوری های نوین سایت راسخون