قانون هوش مصنوعی اروپا: متن ملاحظه 44
«درباره مبنای علمی سامانههای هوش مصنوعی که با هدف شناسایی یا استنتاج احساسات طراحی شدهاند، نگرانیهای جدی وجود دارد؛ بهویژه از آنرو که بروز احساسات در فرهنگها و موقعیتهای مختلف، و حتی در درون یک فرد واحد، بهطور قابلتوجهی متفاوت است. از جمله مهمترین کاستیهای این سامانهها میتوان به قابلیت اتکای محدود، فقدان ویژگیمندی (specificity) و تعمیمپذیری محدود اشاره کرد.ازاینرو، سامانههای هوش مصنوعی که بر پایه دادههای زیستسنجی به شناسایی یا استنتاج احساسات یا نیات اشخاص حقیقی میپردازند، ممکن است به نتایج تبعیضآمیز منجر شوند و نسبت به حقوق و آزادیهای اشخاص موردنظر مداخلهگرانه باشند. با توجه به عدم توازن قدرت در بستر کار یا آموزش، و همراه با ماهیت مداخلهگرانه این سامانهها، چنین سامانههایی میتوانند به رفتار زیانبار یا نامطلوب نسبت به برخی اشخاص یا حتی گروههایی از آنان منجر شوند.
بنابراین، عرضه به بازار، بهرهبرداری یا استفاده از سامانههای هوش مصنوعی که برای تشخیص وضعیت عاطفی افراد در موقعیتهای مرتبط با محیط کار و آموزش در نظر گرفته شدهاند، باید ممنوع شود. این ممنوعیت شامل سامانههای هوش مصنوعیای نمیشود که صرفاً به دلایل پزشکی یا ایمنی، مانند سامانههای دارای کاربرد درمانی، به بازار عرضه میشوند.»
تحلیل ملاحظه 44
این ملاحظه یکی از مهمترین مواضع انتقادی قانون هوش مصنوعی اتحادیه اروپا نسبت به «هوش مصنوعی تشخیص احساسات» را بیان میکند. قانونگذار اروپایی در اینجا صرفاً نگران نحوه استفاده از این فناوری نیست، بلکه مشروعیت علمی خودِ آن را زیر سؤال میبرد. این نکته بسیار مهم است، زیرا در بسیاری از موارد قانون فقط کاربردهای پرخطر را محدود میکند، اما در اینجا از اساس نسبت به اعتبار معرفتی فناوری تردید ابراز میشود.
نخستین نکته محوری این ملاحظه، تردید جدی نسبت به مبنای علمی تشخیص احساسات است. قانونگذار تصریح میکند که احساسات انسانی پدیدههایی جهانشمول، ثابت و قابلخوانش بهصورت مکانیکی نیستند. حالات چهره، لحن صدا، حرکات بدن یا سایر دادههای زیستسنجی لزوماً معنای واحد و ثابتی ندارند. یک حالت چهره ممکن است در فرهنگهای مختلف، موقعیتهای متفاوت، یا حتی در افراد مختلف، معنایی کاملاً متفاوت داشته باشد. بنابراین فرضِ اینکه ماشین بتواند «احساس واقعی» فرد را با دقت و قطعیت استخراج کند، از نظر علمی محل تردید جدی است.
دومین نکته مهم، ملاحظه به سه ضعف بنیادی این فناوری اشاره میکند: قابلیت اتکای محدود، فقدان ویژگیمندی، و تعمیمپذیری محدود. یعنی این سامانهها نه به اندازه کافی دقیقاند، نه میتوانند بهطور خاص یک احساس مشخص را از نشانههای مشابه تفکیک کنند، و نه نتایجشان در زمینههای مختلف قابل تعمیم است. از منظر حقوقی، این یعنی فناوریای که هم از نظر علمی نامطمئن است و هم از نظر عملی مستعد خطا، نمیتواند مبنای تصمیمگیری درباره اشخاص قرار گیرد.
سومین نکته، قانونگذار این ضعف علمی را مستقیماً به خطر تبعیض پیوند میزند. وقتی سامانهای احساسات یا نیات افراد را با دقت ناکافی تفسیر میکند، احتمال بسیار بالایی وجود دارد که افراد بهاشتباه «عصبانی»، «بیانگیزه»، «غیرهمکار»، «نامطمئن» یا «مشکوک» ارزیابی شوند. این خطاها صرفاً فنی نیستند، بلکه میتوانند به تبعیض ساختاری علیه گروههای خاص منجر شوند؛ بهویژه علیه افرادی که الگوهای بیانی، فرهنگی، عصبی یا رفتاری متفاوتی دارند.
چهارمین نکته محوری، این ملاحظه بهطور خاص محیط کار و آموزش را هدف قرار میدهد. دلیل این تمرکز، «عدم توازن قدرت» در این دو حوزه است. در محیط کار، کارمند در برابر کارفرما در موقعیت برابر نیست؛ در آموزش نیز دانشآموز یا دانشجو در برابر نهاد آموزشی موقعیت ضعیفتری دارد. در چنین فضاهایی، فرد معمولاً امکان واقعی برای مخالفت، اعتراض یا امتناع از ارزیابی الگوریتمی را ندارد. به همین دلیل، استفاده از تشخیص احساسات در این حوزهها صرفاً یک ابزار فناورانه نیست، بلکه میتواند به ابزاری برای انضباط، کنترل و ارزیابی ناعادلانه تبدیل شود.
پنجمین نکته، قانونگذار صرفاً از خطر حریم خصوصی سخن نمیگوید، بلکه از خطر «رفتار زیانبار یا نامطلوب» نیز صحبت میکند. این عبارت نشان میدهد که مسئله فقط جمعآوری داده نیست، بلکه استفاده از این دادهها برای تصمیمگیری درباره استخدام، اخراج، ارتقا، ارزیابی عملکرد، انضباط آموزشی یا قضاوت درباره شایستگی افراد است. به بیان دیگر، خطر اصلی در این است که یک تفسیر الگوریتمی مشکوک از «حالت عاطفی» فرد، به مبنای رفتار نهادی با او تبدیل شود.
ششمین نکته مهم، ممنوعیت این ملاحظه مطلق و بدون استثنا نیست. قانونگذار میان کاربردهای کنترلی و کاربردهای درمانی/ایمنی تفکیک میکند. اگر سامانهای برای هدفی پزشکی، درمانی یا ایمنی طراحی شده باشد ــ مثلاً برای کمک درمانی، پایش وضعیت بیمار، یا پیشگیری از خطر ــ این ممنوعیت شامل آن نمیشود. این استثنا نشان میدهد که قانونگذار اصل فناوری را بهطور کامل رد نمیکند، بلکه استفاده از آن را در زمینههای قدرتمحور و مستعد سوءاستفاده ممنوع میسازد.
در نهایت، ملاحظه ۴۴ نشان میدهد که AI Act فقط با «خطر فنی» مواجه نیست، بلکه با «ادعای علمی مشکوک + قدرت نهادی + پیامد تبعیضآمیز» نیز مواجه است. قانونگذار اروپایی در اینجا اعلام میکند که وقتی یک فناوری هم از نظر علمی محل تردید است و هم در محیطهای نابرابر میتواند مبنای قضاوت و کنترل انسانها قرار گیرد، باید ممنوع شود.
منبع: ترجمه شده توسط بخش فناوری های نوین سایت راسخون
