قانون هوش مصنوعی اروپا: متن ملاحظه 18
«مفهوم «سامانه تشخیص احساس» (emotion recognition system) در این مقرره باید بهعنوان سامانهای هوش مصنوعی تعریف شود که با هدف شناسایی یا استنباط احساسات یا نیات اشخاص حقیقی بر پایه دادههای زیستسنجی آنان به کار میرود. این مفهوم به احساسات یا نیاتی مانند شادی، اندوه، خشم، شگفتی، انزجار، شرمندگی، هیجان، خجالت، تحقیر، رضایت و سرگرمی اشاره دارد.این مفهوم شامل وضعیتهای جسمانی، مانند درد یا خستگی، نمیشود؛ از جمله، برای مثال، سامانههایی که برای تشخیص وضعیت خستگی خلبانان یا رانندگان حرفهای با هدف پیشگیری از حوادث به کار میروند. همچنین این مفهوم صرفاً شامل تشخیص ساده و آشکارِ حالات چهره، ژستها یا حرکات نیست، مگر آنکه از آنها برای شناسایی یا استنباط احساسات استفاده شود. این حالات میتوانند شامل حالات ساده چهره، مانند اخم یا لبخند، یا ژستهایی مانند حرکت دستها، بازوها یا سر، یا ویژگیهای صدای شخص، مانند بلند صحبت کردن یا پچپچ کردن باشند.»
تحلیل ملاحظه 18
این ملاحظه یکی از ظریفترین و در عین حال مناقشهبرانگیزترین مفاهیم قانون هوش مصنوعی اتحادیه اروپا را تعریف میکند: «سامانه تشخیص احساس». این حوزه از آن جهت حساس است که در مرز میان فناوری، روانشناسی، حریم خصوصی و کرامت انسانی قرار دارد. قانونگذار اروپایی در اینجا میکوشد مشخص کند چه زمانی یک سامانه صرفاً «مشاهده» میکند و چه زمانی وارد قلمرو بسیار حساس «استنباط احساس و نیت انسانی» میشود.
هسته اصلی این تعریف در دو واژه نهفته است: «شناسایی» و «استنباط». قانونگذار صرفاً نگران سامانههایی نیست که حالات عاطفی آشکار را ثبت میکنند، بلکه بهطور خاص بر سامانههایی تمرکز دارد که از دادههای زیستسنجی ــ مانند چهره، صدا، حرکات یا الگوهای رفتاری ــ برای نتیجهگیری درباره وضعیت درونی فرد استفاده میکنند. این نکته مهم است، زیرا از منظر حقوقی و اخلاقی، استنباط از حالات درونی انسان بسیار حساستر از صرف مشاهده رفتار بیرونی اوست.
در اینجا قانونگذار بهروشنی میان «بیان ظاهری» و «نتیجهگیری روانی» تمایز میگذارد. برای مثال، تشخیص اینکه فردی لبخند زده، اخم کرده یا صدایش را بالا برده، بهخودیخود هنوز «تشخیص احساس» نیست. اما اگر سامانه از همین نشانهها نتیجه بگیرد که فرد «خشمگین»، «راضی»، «تحقیرآمیز» یا «دارای نیت خاص» است، آنگاه وارد قلمرو emotion recognition میشود. این تمایز بسیار مهم است، زیرا مرز میان پردازش ظاهری سیگنالهای انسانی و ادعای شناخت وضعیت ذهنی انسان را ترسیم میکند.
.jpg "قانون هوش مصنوعی اروپا: ملاحظه 18")
قانونگذار همچنین آگاهانه «وضعیتهای جسمانی» را از این تعریف خارج میکند. این استثنا اهمیت عملی زیادی دارد، زیرا مانع از آن میشود که همه سامانههای پایش بدنی ــ مثلاً سامانههای تشخیص خستگی راننده یا خلبان ــ ذیل حساسترین دستههای تنظیمگری قرار گیرند. از منظر قانونگذار، تشخیص خستگی برای پیشگیری از تصادف، اگرچه همچنان ممکن است حساس باشد، اما با استنباط احساسات یا نیات انسانی یکسان نیست و نباید همان بار حقوقی را داشته باشد.
اهمیت این ملاحظه در این است که قانونگذار اروپایی عملاً به یکی از بحثبرانگیزترین ادعاهای صنعت هوش مصنوعی واکنش نشان میدهد: این ادعا که میتوان از روی چهره، صدا یا حرکات بدن، احساسات، حالات ذهنی یا حتی نیات افراد را بهطور قابل اعتماد استنباط کرد. این ملاحظه با تعریف دقیق و محدودکننده خود نشان میدهد که قانونگذار این حوزه را بهعنوان قلمرویی بسیار حساس میبیند، زیرا چنین سامانههایی میتوانند به ابزار نظارت روانی، دستکاری رفتاری، ارزیابی پنهان و تبعیض تبدیل شوند.
در نتیجه، این ملاحظه مرز مهمی را در قانون ترسیم میکند: مرز میان «تشخیص نشانههای ظاهری انسان» و «ادعای شناخت حالت درونی انسان». این مرز، از منظر کرامت انسانی، حریم ذهنی و آزادی روانی، یکی از مهمترین خطوط دفاعی قانون هوش مصنوعی اتحادیه اروپا است.
منبع: ترجمه شده توسط بخش فناوری های نوین سایت راسخون
