قانون هوش مصنوعی اروپا: ملاحظه 18

این ملاحظه «سامانه تشخیص احساس» را به‌عنوان سامانه‌ای برای استنباط احساسات یا نیات انسان از داده‌های زیست‌سنجی تعریف می‌کند و آن را از تشخیص ساده حالات ظاهری یا وضعیت‌های جسمانی متمایز می‌سازد.
سه‌شنبه، 8 ارديبهشت 1405
تخمین زمان مطالعه:
موارد بیشتر برای شما
قانون هوش مصنوعی اروپا: ملاحظه 18
ملاحظه مقدماتی هجدهم «سامانه تشخیص احساس» را به معنای سامانه‌ای هوش مصنوعی تعریف می‌کند که از داده‌های زیست‌سنجی برای شناسایی یا استنباط احساسات و نیات اشخاص، مانند شادی، خشم، شرمندگی یا رضایت، استفاده می‌کند. این ملاحظه تأکید می‌کند که صرف تشخیص حالات آشکار چهره، ژست یا صدا، مادامی که صرفاً مشاهده باشد، لزوماً «تشخیص احساس» نیست؛ بلکه زمانی مشمول این عنوان می‌شود که به استنباط وضعیت درونی فرد بینجامد. همچنین وضعیت‌های جسمانی مانند درد یا خستگی را از این تعریف خارج می‌کند تا آن‌ها را از حوزه حساس‌تر استنباط احساس و نیت متمایز سازد.

ملاحظه قبلی:
قانون هوش مصنوعی اروپا: ملاحظه 17
 

قانون هوش مصنوعی اروپا: متن ملاحظه 18

«مفهوم «سامانه تشخیص احساس» (emotion recognition system) در این مقرره باید به‌عنوان سامانه‌ای هوش مصنوعی تعریف شود که با هدف شناسایی یا استنباط احساسات یا نیات اشخاص حقیقی بر پایه داده‌های زیست‌سنجی آنان به کار می‌رود. این مفهوم به احساسات یا نیاتی مانند شادی، اندوه، خشم، شگفتی، انزجار، شرمندگی، هیجان، خجالت، تحقیر، رضایت و سرگرمی اشاره دارد.

این مفهوم شامل وضعیت‌های جسمانی، مانند درد یا خستگی، نمی‌شود؛ از جمله، برای مثال، سامانه‌هایی که برای تشخیص وضعیت خستگی خلبانان یا رانندگان حرفه‌ای با هدف پیشگیری از حوادث به کار می‌روند. همچنین این مفهوم صرفاً شامل تشخیص ساده و آشکارِ حالات چهره، ژست‌ها یا حرکات نیست، مگر آنکه از آن‌ها برای شناسایی یا استنباط احساسات استفاده شود. این حالات می‌توانند شامل حالات ساده چهره، مانند اخم یا لبخند، یا ژست‌هایی مانند حرکت دست‌ها، بازوها یا سر، یا ویژگی‌های صدای شخص، مانند بلند صحبت کردن یا پچ‌پچ کردن باشند.»
 

تحلیل ملاحظه 18

این ملاحظه یکی از ظریف‌ترین و در عین حال مناقشه‌برانگیزترین مفاهیم قانون هوش مصنوعی اتحادیه اروپا را تعریف می‌کند: «سامانه تشخیص احساس». این حوزه از آن جهت حساس است که در مرز میان فناوری، روان‌شناسی، حریم خصوصی و کرامت انسانی قرار دارد. قانون‌گذار اروپایی در اینجا می‌کوشد مشخص کند چه زمانی یک سامانه صرفاً «مشاهده» می‌کند و چه زمانی وارد قلمرو بسیار حساس «استنباط احساس و نیت انسانی» می‌شود.

قانون هوش مصنوعی اروپا: ملاحظه 18

هسته اصلی این تعریف در دو واژه نهفته است: «شناسایی» و «استنباط». قانون‌گذار صرفاً نگران سامانه‌هایی نیست که حالات عاطفی آشکار را ثبت می‌کنند، بلکه به‌طور خاص بر سامانه‌هایی تمرکز دارد که از داده‌های زیست‌سنجی ــ مانند چهره، صدا، حرکات یا الگوهای رفتاری ــ برای نتیجه‌گیری درباره وضعیت درونی فرد استفاده می‌کنند. این نکته مهم است، زیرا از منظر حقوقی و اخلاقی، استنباط از حالات درونی انسان بسیار حساس‌تر از صرف مشاهده رفتار بیرونی اوست.

در اینجا قانون‌گذار به‌روشنی میان «بیان ظاهری» و «نتیجه‌گیری روانی» تمایز می‌گذارد. برای مثال، تشخیص اینکه فردی لبخند زده، اخم کرده یا صدایش را بالا برده، به‌خودی‌خود هنوز «تشخیص احساس» نیست. اما اگر سامانه از همین نشانه‌ها نتیجه بگیرد که فرد «خشمگین»، «راضی»، «تحقیرآمیز» یا «دارای نیت خاص» است، آنگاه وارد قلمرو emotion recognition می‌شود. این تمایز بسیار مهم است، زیرا مرز میان پردازش ظاهری سیگنال‌های انسانی و ادعای شناخت وضعیت ذهنی انسان را ترسیم می‌کند.

قانون هوش مصنوعی اروپا: ملاحظه 18

قانون‌گذار همچنین آگاهانه «وضعیت‌های جسمانی» را از این تعریف خارج می‌کند. این استثنا اهمیت عملی زیادی دارد، زیرا مانع از آن می‌شود که همه سامانه‌های پایش بدنی ــ مثلاً سامانه‌های تشخیص خستگی راننده یا خلبان ــ ذیل حساس‌ترین دسته‌های تنظیم‌گری قرار گیرند. از منظر قانون‌گذار، تشخیص خستگی برای پیشگیری از تصادف، اگرچه همچنان ممکن است حساس باشد، اما با استنباط احساسات یا نیات انسانی یکسان نیست و نباید همان بار حقوقی را داشته باشد.

اهمیت این ملاحظه در این است که قانون‌گذار اروپایی عملاً به یکی از بحث‌برانگیزترین ادعاهای صنعت هوش مصنوعی واکنش نشان می‌دهد: این ادعا که می‌توان از روی چهره، صدا یا حرکات بدن، احساسات، حالات ذهنی یا حتی نیات افراد را به‌طور قابل اعتماد استنباط کرد. این ملاحظه با تعریف دقیق و محدودکننده خود نشان می‌دهد که قانون‌گذار این حوزه را به‌عنوان قلمرویی بسیار حساس می‌بیند، زیرا چنین سامانه‌هایی می‌توانند به ابزار نظارت روانی، دستکاری رفتاری، ارزیابی پنهان و تبعیض تبدیل شوند.

در نتیجه، این ملاحظه مرز مهمی را در قانون ترسیم می‌کند: مرز میان «تشخیص نشانه‌های ظاهری انسان» و «ادعای شناخت حالت درونی انسان». این مرز، از منظر کرامت انسانی، حریم ذهنی و آزادی روانی، یکی از مهم‌ترین خطوط دفاعی قانون هوش مصنوعی اتحادیه اروپا است.

ملاحظه بعدی:
قانون هوش مصنوعی اروپا: ملاحظه 19



منبع: ترجمه شده توسط بخش فناوری های نوین سایت راسخون
تبلیغات در راسخون
ارسال نظر
با تشکر، نظر شما پس از بررسی و تایید در سایت قرار خواهد گرفت.
متاسفانه در برقراری ارتباط خطایی رخ داده. لطفاً دوباره تلاش کنید.
موارد بیشتر برای شما
یک نیمرو صبحانه متفاوت!
play_arrow
یک نیمرو صبحانه متفاوت!
خلاصه دیدار عراق یک - ایران یک
play_arrow
خلاصه دیدار عراق یک - ایران یک
برائت خانواده جانباختگان اتوبوس آبدانان از هنجارشکنان
play_arrow
برائت خانواده جانباختگان اتوبوس آبدانان از هنجارشکنان
پزشکیان خطاب به مدال‌آوران المپیاد: خداوکیلی دوست‌تون دارم
play_arrow
پزشکیان خطاب به مدال‌آوران المپیاد: خداوکیلی دوست‌تون دارم
سردار قریشی: دنبال تغییر رژیم جمهوری اسلامی بودند ولی الان رژیم‌های خودشان تغییر می‌کند + فیلم
play_arrow
سردار قریشی: دنبال تغییر رژیم جمهوری اسلامی بودند ولی الان رژیم‌های خودشان تغییر می‌کند + فیلم
ورود ترامپ به فیلیپین برای شرکت در نشست آسه‌آن + فیلم
play_arrow
ورود ترامپ به فیلیپین برای شرکت در نشست آسه‌آن + فیلم
آتش گرفتن یک نفتکش متخلف در سواحل عمان + فیلم
play_arrow
آتش گرفتن یک نفتکش متخلف در سواحل عمان + فیلم
سرلشکر عبداللهی: آمریکایی‌ها را تا قطب جنوب عقب می‌رانیم + فیلم
play_arrow
سرلشکر عبداللهی: آمریکایی‌ها را تا قطب جنوب عقب می‌رانیم + فیلم
ناگفته‌هایی از برنامه روزانه و ساده‌زیستی رهبر شهید انقلاب + فیلم
play_arrow
ناگفته‌هایی از برنامه روزانه و ساده‌زیستی رهبر شهید انقلاب + فیلم
لحظه برخورد تسبیح پرتاب‌شده به چشم پاپ در مراسم عشای ربانی در پرو + فیلم
play_arrow
لحظه برخورد تسبیح پرتاب‌شده به چشم پاپ در مراسم عشای ربانی در پرو + فیلم
روایت سیدمحمود علوی از لحظات تدفین رهبر انقلاب در حرم امام رضا (ع) + فیلم
play_arrow
روایت سیدمحمود علوی از لحظات تدفین رهبر انقلاب در حرم امام رضا (ع) + فیلم
سخنگوی ارتش: تنگه هرمز فقط با پذیرش شروط ۷ گانه ایران باز می‌شود + فیلم
play_arrow
سخنگوی ارتش: تنگه هرمز فقط با پذیرش شروط ۷ گانه ایران باز می‌شود + فیلم
لاوروف: آمریکایی‌ها جرئت جنگ با روسیه را ندارند + فیلم
play_arrow
لاوروف: آمریکایی‌ها جرئت جنگ با روسیه را ندارند + فیلم
پیام های تسلیت مراجع عظام و شخصیت ها در پی ارتحال آیت‌الله العظمی وحید خراسانی
پیام های تسلیت مراجع عظام و شخصیت ها در پی ارتحال آیت‌الله العظمی وحید خراسانی
عقب‌راندن نیروهای مزدور سعودی توسط انصارالله در مارب
play_arrow
عقب‌راندن نیروهای مزدور سعودی توسط انصارالله در مارب