​​​​​​​قانون هوش مصنوعی اروپا: ملاحظه 29

ملاحظه مقدماتی بیست‌ونهم توضیح می‌دهد که برخی سامانه‌های هوش مصنوعی می‌توانند با استفاده از فنون زیرآستانه ادراک، فریب یا بهره‌کشی از آسیب‌پذیری افراد، رفتار انسان را به‌گونه‌ای معنادار تحریف کنند و خودمختاری، تصمیم‌گیری و انتخاب آزاد او را مختل سازند. هرگاه چنین سامانه‌هایی موجب یا به‌طور معقول محتملِ ایجاد زیان قابل‌توجه جسمی، روانی یا مالی باشند، باید ممنوع شوند. این ممنوعیت به‌ویژه شامل بهره‌کشی از گروه‌های آسیب‌پذیر مانند کودکان، افراد دارای معلولیت، فقرا و اقلیت‌هاست. در عین حال، قانون‌گذار روشن می‌کند که درمان‌های مشروع پزشکی و تبلیغات متعارف قانونی، فی‌نفسه مشمول این ممنوعیت نیستند.  

قانون هوش مصنوعی اروپا: ملاحظه 29

«فنون دست‌کاری‌گرانه مبتنی بر هوش مصنوعی می‌توانند برای ترغیب اشخاص به انجام رفتارهای ناخواسته، یا برای فریب آنان از طریق سوق‌دادن (nudging) به تصمیم‌هایی به کار روند که خودمختاری، تصمیم‌گیری و انتخاب آزاد آنان را تضعیف و مختل می‌کند. عرضه به بازار، به‌کارگیری یا استفاده از برخی سامانه‌های هوش مصنوعی که هدف آن‌ها یا اثر آن‌ها تحریف مادی رفتار انسان باشد، به‌گونه‌ای که احتمال ورود زیان‌های قابل‌توجه ــ به‌ویژه آثار زیان‌بار مهم بر سلامت جسمی، سلامت روانی یا منافع مالی ــ وجود داشته باشد، به‌طور خاص خطرناک است و بنابراین باید ممنوع شود.

چنین سامانه‌هایی از مؤلفه‌های زیرآستانه ادراک (subliminal) مانند محرک‌های صوتی، تصویری یا ویدئویی استفاده می‌کنند که اشخاص قادر به ادراک آن‌ها نیستند، زیرا این محرک‌ها فراتر از آستانه ادراک انسانی‌اند؛ یا از دیگر فنون دست‌کاری‌گرانه یا فریبنده‌ای بهره می‌برند که خودمختاری، تصمیم‌گیری یا انتخاب آزاد افراد را به‌گونه‌ای تضعیف می‌کنند که اشخاص یا آگاهانه متوجه این فنون نمی‌شوند، یا حتی اگر متوجه شوند، همچنان فریب می‌خورند یا قادر به کنترل یا مقاومت در برابر آن‌ها نیستند.

برای مثال، این امر می‌تواند از طریق رابط‌های مغز و ماشین (machine-brain interfaces) یا واقعیت مجازی تسهیل شود، زیرا این فناوری‌ها امکان کنترل بیشتر بر نوع محرک‌هایی را که به اشخاص ارائه می‌شود فراهم می‌کنند، در صورتی که بتوانند رفتار آنان را به‌گونه‌ای به‌طور چشمگیر زیان‌بار تحریف کنند.

افزون بر این، سامانه‌های هوش مصنوعی می‌توانند از آسیب‌پذیری‌های یک شخص یا یک گروه خاص از اشخاص نیز سوءاستفاده کنند؛ از جمله به دلیل سن، معلولیت به معنای مندرج در دستورالعمل (EU) 2019/882، یا وضعیت اجتماعی یا اقتصادی خاصی که آن اشخاص را در معرض بهره‌کشی بیشتری قرار می‌دهد، مانند افرادی که در فقر شدید زندگی می‌کنند یا اقلیت‌های قومی یا مذهبی.
چنین سامانه‌هایی ممکن است با هدف یا با اثر تحریف مادی رفتار یک شخص به بازار عرضه، به کار گرفته یا استفاده شوند، به‌گونه‌ای که موجب ورود زیان قابل‌توجه به آن شخص یا شخص دیگر یا گروهی از اشخاص شود یا به‌طور معقول احتمال وقوع چنین زیانی را ایجاد کند؛ از جمله زیان‌هایی که ممکن است در طول زمان انباشته شوند. از این رو، این سامانه‌ها باید ممنوع شوند.

ممکن است نتوان در مواردی که تحریف رفتار ناشی از عوامل بیرونی خارج از کنترل عرضه‌کننده یا بهره‌بردار سامانه هوش مصنوعی است ــ یعنی عواملی که به‌طور معقول قابل پیش‌بینی نبوده و در نتیجه امکان کاهش آن‌ها برای عرضه‌کننده یا بهره‌بردار وجود نداشته است ــ قصد تحریف رفتار را مفروض گرفت. با این حال، در هر صورت لازم نیست عرضه‌کننده یا بهره‌بردار قصد ورود زیان قابل‌توجه را داشته باشد، مشروط بر آن‌که این زیان از رویه‌های دست‌کاری‌گرانه یا بهره‌کشانه مبتنی بر هوش مصنوعی ناشی شده باشد.

ممنوعیت این‌گونه رویه‌های هوش مصنوعی مکمل مقررات مندرج در دستورالعمل 2005/29/EC است؛ به‌ویژه آن‌که رویه‌های تجاری ناعادلانه که به زیان اقتصادی یا مالی مصرف‌کنندگان منجر می‌شوند، تحت هر شرایطی ممنوع‌اند، خواه از طریق سامانه‌های هوش مصنوعی اعمال شوند یا به هر طریق دیگر.

ممنوعیت رویه‌های دست‌کاری‌گرانه و بهره‌کشانه در این مقرره نباید به رویه‌های مشروع در زمینه درمان پزشکی، مانند درمان روان‌شناختی بیماری‌های روانی یا بازتوانی جسمی، در صورتی که مطابق قانون قابل اعمال و استانداردهای پزشکی انجام شوند ــ برای مثال با رضایت صریح شخص یا نماینده قانونی او ــ لطمه وارد کند.

همچنین، رویه‌های متعارف و مشروع تجاری، مانند برخی شیوه‌های تبلیغاتی که با حقوق قابل اعمال سازگارند، فی‌نفسه نباید مصداق رویه‌های زیان‌بار دست‌کاری‌گرانه مبتنی بر هوش مصنوعی تلقی شوند.»
 

تحلیل ملاحظه 29

این ملاحظه یکی از دقیق‌ترین و مهم‌ترین بخش‌های قانون در تبیین «دست‌کاری ممنوع» است، زیرا برای نخستین بار توضیح می‌دهد که دقیقاً چه نوع مداخله‌ای در رفتار انسان از نظر قانون‌گذار صرفاً «اثرگذاری» نیست، بلکه «تحریف نامشروع اراده» است. اهمیت این ملاحظه در آن است که مرز میان اقناع مشروع و دست‌کاری ممنوع را ترسیم می‌کند.

نخستین نکته محوری این ملاحظه، تمایز میان «اقناع» و «تحریف» است. قانون‌گذار همه اشکال اثرگذاری بر رفتار انسان را ممنوع نمی‌کند؛ آنچه ممنوع است، اثرگذاری‌ای است که خودمختاری، قدرت تصمیم‌گیری و انتخاب آزاد فرد را به‌طور مادی مختل کند. بنابراین مسئله صرفاً این نیست که هوش مصنوعی بر تصمیم انسان اثر بگذارد؛ مسئله این است که آن اثرگذاری به سطحی برسد که اراده آزاد فرد را تضعیف یا منحرف کند. دومین نکته مهم، تمرکز این ملاحظه بر «تحریف مادی رفتار» (material distortion of behaviour) است. این عبارت، معیار کلیدی ممنوعیت است. قانون‌گذار هر اثر روان‌شناختی یا هر نوع influence را ممنوع نمی‌کند؛ بلکه تنها جایی مداخله می‌کند که سامانه واقعاً رفتار را به‌گونه‌ای معنادار منحرف کند و این انحراف احتمالاً به زیان مهم جسمی، روانی یا مالی منتهی شود. بنابراین، معیار ممنوعیت هم شدت مداخله است و هم شدت زیان.

سومین نکته، شناسایی دو سازوکار اصلی ممنوع است: «فنون زیرآستانه ادراک» و «فنون فریبنده یا دست‌کاری‌گرانه». در حالت نخست، فرد اساساً متوجه محرک نمی‌شود؛ در حالت دوم، ممکن است متوجه شود اما همچنان نتواند مقاومت مؤثر کند. این تمایز مهم است، زیرا نشان می‌دهد قانون فقط از فریب پنهان نمی‌ترسد، بلکه از شکل‌های پیشرفته‌تری از تأثیرگذاری نیز نگران است که حتی آگاهی فرد نیز لزوماً او را مصون نمی‌کند.

چهارمین نکته مهم، توجه ویژه قانون‌گذار به «آسیب‌پذیری» است. این ملاحظه به‌صراحت اعلام می‌کند که بهره‌کشی از آسیب‌پذیری ناشی از سن، معلولیت، فقر یا موقعیت اقلیتی می‌تواند مصداق ممنوعیت باشد. این بخش نشان می‌دهد قانون فقط از خودمختاری انتزاعی دفاع نمی‌کند، بلکه به نابرابری‌های واقعی اجتماعی نیز حساس است و می‌پذیرد که برخی گروه‌ها در برابر دست‌کاری دیجیتال آسیب‌پذیرترند.

پنجمین نکته، قانون‌گذار عنصر قصد را تا حدی کنار می‌گذارد. برای ممنوعیت، لازم نیست ثابت شود عرضه‌کننده یا بهره‌بردار حتماً قصد ایراد زیان داشته است؛ کافی است سامانه به‌گونه‌ای عمل کند که به‌طور معقول احتمال زیان مهم ناشی از دست‌کاری یا بهره‌کشی را ایجاد کند. این نکته بسیار مهم است، زیرا بار حقوقی را از اثبات نیت به اثبات اثر منتقل می‌کند.

ششمین نکته، قانون‌گذار مرز ممنوعیت را با دقت محدود می‌کند تا دامنه آن بیش از حد گسترده نشود. این ملاحظه تصریح می‌کند که درمان‌های مشروع پزشکی و روان‌شناختی، در صورت رعایت قانون و رضایت معتبر، مشمول ممنوعیت نیستند. همچنین تبلیغات متعارف و مشروع نیز صرفاً به دلیل اثرگذاری بر رفتار، خودبه‌خود مصداق دست‌کاری ممنوع نیستند. این استثناها برای جلوگیری از تفسیر افراطی مقرره ضروری‌اند.

در نهایت، این ملاحظه نشان می‌دهد که از منظر قانون هوش مصنوعی اتحادیه اروپا، مسئله اصلی فقط «اثرگذاری بر انسان» نیست، بلکه «مهندسی پنهان یا فریبنده اراده انسان» است. جایی که هوش مصنوعی از ابزار اقناع به ابزار تضعیف خودمختاری تبدیل شود، قانون آن را نه یک ریسک قابل مدیریت، بلکه یک عمل ممنوع تلقی می‌کند.

منبع: ترجمه شده توسط بخش فناوری های نوین سایت راسخون