قانون هوش مصنوعی اروپا: متن ملاحظه 42
«مطابق اصل برائت، اشخاص حقیقی در اتحادیه باید همواره بر اساس رفتار واقعی خود مورد قضاوت قرار گیرند. اشخاص حقیقی هرگز نباید صرفاً بر پایه رفتار پیش‌بینی‌شده توسط هوش مصنوعی ــ که فقط بر مبنای پروفایل‌سازی، ویژگی‌های شخصیتی یا خصوصیات آنان، مانند تابعیت، محل تولد، محل اقامت، تعداد فرزندان، میزان بدهی یا نوع خودرو، استنتاج شده است ــ مورد قضاوت قرار گیرند؛ مگر آنکه ظن معقولی نسبت به دخالت آن شخص در فعالیت مجرمانه، مبتنی بر واقعیات عینی و قابل‌راستی‌آزمایی، وجود داشته باشد و آن نیز تحت ارزیابی انسانی قرار گرفته باشد.ازاین‌رو، ارزیابی‌های ریسکی که درباره اشخاص حقیقی با هدف سنجش احتمال ارتکاب جرم از سوی آنان یا پیش‌بینی وقوع جرم بالفعل یا بالقوه انجام می‌شود و صرفاً بر پایه پروفایل‌سازی آنان یا ارزیابی ویژگی‌ها و خصایص شخصیتی‌شان استوار است، باید ممنوع شود. در هر حال، این ممنوعیت ناظر به تحلیل‌های ریسکی‌ای نیست که بر پروفایل‌سازی افراد یا ویژگی‌ها و خصایص شخصیتی آنان مبتنی نیست؛ مانند سامانه‌های هوش مصنوعی که از تحلیل ریسک برای ارزیابی احتمال تقلب مالی شرکت‌ها بر پایه تراکنش‌های مشکوک استفاده می‌کنند، یا ابزارهای تحلیل ریسک برای پیش‌بینی احتمال کشف مواد مخدر یا کالاهای غیرقانونی توسط مقامات گمرکی، برای مثال بر پایه مسیرهای شناخته‌شده قاچاق.»
تحلیل: ملاحظه 42
این ملاحظه یکی از صریح‌ترین مواضع قانون هوش مصنوعی اتحادیه اروپا در برابر منطق «پلیس پیش‌گویانه» و «قضاوت الگوریتمی درباره انسان» را بیان می‌کند. هسته اصلی آن این است که انسان‌ها باید بر اساس آنچه واقعاً انجام داده‌اند سنجیده شوند، نه بر اساس آنچه یک سامانه هوش مصنوعی پیش‌بینی می‌کند ممکن است انجام دهند.نخستین نکته محوری این ملاحظه، پیوند مستقیم آن با اصل بنیادین «اصل برائت» است. قانون‌گذار اروپایی این ممنوعیت را صرفاً به ملاحظات فنی یا دقت الگوریتمی متکی نمی‌کند، بلکه آن را به یکی از بنیادی‌ترین اصول دادرسی عادلانه پیوند می‌زند: هر فرد بی‌گناه فرض می‌شود مگر خلاف آن با دلایل معتبر ثابت شود. بنابراین، صرف پیش‌بینی الگوریتمیِ خطر نمی‌تواند جایگزین ظن معقول مبتنی بر واقعیت عینی شود.
.jpg "قانون هوش مصنوعی اروپا: ملاحظه 42")
دومین نکته مهم، این ملاحظه با صراحت «پیش‌بینی جرم بر مبنای پروفایل فردی» را هدف قرار می‌دهد. قانون‌گذار دقیقاً با همان منطق مقابله می‌کند که فرد را نه بر اساس رفتار واقعی، بلکه بر اساس ویژگی‌های شخصی، اجتماعی یا جمعیت‌شناختی‌اش به‌عنوان «مظنون بالقوه» طبقه‌بندی می‌کند. این دقیقاً نقد حقوقیِ همان منطق «خطرناک‌بودن آماری» است.
سومین نکته محوری، متن آگاهانه فهرستی از شاخص‌های حساس و مسئله‌دار می‌آورد: تابعیت، محل تولد، محل سکونت، تعداد فرزندان، بدهی، نوع خودرو. اهمیت این مثال‌ها در آن است که نشان می‌دهند قانون‌گذار فقط نگران داده‌های ذاتاً حساس (مثل نژاد یا مذهب) نیست، بلکه حتی داده‌های ظاهراً عادی و روزمره نیز اگر برای ساختن «پروفایل مجرمانه» به‌کار روند، می‌توانند به تبعیض ساختاری و برچسب‌زنی منجر شوند.
چهارمین نکته مهم، ممنوعیت این ملاحظه مطلقاً علیه هر نوع ارزیابی ریسک نیست، بلکه علیه نوع خاصی از ارزیابی ریسک است: ارزیابی ریسک درباره اشخاص حقیقی که صرفاً بر پروفایل‌سازی و ویژگی‌های شخصیتی استوار است. این تمایز بسیار مهم است، زیرا قانون‌گذار نمی‌خواهد هر نوع تحلیل پیش‌بینانه را ممنوع کند، بلکه می‌خواهد «پیش‌بینی مجرمانه درباره انسان» را از «تحلیل ریسک درباره الگوها، تراکنش‌ها یا مسیرها» جدا کند.
پنجمین نکته، به همین دلیل ملاحظه فوراً مرز ممنوعیت را روشن می‌کند: تحلیل ریسک درباره شرکت‌ها برای کشف تقلب مالی، یا تحلیل الگوهای قاچاق برای کشف کالاهای غیرقانونی، ممنوع نیست. وجه تمایز این موارد آن است که موضوع تحلیل، «فرد انسانی به‌عنوان سوژه پیش‌بینی جرم» نیست، بلکه الگوهای رفتاری، تراکنش‌های مشکوک یا مسیرهای عینیِ ریسک است.
ششمین نکته مهم، این ملاحظه در واقع خط قرمز مهمی میان «تحلیل ریسک مجاز» و «پیش‌داوری الگوریتمی درباره انسان» ترسیم می‌کند. AI می‌تواند برای تحلیل خطرات، الگوها و نشانه‌های عینی به‌کار رود؛ اما نباید به ابزاری برای تولید سوءظن خودکار نسبت به انسان‌ها صرفاً بر اساس خصوصیات شخصی‌شان تبدیل شود.
در نهایت، ملاحظه ۴۲ یکی از روشن‌ترین تجلیات رویکرد انسان‌محور AI Act است: قانون‌گذار اروپایی به‌صراحت اعلام می‌کند که هوش مصنوعی نمی‌تواند جایگزین قضاوت انسانی مبتنی بر واقعیت شود و هیچ‌کس نباید صرفاً به این دلیل که یک الگوریتم او را «پرخطر» تشخیص داده، در جایگاه مجرم بالقوه قرار گیرد.
منبع: ترجمه شده توسط بخش فناوری های نوین سایت راسخون
