قانون هوش مصنوعی اروپا: ملاحظه 61

ملاحظه ۶۱ مقرر می‌دارد که سامانه‌های هوش مصنوعی مورد استفاده توسط دادگاه‌ها و نهادهای حل‌وفصل اختلاف برای تحلیل وقایع، تفسیر قانون و کمک به تصمیم‌گیری، به دلیل تأثیر بالقوه بر دموکراسی، حاکمیت قانون، حق دفاع و دادرسی عادلانه، در زمره سامانه‌های پرخطر قرار می‌گیرند. این سامانه‌ها باید از نظر شفافیت، دقت و قابلیت توضیح الزامات سخت‌گیرانه‌ای را رعایت کنند. با این حال، هوش مصنوعی صرفاً نقش کمکی دارد و تصمیم نهایی باید همواره توسط قاضی یا مرجع انسانی اتخاذ شود. سامانه‌های مورد استفاده برای امور اداری جانبی که بر ماهیت رأی اثر ندارند، از این طبقه‌بندی مستثنا هستند.  

قانون هوش مصنوعی اروپا: متن ملاحظه 61

برخی از سامانه‌های هوش مصنوعی که برای اداره عدالت و فرآیندهای دموکراتیک مورد استفاده قرار می‌گیرند، باید به‌عنوان سامانه‌های هوش مصنوعی «پرخطر» طبقه‌بندی شوند؛ زیرا این سامانه‌ها می‌توانند تأثیر قابل توجهی بر دموکراسی، حاکمیت قانون، آزادی‌های فردی، و نیز حق برخورداری از جبران مؤثر و دادرسی عادلانه داشته باشند.

به‌ویژه، به منظور مقابله با مخاطرات ناشی از سوگیری‌های احتمالی، خطاها و عدم شفافیت، مقتضی است سامانه‌های هوش مصنوعی که برای استفاده توسط مراجع قضایی یا به نمایندگی از آن‌ها طراحی شده‌اند و در تحقیق و تفسیر وقایع و قوانین و همچنین در تطبیق قانون بر مجموعه مشخصی از وقایع به مراجع قضایی کمک می‌کنند، به‌عنوان سامانه‌های پرخطر شناخته شوند.
سامانه‌های هوش مصنوعی که برای استفاده توسط نهادهای حل‌وفصل جایگزین اختلافات (Alternative Dispute Resolution – ADR) برای همین اهداف طراحی شده‌اند نیز، در صورتی که نتایج فرآیند حل اختلاف دارای آثار حقوقی برای طرفین باشد، باید پرخطر تلقی شوند.

استفاده از ابزارهای هوش مصنوعی می‌تواند از اختیار تصمیم‌گیری قضات و استقلال قضایی حمایت کند، اما نباید جایگزین آن شود؛ تصمیم نهایی باید همواره نتیجه یک فرآیند تصمیم‌گیری انسانی باشد.

با این حال، طبقه‌بندی سامانه‌های هوش مصنوعی به‌عنوان پرخطر نباید به سامانه‌هایی تسری یابد که صرفاً برای فعالیت‌های اداری و جانبی مورد استفاده قرار می‌گیرند و بر اداره واقعی عدالت در پرونده‌های فردی تأثیری ندارند؛ مانند ناشناس‌سازی یا مستعارسازی آرای قضایی، اسناد یا داده‌ها، ارتباطات میان کارکنان و سایر امور اداری.  

تحلیل ملاحظه ۶۱

۱. جایگاه ویژه عدالت و دموکراسی در نظام حقوقی اتحادیه اروپا

ملاحظه ۶۱ بر این اصل بنیادین تأکید دارد که نظام قضایی و فرآیندهای دموکراتیک از ارکان اساسی حاکمیت قانون هستند. هرگونه استفاده از هوش مصنوعی در این حوزه‌ها می‌تواند به طور مستقیم بر آزادی‌های فردی، حقوق دفاعی اشخاص و اعتماد عمومی به نظام قضایی اثر بگذارد. به همین دلیل، قانون‌گذار اروپایی این حوزه را در زمره حساس‌ترین موارد استفاده از هوش مصنوعی قرار داده است.
 

۲. علت طبقه‌بندی به عنوان «پرخطر»

سامانه‌هایی که به قاضی یا مرجع حل اختلاف در تحلیل وقایع، تفسیر قوانین یا اعمال قانون بر پرونده کمک می‌کنند، اگر دارای سوگیری، خطا یا عدم شفافیت باشند، ممکن است نتیجه دادرسی را به‌طور اساسی تحت تأثیر قرار دهند. از این رو، چنین سامانه‌هایی در طبقه پرخطر قرار می‌گیرند و باید تمامی الزامات سخت‌گیرانه قانون هوش مصنوعی اتحادیه اروپا را رعایت کنند.
 

۳. حفظ اصل تصمیم‌گیری انسانی

نکته محوری این ملاحظه آن است که هوش مصنوعی تنها ابزار کمکی است و نمی‌تواند جایگزین قاضی یا داور شود. مسئولیت نهایی صدور رأی یا تصمیم حقوقی باید همواره با انسان باقی بماند. این اصل، تضمین‌کننده استقلال قضایی و پاسخگویی انسانی در برابر قانون است.
 

۴. شمول نهادهای حل‌وفصل جایگزین اختلافات

این ملاحظه تنها به دادگاه‌ها محدود نیست. اگر نهادهای داوری، میانجی‌گری یا سایر روش‌های حل اختلاف از هوش مصنوعی استفاده کنند و تصمیمات آن‌ها آثار حقوقی برای طرفین داشته باشد، سامانه‌های مورد استفاده نیز پرخطر محسوب می‌شوند.
 

۵. استثنای فعالیت‌های اداری جانبی

سامانه‌هایی که صرفاً برای امور پشتیبانی مانند ناشناس‌سازی آرای قضایی، سازماندهی اسناد یا ارتباطات اداری به کار می‌روند و بر ماهیت تصمیم قضایی اثر ندارند، پرخطر محسوب نمی‌شوند. این استثنا نشان‌دهنده رویکرد متناسب و مبتنی بر ریسک در قانون هوش مصنوعی اتحادیه اروپا است.

منبع: ترجمه شده توسط بخش فناوری های نوین سایت راسخون