قانون هوش مصنوعی اروپا: ملاحظه 132

این ملاحظه، برای برخی سامانه‌های هوش مصنوعی تعاملی یا مولد محتوا، تعهدات خاص شفافیت و اطلاع‌رسانی به اشخاص حقیقی را به‌منظور جلوگیری از فریب، جعل هویت و سوءاستفاده از داده‌های زیستی مقرر می‌کند.

این ملاحظه بیان می‌کند که برخی سامانه‌های هوش مصنوعی که برای تعامل با اشخاص حقیقی یا تولید محتوا طراحی شده‌اند، حتی اگر در زمره سامانه‌های پرخطر نباشند، می‌توانند خطراتی نظیر جعل هویت یا فریب ایجاد کنند؛ ازاین‌رو باید مشمول الزامات ویژه شفافیت شوند.

اشخاص حقیقی باید مطلع شوند که با یک سامانه هوش مصنوعی تعامل دارند، مگر آنکه این امر برای فردی متعارف و آگاه، با توجه به شرایط و زمینه استفاده، آشکار باشد. همچنین در مواردی که سامانه از طریق پردازش داده‌های زیستی به شناسایی یا استنباط احساسات، نیات یا دسته‌بندی اشخاص می‌پردازد، اطلاع‌رسانی الزامی است.

این اطلاعات باید برای اشخاص دارای معلولیت در قالب‌های قابل دسترس ارائه شود و ویژگی‌های گروه‌های آسیب‌پذیر، از جمله کودکان و اشخاص دارای معلولیت، در اجرای این تعهدات لحاظ گردد.

 

قانون هوش مصنوعی اروپا: ملاحظه 132

برخی سامانه‌های هوش مصنوعی که برای تعامل با اشخاص حقیقی یا تولید محتوا در نظر گرفته شده‌اند، ممکن است بدون توجه به اینکه در زمره سامانه‌های پرخطر قرار می‌گیرند یا خیر، مخاطرات خاصی از حیث جعل هویت یا فریب ایجاد نمایند. ازاین‌رو، در برخی شرایط، استفاده از این سامانه‌ها باید مشمول تعهدات ویژه شفافیت باشد، بدون آنکه به الزامات و تعهدات مربوط به سامانه‌های هوش مصنوعی پرخطر خدشه‌ای وارد شود و با رعایت استثناهای هدفمند به‌منظور توجه به نیازهای خاص حوزه اجرای قانون.

به‌ویژه، اشخاص حقیقی باید مطلع شوند که در حال تعامل با یک سامانه هوش مصنوعی هستند، مگر آنکه این امر از منظر یک شخص حقیقی که به‌طور متعارف آگاه، دقیق و محتاط است، با توجه به شرایط و زمینه استفاده، آشکار باشد. در اجرای این تعهد، ویژگی‌های اشخاص حقیقی متعلق به گروه‌های آسیب‌پذیر به‌سبب سن یا معلولیت باید تا آنجا که سامانه هوش مصنوعی برای تعامل با آن گروه‌ها طراحی شده است، مدنظر قرار گیرد.

علاوه بر این، اشخاص حقیقی باید زمانی مطلع شوند که در معرض سامانه‌های هوش مصنوعی قرار می‌گیرند که از طریق پردازش داده‌های زیستی آنان قادر به شناسایی یا استنباط احساسات یا نیات ایشان یا تخصیص آنان به دسته‌های مشخص باشند. این دسته‌های مشخص می‌تواند به جنبه‌هایی نظیر جنس، سن، رنگ مو، رنگ چشم، خالکوبی‌ها، ویژگی‌های شخصی، منشأ قومی، ترجیحات و علایق شخصی مربوط باشد. این اطلاعات و اطلاع‌رسانی‌ها باید در قالب‌های قابل دسترس برای اشخاص دارای معلولیت ارائه گردد.
 

تحلیل بند به بند ملاحظه 132

۱. دامنه شمول فراتر از سامانه‌های پرخطر
ملاحظه تصریح می‌کند که حتی سامانه‌هایی که در طبقه‌بندی «پرخطر» قرار نمی‌گیرند، ممکن است خطرات مستقلی ایجاد کنند؛ بنابراین، نظام تنظیم‌گری صرفاً مبتنی بر طبقه‌بندی پرخطر نیست.

۲. مخاطره جعل هویت و فریب
تمرکز اصلی بر خطر «جعل هویت» و «فریب» است؛ به‌ویژه در سامانه‌های تعاملی یا مولد محتوا که می‌توانند خود را به‌جای انسان معرفی کنند یا محتوای گمراه‌کننده تولید نمایند.

۳. اصل اطلاع از تعامل با هوش مصنوعی
قاعده کلی آن است که شخص حقیقی باید بداند طرف تعامل او یک سامانه هوش مصنوعی است. این امر تجلی اصل شفافیت و حمایت از خودمختاری ارادی اشخاص است.

۴. معیار شخص متعارف آگاه و محتاط
استثنا بر مبنای معیار «شخص متعارف آگاه، دقیق و محتاط» تعیین شده است. این معیار، مفهومی عینی و حقوقی است که در بسیاری از نظام‌های حقوقی برای سنجش معقول بودن به‌کار می‌رود.

۵. توجه به گروه‌های آسیب‌پذیر
در اجرای تعهد شفافیت، باید وضعیت کودکان و اشخاص دارای معلولیت لحاظ شود. این بند نشان‌دهنده رویکرد حمایتی و مبتنی بر تبعیض مثبت است.

۶. الزام اطلاع‌رسانی درباره پردازش داده‌های زیستی
چنانچه سامانه از داده‌های زیستی برای شناسایی، استنباط احساسات یا دسته‌بندی افراد استفاده کند، اطلاع‌رسانی الزامی است. این موضوع با اصول حمایت از داده‌های شخصی و حریم خصوصی پیوند دارد.

۷. دامنه گسترده دسته‌بندی‌ها
فهرست ارائه‌شده (جنس، سن، رنگ مو، منشأ قومی، علایق شخصی و غیره) نشان می‌دهد که حتی ویژگی‌های ظاهری یا رفتاری نیز می‌تواند مشمول حمایت باشد.

۸. الزام دسترس‌پذیری برای اشخاص دارای معلولیت
اطلاع‌رسانی باید در قالب‌های قابل دسترس ارائه شود؛ این امر با اصول برابری و منع تبعیض سازگار است و به بُعد حقوق بشری مقرره قوت می‌بخشد.
منبع: ترجمه شده توسط بخش فناوری های نوین سایت راسخون