این ملاحظه چارچوب جامع مخاطرات نظام‌مند در مدل‌های هوش مصنوعی با کاربرد عمومی را تبیین می‌کند و آن را شامل پیامدهای فنی، امنیتی، اجتماعی و سیاسی می‌داند، با تأکید بر اینکه این خطرات وابسته به توانایی مدل، نحوه استفاده و شرایط محیطی هستند و می‌توانند از سطح فردی تا سطح جوامع و زیرساخت‌های حیاتی گسترش یابند.

ملاحظه قبلی:
قانون هوش مصنوعی اروپا: ملاحظه 109


قانون هوش مصنوعی اروپا: متن ملاحظه 110
مدل‌های هوش مصنوعی با کاربرد عمومی می‌توانند مخاطرات نظام‌مندی ایجاد کنند که شامل، اما نه محدود به، هرگونه آثار منفی واقعی یا به‌طور معقول قابل پیش‌بینی در ارتباط با حوادث بزرگ، اختلال در بخش‌های حیاتی و پیامدهای جدی بر سلامت و ایمنی عمومی؛ هرگونه آثار منفی واقعی یا قابل پیش‌بینی معقول بر فرایندهای دموکراتیک، امنیت عمومی و اقتصادی؛ و نیز انتشار محتوای غیرقانونی، نادرست یا تبعیض‌آمیز می‌باشد.

مخاطرات نظام‌مند باید به‌گونه‌ای درک شوند که با افزایش توانایی‌ها و گستره دسترسی مدل افزایش می‌یابند، می‌توانند در سراسر چرخه عمر مدل ایجاد شوند و تحت تأثیر شرایط سوءاستفاده، میزان قابلیت اطمینان، عدالت و امنیت مدل، سطح خودمختاری آن، دسترسی آن به ابزارها، شیوه‌های نو یا ترکیبی، راهبردهای انتشار و توزیع، امکان حذف محدودیت‌های ایمنی و عوامل دیگر قرار دارند.

به‌طور خاص، رویکردهای بین‌المللی تاکنون بر لزوم توجه به مخاطرات ناشی از سوءاستفاده عمدی یا مشکلات پیش‌بینی‌نشده مرتبط با هم‌راستایی با قصد انسانی تأکید کرده‌اند؛ همچنین مخاطرات شیمیایی، زیستی، پرتوی و هسته‌ای، از جمله کاهش موانع ورود به حوزه‌هایی مانند توسعه، طراحی، دسترسی یا استفاده از سلاح‌ها؛ و نیز قابلیت‌های تهاجمی سایبری، از جمله تسهیل در کشف آسیب‌پذیری‌ها، بهره‌برداری یا استفاده عملیاتی از آن‌ها.

همچنین به اثرات تعامل و استفاده از ابزارها، از جمله توانایی کنترل سامانه‌های فیزیکی و اختلال در زیرساخت‌های حیاتی؛ مخاطرات ناشی از مدل‌هایی که قادر به ایجاد نسخه‌های خود یا «خودتکثیری» هستند یا مدل‌های دیگر را آموزش می‌دهند؛ و شیوه‌هایی که مدل‌ها می‌توانند موجب سوگیری و تبعیض زیان‌بار شوند که تهدیدی برای افراد، جوامع یا کل جامعه است، توجه شده است.

افزون بر این، تسهیل انتشار اطلاعات نادرست یا آسیب به حریم خصوصی که تهدیدی برای ارزش‌های دموکراتیک و حقوق بشر محسوب می‌شود نیز از جمله مخاطرات است؛ همچنین خطر آنکه یک رویداد خاص بتواند زنجیره‌ای از پیامدهای منفی قابل توجه ایجاد کند که تا سطح یک شهر کامل، یک حوزه فعالیت کامل یا یک جامعه کامل گسترش یابد، مورد توجه قرار گرفته است.


تحلیل ملاحظه 110
در بند اول، مفهوم «مخاطرات نظام‌مند» برای مدل‌های هوش مصنوعی با کاربرد عمومی تعریف و مصداق‌سازی می‌شود. این مخاطرات شامل پیامدهای منفی واقعی یا قابل پیش‌بینی در حوزه‌های حساس مانند حوادث بزرگ، اختلال در بخش‌های حیاتی، سلامت و ایمنی عمومی، فرآیندهای دموکراتیک، امنیت اقتصادی و عمومی، و همچنین انتشار محتوای غیرقانونی، نادرست یا تبعیض‌آمیز است. هدف این بند نشان دادن گستره وسیع اثرات احتمالی این مدل‌هاست که فراتر از خطاهای فنی ساده بوده و می‌تواند آثار اجتماعی و ساختاری ایجاد کند.

در بند دوم، ماهیت پویا و وابسته به شرایط مخاطرات نظام‌مند توضیح داده می‌شود. این مخاطرات با افزایش توانایی و گستره مدل تشدید می‌شوند و در کل چرخه عمر آن می‌توانند ظاهر شوند. همچنین عوامل متعددی بر شدت این خطرات اثرگذار هستند؛ از جمله سوءاستفاده، میزان قابلیت اطمینان، عدالت و امنیت مدل، سطح خودمختاری، دسترسی به ابزارها، ترکیب‌پذیری قابلیت‌ها، نحوه انتشار، امکان حذف محدودیت‌های ایمنی و سایر شرایط زمینه‌ای. این بند نشان می‌دهد که ریسک‌ها ثابت نیستند و به طراحی و نحوه استفاده وابسته‌اند.

در بند سوم، نمونه‌هایی از نگرانی‌های بین‌المللی درباره مخاطرات خاص مطرح می‌شود. این موارد شامل سوءاستفاده عمدی یا مشکلات هم‌راستایی با اهداف انسانی، خطرات شیمیایی، زیستی، پرتوی و هسته‌ای (از جمله تسهیل توسعه یا دسترسی به سلاح‌ها)، و همچنین توانایی‌های سایبری تهاجمی مانند کشف و بهره‌برداری از آسیب‌پذیری‌ها است. این بند بر ابعاد امنیتی و ژئوپلیتیکی ریسک‌ها تمرکز دارد.

در بند چهارم، اثرات تعامل مدل‌ها با محیط‌های واقعی و ابزارها بررسی می‌شود. مواردی مانند توانایی کنترل سامانه‌های فیزیکی، اختلال در زیرساخت‌های حیاتی، و همچنین مخاطرات ناشی از خودتکثیری یا آموزش مدل‌های دیگر توسط یک مدل بیان می‌شود. علاوه بر این، به شکل‌گیری سوگیری و تبعیض و پیامدهای آن برای افراد و جوامع اشاره می‌شود که می‌تواند آثار اجتماعی گسترده داشته باشد.

در بند پنجم، جنبه‌های اجتماعی و سیاسی مخاطرات برجسته می‌شود. این شامل تسهیل انتشار اطلاعات نادرست، آسیب به حریم خصوصی و تهدید ارزش‌های دموکراتیک و حقوق بشر است. همچنین خطر اثر زنجیره‌ای یک رویداد خاص مطرح می‌شود که می‌تواند پیامدهای منفی گسترده‌ای در سطح یک شهر، یک حوزه فعالیت یا حتی یک جامعه کامل ایجاد کند. این بند بر اثرات دومینویی و سیستمیک تأکید دارد.

ملاحظه بعدی:
قانون هوش مصنوعی اروپا: ملاحظه 111
 
 

منبع: ترجمه شده توسط بخش فناوری های نوین سایت راسخون