این ملاحظه، ارائهدهندگان سامانههای هوش مصنوعی مولد محتوای مصنوعی را ملزم میکند راهکارهای فنی قابلاعتماد برای نشانهگذاری و قابلتشخیصسازی خروجیهای تولید یا دستکاریشده توسط هوش مصنوعی بهکار گیرند، با رعایت تناسب و استثناهای معین.
این ملاحظه به مخاطرات ناشی از تولید انبوه محتوای مصنوعی توسط سامانههای هوش مصنوعی میپردازد که تشخیص آن از محتوای انسانی را دشوار میسازد و میتواند یکپارچگی و اعتماد در زیستبوم اطلاعاتی را تضعیف کرده و زمینهساز گمراهسازی، تقلب، جعل هویت و فریب مصرفکننده شود.
به همین دلیل، ارائهدهندگان این سامانهها باید راهکارهای فنی برای نشانهگذاری خروجیها در قالبی قابلخواندن توسط ماشین و قابلتشخیص بودن منشأ هوش مصنوعی آن تعبیه کنند. این راهکارها باید تا حد امکان از نظر فنی قابلاعتماد، مؤثر، سازگارپذیر و مستحکم باشند و میتوانند شامل نشانگذاری دیجیتال، شناسایی مبتنی بر فراداده، روشهای رمزنگاری برای اثبات منشأ و اصالت محتوا، ثبت وقایع، اثرانگشت دیجیتال یا سایر روشهای مناسب باشند.
با این حال، بهمنظور رعایت اصل تناسب، این الزام شامل سامانههایی که صرفاً کارکرد کمکی در ویرایش استاندارد دارند یا تغییر اساسی در داده ورودی یا معنای آن ایجاد نمیکنند، نخواهد شد.
.jpg "قانون هوش مصنوعی اروپا: ملاحظه 133")
متن ملاحظه 133
طیفی از سامانههای هوش مصنوعی قادرند مقادیر گستردهای از محتوای مصنوعی تولید کنند که تشخیص آن از محتوای تولیدشده توسط انسان و محتوای اصیل برای انسانها بهطور فزایندهای دشوار میشود. دسترسی گسترده و افزایش قابلیتهای این سامانهها تأثیر قابلتوجهی بر یکپارچگی و اعتماد در زیستبوم اطلاعاتی داشته و مخاطرات جدیدی از حیث گمراهسازی و دستکاری در مقیاس وسیع، تقلب، جعل هویت و فریب مصرفکننده ایجاد میکند.با توجه به این آثار، شتاب تحولات فناورانه و نیاز به روشها و فنون جدید برای ردیابی منشأ اطلاعات، مقتضی است ارائهدهندگان این سامانهها ملزم شوند راهکارهای فنیای تعبیه کنند که امکان نشانهگذاری خروجی در قالبی قابلخواندن توسط ماشین و امکان تشخیص این امر را فراهم آورد که خروجی مزبور توسط یک سامانه هوش مصنوعی تولید یا دستکاری شده و نه توسط انسان.
چنین فنون و روشهایی باید تا حدی که از نظر فنی امکانپذیر است، با لحاظ فنون موجود یا ترکیبی از آنها، به اندازه کافی قابلاعتماد، سازگارپذیر، مؤثر و مستحکم باشند؛ از جمله، حسب مورد، نشانگذاری دیجیتال، شناسایی مبتنی بر فراداده، روشهای رمزنگاری برای اثبات منشأ و اصالت محتوا، روشهای ثبت وقایع، اثرانگشتهای دیجیتال یا سایر فنون مناسب.
در اجرای این تعهد، ارائهدهندگان باید ویژگیها و محدودیتهای انواع مختلف محتوا و نیز تحولات فناورانه و بازار مرتبط در این حوزه را، آنگونه که در سطح پیشرفته و مورد پذیرش عمومی فناوری منعکس است، مدنظر قرار دهند.
این فنون و روشها میتوانند در سطح سامانه هوش مصنوعی یا در سطح مدل هوش مصنوعی، از جمله مدلهای همهمنظوره هوش مصنوعی مولد محتوا، پیادهسازی شوند و بدینترتیب اجرای این تعهد را برای ارائهدهنده پاییندستی سامانه هوش مصنوعی تسهیل نمایند.
بهمنظور رعایت اصل تناسب، پیشبینی این الزام نشانهگذاری نباید شامل سامانههای هوش مصنوعیای شود که عمدتاً کارکرد کمکی برای ویرایش استاندارد دارند یا سامانههایی که دادههای ورودی ارائهشده توسط بهرهبردار یا معنای آنها را بهطور اساسی تغییر نمیدهند.
تحلیل بند به بند ملاحظه 133
۱. شناسایی مسئله اصلیتولید انبوه محتوای مصنوعی که تمایز آن از محتوای انسانی دشوار است، تهدیدی برای اعتماد عمومی و سلامت زیستبوم اطلاعاتی محسوب میشود.
۲. مخاطرات مورد اشاره
گمراهسازی گسترده، دستکاری اطلاعات، تقلب، جعل هویت و فریب مصرفکننده؛ این موارد نشاندهنده نگرانی قانونگذار از آثار اجتماعی و اقتصادی فناوری است.
۳. الزام به نشانهگذاری فنی
ارائهدهندگان باید سازوکاری فنی برای قابلتشخیص ساختن منشأ هوش مصنوعی خروجی تعبیه کنند؛ این تعهد مبتنی بر اصل شفافیت و پاسخگویی فناورانه است.
۴. ویژگیهای فنی مورد انتظار
راهکارها باید:
- قابلاعتماد
- سازگارپذیر
- مؤثر
- مستحکم
۵. نمونه روشهای مجاز
نشانگذاری دیجیتال، شناسایی مبتنی بر فراداده، روشهای رمزنگاری برای اثبات منشأ، ثبت وقایع و اثرانگشت دیجیتال. فهرست جنبه تمثیلی دارد و حصری نیست.
۶. توجه به وضعیت پیشرفته فناوری
ارائهدهندگان باید «سطح پیشرفته و مورد پذیرش عمومی فناوری» را لحاظ کنند؛ این مفهوم معیار پویایی است که با تحول فناوری تغییر میکند.
۷. امکان اجرا در سطوح مختلف فنی
نشانهگذاری میتواند در سطح سامانه یا در سطح مدل، از جمله مدلهای همهمنظوره، پیادهسازی شود. این امر مسئولیت را در زنجیره تأمین فناوری توزیع میکند.
۸. اصل تناسب و استثناها
سامانههای صرفاً کمکی یا سامانههایی که تغییر اساسی در داده یا معنا ایجاد نمیکنند، از شمول الزام خارجاند. این استثنا از تحمیل بار غیرضروری بر فناوریهای کمخطر جلوگیری میکند.
منبع: ترجمه شده توسط بخش فناوری های نوین سایت راسخون
