این ماده مقرر میدارد که ارائهدهندگان مدلهای هوش مصنوعی عمومی دارای ریسک سیستمی ملزم به رعایت الزامات مشخصی هستند. آنان باید مدلهای خود را مطابق با پروتکلها و ابزارهای استاندارد ارزیابی نموده، ریسکهای سیستمی را شناسایی و کاهش دهند، و هرگونه رویداد جدی را به «دفتر هوش مصنوعی» و مقامات ملی مربوطه گزارش نمایند.
همچنین ارائهدهندگان باید امنیت مدلها و زیرساختهای مرتبط با آنها را تضمین کنند. ارائهدهندگان میتوانند برای اثبات رعایت این الزامات، از «آییننامههای رفتاری» استفاده نمایند تا زمان انتشار استاندارد رسمی؛ در صورتی که از آییننامه یا استاندارد مصوب تبعیت نکنند، باید روشهای جایگزین و قابل قبول برای رعایت مقررات ارائه نمایند. هرگونه اطلاعات یا مستندات بهدستآمده طبق این ماده، از جمله اسرار تجاری، باید محرمانه نگه داشته شود.
در واقع و برای یک نگرش مختصر
ارائهدهندگان مدلهای هوش مصنوعی دارای ریسک سیستمی باید ارزیابیهای پیشرفته، مدیریت ریسک، گزارشدهی رویدادهای جدی و حفاظت امنیت سایبری را تضمین کنند و تا زمان انتشار استانداردهای رسمی، انطباق خود را از طریق آییننامههای رفتاری یا روشهای جایگزین ثابت نمایند.
متن ماده قانون هوش مصنوعی اتحادیه اروپا؛ فصل 5 - ماده 55، تعهدات ارائه دهندگان مدلهای هوش مصنوعی عمومی با ریسک سیستمی
علاوه بر تعهدات مقرر در مواد ۵۳ و ۵۴، ارائهدهندگان مدلهای هوش مصنوعی عمومی دارای ریسک سیستمی مکلفاند اقدامات زیر را انجام دهند:(الف) ارزیابی مدل را مطابق با پروتکلها و ابزارهای استانداردسازیشده و مبتنی بر آخرین سطح فناوری از جمله اجرای آزمونهای خصمانه و مستندسازی آن با هدف شناسایی و کاهش ریسکهای سیستمی انجام دهند.
(ب) نسبت به ارزیابی و کاهش ریسکهای احتمالی در سطح اتحادیه از جمله منشأ این ریسکها که ممکن است از توسعه، عرضه در بازار یا بهرهبرداری از مدلهای هوش مصنوعی با کاربری عمومی دارای ریسک سیستمی ناشی شود، اقدام نمایند.
(پ) اطلاعات مرتبط با رویدادهای جدی و اقدامات اصلاحی احتمالی را که ممکن است برای رفع آنها لازم باشد، بدون تأخیر ناموجه به «دفتر هوش مصنوعی» و حسب مورد به مقامات صلاحیتدار ملی گزارش کرده و مستندسازی نمایند.
(ت) سطح مناسبی از حفاظت امنیت سایبری را برای مدل هوش مصنوعی با کاربری عمومی دارای ریسک سیستمی اند و همچنین زیرساخت فیزیکی مربوط به آن تضمین کنند.
ارائهدهندگان مدلهای هوش مصنوعی عمومی دارای ریسک سیستمی میتوانند، تا زمان انتشار استاندارد هماهنگشده، برای اثبات انطباق با تعهدات مندرج در بند ۱ این ماده، به «آییننامههای رفتاری» موضوع ماده ۵۶ استناد کنند. رعایت استانداردهای هماهنگ اروپایی، تا حد پوشش تعهدات مربوطه، برای ارائهدهندگان امارهای بر انطباق محسوب میشود. ارائهدهندگانی که از آییننامه رفتاری مصوب تبعیت نمیکنند یا با استانداردهای هماهنگ اروپایی منطبق نیستند، باید روشهای جایگزین و کافی برای رعایت مقررات ارائه دهند تا توسط کمیسیون ارزیابی گردد.
هرگونه اطلاعات یا مستنداتی که بر اساس این ماده به دست میآید، از جمله اسرار تجاری، باید مطابق با الزامات محرمانگی مقرر در ماده ۷۸ مورد رسیدگی و حفاظت قرار گیرد.
تحلیل و تفسیر بند به بند:
تحلیل بند (الف)این بند ارائهدهنده را ملزم میکند ارزیابی مدل را با روشهای استاندارد و مبتنی بر بهروزترین فناوری انجام دهد. تأکید خاص بر «آزمونهای خصمانه» نشان میدهد که اتحادیه اروپا نگران سناریوهایی است که مدل در برابر حملات یا ورودیهای مخرب رفتار غیرقابلپیشبینی نشان دهد. هدف قانون این است که مدل قبل از عرضه یا استفاده گسترده، در برابر تهدیدهای امنیتی و رفتاری آزمایش شود تا ریسکهای تأثیرگذار بر سطح اتحادیه شناسایی و کاهش یابد. این بند اساساً حالت «پیشگیری» دارد، یعنی قبل از بروز مشکل، نقاط ضعف باید پیدا و مستند شود.
تحلیل بند (ب)
در این بخش، قانونگذار از ارائهدهنده میخواهد که صرفاً به ارزیابی فنی مدل بسنده نکند، بلکه ریسکهایی را که ممکن است در سطح اتحادیه ایجاد شود، بررسی و کاهش دهد. این ریسکها میتواند ناشی از طراحی مدل، شیوه عرضه آن یا نحوه استفاده کاربران باشد. نکته مهم این بند «سطح اتحادیه» است؛ یعنی اگر مدلی بالقوه میتواند روی جامعه، امنیت، بازار یا خدمات عمومی اتحادیه تأثیر بگذارد، ارائهدهنده وظیفه دارد منابع ریسک را شناسایی کرده و اقدامات لازم برای کاهش آنها را اعمال کند. این بند بیشتر جنبه «مدیریت ریسک کلان» دارد تا ریسک تکنیکی.
تحلیل بند (پ)
در این بند بر شفافیت و گزارشدهی سریع تأکید شده است. اگر مدل دچار «رویداد جدی» شود—مثل آسیب امنیتی، نقض داده، رفتار خطرناک یا تبعات اجتماعی پیشبینینشده—ارائهدهنده باید بدون تأخیر ناموجه، اطلاعات آن را به دفتر هوش مصنوعی و مقامات ملی مربوطه گزارش کند. این الزام باعث ایجاد زنجیره پاسخگویی میشود و تضمین میکند که مقامات در جریان مشکلات کلیدی قرار بگیرند و بتوانند اقدامات مداخلهای انجام دهند. همچنین مستندسازی رویدادها امکان تحلیل روندها و پیشگیری از وقوع دوباره آنها را فراهم میسازد.
تحلیل بند (ت)
این بند اهمیت امنیت سایبری را برجسته میکند. مدلهای دارای ریسک سیستمی معمولاً بزرگ، پیچیده و زیربنایی هستند و هرگونه نفوذ یا دستکاری در آنها میتواند تأثیرات وسیعی ایجاد کند. قانون الزام میکند که نهتنها خود مدل، بلکه زیرساخت فیزیکی نگهداری و اجرا—از جمله سرورها، مراکز داده یا تجهیزات اختصاصی—باید از سطح مناسبی از حفاظت امنیتی برخوردار باشند. این بند بهطور مشخص به جلوگیری از حملات سایبری، دسترسی غیرمجاز و دستکاری مدل اشاره دارد.
تحلیل بخش مربوط به آییننامههای رفتاری
این قسمت انعطافپذیری به ارائهدهندگان میدهد تا پیش از نهایی شدن استانداردهای رسمی اتحادیه، انطباق خود را از طریق «آییننامههای رفتاری» ثابت کنند. البته این آزادی محدود است؛ زیرا زمانی که استانداردهای هماهنگ منتشر شود، آنها معیار رسمی تشخیص انطباق خواهند بود. اگر ارائهدهنده به آییننامههای رفتاری پایبند نباشد یا استانداردهای رسمی را رعایت نکند، باید روشهای جایگزین اما قابلقبولی ارائه کند تا کمیسیون بتواند صحت انطباق را ارزیابی کند. این بند یک سازوکار گذار ایجاد میکند تا صنعت در دورهای بدون استاندارد رسمی، همچنان تحت کنترل و قابلارزیابی باشد.تحلیل بند نهایی (محرمانگی اطلاعات)
در پایان قانون تأکید میکند که اطلاعات جمعآوریشده، حتی اگر شامل اسرار تجاری باشد، باید تحت مقررات محرمانگی ماده ۷۸ حفاظت شود. این بند توازن مهمی میان شفافیت قانونی و حفظ حقوق تجاری شرکتها برقرار میکند. در واقع، اتحادیه اروپا میخواهد از یک سو نظارت کامل داشته باشد، اما از سوی دیگر مانع آسیب به رقابت و مالکیت فکری شرکتها نشود.منبع: ترجمه شده توسط بخش فناوری های نوین سایت راسخون
