قانون هوش مصنوعی اروپا: ملاحظه 155

این ملاحظه ایجاد نظام پایش پس از عرضه برای سامانه‌های هوش مصنوعی پرخطر را الزامی می‌کند تا امکان بهبود مستمر، تحلیل تعاملات سیستمی، مدیریت ریسک‌های ناشی از یادگیری پس از عرضه و گزارش فوری حوادث جدی فراهم شود، در عین حال با حفظ محدودیت بر داده‌های حساس عملیاتی، تعادل میان نظارت و امنیت عملیاتی برقرار می‌گردد.
قانون هوش مصنوعی اروپا: متن ملاحظه 155
به‌منظور اطمینان از اینکه ارائه‌دهندگان سامانه‌های هوش مصنوعی پرخطر بتوانند تجربه استفاده از این سامانه‌ها را در جهت بهبود عملکرد آن‌ها و نیز فرآیند طراحی و توسعه مورد استفاده قرار دهند، یا در صورت لزوم اقدامات اصلاحی را در زمان مناسب انجام دهند، تمامی ارائه‌دهندگان باید دارای یک نظام پایش پس از عرضه باشند. در موارد مرتبط، این پایش باید شامل تحلیل تعامل سامانه‌های هوش مصنوعی با سایر سامانه‌ها، از جمله سایر تجهیزات و نرم‌افزارها، باشد. با این حال، این نظام نباید شامل داده‌های عملیاتی حساس بهره‌برداران که مراجع اجرای قانون هستند، شود.

این نظام همچنین نقش اساسی در تضمین رسیدگی مؤثر و به‌موقع به ریسک‌های احتمالی ناشی از سامانه‌های هوش مصنوعی دارد که پس از عرضه یا بهره‌برداری همچنان به «یادگیری» ادامه می‌دهند. در این زمینه، ارائه‌دهندگان باید ملزم باشند سازوکاری برای گزارش‌دهی به مراجع ذی‌ربط در خصوص هرگونه حادثه جدی ناشی از استفاده از سامانه‌های خود ایجاد کنند؛ به این معنا که هرگونه حادثه یا نقص عملکردی که منجر به مرگ یا آسیب جدی به سلامت، اختلال شدید و غیرقابل بازگشت در مدیریت و عملکرد زیرساخت‌های حیاتی، نقض تعهدات ناشی از حقوق اتحادیه با هدف حفاظت از حقوق بنیادین، یا خسارت جدی به اموال یا محیط زیست شود، باید به این مراجع گزارش گردد.


تحلیل قانون هوش مصنوعی اروپا: ملاحظه 155
در این ملاحظه، ابتدا بر ضرورت ایجاد نظام پایش پس از عرضه برای سامانه‌های هوش مصنوعی پرخطر تأکید می‌شود. هدف این است که ارائه‌دهندگان بتوانند تجربه واقعی استفاده از سامانه‌ها را جمع‌آوری کرده و از آن برای بهبود طراحی، توسعه و عملکرد سیستم‌های خود بهره بگیرند. همچنین این سازوکار امکان واکنش سریع و اصلاحی در برابر مشکلات احتمالی را فراهم می‌کند و نشان می‌دهد که مسئولیت ارائه‌دهنده پس از ورود محصول به بازار پایان نمی‌یابد.

در ادامه، دامنه این پایش مشخص می‌شود. این نظام باید بتواند در موارد لازم، تعامل سامانه هوش مصنوعی با سایر سامانه‌ها، از جمله تجهیزات و نرم‌افزارهای دیگر را نیز تحلیل کند. این موضوع اهمیت دارد زیرا عملکرد واقعی هوش مصنوعی معمولاً در یک محیط یکپارچه و متصل به سایر سیستم‌ها رخ می‌دهد. با این حال، یک محدودیت مهم نیز تعیین شده است: داده‌های عملیاتی حساس مربوط به بهره‌برداران در حوزه اجرای قانون از شمول این پایش خارج هستند تا از اختلال در مأموریت‌های حساس جلوگیری شود.

سپس نقش این نظام در مدیریت ریسک‌های پویا توضیح داده می‌شود. برخی سامانه‌های هوش مصنوعی پس از عرضه همچنان به یادگیری و تغییر رفتار ادامه می‌دهند، و همین ویژگی می‌تواند ریسک‌های جدیدی ایجاد کند. نظام پایش پس از عرضه ابزار اصلی برای شناسایی و رسیدگی به این ریسک‌های در حال تحول است و هدف آن افزایش سرعت و کارآمدی واکنش به مشکلات احتمالی است.

در بخش پایانی، الزام به گزارش‌دهی حوادث جدی مطرح می‌شود. ارائه‌دهندگان باید سازوکاری داشته باشند که هرگونه حادثه یا نقص عملکردی مهم را به مراجع ذی‌صلاح گزارش کنند. این حوادث شامل مواردی مانند مرگ یا آسیب شدید به سلامت، اختلال جدی و غیرقابل بازگشت در زیرساخت‌های حیاتی، نقض حقوق بنیادین بر اساس حقوق اتحادیه، یا خسارت جدی به اموال یا محیط زیست است. این الزام نشان‌دهنده اهمیت نظارت مستمر و واکنش سریع در مواجهه با پیامدهای جدی سامانه‌های هوش مصنوعی است.  
منبع: ترجمه شده توسط بخش فناوری های نوین سایت راسخون