با توجه به مفهوم پذیرفته‌شده تغییرات اساسی در محصولات تحت مقررات هماهنگی اتحادیه اروپا، در صورتی که تغییراتی رخ دهد که ممکن است بر انطباق یک سامانه هوش مصنوعی پرخطر با این مقررات تأثیر بگذارد، مانند تغییر سیستم عامل یا معماری نرم‌افزار، یا اگر هدف مورد نظر سامانه تغییر کند، آن سامانه باید به عنوان یک سامانه هوش مصنوعی جدید در نظر گرفته شود و ارزیابی انطباق جدیدی را طی کند.
با این حال، تغییراتی که در الگوریتم و عملکرد سامانه‌های هوش مصنوعی رخ می‌دهد و پس از قرار گرفتن در بازار یا ورود به خدمت به طور خودکار عملکرد خود را تطبیق می‌دهند، مشروط بر اینکه این تغییرات توسط ارائه‌دهنده پیش‌بینی شده و در زمان ارزیابی انطباق بررسی شده باشد، جزو تغییرات اساسی محسوب نمی‌شوند.
متن ملاحظه 128 : تعیین تغییرات اساسی در هوش مصنوعی پرخطر و الزامات ارزیابی انطباق جدید
با توجه به مفهوم پذیرفته‌شده تغییرات اساسی برای محصولاتی که توسط قوانین هماهنگی اتحادیه تنظیم شده‌اند، مناسب است که هرگاه تغییراتی رخ دهد که ممکن است انطباق یک سامانه هوش مصنوعی پرخطر با این مقررات را تحت تأثیر قرار دهد (مانند تغییر سیستم عامل یا معماری نرم‌افزار)، یا هنگامی که هدف مورد نظر سامانه تغییر کند، آن سامانه هوش مصنوعی باید به عنوان یک سامانه هوش مصنوعی جدید در نظر گرفته شود و ارزیابی انطباق جدیدی انجام شود.با این حال، تغییراتی که در الگوریتم و عملکرد سامانه‌های هوش مصنوعی که پس از قرار گرفتن در بازار یا ورود به خدمت به‌طور مداوم یاد می‌گیرند و به طور خودکار نحوه انجام وظایف را تطبیق می‌دهند رخ می‌دهد، جزو تغییرات اساسی محسوب نمی‌شوند، مشروط بر آنکه این تغییرات توسط ارائه‌دهنده پیش‌بینی شده و در زمان ارزیابی انطباق مورد بررسی قرار گرفته باشند.
تحلیل بند به بند ملاحظه 128 : تعیین تغییرات اساسی در هوش مصنوعی پرخطر و الزامات ارزیابی انطباق جدید
- پیش‌زمینه و ارجاع به قوانین هماهنگی اتحادیه:
- ملاحظه با استناد به مفهوم «تغییرات اساسی» در محصولات تحت قوانین هماهنگی اتحادیه آغاز می‌شود.
- این چارچوب برای تطبیق هوش مصنوعی پرخطر با مقررات اتحادیه مورد استفاده قرار می‌گیرد.
- شناسایی تغییرات مؤثر بر انطباق:
- هر تغییری که ممکن است بر انطباق سامانه با مقررات تأثیر بگذارد، مانند تغییر سیستم عامل یا معماری نرم‌افزار، باید به عنوان تغییر اساسی تلقی شود.
- همچنین تغییر هدف مورد نظر سامانه، مستلزم ارزیابی مجدد است.
- لزوم ارزیابی انطباق جدید:
- سامانه‌های دارای تغییرات اساسی باید به عنوان سامانه‌های جدید شناسایی شده و ارزیابی انطباق جدیدی را طی کنند.
- این تضمین می‌کند که تغییرات بر ایمنی و انطباق نظارت کافی دارند.
- استثناء تغییرات خودیادگیرنده:
- تغییرات الگوریتمی و عملکردی که پس از عرضه به بازار به طور خودکار یاد می‌گیرند و نحوه عملکرد را تطبیق می‌دهند، جزو تغییرات اساسی نیستند.
- شرط این است که این تغییرات از قبل توسط ارائه‌دهنده تعیین و در زمان ارزیابی انطباق بررسی شده باشند.
- پیامد حقوقی:
- این ملاحظه چارچوبی برای تفکیک تغییرات اساسی و غیر اساسی فراهم می‌کند و مسئولیت ارائه‌دهنده را در پیش‌بینی و ارزیابی تغییرات خودیادگیرنده مشخص می‌سازد.
منبع: ترجمه شده توسط بخش فناوری های نوین سایت راسخون
