قانون هوش مصنوعی اروپا: ملاحظه 55

ملاحظه ۵۵ تصریح می‌کند که سامانه‌های هوش مصنوعی مورد استفاده به عنوان اجزای ایمنی در زیرساخت‌های حیاتی، از جمله زیرساخت‌های دیجیتال، شبکه‌های آب، گاز، برق و ترافیک جاده‌ای، باید در زمره سامانه‌های هوش مصنوعی پرخطر قرار گیرند؛ زیرا نقص عملکرد آن‌ها می‌تواند سلامت و جان افراد را در مقیاس وسیع تهدید کرده و موجب اختلال جدی در خدمات عمومی و فعالیت‌های اقتصادی شود. با این حال، اجزایی که صرفاً برای اهداف امنیت سایبری استفاده می‌شوند، در این چارچوب جزء ایمنی تلقی نمی‌شوند.  

قانون هوش مصنوعی اروپا: ملاحظه 55

در خصوص مدیریت و بهره‌برداری از زیرساخت‌های حیاتی، مقتضی است سامانه‌های هوش مصنوعی که به عنوان اجزای ایمنی در مدیریت و بهره‌برداری از زیرساخت‌های حیاتی دیجیتالِ مندرج در بند (8) پیوست Directive (EU) 2022/2557، همچنین در حوزه ترافیک جاده‌ای و تأمین آب، گاز، گرمایش و برق مورد استفاده قرار می‌گیرند، به عنوان سامانه‌های هوش مصنوعی پرخطر طبقه‌بندی شوند؛ زیرا شکست یا عملکرد معیوب آن‌ها ممکن است جان و سلامت اشخاص را در مقیاس گسترده در معرض خطر قرار دهد و موجب اختلالات قابل توجه در جریان عادی فعالیت‌های اجتماعی و اقتصادی گردد.

اجزای ایمنی زیرساخت‌های حیاتی، از جمله زیرساخت‌های حیاتی دیجیتال، سامانه‌هایی هستند که مستقیماً برای حفاظت از تمامیت فیزیکی زیرساخت حیاتی یا برای صیانت از سلامت و ایمنی اشخاص و اموال به کار می‌روند، لیکن برای عملکرد اصلی آن سامانه ضرورت ندارند. ازکارافتادگی یا نقص عملکرد این اجزا می‌تواند مستقیماً منجر به ایجاد خطر نسبت به تمامیت فیزیکی زیرساخت حیاتی و در نتیجه تهدید سلامت و ایمنی اشخاص و اموال شود.

اجزایی که صرفاً برای مقاصد امنیت سایبری طراحی شده‌اند، نباید به عنوان اجزای ایمنی تلقی شوند. از نمونه‌های اجزای ایمنی در این‌گونه زیرساخت‌ها می‌توان به سامانه‌های پایش فشار آب یا سامانه‌های کنترل هشدار حریق در مراکز رایانش ابری اشاره کرد.  

تحلیل ملاحظه 55

۱. فلسفه اصلی ملاحظه

این ملاحظه توضیح می‌دهد که چرا برخی سامانه‌های هوش مصنوعی مورد استفاده در زیرساخت‌های حیاتی، ذاتاً در زمره سامانه‌های پرخطر قرار می‌گیرند. دلیل اصلی آن، شدت پیامدهای بالقوه خطا یا خرابی این سامانه‌هاست؛ پیامدهایی که می‌توانند جان انسان‌ها، امنیت عمومی و استمرار خدمات اساسی را تهدید کنند.
 

۲. مفهوم «زیرساخت حیاتی»

زیرساخت حیاتی شامل بخش‌هایی است که برای عملکرد جامعه ضروری‌اند؛ مانند:

شبکه برق،
سامانه‌های تأمین آب و گاز،
مراکز داده و خدمات ابری،
سیستم‌های حمل‌ونقل،
سامانه‌های گرمایش عمومی.

اختلال در این بخش‌ها ممکن است آثار زنجیره‌ای بر اقتصاد و امنیت اجتماعی داشته باشد.
 

۳. تعریف «جزء ایمنی»

قانون میان دو دسته از اجزا تمایز قائل می‌شود:

اجزایی که برای عملکرد عادی سیستم ضروری‌اند؛

اجزایی که نقش حفاظتی و ایمنی دارند.

ملاحظه ۵۵ تنها دسته دوم را هدف قرار می‌دهد؛ یعنی سامانه‌هایی که وظیفه آن‌ها تشخیص خطر، هشداردهی یا جلوگیری از حادثه است.
 

۴. علت پرخطر بودن این سامانه‌ها

چنانچه سامانه هوش مصنوعی در تشخیص فشار غیرعادی آب، احتمال آتش‌سوزی یا اختلال در شبکه برق اشتباه کند، ممکن است:

انفجار رخ دهد،
خدمات عمومی قطع شود،
خسارات مالی گسترده ایجاد گردد،
جان افراد به خطر افتد.

بنابراین، قانون‌گذار این حوزه را از حساس‌ترین کاربردهای هوش مصنوعی می‌داند.
 

۵. استثنای سامانه‌های صرفاً امنیت سایبری

اگر یک سامانه هوش مصنوعی فقط برای شناسایی بدافزار، حملات شبکه یا نفوذ سایبری استفاده شود، صرفاً به همین دلیل جزء ایمنی محسوب نمی‌شود و تحت این بند پرخطر تلقی نمی‌گردد؛ مگر آنکه به موجب سایر مقررات در دسته پرخطر قرار گیرد.
 

۶. آثار حقوقی طبقه‌بندی به عنوان «پرخطر»

قرار گرفتن در این دسته مستلزم رعایت الزامات فصل سوم AI Act است، از جمله:

مدیریت ریسک،
حاکمیت داده،
مستندسازی فنی،
ثبت وقایع (logging)،
نظارت انسانی،
ارزیابی انطباق،
ثبت در پایگاه داده اتحادیه اروپا.
 

۷. نمونه‌های عملی

نمونه‌های مورد اشاره:
سامانه هوش مصنوعی پایش فشار آب برای جلوگیری از ترکیدگی خطوط،

سامانه کنترل هشدار حریق در مراکز داده ابری.

در هر دو مورد، خطا می‌تواند خسارات سنگینی ایجاد کند.


منبع: ترجمه شده توسط بخش فناوری های نوین سایت راسخون