قانون هوش مصنوعی اروپا: ملاحظه 55

سامانه‌های هوش مصنوعی که به عنوان اجزای ایمنی در زیرساخت‌های حیاتی مانند برق، آب، گاز و مراکز داده به کار می‌روند، به دلیل خطرات گسترده ناشی از خرابی آن‌ها، سامانه‌های پرخطر محسوب می‌شوند.
شنبه، 15 فروردين 1405
تخمین زمان مطالعه:
موارد بیشتر برای شما
قانون هوش مصنوعی اروپا: ملاحظه 55
ملاحظه ۵۵ تصریح می‌کند که سامانه‌های هوش مصنوعی مورد استفاده به عنوان اجزای ایمنی در زیرساخت‌های حیاتی، از جمله زیرساخت‌های دیجیتال، شبکه‌های آب، گاز، برق و ترافیک جاده‌ای، باید در زمره سامانه‌های هوش مصنوعی پرخطر قرار گیرند؛ زیرا نقص عملکرد آن‌ها می‌تواند سلامت و جان افراد را در مقیاس وسیع تهدید کرده و موجب اختلال جدی در خدمات عمومی و فعالیت‌های اقتصادی شود. با این حال، اجزایی که صرفاً برای اهداف امنیت سایبری استفاده می‌شوند، در این چارچوب جزء ایمنی تلقی نمی‌شوند.

ملاحظه قبلی:
قانون هوش مصنوعی اروپا: ملاحظه 54
 

قانون هوش مصنوعی اروپا: ملاحظه 55

در خصوص مدیریت و بهره‌برداری از زیرساخت‌های حیاتی، مقتضی است سامانه‌های هوش مصنوعی که به عنوان اجزای ایمنی در مدیریت و بهره‌برداری از زیرساخت‌های حیاتی دیجیتالِ مندرج در بند (8) پیوست Directive (EU) 2022/2557، همچنین در حوزه ترافیک جاده‌ای و تأمین آب، گاز، گرمایش و برق مورد استفاده قرار می‌گیرند، به عنوان سامانه‌های هوش مصنوعی پرخطر طبقه‌بندی شوند؛ زیرا شکست یا عملکرد معیوب آن‌ها ممکن است جان و سلامت اشخاص را در مقیاس گسترده در معرض خطر قرار دهد و موجب اختلالات قابل توجه در جریان عادی فعالیت‌های اجتماعی و اقتصادی گردد.

اجزای ایمنی زیرساخت‌های حیاتی، از جمله زیرساخت‌های حیاتی دیجیتال، سامانه‌هایی هستند که مستقیماً برای حفاظت از تمامیت فیزیکی زیرساخت حیاتی یا برای صیانت از سلامت و ایمنی اشخاص و اموال به کار می‌روند، لیکن برای عملکرد اصلی آن سامانه ضرورت ندارند. ازکارافتادگی یا نقص عملکرد این اجزا می‌تواند مستقیماً منجر به ایجاد خطر نسبت به تمامیت فیزیکی زیرساخت حیاتی و در نتیجه تهدید سلامت و ایمنی اشخاص و اموال شود.

اجزایی که صرفاً برای مقاصد امنیت سایبری طراحی شده‌اند، نباید به عنوان اجزای ایمنی تلقی شوند. از نمونه‌های اجزای ایمنی در این‌گونه زیرساخت‌ها می‌توان به سامانه‌های پایش فشار آب یا سامانه‌های کنترل هشدار حریق در مراکز رایانش ابری اشاره کرد.

قانون هوش مصنوعی اروپا: ملاحظه 55
 

تحلیل ملاحظه 55

۱. فلسفه اصلی ملاحظه

این ملاحظه توضیح می‌دهد که چرا برخی سامانه‌های هوش مصنوعی مورد استفاده در زیرساخت‌های حیاتی، ذاتاً در زمره سامانه‌های پرخطر قرار می‌گیرند. دلیل اصلی آن، شدت پیامدهای بالقوه خطا یا خرابی این سامانه‌هاست؛ پیامدهایی که می‌توانند جان انسان‌ها، امنیت عمومی و استمرار خدمات اساسی را تهدید کنند.
 

۲. مفهوم «زیرساخت حیاتی»

زیرساخت حیاتی شامل بخش‌هایی است که برای عملکرد جامعه ضروری‌اند؛ مانند:

شبکه برق،
سامانه‌های تأمین آب و گاز،
مراکز داده و خدمات ابری،
سیستم‌های حمل‌ونقل،
سامانه‌های گرمایش عمومی.

اختلال در این بخش‌ها ممکن است آثار زنجیره‌ای بر اقتصاد و امنیت اجتماعی داشته باشد.
 

۳. تعریف «جزء ایمنی»

قانون میان دو دسته از اجزا تمایز قائل می‌شود:

اجزایی که برای عملکرد عادی سیستم ضروری‌اند؛

اجزایی که نقش حفاظتی و ایمنی دارند.

ملاحظه ۵۵ تنها دسته دوم را هدف قرار می‌دهد؛ یعنی سامانه‌هایی که وظیفه آن‌ها تشخیص خطر، هشداردهی یا جلوگیری از حادثه است.
 

۴. علت پرخطر بودن این سامانه‌ها

چنانچه سامانه هوش مصنوعی در تشخیص فشار غیرعادی آب، احتمال آتش‌سوزی یا اختلال در شبکه برق اشتباه کند، ممکن است:

انفجار رخ دهد،
خدمات عمومی قطع شود،
خسارات مالی گسترده ایجاد گردد،
جان افراد به خطر افتد.

بنابراین، قانون‌گذار این حوزه را از حساس‌ترین کاربردهای هوش مصنوعی می‌داند.
 

۵. استثنای سامانه‌های صرفاً امنیت سایبری

اگر یک سامانه هوش مصنوعی فقط برای شناسایی بدافزار، حملات شبکه یا نفوذ سایبری استفاده شود، صرفاً به همین دلیل جزء ایمنی محسوب نمی‌شود و تحت این بند پرخطر تلقی نمی‌گردد؛ مگر آنکه به موجب سایر مقررات در دسته پرخطر قرار گیرد.
 

۶. آثار حقوقی طبقه‌بندی به عنوان «پرخطر»

قرار گرفتن در این دسته مستلزم رعایت الزامات فصل سوم AI Act است، از جمله:

مدیریت ریسک،
حاکمیت داده،
مستندسازی فنی،
ثبت وقایع (logging)،
نظارت انسانی،
ارزیابی انطباق،
ثبت در پایگاه داده اتحادیه اروپا.
 

۷. نمونه‌های عملی

نمونه‌های مورد اشاره:
سامانه هوش مصنوعی پایش فشار آب برای جلوگیری از ترکیدگی خطوط،

سامانه کنترل هشدار حریق در مراکز داده ابری.

در هر دو مورد، خطا می‌تواند خسارات سنگینی ایجاد کند.

ملاحظه بعدی:
قانون هوش مصنوعی اروپا: ملاحظه 56



منبع: ترجمه شده توسط بخش فناوری های نوین سایت راسخون
تبلیغات در راسخون
ارسال نظر
با تشکر، نظر شما پس از بررسی و تایید در سایت قرار خواهد گرفت.
متاسفانه در برقراری ارتباط خطایی رخ داده. لطفاً دوباره تلاش کنید.
موارد بیشتر برای شما
سیره تربیتی پیامبر (ص) در برخورد با نوجوانان؛ از کرامت تا تربیت دینی
سیره تربیتی پیامبر (ص) در برخورد با نوجوانان؛ از کرامت تا تربیت دینی
مرگ ناگهانی و پرسش های ناتمام؛ چگونه درباره فقدان با کودکان حرف بزنیم؟
مرگ ناگهانی و پرسش های ناتمام؛ چگونه درباره فقدان با کودکان حرف بزنیم؟
واکنش صلیب سرخ جهانی به جنایت‌های دشمن در جنگ چهل روزه علیه ایران چه بود؟
play_arrow
واکنش صلیب سرخ جهانی به جنایت‌های دشمن در جنگ چهل روزه علیه ایران چه بود؟
پرونده جدید علیه رسایی
play_arrow
پرونده جدید علیه رسایی
سواد مرگ، چرا جامعه ای که درباره زندگی حرف می زند از مرگ سخن نمی گوید؟
سواد مرگ، چرا جامعه ای که درباره زندگی حرف می زند از مرگ سخن نمی گوید؟
سلاح شیمیایی ایرانی در قلب واشنگتن؟!
play_arrow
سلاح شیمیایی ایرانی در قلب واشنگتن؟!
ضرب و شتم محمد خردادیان پس از افشاگری علیه پهلوی
play_arrow
ضرب و شتم محمد خردادیان پس از افشاگری علیه پهلوی
اولین ساعت‌مچی تلویزیون دار جهان سیکو در سال ۱۹۸۲ + فیلم
play_arrow
اولین ساعت‌مچی تلویزیون دار جهان سیکو در سال ۱۹۸۲ + فیلم
پیرترین ایرانی در سرشماری جدید شناسایی شد + فیلم
play_arrow
پیرترین ایرانی در سرشماری جدید شناسایی شد + فیلم
آیا هر رازی را باید با یک ربات در میان گذاشت؟
آیا هر رازی را باید با یک ربات در میان گذاشت؟
تقدیر از معلمی که جان دانش‌آموز را براثر خفگی نجات داد + فیلم
play_arrow
تقدیر از معلمی که جان دانش‌آموز را براثر خفگی نجات داد + فیلم
تعبیر جدید ترامپ از ونزوئلا ؛ دارایی جدید آمریکا است + فیلم
play_arrow
تعبیر جدید ترامپ از ونزوئلا ؛ دارایی جدید آمریکا است + فیلم
ادعای کارشناس پزشکی قانونی: جفری اپستین خفه شده است + فیلم
play_arrow
ادعای کارشناس پزشکی قانونی: جفری اپستین خفه شده است + فیلم
نجات خدمه نفتکش متخلف در تنگه هرمز توسط صیادان + فیلم
play_arrow
نجات خدمه نفتکش متخلف در تنگه هرمز توسط صیادان + فیلم
مسیریاب ایرانی با حال‌وهوای بازی GTA به‌روزرسانی شد + فیلم
play_arrow
مسیریاب ایرانی با حال‌وهوای بازی GTA به‌روزرسانی شد + فیلم