قانون هوش مصنوعی اتحادیه اروپا - فصل 3؛ ماده 9: نظام مدیریت ریسک

ماده ۹ – نظام مدیریت ریسک

خلاصه تفسیری و تحلیلی از ماده ۹ – نظام مدیریت ریسک

ماده ۹ یکی از هسته‌های اصلی الزامات حاکم بر سامانه‌های هوش مصنوعی پرریسک است و نقش آن تضمین پیشگیری ساختاری از آسیب‌های احتمالی بر سلامت، ایمنی و حقوق بنیادین انسان‌هاست. این ماده تأکید می‌کند که مدیریت ریسک در هوش مصنوعی صرفاً یک مرحله فنی نیست، بلکه فرآیندی حقوقی، اخلاقی و مستمر است که باید در کل چرخه عمر سامانه—از طراحی تا بهره‌برداری و نظارت پس از بازار—ادغام شود.

طبق این ماده، ارائه‌دهندگان ملزم‌اند:
یک نظام مدیریت ریسک رسمی، مستند و دائماً به‌روز ایجاد کنند؛

خطرات قابل پیش‌بینی و سوءاستفاده معقول از سامانه را شناسایی و ارزیابی نمایند؛

نه‌تنها خطرات تکنیکی، بلکه آثار بالقوه بر حقوق بشر و گروه‌های آسیب‌پذیر، مانند کودکان، را در نظر گیرند؛

از آزمون و ارزیابی مداوم سامانه (حتی در شرایط واقعی) برای تضمین عملکرد ایمن استفاده کنند؛

تنها پس از رسیدن به «سطح قابل قبول خطر باقیمانده» اجازه عرضه یا بهره‌برداری از سامانه را داشته باشند.

نکته کلیدی این ماده در این است که مسئولیت پیشگیرانه (Preventive Liability) را بر دوش ارائه‌دهنده می‌گذارد، نه صرفاً واکنش پس از وقوع آسیب. ماده ۹ همچنین اجازه می‌دهد که اگر ارائه‌دهنده تحت قوانین دیگر اتحادیه اروپا (مثل مقررات تجهیزات پزشکی یا ایمنی ماشین‌آلات) دارای نظام مدیریت ریسک باشد، آن را با الزامات این مقرره ادغام کند، مشروط بر اینکه حقوق بنیادین محفوظ بماند.

منبع: تهیه شده در واحد فناوری های نوین راسخون