قانون هوش مصنوعی اروپا: متن ملاحظه 65
نظام مدیریت ریسک باید شامل یک فرایند مستمر و تکرارشونده باشد که از پیش طراحی شده و در سراسر چرخه عمر کامل یک سامانه هوش مصنوعی پرخطر اجرا میشود. این فرایند باید با هدف شناسایی و کاهش ریسکهای مرتبط سامانههای هوش مصنوعی بر سلامت، ایمنی و حقوق بنیادین اشخاص انجام گیرد.نظام مدیریت ریسک باید بهطور منظم بازبینی و بهروزرسانی شود تا اثربخشی مستمر آن تضمین گردد و همچنین هرگونه تصمیم یا اقدام مهم اتخاذشده تحت شمول این مقرره مستند و قابل توجیه باشد.
این فرایند باید اطمینان حاصل کند که ارائهدهنده، ریسکها یا آثار نامطلوب را شناسایی کرده و برای ریسکهای شناختهشده و بهطور معقول قابل پیشبینی، با توجه به هدف مورد نظر سامانه و سوءاستفادههای قابل پیشبینی، اقدامات کاهشی مناسب را اجرا میکند. این شامل ریسکهای ناشی از تعامل میان سامانه هوش مصنوعی و محیط عملیاتی آن نیز میشود.
نظام مدیریت ریسک باید مناسبترین اقدامات مدیریت ریسک را با توجه به «وضعیت فنی روز» در حوزه هوش مصنوعی اتخاذ کند. ارائهدهنده باید انتخابهای انجامشده را مستندسازی و توجیه کند و در صورت لزوم، از کارشناسان و ذینفعان بیرونی نیز استفاده نماید.
در شناسایی سوءاستفادههای قابل پیشبینی، ارائهدهنده باید مواردی را نیز در نظر بگیرد که اگرچه در هدف اصلی سامانه یا دستورالعمل استفاده ذکر نشدهاند، اما به طور معقول میتوان انتظار داشت که از رفتار انسانی قابل پیشبینی در زمینه استفاده از آن سامانه ناشی شوند.
هرگونه شرایط شناختهشده یا قابل پیشبینی مرتبط با استفاده از سامانه هوش مصنوعی که ممکن است موجب خطر برای سلامت، ایمنی یا حقوق بنیادین شود، باید در دستورالعمل استفاده درج گردد تا بهرهبردار از آن آگاه باشد.
شناسایی و اجرای اقدامات کاهش ریسک برای سوءاستفادههای قابل پیشبینی، مستلزم آموزش خاص و اضافی سامانه توسط ارائهدهنده نیست؛ هرچند ارائهدهندگان بهطور کلی به انجام چنین آموزشهایی برای کاهش سوءاستفادههای قابل پیشبینی تشویق میشوند.
.jpg "قانون هوش مصنوعی اروپا: ملاحظه 65")
تحلیل ملاحظه 65
1. هسته اصلی: مدیریت ریسک «چرخه عمر کامل»
این ملاحظه یکی از ستونهای اصلی قانون AI Act را توضیح میدهد: مدیریت ریسک نباید یک اقدام مقطعی باشد، بلکه باید از طراحی تا پایان عمر سامانه ادامه داشته باشد. این رویکرد مشابه «ایمنی محصول در طول چرخه حیات» در حقوق اتحادیه اروپاست.2. مفهوم «فرایند تکرارشونده و پویا»
مدیریت ریسک باید:دائماً بهروزرسانی شود؛
بر اساس تجربه عملی اصلاح گردد؛
با تغییرات محیطی و دادهای تطبیق یابد.
این نشاندهنده پذیرش ماهیت پویا و غیرایستای ریسک در سیستمهای هوش مصنوعی است.
3. دامنه ریسکها: سه محور اصلی
ریسکهایی که باید مدیریت شوند شامل:سلامت (Health)
ایمنی (Safety)
حقوق بنیادین (Fundamental Rights)
این ترکیب نشان میدهد که AI Act فقط یک مقرره ایمنی فنی نیست، بلکه یک چارچوب حقوق بشر-محور است.
4. مفهوم کلیدی: «سوءاستفاده قابل پیشبینی»
یکی از مهمترین بخشهای این ملاحظه، تعریف گسترده از misuse است:نه فقط استفاده نادرست عمدی؛
بلکه هر رفتاری که «قابل پیشبینی معقول» باشد.
این مفهوم بار مسئولیت را بر دوش ارائهدهنده افزایش میدهد، زیرا باید رفتار کاربران را نیز پیشبینی کند.
5. ریسک تعامل انسان و سیستم
قانونگذار تأکید میکند که ریسک فقط از خود سیستم ناشی نمیشود، بلکه از:تعامل انسان با سیستم
و محیط عملیاتی
نیز شکل میگیرد. این نگاه «سیستم-محور» است نه صرفاً «الگوریتممحور».
6. اصل مستندسازی و پاسخگویی
ارائهدهنده موظف است:تصمیمات خود را مستند کند؛
دلایل انتخاب روشهای کاهش ریسک را توضیح دهد؛
در صورت نیاز از کارشناسان خارجی استفاده کند.
این بخش، عنصر شفافیت و قابلیت حسابرسی را تقویت میکند.
7. نقش دستورالعمل استفاده (Instructions for Use)
تمام ریسکهای قابل پیشبینی باید در دستورالعمل کاربر درج شوند تا:بهرهبردار آگاه باشد؛
بتواند تصمیم مسئولانه بگیرد.
این ابزار، انتقال بخشی از مسئولیت مدیریت ریسک به سطح استفادهکننده را ممکن میسازد.
8. عدم الزام به آموزش مجدد سیستم
مقرره تصریح میکند که:برای مدیریت سوءاستفادههای قابل پیشبینی، الزام قطعی به retraining وجود ندارد؛
اما چنین اقدامی توصیه میشود.
این نشاندهنده انعطاف در روشهای فنی است، نه در اهداف ایمنی.
9. فلسفه حقوقی
این ملاحظه تلاش میکند تعادل ایجاد کند میان:نوآوری و توسعه فناوری
و حفاظت از حقوق بنیادین و ایمنی عمومی
منبع: ترجمه شده توسط بخش فناوری های نوین سایت راسخون
