.jpg "قانون هوش مصنوعی اروپا: ملاحظه 75")
این ملاحظه استحکام فنی را بهعنوان یک الزام کلیدی برای سامانههای هوش مصنوعی پرخطر معرفی میکند و بر مقاومت سامانه در برابر رفتارهای زیانآور یا نامطلوب ناشی از محدودیتهای داخلی یا شرایط محیطی تأکید دارد. برای تحقق این هدف، تدابیر فنی و سازمانی، شامل طراحی راهکارهای پیشگیرانه و مکانیزمهای توقف ایمن، ضروری است تا خطرات کاهش یابد و ایمنی و حقوق بنیادین افراد محافظت شود.
متن ملاحظه 75
استحکام فنی یکی از الزامات کلیدی سامانههای هوش مصنوعی پرخطر است. این سامانهها باید در برابر رفتارهای زیانآور یا نامطلوب ناشی از محدودیتهای درونی سامانه یا محیط عملکرد آن (مانند خطاها، اشکالات، ناسازگاریها یا شرایط غیرمنتظره) مقاوم باشند. بنابراین، باید تدابیر فنی و سازمانی اتخاذ شود تا استحکام سامانههای پرخطر تضمین شود، برای مثال با طراحی و توسعه راهکارهای فنی مناسب رفتارهای زیانآور یا نامطلوب را پیشگیری یا کاهش دهند.این راهکارهای فنی میتوانند شامل مکانیزمهایی باشند که به سامانه امکان دهند در مواجهه با برخی ناهنجاریها یا هنگام عملکرد خارج از محدودههای از پیش تعیینشده، بهصورت ایمن فعالیت خود را متوقف نماید (طرحهای ایمنسازی). عدم محافظت در برابر این مخاطرات میتواند پیامدهای ایمنی ایجاد کند یا حقوق بنیادین را تحت تأثیر منفی قرار دهد، برای مثال به دلیل تصمیمات نادرست یا خروجیهای اشتباه یا مغرضانهای که سامانه تولید میکند.
تحلیل کوتاه حقوقی ملاحظه 75
در بند نخست، ملاحظه بر اهمیت استحکام فنی بهعنوان یک الزام اساسی برای سامانههای هوش مصنوعی پرخطر تأکید میکند. این بند نشان میدهد که سامانهها باید توانایی مقاومت در برابر رفتارهای زیانآور یا نامطلوب ناشی از محدودیتهای درونی یا شرایط محیطی عملکرد خود را داشته باشند، مانند خطاها، اشکالات، ناسازگاریها و شرایط غیرمنتظره.در بند دوم، ضرورت اتخاذ تدابیر فنی و سازمانی برای تضمین استحکام سامانه مورد توجه قرار میگیرد و بر طراحی و توسعه راهکارهای فنی مناسب برای پیشگیری یا کاهش رفتارهای زیانآور یا نامطلوب تأکید میشود. این بخش بیانگر این است که استحکام فنی صرفاً به ویژگی ذاتی سامانه محدود نیست، بلکه نیازمند اقدامات فعال و پیشگیرانه است.
در بند سوم، نمونهای از راهکارهای فنی ارائه میشود که شامل مکانیزمهایی برای توقف ایمن عملکرد سامانه در مواجهه با ناهنجاریها یا خروج از محدودههای تعیینشده است. این بند نشان میدهد که تضمین ایمنی باید در سطح طراحی عملیاتی سامانه نیز لحاظ شود و امکان کنترل خودکار در شرایط غیرمعمول فراهم گردد.
در بند پایانی، پیامدهای عدم حفاظت در برابر این مخاطرات توضیح داده میشود و بر اثرات منفی بر ایمنی و حقوق بنیادین تأکید میشود، مانند تصمیمات اشتباه یا خروجیهای نادرست یا مغرضانه سامانه. این بند نقش استحکام فنی را نه تنها در عملکرد صحیح، بلکه در محافظت از حقوق و ایمنی افراد برجسته میکند.
منبع: ترجمه شده توسط بخش فناوری های نوین سایت راسخون
