قانون هوش مصنوعی اروپا:  ملاحظه 71

این ملاحظه نظارت انسانی مؤثر و تقویت‌شده، به‌ویژه در سامانه‌های زیست‌سنجی، را شرط اساسی استفاده ایمن و حقوق‌محور از سامانه‌های هوش مصنوعی پرخطر در تمام چرخه عمر آن‌ها می‌داند.
سه‌شنبه، 22 ارديبهشت 1405
تخمین زمان مطالعه:
موارد بیشتر برای شما
قانون هوش مصنوعی اروپا:  ملاحظه 71

خلاصه قانون هوش مصنوعی اروپا:  ملاحظه 71:

این ملاحظه نظارت انسانی را به‌عنوان یک الزام حقوقی ساختاری و مؤثر برای سامانه‌های هوش مصنوعی پرخطر تثبیت می‌کند و آن را در طراحی، بهره‌برداری و کل چرخه عمر سامانه جاری می‌داند. نظارت باید واقعی و توانمند باشد و در حوزه‌های پرریسک‌تری مانند سامانه‌های زیست‌سنجی به‌صورت تقویت‌شده اعمال شود تا از استفاده مطابق هدف، کاهش مخاطرات و حفاظت از حقوق اشخاص اطمینان حاصل گردد.

متن ملاحظه 71

دریافت اطلاعات قابل فهم در مورد نحوه توسعه سیستم‌های هوش مصنوعی پرخطر و نحوه عملکرد آن‌ها در طول چرخه عمرشان برای امکان‌پذیر ساختن ردیابی این سیستم‌ها، تأیید انطباق با الزامات تحت این مقرره، همچنین نظارت بر عملیات آن‌ها و نظارت پس از عرضه به بازار ضروری است.

این امر نیازمند نگهداری سوابق و در دسترس بودن مستندات فنی است که شامل اطلاعاتی باشد که برای ارزیابی انطباق سیستم هوش مصنوعی با الزامات مربوطه ضروری است و نظارت پس از عرضه به بازار را تسهیل کند.

چنین اطلاعاتی باید شامل ویژگی‌ها، قابلیت‌ها و محدودیت‌های عمومی سیستم، الگوریتم‌ها، داده‌ها، فرایندهای آموزش، آزمایش و اعتبارسنجی استفاده‌شده، همچنین مستندات مربوط به سیستم مدیریت ریسک مرتبط باشد و به‌صورت واضح و جامع تنظیم گردد. مستندات فنی باید در طول چرخه عمر سیستم هوش مصنوعی به‌طور مناسب و به‌روزرسانی‌شده نگهداری شوند. علاوه بر این، سیستم‌های هوش مصنوعی پرخطر باید از نظر فنی به‌گونه‌ای طراحی شوند که امکان ثبت خودکار رویدادها، از طریق گزارش‌ها، در طول مدت زمان عمر سیستم فراهم باشد.

ملاحظه قبلی:
قانون هوش مصنوعی اروپا: ملاحظه 70
 

تحلیل کوتاه حقوقی ملاحظه 71

در بند نخست، متن بر «الزام» نظارت انسانی تأکید دارد و آن را یک انتخاب یا توصیه فنی تلقی نمی‌کند، بلکه به‌عنوان یک تکلیف حقوقی لازم‌الاجرا برای سامانه‌های هوش مصنوعی پرخطر معرفی می‌نماید. این الزام نشان می‌دهد که اتکا به خودکاربودن سامانه به‌تنهایی پذیرفته نیست و حضور انسان در زنجیره تصمیم‌گیری همچنان عنصر مرکزی تنظیم‌گری باقی می‌ماند.

در بند دوم، ویژگی «ساختاری و توانمند» بودن نظارت انسانی برجسته می‌شود که بیانگر آن است که نظارت نباید صوری یا نمایشی باشد. نظارت باید در طراحی و معماری سامانه ادغام شده و اشخاص ناظر نیز از ابزارها، صلاحیت و اختیار واقعی برای اثرگذاری بر عملکرد سامانه برخوردار باشند، به‌نحوی که بتوانند در عمل از بروز خطا یا آسیب جلوگیری نمایند.

در بند سوم، متن به‌طور خاص به سامانه‌های زیست‌سنجی اشاره می‌کند و تقویت نظارت انسانی در این حوزه را ضروری می‌داند. این تفکیک نشان می‌دهد که قانون‌گذار میان سطوح مختلف خطر تمایز قائل شده و در حوزه‌هایی که پیامدهای خطا می‌تواند شدیدتر و جبران‌ناپذیرتر باشد، سطح بالاتری از کنترل انسانی را مطالبه می‌کند.

در بند چهارم، هدف از این الزامات تبیین می‌شود که شامل تضمین استفاده از سامانه مطابق با هدف تعیین‌شده، پیشگیری از مخاطرات، و حفاظت از حقوق اشخاص است. این بند نشان می‌دهد که نظارت انسانی نه‌تنها برای کارکرد صحیح فنی، بلکه به‌عنوان ابزار حمایت از حقوق بنیادین و منافع عمومی طراحی شده است.

در بند پایانی، دامنه زمانی این تعهد مشخص می‌شود و بر اعمال آن در سراسر چرخه عمر سامانه تأکید می‌گردد. این امر بیانگر آن است که مسئولیت نظارت انسانی محدود به مرحله استقرار اولیه نیست، بلکه باید در طول استفاده، به‌روزرسانی و بهره‌برداری مستمر از سامانه نیز استمرار داشته باشد.

ملاحظه بعدی:
قانون هوش مصنوعی اروپا: ملاحظه 72
 
منبع: ترجمه شده توسط بخش فناوری های نوین سایت راسخون
تبلیغات در راسخون
ارسال نظر
با تشکر، نظر شما پس از بررسی و تایید در سایت قرار خواهد گرفت.
متاسفانه در برقراری ارتباط خطایی رخ داده. لطفاً دوباره تلاش کنید.
موارد بیشتر برای شما
سیره تربیتی پیامبر (ص) در برخورد با نوجوانان؛ از کرامت تا تربیت دینی
سیره تربیتی پیامبر (ص) در برخورد با نوجوانان؛ از کرامت تا تربیت دینی
مرگ ناگهانی و پرسش های ناتمام؛ چگونه درباره فقدان با کودکان حرف بزنیم؟
مرگ ناگهانی و پرسش های ناتمام؛ چگونه درباره فقدان با کودکان حرف بزنیم؟
واکنش صلیب سرخ جهانی به جنایت‌های دشمن در جنگ چهل روزه علیه ایران چه بود؟
play_arrow
واکنش صلیب سرخ جهانی به جنایت‌های دشمن در جنگ چهل روزه علیه ایران چه بود؟
پرونده جدید علیه رسایی
play_arrow
پرونده جدید علیه رسایی
سواد مرگ، چرا جامعه ای که درباره زندگی حرف می زند از مرگ سخن نمی گوید؟
سواد مرگ، چرا جامعه ای که درباره زندگی حرف می زند از مرگ سخن نمی گوید؟
سلاح شیمیایی ایرانی در قلب واشنگتن؟!
play_arrow
سلاح شیمیایی ایرانی در قلب واشنگتن؟!
ضرب و شتم محمد خردادیان پس از افشاگری علیه پهلوی
play_arrow
ضرب و شتم محمد خردادیان پس از افشاگری علیه پهلوی
اولین ساعت‌مچی تلویزیون دار جهان سیکو در سال ۱۹۸۲ + فیلم
play_arrow
اولین ساعت‌مچی تلویزیون دار جهان سیکو در سال ۱۹۸۲ + فیلم
پیرترین ایرانی در سرشماری جدید شناسایی شد + فیلم
play_arrow
پیرترین ایرانی در سرشماری جدید شناسایی شد + فیلم
آیا هر رازی را باید با یک ربات در میان گذاشت؟
آیا هر رازی را باید با یک ربات در میان گذاشت؟
تقدیر از معلمی که جان دانش‌آموز را براثر خفگی نجات داد + فیلم
play_arrow
تقدیر از معلمی که جان دانش‌آموز را براثر خفگی نجات داد + فیلم
تعبیر جدید ترامپ از ونزوئلا ؛ دارایی جدید آمریکا است + فیلم
play_arrow
تعبیر جدید ترامپ از ونزوئلا ؛ دارایی جدید آمریکا است + فیلم
ادعای کارشناس پزشکی قانونی: جفری اپستین خفه شده است + فیلم
play_arrow
ادعای کارشناس پزشکی قانونی: جفری اپستین خفه شده است + فیلم
نجات خدمه نفتکش متخلف در تنگه هرمز توسط صیادان + فیلم
play_arrow
نجات خدمه نفتکش متخلف در تنگه هرمز توسط صیادان + فیلم
مسیریاب ایرانی با حال‌وهوای بازی GTA به‌روزرسانی شد + فیلم
play_arrow
مسیریاب ایرانی با حال‌وهوای بازی GTA به‌روزرسانی شد + فیلم