این ملاحظه سامانههای هوش مصنوعی پرخطر را ملزم میکند که در طول چرخه عمر خود عملکردی پایدار و متناسب با هدف، با سطح مناسبی از دقت، استحکام و امنیت رایانهای داشته باشند. اعلام شفاف شاخصهای عملکرد در دستورالعملهای استفاده و انتقال روشن و غیرگمراهکننده اطلاعات به بهرهبرداران از الزامات اساسی است. در کنار آن، کمیسیون با همکاری ذینفعان داخلی و بینالمللی باید توسعه معیارهای سنجش و روشهای اندازهگیری قابل اتکا را تشویق کند تا ارزیابی عملکرد سامانهها دقیق، شفاف و منصفانه انجام شود.
متن ملاحظه 74
سامانههای هوش مصنوعی پرخطر باید در طول چرخه عمر خود عملکردی پایدار داشته باشند و با توجه به هدف تعیینشده، از سطح مناسبی از دقت، استحکام و امنیت سایبری برخوردار باشند و این عملکرد مطابق با سطح پذیرفتهشده دانش فنی روز باشد. کمیسیون و سازمانها و ذینفعان مرتبط تشویق میشوند که کاهش ریسکها و پیامدهای منفی ناشی از سامانه هوش مصنوعی را بهطور شایسته مورد توجه قرار دهند. سطح مورد انتظار شاخصهای عملکرد باید در دستورالعملهای استفاده همراه سامانه اعلام شود و عرضهکنندگان موظفاند آن را بهصورت روشن، قابل فهم و عاری از ابهام یا بیان گمراهکننده به بهرهبرداران منتقل نمایند.حقوق اتحادیه در زمینه اندازهشناسی حقوقی، از جمله دستورالعمل 2014/31/EU پارلمان اروپا و شورای اتحادیه اروپا مورخ 26 فوریه 2014 در زمینه هماهنگسازی قوانین مربوط به عرضه ابزارهای توزین غیرخودکار در بازار[35] و دستورالعمل 2014/32/EU پارلمان اروپا و شورای اتحادیه اروپا مورخ 26 فوریه 2014 در زمینه هماهنگسازی قوانین مربوط به عرضه ابزارهای اندازهگیری در بازار[36]، با هدف تضمین دقت اندازهگیریها و ارتقای شفافیت و انصاف در معاملات تجاری وضع شده است.
در این چارچوب، کمیسیون باید با همکاری ذینفعان و سازمانهای مرتبط، از جمله مراجع اندازهشناسی و ارزیابی مقایسهای، حسب مورد، توسعه معیارهای سنجش و روشهای اندازهگیری برای سامانههای هوش مصنوعی را تشویق نماید. همچنین کمیسیون باید در این مسیر به فعالیتها و شاخصهای اندازهگیری مرتبط با هوش مصنوعی که توسط شرکای بینالمللی دنبال میشود توجه داشته باشد و با آنان همکاری نماید.
[35] Directive 2014/31/EU پارلمان اروپا و شورای اتحادیه اروپا مورخ 26 فوریه 2014 در زمینه هماهنگسازی قوانین کشورهای عضو در مورد عرضه ابزارهای توزین غیرخودکار در بازار (OJ L 96, 29.3.2014, صفحه 107).
[36] Directive 2014/32/EU پارلمان اروپا و شورای اتحادیه اروپا مورخ 26 فوریه 2014 در زمینه هماهنگسازی قوانین کشورهای عضو در مورد عرضه ابزارهای اندازهگیری در بازار (OJ L 096, 29.3.2014, صفحه 149).
تحلیل کوتاه حقوقی ملاحظه 74
در بند نخست، ملاحظه بر الزام به پایداری عملکرد سامانههای هوش مصنوعی پرخطر در سراسر چرخه عمر آنها تأکید میکند و این پایداری را وابسته به تحقق سطح مناسبی از دقت، استحکام و امنیت در برابر تهدیدات رایانهای میداند. معیار ارزیابی این الزامات، هدف موردنظر سامانه و سطح پذیرفتهشده دانش فنی روز است که نشان میدهد استانداردها ایستا نیستند و باید با پیشرفتهای فنی همگام شوند.در بند دوم، نقش نهادهای حاکمیتی و بازیگران مرتبط برجسته میشود و از کمیسیون، سازمانها و ذینفعان خواسته میشود که بهطور فعال به کاهش مخاطرات و آثار منفی سامانههای هوش مصنوعی توجه کنند. این بند بیانگر رویکرد مشارکتی مقرره است که مدیریت ریسک را صرفاً مسئولیت عرضهکننده یا بهرهبردار نمیداند، بلکه آن را نتیجه همکاری نهادی و جمعی تلقی میکند.
در بند سوم، شفافیت عملکردی از طریق الزام به اعلام سطح مورد انتظار شاخصهای عملکرد در دستورالعملهای استفاده مورد تأکید قرار میگیرد. این الزام پیوندی مستقیم میان الزامات فنی و تعهدات اطلاعرسانی ایجاد میکند و زمینه تصمیمگیری آگاهانه بهرهبرداران و ارزیابی انطباق سامانه با کارکرد ادعاشده را فراهم میسازد.
در بند چهارم، نحوه انتقال اطلاعات از سوی عرضهکننده به بهرهبردار مورد توجه قرار میگیرد و بر ضرورت ارائه روشن، قابل فهم و عاری از ابهام یا گمراهکنندگی تأکید میشود. این بند نشان میدهد که حتی اطلاعات صحیح نیز در صورت ارائه نامناسب میتواند موجب نقض مقرره شود و شفافیت ارتباطی بهاندازه محتوای اطلاعات اهمیت دارد.
در بند پنجم، ملاحظه به حقوق اندازهشناسی حقوقی اتحادیه اشاره میکند و آن را بهعنوان الگوی تضمین دقت و انصاف در مبادلات تجاری مطرح میسازد. این ارجاع نشان میدهد که مقرره هوش مصنوعی از چارچوبهای حقوقی موجود الهام میگیرد تا مفاهیم دقت و قابلیت اعتماد را در زمینه سامانههای هوش مصنوعی نهادینه کند.
در بند ششم، نقش کمیسیون در تشویق توسعه معیارهای سنجش و روشهای اندازهگیری برای سامانههای هوش مصنوعی تبیین میشود و همکاری با مراجع تخصصی مانند نهادهای اندازهشناسی و ارزیابی مقایسهای مورد تأکید قرار میگیرد. این بند بیانگر آن است که بدون معیارهای مشترک و روشهای سنجش قابل اتکا، ارزیابی واقعی عملکرد سامانهها ممکن نخواهد بود.
در بند پایانی، بعد بینالمللی موضوع برجسته میشود و از کمیسیون خواسته میشود که فعالیتها و شاخصهای اندازهگیری مرتبط با هوش مصنوعی در سطح جهانی را مدنظر قرار دهد و با شرکای بینالمللی همکاری کند. این بند نشان میدهد که استانداردسازی عملکرد و سنجش سامانههای هوش مصنوعی ماهیتی فرامرزی دارد و نیازمند هماهنگی بینالمللی است.
منبع: ترجمه شده توسط بخش فناوری های نوین سایت راسخون
