قانون هوش مصنوعی اروپا: متن ملاحظه 163
بهمنظور تکمیل نظامهای حکمرانی مربوط به مدلهای هوش مصنوعی با کاربرد عمومی، هیئت علمی باید از فعالیتهای نظارتی دفتر هوش مصنوعی پشتیبانی کند و در مواردی معین، هشدارهای تخصصی به این دفتر ارائه دهد که موجب پیگیریهای بعدی، از جمله انجام تحقیقات، گردد. این امر زمانی مصداق دارد که هیئت علمی دلایل موجهی برای ظن به این داشته باشد که یک مدل هوش مصنوعی با کاربرد عمومی در سطح اتحادیه دارای یک ریسک مشخص و قابل شناسایی است.
همچنین، این وضعیت زمانی نیز صادق است که هیئت علمی دلایلی برای این ظن داشته باشد که یک مدل هوش مصنوعی با کاربرد عمومی واجد معیارهایی است که منجر به طبقهبندی آن بهعنوان مدل دارای ریسک سیستمی میشود. بهمنظور تجهیز هیئت علمی به اطلاعات لازم برای انجام این وظایف، باید سازوکاری پیشبینی شود که به موجب آن هیئت علمی بتواند از کمیسیون درخواست کند ارائهدهنده را ملزم به ارائه اسناد یا اطلاعات نماید.
تحلیل ملاحظه 163
در این ملاحظه، ابتدا نقش تکمیلی هیئت علمی در کنار ساختارهای حکمرانی موجود بیان میشود. این نهاد بهعنوان یک مرجع تخصصی، وظیفه دارد فعالیتهای نظارتی دفتر هوش مصنوعی را تقویت کند و به ارتقای کیفیت پایش کمک نماید. این نشان میدهد که نظام نظارتی صرفاً اداری نیست، بلکه بر دانش علمی و تخصصی نیز تکیه دارد.
در ادامه، ابزار اصلی مداخله هیئت علمی معرفی میشود که همان ارائه هشدارهای تخصصی است. این هشدارها در شرایط خاص میتوانند منجر به اقدامات بعدی مانند آغاز تحقیقات شوند. بنابراین، هیئت علمی نقشی فعال در شناسایی زودهنگام ریسکها ایفا میکند و میتواند فرآیندهای نظارتی را به جریان بیندازد.
سپس شرایطی که در آن این هشدارها باید صادر شوند مشخص میگردد. نخست، زمانی که هیئت علمی بهطور موجه ظن داشته باشد که یک مدل هوش مصنوعی با کاربرد عمومی دارای ریسک مشخص و قابل شناسایی در سطح اتحادیه است. این معیار نشاندهنده تمرکز بر ریسکهای واقعی و قابل تشخیص است، نه صرف احتمالهای کلی و مبهم.
در مرحله بعد، حالت دیگری مطرح میشود که مربوط به طبقهبندی مدلها است. اگر هیئت علمی به این نتیجه برسد که یک مدل ممکن است واجد معیارهای ریسک سیستمی باشد، میتواند هشدار صادر کند. این امر اهمیت دارد زیرا طبقهبندی بهعنوان مدل دارای ریسک سیستمی پیامدهای نظارتی و تعهدات سنگینتری به همراه دارد.
در بخش پایانی، به ابزارهای دسترسی به اطلاعات برای هیئت علمی پرداخته میشود. برای اینکه این نهاد بتواند وظایف خود را بهدرستی انجام دهد، باید امکان دسترسی به اطلاعات لازم را داشته باشد. از اینرو، سازوکاری پیشبینی میشود که هیئت علمی بتواند از طریق کمیسیون، ارائهدهندگان را ملزم به ارائه اسناد و اطلاعات کند. این موضوع نشاندهنده وابستگی عملکرد مؤثر نظارت به جریان مناسب اطلاعات است.
منبع: ترجمه شده توسط بخش فناوری های نوین سایت راسخون
