قانون هوش مصنوعی اروپا: متن ملاحظه 111
مناسب است که برای طبقهبندی مدلهای هوش مصنوعی با کاربرد عمومی بهعنوان مدلهای دارای مخاطره نظاممند، یک روششناسی مشخص ایجاد شود. از آنجا که مخاطرات نظاممند ناشی از قابلیتهای بهطور خاص بالا هستند، یک مدل هوش مصنوعی با کاربرد عمومی باید در صورتی دارای مخاطره نظاممند تلقی شود که دارای قابلیتهای با اثرگذاری بالا باشد که بر اساس ابزارها و روششناسیهای فنی مناسب ارزیابی میگردد، یا به دلیل گستره دسترسی خود اثر قابل توجهی بر بازار داخلی داشته باشد. منظور از قابلیتهای با اثرگذاری بالا در این مدلها، قابلیتهایی است که با قابلیتهای ثبتشده در پیشرفتهترین مدلهای هوش مصنوعی با کاربرد عمومی همسطح یا فراتر از آنها باشد.
دامنه کامل قابلیتهای یک مدل ممکن است پس از عرضه آن در بازار یا در زمان تعامل بهرهبرداران با مدل بهتر قابل درک گردد. بر اساس وضعیت دانش فنی در زمان لازمالاجرا شدن این مقرره، میزان تجمعی محاسبات مورد استفاده برای آموزش مدل هوش مصنوعی با کاربرد عمومی، که با عملیات ممیز شناور اندازهگیری میشود، یکی از تقریبیهای مرتبط برای سنجش قابلیتهای مدل به شمار میآید.
میزان تجمعی محاسبات مورد استفاده برای آموزش شامل محاسباتی است که در چارچوب فعالیتها و روشهایی انجام میشود که پیش از بهرهبرداری با هدف ارتقای قابلیتهای مدل انجام میگیرد، از جمله پیشآموزش، تولید دادههای مصنوعی و تنظیم دقیق مدل. بنابراین، باید یک آستانه اولیه برای عملیات ممیز شناور تعیین گردد که در صورت تحقق آن توسط یک مدل، این فرض ایجاد شود که آن مدل دارای مخاطره نظاممند است.
این آستانه باید در طول زمان متناسب با تحولات فناورانه و صنعتی، مانند بهبود الگوریتمها یا افزایش بهرهوری سختافزار، تعدیل شود و باید با معیارها و شاخصهای تکمیلی برای ارزیابی قابلیت مدل همراه گردد. برای پشتیبانی از این امر، دفتر هوش مصنوعی باید با جامعه علمی، صنعت، جامعه مدنی و سایر متخصصان تعامل برقرار نماید.
آستانهها و همچنین ابزارها و معیارهای سنجش قابلیتهای با اثرگذاری بالا باید پیشبینیکنندههای قوی از میزان عمومیت، قابلیتها و مخاطرات نظاممند مرتبط با مدلهای هوش مصنوعی با کاربرد عمومی باشند و میتوانند نحوه عرضه مدل در بازار یا تعداد کاربران بالقوه تحت تأثیر آن را نیز در نظر بگیرند.
برای تکمیل این نظام، باید امکان صدور تصمیمات موردی توسط کمیسیون وجود داشته باشد تا یک مدل خاص را بهعنوان مدل هوش مصنوعی با کاربرد عمومی دارای مخاطره نظاممند تعیین کند، در صورتی که مشخص شود آن مدل دارای قابلیتها یا اثری معادل با معیارهای آستانهای تعیینشده است.
این تصمیم باید بر اساس ارزیابی کلی معیارهای تعیینشده برای شناسایی مدل دارای مخاطره نظاممند، که در پیوست این مقرره بیان شده است، اتخاذ گردد؛ از جمله کیفیت یا حجم مجموعه داده آموزشی، تعداد کاربران تجاری و نهایی، شیوههای ورودی و خروجی، سطح خودمختاری و مقیاسپذیری، یا ابزارهایی که مدل به آنها دسترسی دارد.
در صورت ارائه درخواست مستدل از سوی ارائهدهندهای که مدل او بهعنوان مدل دارای مخاطره نظاممند تعیین شده است، کمیسیون باید این درخواست را مورد توجه قرار دهد و میتواند تصمیم بگیرد که مجدداً ارزیابی نماید که آیا آن مدل همچنان باید دارای مخاطره نظاممند تلقی شود یا خیر.
تحلیل ملاحظه 111
در بند اول، چارچوب اصلی برای شناسایی و طبقهبندی مدلهای هوش مصنوعی با کاربرد عمومی بهعنوان مدلهای دارای مخاطره نظاممند ارائه میشود. معیار اصلی، وجود «قابلیتهای با اثرگذاری بالا» است که یا از طریق ابزارهای فنی سنجیده میشود یا از طریق اثر قابل توجه مدل بر بازار داخلی به دلیل گستره استفاده آن. همچنین توضیح داده میشود که این سطح از قابلیت زمانی محقق میشود که مدل همسطح یا فراتر از پیشرفتهترین مدلهای موجود باشد.
در بند دوم، به ماهیت تدریجی شناخت قابلیتهای واقعی مدل اشاره میشود. بیان میگردد که توان کامل مدل ممکن است تنها پس از عرضه در بازار یا در جریان استفاده عملی توسط کاربران آشکار شود. در همین راستا، یک شاخص فنی اولیه معرفی میشود که میزان محاسبات مصرفشده در آموزش مدل (بر اساس عملیات ممیز شناور) را بهعنوان یکی از معیارهای تقریبی توانایی مدل در نظر میگیرد.
در بند سوم، دامنه محاسبات آموزشی تشریح میشود و توضیح داده میشود که این محاسبات فقط شامل آموزش اولیه نیست، بلکه شامل فعالیتهای پیش از استقرار مانند پیشآموزش، تولید داده مصنوعی و تنظیم دقیق نیز میشود. سپس یک آستانه اولیه برای میزان محاسبات تعریف میشود که عبور از آن، بهطور فرضی مدل را در دسته دارای مخاطره نظاممند قرار میدهد.
در بند چهارم، به پویایی این معیارها در طول زمان اشاره میشود. مقرر میگردد که آستانهها باید متناسب با پیشرفت فناوری، مانند بهبود الگوریتمها یا سختافزار، بهروزرسانی شوند و همچنین باید با شاخصها و معیارهای تکمیلی همراه گردند. نقش نهاد هوش مصنوعی نیز در تعامل با جامعه علمی، صنعت و سایر ذینفعان برای بهبود این معیارها برجسته میشود.
در بند پنجم، به کارکرد پیشبینیکننده معیارها پرداخته میشود و بیان میگردد که این ابزارها باید توانایی ارزیابی میزان عمومیت، قابلیتها و ریسک نظاممند مدل را داشته باشند. همچنین عواملی مانند نحوه عرضه در بازار و تعداد کاربران تحت تأثیر نیز میتواند در این ارزیابی لحاظ شود.
در بند ششم، یک سازوکار تکمیلی پیشبینی میشود که به کمیسیون اجازه میدهد در موارد خاص، حتی خارج از آستانههای عددی، یک مدل را بهطور موردی بهعنوان دارای مخاطره نظاممند شناسایی کند، اگر شواهد نشان دهد قابلیت یا اثر آن معادل معیارهای تعیینشده است.
در بند هفتم، مبنای این تصمیمگیری موردی توضیح داده میشود که باید بر ارزیابی جامع معیارهایی مانند کیفیت و حجم داده آموزشی، تعداد کاربران، نوع ورودی و خروجی، سطح خودمختاری، مقیاسپذیری و میزان دسترسی به ابزارها استوار باشد.
در بند هشتم، سازوکار بازنگری در تصمیمگیریها بیان میشود. مقرر میگردد که در صورت ارائه درخواست مستدل از سوی ارائهدهنده، کمیسیون موظف است آن را بررسی کند و امکان دارد در خصوص ادامه یا رفع طبقهبندی «مخاطره نظاممند» تصمیمگیری مجدد انجام دهد.
منبع: ترجمه شده توسط بخش فناوری های نوین سایت راسخون
