پیوست XIII: معیارهای تعیین مدل‌های هوش مصنوعی عمومی دارای ریسک سیستمی موضوع ماده 51
برای منظور تعیین اینکه یک مدل هوش مصنوعی عمومی دارای قابلیت‌ها یا تأثیری معادل موارد مندرج در ماده 51 (1)، بند (a) است، کمیسیون باید معیارهای زیر را در نظر بگیرد:
(a) تعداد پارامترهای مدل؛
(b) کیفیت یا اندازه مجموعه داده، برای مثال اندازه‌گیری‌شده از طریق توکن‌ها (tokens)؛
(c) میزان محاسبات مورد استفاده برای آموزش مدل، اندازه‌گیری‌شده بر حسب عملیات ممیز شناور (floating point operations) یا به‌صورت ترکیبی از متغیرهای دیگر مانند هزینه تخمینی آموزش، زمان تخمینی مورد نیاز برای آموزش، یا مصرف انرژی تخمینی برای آموزش؛
(d) شیوه‌های ورودی و خروجی مدل، مانند متن به متن (مدل‌های زبانی بزرگ)، متن به تصویر، چندوجهی (multi-modality)، و آستانه‌های روزآمد (state of the art) برای تعیین قابلیت‌های پراثر در هر شیوه، و نوع خاص ورودی‌ها و خروجی‌ها (برای مثال توالی‌های زیستی)؛
(e) معیارها و ارزیابی‌های توانمندی مدل، شامل بررسی تعداد وظایف قابل انجام بدون آموزش اضافی، توانایی انطباق برای یادگیری وظایف جدید و متمایز، سطح خودمختاری و مقیاس‌پذیری، و ابزارهایی که مدل به آن‌ها دسترسی دارد؛
(f) اینکه آیا مدل به دلیل گستره دسترسی خود تأثیر بالایی بر بازار داخلی دارد، که در صورتی مفروض در نظر گرفته می‌شود که حداقل در دسترس ۱۰٬۰۰۰ کاربر تجاری ثبت‌شده مستقر در اتحادیه اروپا قرار گرفته باشد؛
(g) تعداد کاربران نهایی ثبت‌شده.
تحلیل پیوست سیزده (معیارهای تشخیص ریسک سیستمی در مدل‌های پایه)
پیوست XIII در عمل نقش «ابزار تشخیص خطر در مقیاس کلان» را برای مدل‌های هوش مصنوعی عمومی ایفا می‌کند. برخلاف پیوست‌های قبلی که بیشتر به مستندسازی یا شفافیت مربوط بودند، اینجا تمرکز روی این است که چه زمانی یک مدل آن‌قدر بزرگ، پرکاربرد یا توانمند می‌شود که وارد دسته «ریسک سیستمی» شود. به بیان ساده، این پیوست آستانه‌های فنی و اجتماعی را تعریف می‌کند که با عبور از آن‌ها، یک مدل دیگر صرفاً یک ابزار نرم‌افزاری نیست، بلکه یک بازیگر تأثیرگذار در سطح بازار و جامعه محسوب می‌شود.نکته مهم در این معیارها این است که قانون‌گذار ترکیبی از شاخص‌های فنی و شاخص‌های اثرگذاری را استفاده می‌کند. از یک طرف معیارهای فنی مثل تعداد پارامترها، حجم داده، میزان محاسبات آموزشی (FLOPs) و مصرف انرژی وجود دارد که نشان‌دهنده «قدرت خام مدل» هستند. از طرف دیگر، معیارهایی مثل تعداد کاربران، تعداد مشتریان تجاری و میزان استفاده در بازار داخلی اتحادیه اروپا نشان می‌دهد که «قدرت واقعی مدل در جهان» چگونه سنجیده می‌شود. این ترکیب نشان می‌دهد که ریسک سیستمی فقط به توانایی فنی مربوط نیست، بلکه به مقیاس انتشار و نفوذ اجتماعی هم وابسته است.
بخش دیگری از پیوست به قابلیت‌های رفتاری و عملکردی مدل مربوط است، مثل توانایی انجام چندین وظیفه بدون آموزش اضافی، میزان خودمختاری، قابلیت یادگیری وظایف جدید و دسترسی به ابزارها. این معیارها به نوعی به سمت ارزیابی «رفتار emergent» در مدل‌های بزرگ حرکت می‌کنند؛ یعنی همان چیزی که باعث می‌شود مدل‌ها فراتر از طراحی اولیه خود رفتار کنند. این موضوع برای تنظیم‌گران اهمیت دارد چون ریسک واقعی اغلب از همین قابلیت‌های پیش‌بینی‌ناپذیر ناشی می‌شود.
در نهایت، معیار «دسترسی ۱۰ هزار کاربر تجاری در اتحادیه اروپا» یک خط قرمز عملی برای ورود به دسته ریسک سیستمی ایجاد می‌کند. این نشان می‌دهد که قانون‌گذار علاوه بر ویژگی‌های فنی، به اثر شبکه‌ای (network effect) نیز توجه دارد. یعنی حتی اگر یک مدل خیلی پیشرفته نباشد، اما به‌طور گسترده در اقتصاد استفاده شود، می‌تواند در سطح سیستم خطرناک تلقی شود.
در مجموع، Annex XIII یک چارچوب ترکیبی برای سنجش «قدرت + نفوذ + اثر اجتماعی» مدل‌های پایه ارائه می‌دهد و عملاً تعیین می‌کند چه زمانی یک مدل از یک فناوری پیشرفته به یک زیرساخت حساس اقتصادی-اجتماعی تبدیل می‌شود.
منبع: ترجمه شده توسط بخش فناوری های نوین سایت راسخون
