در دنیای امروز، هوش مصنوعی به یکی از عوامل کلیدی در توسعه فناوری و بهبود کیفیت زندگی تبدیل شده است. با این حال، استفاده از این تکنولوژی نیازمند رعایت اصول و مقررات خاصی است تا از منافع عمومی و حقوق افراد محافظت شود. این مقاله به بررسی تعاریف و مفاهیم کلیدی مرتبط با سامانههای هوش مصنوعی طبق مقررات اتحادیه اروپا میپردازد. با توجه به توضیحات ارائه شده در ماده 3 این مقررات، به بررسی مفاهیم اصلی نظیر «سامانه هوش مصنوعی»، «ریسک»، «ارائهدهنده» و سایر تعاریف مرتبط خواهیم پرداخت. در مقاله قبلی قانون هوش مصنوعی اتحادیه اروپا - ماده 2: دامنه شمول به کاربردهای قانون هوش مصنوعی اتحادیه اروپا پرداخته شد که بهمنظور ایجاد یک چارچوب استفاده مسئولانه از هوش مصنوعی در اتحادیه اروپا برای حفظ حقوق شهروندان و ترویج نوآوری ایجاد شده است.
برای اهداف این مقررات، تعاریف زیر لازم الاجرا هستند:
«سامانه هوش مصنوعی» AI system
به معنای سامانه مبتنی بر ماشین است که برای عملکرد با سطوح مختلف استقلال طراحی شده و ممکن است پس از استقرار، قابلیت انطباقپذیری نشان دهد و برای دستیابی به اهداف صریح یا ضمنی، بر اساس ورودیهای دریافتی، نحوه تولید خروجیهایی مانند پیشبینیها، محتوا، توصیهها یا تصمیمهایی را استنتاج کند که میتواند بر محیطهای فیزیکی یا مجازی تأثیر بگذارد.«ریسک» risk
به ترکیب احتمال وقوع آسیب و شدت آن آسیب گفته میشود.«ارائهدهنده» provider
به معنای شخص حقیقی یا حقوقی، مقام عمومی، نهاد یا هر مرجع دیگری است که سامانه هوش مصنوعی یا مدل هوش مصنوعی با کاربرد عمومی را توسعه میدهد یا توسعه آن را به عهده دارد و با نام یا برند خود، اعم از رایگان یا غیررایگان، در بازار عرضه یا به کار میگمارد.
«مستقرکننده» deployer
به معنای شخص حقیقی یا حقوقی، مقام عمومی، نهاد یا هر مرجع دیگری است که زیر نظر خود از یک سامانه هوش مصنوعی استفاده میکند، مگر اینکه استفاده از آن در چارچوب فعالیتهای شخصی غیرحرفهای باشد. مرتبط: بند توجیهی ۱۳«نماینده مجاز» authorised representative
به معنای شخص حقیقی یا حقوقی مستقر یا ثبتشده در اتحادیه است که از سوی ارائهدهنده سامانه هوش مصنوعی یا مدل هوش مصنوعی با کاربرد عمومی، مأموریت مکتوبی دریافت و پذیرفته تا به نمایندگی از وی، تعهدات و رعایت تشریفات مقرر در این مقررات را اجرا و انجام دهد.«وارد کننده» importer
به معنای شخص حقیقی یا حقوقی مستقر یا ثبتشده در اتحادیه است که سامانه هوش مصنوعی را تحت نام یا علامت تجاری شخص حقیقی یا حقوقی مستقر در کشور ثالث، در بازار عرضه میکند.«توزیع کننده» distributor
به معنای شخص حقیقی یا حقوقی در زنجیره تأمین، به غیر از ارائهدهنده یا واردکننده، سامانه هوش مصنوعی را در بازار اتحادیه در دسترس قرار میدهد.«عامل عملیاتی» operator
به فرد یا نهادی گفته میشود که شامل فراهمکننده، سازنده محصول، مستقرکننده، نماینده مجاز، واردکننده یا توزیعکننده میشود.«عرضه در بازار» placing on the market
به معنای اولین بارآوردن سامانه هوش مصنوعی یا مدل هوش مصنوعی با کاربرد عمومی به بازار اتحادیه است.«قابل دسترسسازی در بازار» making available on the market
به معنای ارائه سامانه هوش مصنوعی یا مدل هوش مصنوعی با کاربرد عمومی برای توزیع یا استفاده در بازار اتحادیه در چارچوب فعالیت تجاری، اعم از رایگان یا غیررایگان«به کارگیری» putting into service
به معنای تأمین سامانه هوش مصنوعی برای استفاده اولیه مستقیماً به مستقرکننده یا برای استفاده شخصی در اتحادیه، متناسب با هدف مورد نظر آن است.«هدف مورد نظر» intended purpose
به کاربردی گفته میشود که فراهمکننده برای سامانه هوش مصنوعی در نظر گرفته است، که شامل زمینه و شرایط خاص استفاده، همانطور که در اطلاعات ارائهشده توسط فراهم کننده در اسناد راهنما، مواد تبلیغاتی یا فروش و اطلاعیه ها و همچنین مستندات فنی آمده است.
«سوءاستفاده قابل پیشبینی» reasonably foreseeable misuse
به استفاده از سامانه هوش مصنوعی به شیوهای مغایر با هدف مورد نظر آن اطلاق میشود که ممکن است ناشی از رفتار انسانی یا تعامل با سامانههای دیگر (از جمله سامانههای هوش مصنوعی) باشد که بهطور معقول قابل پیشبینی است.«مولفه ایمنی» safety component
به مؤلفهای از یک محصول یا سامانه هوش مصنوعی گفته میشود که وظیفه ایمنی آن محصول یا سامانه را بر عهده دارد و خرابی یا نقص آن میتواند سلامت انسانها یا امول را به خطر بیندازد.«دستورالعمل استفاده» instructions for use
به اطلاعاتی اطلاق میشود که توسط تامین کننده به مستقرکننده ارائه می شود که بهه طور خاص هدف مورد نظر و نحوه صحیح استفاده از سامانه هوش مصنوعی را تشریح میکند.«فراخوانی سیستم هوش مصنوعی» recall of an AI system
به هرگونه اقدام برای بازگرداندن سامانه به تامین کننده یا خارج کردن آن از خدمت یا غیرفعال کردن استفاده از آن توسط مستقرکنندگان گفته میشود.«عدم دسترسسازی سامانه هوش مصنوعی» withdrawal of an AI system
به هر اقدامی برای جلوگیری از عرضه یک سیستم هوش مصنوعی در زنجیره تأمین در بازار گفته میشود.«عملکرد سیستم هوش مصنوعی» performance of an AI system
به توانایی یک سیستم هوش مصنوعی برای دستیابی به هدف مورد نظر آن اطلاق میشود؛«مرجع اطلاعرسانی» notifying authority
به مرجع ملی مسئول برای راهاندازی و نظارت بر روندهای لازم جهت ارزیابی، تعیین و اعلام تأیید صلاحیت نهادهای ارزیابی تطابق و نظارت بر آنها گفته میشود.«ارزیابی انطباق» conformity assessment
به فرآیند نشان دادن این است که آیا الزامات تعیینشده در فصل 3، بخش 2 مربوط به یک سیستم هوش مصنوعی با ریسک بالا برآورده شده است یا خیر..png "قانون هوش مصنوعی اتحادیه اروپا - فصل 1؛ ماده 3: «مفاهیم»")
«نهاد ارزیابی انطباق» conformity assessment body
به نهادی اطلاق میشود که فعالیتهای ارزیابی انطباق شخص ثالث از جمله آزمون، صدور گواهینامه و بازرسی را انجام میدهد.
«نهاد اطلاعرسانی» notified body
به نهادی اطلاق میشود که فعالیتهای ارزیابی انطباق شخص ثالث را انجام میدهد، از جمله آزمون، گواهینامه و بازرسی؛«تغییرات اساسی» substantial modification
به معنای تغییر در سامانه هوش مصنوعی پس از عرضه آن در بازار یا به کارگیری، که در ارزیابی انطباق اولیه انجامشده توسط ارائهدهنده پیشبینی یا برنامهریزی نشده و در نتیجه، انطباق سامانه با الزامات مندرج در فصل ۳، بخش ۲ را تحت تأثیر قرار میدهد یا منجر به تغییری در هدف مورد نظر برای ارزیابی شده است. مرتبط: بند توجیهی ۱۲۸علامت CE» CE marking
به معنای علامتی است که توسط تامین کنندگان نشان داده میشود و حاکی از انطباق سامانه هوش مصنوعی با الزامات مندرج در فصل ۳، بخش ۲ و سایر قوانین هماهنگ قابل اجرا در اتحادیه است که الزام به الصاق آن را فراهم می کند.
سامانه نظارت پس از عرضه علامتیpost-market monitoring system
اطلاق میشود که تأمینکننده با آن نشان میدهد که یک سیستم هوش مصنوعی با الزامات تعیینشده در فصل III، بخش 2 و سایر قوانین هماهنگی قابل اجرا در اتحادیه مطابقت دارد؛«سیستم نظارت پس از بازار» market surveillance authority
به تمام فعالیتهایی اطلاق میشود که توسط تأمینکنندگان سیستمهای هوش مصنوعی برای جمعآوری و بررسی تجربیات بهدستآمده از استفاده از سیستمهای هوش مصنوعی که در بازار عرضه کردهاند یا به خدمت گرفتهاند، بهمنظور شناسایی هر گونه نیاز به اعمال فوری هر اقدام اصلاحی یا پیشگیرانه انجام میشود؛
«استاندارد هماهنگ» harmonised standard
استانداردی که در ماده 2(1)، بند (ج) آیین نامه(اتحادیه اروپا) شماره 1025/2012 تعریف شده است؛«مشخصات مشترک» common specification
به مجموعهای از مشخصات و خصوصیات فنی که در ماده 2، بند (4) آیین نامه (اتحادیه اروپا) شماره 1025/2012 تعریف شده و ابزارهایی را برای انطباق با الزامات معین مندرج در این آیین نامه فراهم میآورد؛«دادههای آموزشی» validation data
به معنای دادههایی است که برای آموزش یک سیستم هوش مصنوعی از طریق تنظیم پارامترهای قابل یادگیری آن استفاده میشود؛-
«دادههای اعتبارسنجی» validation data set
-
«دیتاستهای اعتبارسنجی» validation data set
-
«دادههای آزمایشی» testing data
-
«دادههای ورودی» input data
-
«دادههای بیومتریک» biometric data
-
«شناسایی بیومتریک» biometric verification
-
«تأیید بیومتریک» biometric verification
-
«دستههای ویژه دادههای شخصی» special categories of personal data
-
دادههای عملیاتی حساس sensitive operational data
-
سیستم تشخیص احساسات emotion recognition system
سیستم دستهبندی بیومتریک biometric categorisation system
سیستم هوش مصنوعی که برای اختصاص دادن اشخاص حقیقی به دستههای خاص بر اساس دادههای بیومتریک آنها طراحی شده است، مگر اینکه بهعنوان بخشی از یک سرویس تجاری دیگر و صرفاً به دلایل فنی عینی، ضروری باشد. مرتبط: مقدمه 16سیستم شناسایی بیومتریک از راه دور remote biometric identification system
به معنای سامانه هوش مصنوعی برای شناسایی اشخاص حقیقی بدون مشارکت فعال آنها، معمولاً از راه دور از طریق مقایسه دادههای بیومتریک یک شخص با دادههای بیومتریک موجود در پایگاه داده مرجع است. مرتبط: بند توجیهی ۱۷سیستم شناسایی بیومتریک از راه دور لحظه ای real-time remote biometric identification system
سیستم شناسایی بیومتریک از راه دور که در آن ضبط دادههای بیومتریک، مقایسه و شناسایی بدون تأخیرِ قابلتوجه انجام میشود و شامل شناسایی فوری و تأخیرهای کوتاه محدود برای جلوگیری از دور زدن و فرار از قانون است. مرتبط: مقدمه 17سیستم شناسایی بیومتریک از راه دور پسینی post remote biometric identification system
به معنای سیستم شناسایی بیومتریک از راه دور بهجز سیستم شناسایی بیومتریک از راه دورلحظهای است.فضای عمومی قابل دسترسی publicly accessible space
- هر مکان فیزیکی عمومی یا خصوصی که برای تعداد نامعینی از اشخاص حقیقی قابل دسترسی است، صرفنظر از شرایط دسترسی یا محدودیتهای ظرفیت بالقوه. مرتبط: مقدمه 19
مرجع اجرای قانون law enforcement authority :
الف) هر مرجع عمومی صالح برای پیشگیری، تحقیق، کشف یا تعقیب جرایم یا اجرای مجازاتهای کیفری، از جمله حمایت در برابر و پیشگیری از تهدیدات علیه امنیت عمومی؛ یاب) هر نهاد یا مرجع دیگری که طبق قانون عضو، مأمور به اعمال صلاحیت عمومی و اختیارات عمومی برای پیشگیری، تحقیق، کشف یا تعقیب جرایم یا اجرای مجازاتهای کیفری، از جمله حمایت در برابر و پیشگیری از تهدیدات علیه امنیت عمومی است.
اجرای قانون law enforcement
به معنای فعالیتهایی است که توسط مرجع اجرای قانون یا به نمایندگی از آن برای پیشگیری، تحقیق، کشف یا تعقیب جرایم یا اجرای مجازاتهای کیفری، از جمله حمایت در برابر و پیشگیری از تهدیدات علیه امنیت عمومی، انجام میشود.دفتر هوش مصنوعی AI Office
به معنای عملکرد کمیسیون در راستای مشارکت در اجرای، پایش و نظارت بر سامانههای هوش مصنوعی و مدلهای هوش مصنوعی با کاربرد عمومی، و حاکمیت هوش مصنوعی، مطابق با تصمیم کمیسیون مورخ ۲۴ ژانویه ۲۰۲۴ است. ارجاعات در این آییننامه به دفتر هوش مصنوعی باید بهعنوان ارجاع به کمیسیون تلقی شود.مرجع ملی دارای صلاحیت national competent authority
به معنای مرجع اطلاع رسانی یا مرجع نظارت بر بازار است. نظر به اینکه سامانههای هوش مصنوعی که توسط نهادها، آژانسها، دفاتر و مؤسسات اتحادیه به کارگرفته یا استفاده میشوند، ارجاعات به مراجع ملی دارای صلاحیت یا مراجع نظارت بر بازار در این مقررات، به ناظر حفاظت دادههای اروپا تفسیر میشود.حادثه جدی serious incident
حادثه یا نقص عملکرد سیستم هوش مصنوعی که بهطور مستقیم یا غیرمستقیم منجر به یکی از موارد زیر شود:الف) مرگ یک فرد یا آسیب جدی به سلامت فرد؛
ب) اختلال جدی و غیرقابلبرگشت در مدیریت یا عملکرد زیرساختهای حیاتی؛
ج) نقض تعهدات قانون اتحادیه که برای حمایت از حقوق اساسی طراحی شدهاند؛
د) آسیب جدی به اموال یا محیط زیست.
-
دادههای شخصی personal data
دادههای غیرشخصی non-personal data
به معنای دادههایی غیر از دادههای شخصی مطابق با تعریف مندرج در ماده ۴، بند (۱) مقررات (EU) 2016/679 است.پروفایلسازی profiling
به معنای پروفایلسازی مطابق با تعریف مندرج در ماده ۴، بند (۴) مقررات (EU) 2016/679 است.برنامه آزمایش در شرایط واقعی real-world testing plan
به معنای سندی است که اهداف، روششناسی، دامنه جغرافیایی، جمعیتی و زمانی، پایش، سازماندهی و اجرای آزمایش در شرایط واقعی را توصیف میکند.
طرح سندباکس sandbox plan
به معنای سندی است که بین ارائهدهنده، شرکتکننده و مرجع دارای صلاحیت توافق شده و اهداف، شرایط، چارچوب زمانی، روششناسی و الزامات فعالیتهای انجامشده در فضای آزمایشی را توصیف میکند.سندباکس نظارتی هوش مصنوعی AI regulatory sandbox
به معنای چارچوب کنترلشدهای است که توسط مرجع دارای صلاحیت ایجاد میشود و به ارائهدهندگان یا ارائهدهندگان احتمالی سامانههای هوش مصنوعی امکان میدهد تا سامانه هوش مصنوعی نوآورانه را برای مدت زمان محدود تحت نظارت قانونی، مطابق با برنامه فضای آزمایشی، توسعه، آموزش، اعتبارسنجی و آزمایش دهند که در صورت لزوم در شرایط واقعی انجام میشود.سواد هوش مصنوعی AI literacy
به معنای مهارتها، دانش و درکی است که به ارائهدهندگان، مستقرکنندگان و اشخاص متأثر، با توجه به حقوق و تعهدات ذاتی آنها در چارچوب این قانون، امکان استفاده آگاهانه از سامانههای هوش مصنوعی را فراهم میکند و همچنین آگاهی نسبت به فرصتها و مخاطرات هوش مصنوعی و آسیبهای احتمالی آن را ارتقا میدهد.آزمایش در شرایط واقعی testing in real-world conditions
به معنای آزمایش موقت سامانه هوش مصنوعی برای هدف مورد نظر آن در شرایط واقعی خارج از آزمایشگاه یا محیط شبیهسازیشده دیگر است تا دادههای قابل اعتماد و محکمی جمعآوری شود و انطباق سامانه با الزامات این قانون ارزیابی و تأیید شود. این امر بهعنوان عرضه سامانه در بازار یا بهکارگیری آن در نظر گرفته نمیشود، به شرطی که تمامی شرایط مقرر در ماده 57 یا 60 رعایت شده باشد؛«فرد» subject
با هدف آزمایش شرایط واقعی، به معنای شخص حقیقی است که در آزمایش در شرایط واقعی شرکت میکند.رضایت آگاهانه informed consent
به معنای ابراز تمایل آزاد، مشخص، صریح و داوطلبانه فرد تحت آزمایش برای مشارکت در آزمایش خاص در شرایط واقعی، پس از اطلاع از تمام جنبههای آزمایش که برای تصمیمگیری فرد برای مشارکت مرتبط هستند.دروغ عمیق deep fake
محتوای تصویری، صوتی یا ویدیویی تولیدشده یا دستکاریشده توسط هوش مصنوعی که شبیه اشخاص، اشیا، مکانها، نهادها یا رویدادهای موجود است و بهطور کاذب برای یک فرد معتبر یا حقیقی به نظر میرسد.نقض گسترده widespread infringement
به معنای هرگونه عمل یا ترک فعلی برخلاف حقوق اتحادیه که از منافع اشخاص حمایت میکند و:(الف) به منافع جمعی اشخاص مقیم در حداقل دو دولت عضو اتحادیه، غیر از عضو اتحادیهای که:
- ۱) عمل یا ترک فعل منشاء گرفته یا رخ داده است؛
- ۲) ارائهدهنده مربوطه یا نماینده مجاز آن مستقر یا ثبت شده است؛ یا
- ۳) استفادهدهنده مستقر است (در صورتیکه نقض توسط استفادهدهنده صورت گیرد)، آسیب رسانده یا ممکن است آسیب برساند؛
زیرساخت حیاتی critical infrastructure
زیرساخت حیاتی طبق تعریف ماده 2، بند (4) دستورالعمل (اتحادیه اروپا) 2022/2557.مدل هوش مصنوعی عمومی general-purpose AI model
مدلی از هوش مصنوعی، از جمله مدلهایی که با حجم زیادی از دادهها با استفاده از نظارت خودکار در مقیاس بزرگ آموزش دیدهاند، که دارای عمومیت قابلتوجهی است و قادر به انجام طیف گسترهای از وظایف متمایز را داراست، صرفنظر از نحوه عرضه به بازار، قابل ادغام در سامانه ها و برنامه های پایین دستی است، بهجز مدلهایی که برای تحقیق، توسعه یا نمونهسازی قبل از عرضه به بازار استفاده میشوند. مرتبط: مقدمههای 97، 98 و 99.
قابلیتهای با تأثیر بالا
به معنای قابلیتهایی است که با قابلیتهای ثبت شده در پیشرفتهترین مدلهای هوش مصنوعی عمومی مطابقت دارد یا از آنها فراتر میرود؛ مرتبط: مقدمه 110
خطر سیستمی systemic risk
به معنای ریسکی که به دلیل قابلیتهای با تأثیر بالا مدلهای هوش مصنوعی عمومی، خاص آن است و به دلیل گسترش آن در بازار اتحادیه یا اثرات منفی واقعی یا قابل پیشبینی بر سلامت عمومی، امنیت، امنیت عمومی، حقوق بنیادی یا جامعه به طور کلی، میتواند در زنجیره ارزش به صورت گسترده گسترش یابد. مراجع: تفسیر 110«سیستم هوش مصنوعی عمومی» general-purpose AI system
به معنای سیستم هوش مصنوعی که بر اساس یک مدل هوش مصنوعی عمومی ساخته شده است و قابلیت سرویسدهی به طیف گستردهای از اهداف، هم برای استفاده مستقیم و هم برای یکپارچهسازی در سیستمهای دیگر هوش مصنوعی را دارد. مراجع: تفسیر 100عملیات ممیز شناور floating-point operation
هر عملیات ریاضی یا تخصیص شامل اعداد ممیز شناور، که زیرمجموعهای از اعداد حقیقی هستند و معمولاً در رایانهها توسط یک عدد صحیح با دقت ثابت مقیاسبندیشده با یک توان صحیح از یک پایه ثابت نمایش داده میشوند.مرتبط: مقدمه 110.ارائهدهنده پاییندستی downstream provider
ارائهدهنده سیستم هوش مصنوعی، از جمله سیستم هوش مصنوعی عمومی، که یک مدل هوش مصنوعی را در محصول یا خدمت خود ادغام میکند، صرفنظر از اینکه آن مدل را خود تولید کرده یا از طریق قرارداد از نهاد دیگری تامین کرده است.
نتیجهگیری
با توجه به تعاریف و مفاهیم مطرح شده در این مقاله، میتوان گفت که مقررات هوش مصنوعی نه تنها به شفافیت در استفاده از این فناوری کمک میکند، بلکه به تضمین حقوق افراد و حفظ امنیت جامعه نیز میپردازد. رعایت این مقررات از سوی ارائهدهندگان و مستقرکنندگان، به ایجاد یک اکوسیستم ایمن و پایدار در حوزه هوش مصنوعی کمک خواهد کرد.
منبع: تهیه شده در واحد فناوری های نوین راسخون
.jpg "بالاخره اسفناج را خام بخوریم یا پخته؟")
