قانون هوش مصنوعی اروپا: ملاحظه 56

ملاحظه ۵۶ قانون هوش مصنوعی اتحادیه اروپا ضمن تأکید بر نقش مثبت هوش مصنوعی در ارتقای کیفیت آموزش، مقرر می‌کند که سامانه‌های هوش مصنوعی مورد استفاده در پذیرش، تخصیص، ارزیابی، تعیین سطح آموزشی و نظارت بر آزمون‌ها در زمره سامانه‌های پرخطر قرار می‌گیرند؛ زیرا این سامانه‌ها می‌توانند مسیر تحصیلی و حرفه‌ای افراد را تعیین کرده و بر توانایی آنان برای تأمین معاش اثر بگذارند. در صورت طراحی یا استفاده نامناسب، این سامانه‌ها ممکن است حقوق بنیادینی همچون حق آموزش و منع تبعیض را نقض کرده و الگوهای تاریخی تبعیض را بازتولید کنند.  

قانون هوش مصنوعی اروپا: متن ملاحظه 56

به‌کارگیری سامانه‌های هوش مصنوعی در حوزه آموزش از اهمیت بسزایی برخوردار است؛ زیرا می‌تواند در ارتقای آموزش و تربیت دیجیتال با کیفیت بالا مؤثر باشد و این امکان را برای تمامی یادگیرندگان و معلمان فراهم آورد که مهارت‌ها و شایستگی‌های دیجیتال لازم، از جمله سواد رسانه‌ای و تفکر انتقادی، را برای مشارکت فعال در اقتصاد، جامعه و فرایندهای دموکراتیک کسب و به اشتراک بگذارند.

با این حال، سامانه‌های هوش مصنوعی که در آموزش یا آموزش حرفه‌ای مورد استفاده قرار می‌گیرند، به‌ویژه در موارد زیر، باید به عنوان سامانه‌های هوش مصنوعی پرخطر طبقه‌بندی شوند:
تعیین دسترسی یا پذیرش در مؤسسات آموزشی یا دوره‌های آموزشی؛

تخصیص اشخاص به مؤسسات یا برنامه‌های آموزشی و حرفه‌ای در تمامی سطوح؛

ارزیابی نتایج یادگیری افراد؛

تعیین سطح مناسب آموزش برای هر فرد و تأثیرگذاری اساسی بر سطح آموزشی و مهارتی که فرد دریافت خواهد کرد یا به آن دسترسی خواهد داشت؛

نظارت و شناسایی رفتارهای ممنوعه دانش‌آموزان یا دانشجویان در طول آزمون‌ها.

علت این طبقه‌بندی آن است که چنین سامانه‌هایی می‌توانند مسیر تحصیلی و حرفه‌ای زندگی اشخاص را تعیین کنند و در نتیجه بر توانایی آنان برای تأمین معاش اثرگذار باشند.

چنانچه این سامانه‌ها به‌نحو نامناسب طراحی یا مورد استفاده قرار گیرند، ممکن است ماهیتی شدیداً مداخله‌گر داشته باشند و حق برخورداری از آموزش و تربیت، حق عدم تبعیض، و نیز اصل برابری را نقض کنند و الگوهای تاریخی تبعیض را علیه زنان، برخی گروه‌های سنی، اشخاص دارای معلولیت یا افراد متعلق به گروه‌های نژادی، قومی یا دارای گرایش جنسی خاص تداوم بخشند.

تحلیل ملاحظه 56

۱. رویکرد دوگانه قانون‌گذار

این ملاحظه رویکرد متوازن قانون هوش مصنوعی اتحادیه اروپا را نشان می‌دهد. از یک سو، قانون‌گذار ارزش و مزایای هوش مصنوعی در ارتقای کیفیت آموزش را به رسمیت می‌شناسد؛ از سوی دیگر، به دلیل تأثیر عمیق این سامانه‌ها بر آینده افراد، آن‌ها را در بسیاری از کاربردهای آموزشی در دسته «پرخطر» قرار می‌دهد.
 

۲. علت حساسیت حوزه آموزش

تصمیمات آموزشی معمولاً آثار بلندمدت و گاه غیرقابل جبران دارند. پذیرش یا رد دانشجو، تعیین سطح تحصیلی، ارزیابی عملکرد و حتی تشخیص تقلب می‌تواند مستقیماً بر:

فرصت‌های شغلی،
درآمد آتی،
جایگاه اجتماعی،
و کیفیت زندگی فرد

اثر بگذارد. از این‌رو، هرگونه خطا یا سوگیری در سامانه‌های هوش مصنوعی آموزشی می‌تواند تبعات جدی حقوقی و اجتماعی ایجاد کند.
 

۳. مهم‌ترین کاربردهای پرخطر

بر اساس این ملاحظه، کاربردهای زیر به طور خاص پرخطر محسوب می‌شوند:

سیستم‌های پذیرش دانش‌آموز و دانشجو؛
سامانه‌های تعیین سطح یا هدایت تحصیلی؛
نرم‌افزارهای تصحیح و نمره‌دهی خودکار؛
ابزارهای پروکتورینگ و نظارت بر آزمون‌های آنلاین.
 

۴. ارتباط با حقوق بنیادین

این ملاحظه مستقیماً به چند حق بنیادین اشاره دارد:

حق آموزش؛
حق برابری و منع تبعیض؛
حق کرامت انسانی؛
حق برخورداری از فرصت‌های برابر.

اگر داده‌های آموزشی سوگیرانه باشند، سامانه ممکن است به‌طور سیستماتیک برخی گروه‌ها را در موقعیت نامطلوب قرار دهد.
 

۵. مسئله تبعیض الگوریتمی

قانون‌گذار به خطر بازتولید تبعیض تاریخی توجه ویژه دارد. برای مثال، اگر داده‌های گذشته نشان دهد گروه خاصی کمتر پذیرفته شده‌اند، سامانه هوش مصنوعی ممکن است همان الگو را تکرار کند و تبعیض ساختاری را تثبیت نماید.
 

۶. پیامدهای حقوقی طبقه‌بندی به عنوان پرخطر

ارائه‌دهندگان و بهره‌برداران این سامانه‌ها باید الزامات سخت‌گیرانه AI Act را رعایت کنند، از جمله:

مدیریت ریسک؛
کیفیت و نمایندگی مناسب داده‌ها؛
مستندسازی فنی؛
نظارت انسانی مؤثر؛
شفافیت؛
ارزیابی انطباق پیش از عرضه.
 

۷. نمونه‌های عملی

نمونه‌های مشمول این ملاحظه:
الگوریتم پذیرش دانشگاه؛
سیستم تعیین رشته تحصیلی؛
نرم‌افزار نمره‌دهی خودکار؛
سامانه تشخیص تقلب در آزمون آنلاین.


منبع: ترجمه شده توسط بخش فناوری های نوین سایت راسخون