قانون هوش مصنوعی اروپا: ملاحظه 12

ملاحظه مقدماتی دوازدهم تعریف حقوقی «سامانه هوش مصنوعی» را در قانون هوش مصنوعی اتحادیه اروپا روشن می‌کند و آن را بر ویژگی‌هایی مانند قابلیت استنباط، تولید بروندادهایی چون پیش‌بینی و تصمیم، درجاتی از خودمختاری، و امکان سازگاری‌پذیری پس از استقرار بنا می‌نهد. این ملاحظه توضیح می‌دهد که هوش مصنوعی صرفاً هر نرم‌افزار خودکار نیست و سامانه‌هایی که فقط قواعد از پیش‌تعریف‌شده انسانی را اجرا می‌کنند لزوماً در این تعریف نمی‌گنجند. همچنین نشان می‌دهد که تعریف قانون محدود به یادگیری ماشین نیست و رویکردهای مبتنی بر منطق و دانش را نیز در بر می‌گیرد.  

قانون هوش مصنوعی اروپا: متن ملاحظه 12

«مفهوم «سامانه هوش مصنوعی» در این مقرره باید به‌روشنی تعریف شود و باید تا حد امکان با کار سازمان‌های بین‌المللی فعال در حوزه هوش مصنوعی هم‌راستا باشد تا قطعیت حقوقی تضمین، همگرایی بین‌المللی تسهیل و پذیرش گسترده ممکن شود، و در عین حال انعطاف لازم برای انطباق با تحولات سریع فناوری در این حوزه حفظ گردد. افزون بر این، تعریف مزبور باید بر ویژگی‌های کلیدی سامانه‌های هوش مصنوعی استوار باشد؛ ویژگی‌هایی که آن را از سامانه‌های نرم‌افزاری سنتی ساده‌تر یا رویکردهای برنامه‌نویسی متعارف متمایز می‌سازند و نباید شامل سامانه‌هایی شود که صرفاً بر قواعدی متکی‌اند که انسان‌های طبیعی برای اجرای خودکار عملیات تعریف کرده‌اند.
یکی از ویژگی‌های اصلی سامانه‌های هوش مصنوعی، قابلیت «استنباط» (infer) آن‌هاست. این قابلیت استنباط به فرایند تولید بروندادهایی مانند پیش‌بینی‌ها، محتوا، توصیه‌ها یا تصمیم‌ها اشاره دارد که می‌توانند بر محیط‌های فیزیکی و مجازی اثر بگذارند، و نیز به توانایی سامانه‌های هوش مصنوعی برای استخراج مدل‌ها یا الگوریتم‌ها، یا هر دو، از ورودی‌ها یا داده‌ها. فنونی که این استنباط را در فرایند ساخت سامانه هوش مصنوعی ممکن می‌سازند، شامل رویکردهای یادگیری ماشین هستند که از داده‌ها می‌آموزند چگونه به اهداف معین دست یابند، و نیز رویکردهای مبتنی بر منطق و دانش که از دانش رمزگذاری‌شده یا بازنمایی نمادین مسئله برای استنتاج استفاده می‌کنند.

توانایی استنباط در سامانه هوش مصنوعی فراتر از پردازش صرف داده است، زیرا امکان یادگیری، استدلال یا مدل‌سازی را فراهم می‌کند. اصطلاح «ماشین‌مبنا» (machine-based) به این معناست که سامانه‌های هوش مصنوعی بر روی ماشین اجرا می‌شوند. اشاره به اهداف صریح یا ضمنی نیز بیانگر آن است که سامانه‌های هوش مصنوعی می‌توانند بر اساس اهدافی که به‌صراحت تعریف شده‌اند یا اهدافی ضمنی عمل کنند. اهداف سامانه هوش مصنوعی ممکن است در یک زمینه خاص با هدف مورد نظر از به‌کارگیری آن سامانه یکسان نباشد.

برای مقاصد این مقرره، «محیط» باید به‌معنای زمینه‌هایی فهمیده شود که سامانه‌های هوش مصنوعی در آن‌ها عمل می‌کنند، در حالی که بروندادهای تولیدشده توسط سامانه هوش مصنوعی بازتاب‌دهنده کارکردهای مختلف آن هستند و شامل پیش‌بینی‌ها، محتوا، توصیه‌ها یا تصمیم‌ها می‌شوند. سامانه‌های هوش مصنوعی برای آن طراحی می‌شوند که با سطوح متفاوتی از خودمختاری عمل کنند؛ بدین معنا که تا حدی در کنش‌های خود از مداخله انسانی مستقل‌اند و توانایی عملکرد بدون مداخله انسان را دارند. سازگاری‌پذیری (adaptiveness) که یک سامانه هوش مصنوعی ممکن است پس از استقرار از خود نشان دهد، به قابلیت‌های خودیادگیری آن اشاره دارد که به سامانه اجازه می‌دهد در حین استفاده تغییر کند.

سامانه‌های هوش مصنوعی می‌توانند به‌صورت مستقل به کار گرفته شوند یا به‌عنوان جزئی از یک محصول عمل کنند، صرف‌نظر از آنکه سامانه به‌طور فیزیکی در محصول ادغام شده باشد (تعبیه‌شده / embedded) یا بدون ادغام فیزیکی، کارکرد آن محصول را تأمین کند (غیرتعبیه‌شده / non-embedded).»
 

تحلیل ملاحظه 12

این ملاحظه یکی از مهم‌ترین و بنیادی‌ترین ملاحظات مقدماتی قانون هوش مصنوعی اتحادیه اروپاست، زیرا در عمل سنگ‌بنای مفهومی کل مقرره را می‌گذارد: «سامانه هوش مصنوعی» دقیقاً چیست؟ پاسخ به این پرسش فقط یک بحث نظری یا فنی نیست، بلکه تعیین می‌کند چه چیزی اصلاً مشمول قانون می‌شود و چه چیزی خارج از قلمرو آن باقی می‌ماند. به همین دلیل، این ملاحظه یکی از مهم‌ترین نقاط تفسیرپذیر و در عین حال تعیین‌کننده در کل قانون است.

نخستین هدف این ملاحظه، ایجاد یک تعریف حقوقیِ هم دقیق و هم منعطف است. قانون‌گذار اروپایی می‌خواهد تعریفی ارائه دهد که از یک سو به‌اندازه کافی روشن باشد تا قطعیت حقوقی ایجاد کند و از سوی دیگر آن‌قدر خشک و محدود نباشد که با تحول سریع فناوری خیلی زود منسوخ شود. به همین دلیل، تعریف «سامانه هوش مصنوعی» نه صرفاً بر فناوری‌های خاص، بلکه بر ویژگی‌های کارکردی آن‌ها بنا می‌شود. این انتخاب از نظر حقوقی هوشمندانه است، زیرا قانون را از وابستگی به نسل خاصی از فناوری‌ها دور می‌کند.

محوری‌ترین مفهوم این ملاحظه، بدون تردید «قابلیت استنباط» (capability to infer) است. قانون‌گذار اروپایی در اینجا استدلال می‌کند که آنچه هوش مصنوعی را از نرم‌افزار سنتی متمایز می‌کند، صرفاً پیچیدگی یا خودکار بودن آن نیست، بلکه توانایی آن در «استنباط» است؛ یعنی تولید بروندادهایی مانند پیش‌بینی، توصیه، محتوا یا تصمیم بر پایه داده‌ها، مدل‌ها یا الگوهای آموخته‌شده. این نکته بسیار مهم است، زیرا مرز میان هوش مصنوعی و نرم‌افزار متعارف را نه در ظاهر فنی، بلکه در منطق عملکردی آن‌ها ترسیم می‌کند.

همین‌جا یکی از مهم‌ترین خطوط مرزی قانون نیز ترسیم می‌شود: سامانه‌هایی که صرفاً بر قواعد از پیش‌تعیین‌شده انسانی عمل می‌کنند و فقط همان قواعد را به‌طور خودکار اجرا می‌کنند، لزوماً «سامانه هوش مصنوعی» محسوب نمی‌شوند. این تمایز اهمیت زیادی دارد، زیرا قانون‌گذار نمی‌خواهد هر نوع اتوماسیون یا نرم‌افزار قاعده‌محور را ذیل هوش مصنوعی قرار دهد. بنابراین، نرم‌افزارهای سنتی rule-based که صرفاً دستورات ثابت انسانی را اجرا می‌کنند، اصولاً بیرون از تعریف مرکزی این مقرره قرار می‌گیرند، مگر آنکه واجد همان عنصر «استنباط» باشند.

ملاحظه همچنین نشان می‌دهد که قانون‌گذار تعریف هوش مصنوعی را محدود به یادگیری ماشین نکرده است. هرچند یادگیری ماشین بخش مهمی از تعریف است، اما تنها راه تحقق «استنباط» نیست. رویکردهای مبتنی بر منطق، دانش، بازنمایی نمادین و استدلال نیز در قلمرو تعریف قرار می‌گیرند. این انتخاب مهم است، زیرا مانع از آن می‌شود که قانون صرفاً بر فناوری‌های مبتنی بر داده متمرکز شود و دیگر شاخه‌های هوش مصنوعی را نادیده بگیرد.

دو مفهوم مهم دیگر در این ملاحظه «خودمختاری» (autonomy) و «سازگاری‌پذیری» (adaptiveness) هستند. قانون‌گذار تأکید می‌کند که سامانه‌های هوش مصنوعی می‌توانند با درجات متفاوتی از استقلال از انسان عمل کنند و حتی پس از استقرار نیز از طریق خودیادگیری تغییر کنند. این دو عنصر برای فهم ریسک‌های هوش مصنوعی حیاتی‌اند، زیرا هرچه سامانه مستقل‌تر و سازگارپذیرتر باشد، پیش‌بینی‌پذیری و کنترل آن دشوارتر می‌شود.

در نهایت، این ملاحظه دامنه شمول قانون را از منظر فنی نیز روشن می‌کند: سامانه هوش مصنوعی می‌تواند یک ابزار مستقل باشد یا بخشی از یک محصول دیگر، چه در آن ادغام شده باشد و چه صرفاً کارکرد آن را پشتیبانی کند. این نکته مانع از آن می‌شود که بازیگران بازار صرفاً با جاسازی یا عدم جاسازی سامانه در یک محصول، از شمول قانون بگریزند.
منبع: ترجمه شده توسط بخش فناوری های نوین سایت راسخون