قانون هوش مصنوعی اروپا: متن ملاحظه 47
سامانههای هوش مصنوعی میتوانند آثار نامطلوبی بر سلامت و ایمنی اشخاص داشته باشند، بهویژه هنگامی که این سامانهها بهعنوان اجزای ایمنیِ یک محصول عمل میکنند. در راستای اهداف قوانین هماهنگسازی اتحادیه برای تسهیل گردش آزاد کالاها در بازار داخلی و تضمین اینکه فقط محصولات ایمن و در غیر این صورت منطبق با مقررات وارد بازار شوند، ضروری است که خطرات ایمنی ناشی از یک محصول در کلیت آن ــ که از اجزای دیجیتال آن، از جمله سامانههای هوش مصنوعی، ناشی میشود ــ بهطور مناسب پیشگیری و کاهش یابد.برای مثال، رباتهایی که بهطور فزاینده خودمختار میشوند ــ چه در حوزه تولید و چه در حوزه کمک و مراقبت شخصی ــ باید بتوانند در محیطهای پیچیده بهطور ایمن عمل کنند و وظایف خود را با امنیت انجام دهند. به همین ترتیب، در بخش سلامت که اهمیت جان و سلامت انسان در آن بسیار بالاست، سامانههای تشخیصیِ روزبهروز پیشرفتهتر و سامانههایی که از تصمیمگیری انسانی پشتیبانی میکنند باید قابل اتکا و دقیق باشند.
تحلیل ملاحظه 47
این ملاحظه بر یکی از مهمترین منطقهای تنظیمگری در قانون هوش مصنوعی اتحادیه اروپا تأکید میکند: هوش مصنوعی صرفاً یک ابزار نرمافزاری بیخطر نیست، بلکه میتواند مستقیماً بر جان، سلامت و ایمنی انسان اثر بگذارد. به همین دلیل، قانونگذار اروپایی هوش مصنوعی را فقط از منظر «فناوری دیجیتال» نمیبیند، بلکه آن را بخشی از زنجیره ایمنی محصول تلقی میکند. این نگاه بهویژه زمانی مهم میشود که سامانه هوش مصنوعی در دل یک محصول فیزیکی قرار گرفته باشد یا نقش «جزء ایمنی» آن را ایفا کند.نکته کلیدی این ملاحظه آن است که خطر هوش مصنوعی باید در بستر کل محصول سنجیده شود، نه صرفاً در سطح الگوریتم. یعنی اگر یک دستگاه، ربات، خودرو، ابزار پزشکی یا سامانه صنعتی دارای مؤلفه هوش مصنوعی باشد، ارزیابی ایمنی فقط متوجه نرمافزار نیست؛ بلکه باید کل محصول، با تمام اجزای فیزیکی و دیجیتال آن، از حیث خطرات ناشی از هوش مصنوعی بررسی شود. این رویکرد با منطق «ایمنی محصول» در حقوق اتحادیه اروپا سازگار است و نشان میدهد AI Act در عمل بخشی از معماری گستردهتر تنظیمگری محصولات در اتحادیه است.
این ملاحظه همچنین نشان میدهد که هرچه سطح خودمختاری سیستم بیشتر شود، حساسیت حقوقی و نظارتی نیز بیشتر میشود. مثال رباتهای خودمختار دقیقاً برای همین آمده است: رباتی که در کارخانه یا در مراقبت از سالمند کار میکند، اگر تصمیم اشتباه بگیرد یا محیط را نادرست تفسیر کند، میتواند مستقیماً به انسان آسیب بزند. بنابراین مسئله فقط «عملکرد خوب» نیست، بلکه «عملکرد ایمن در شرایط واقعی و پیچیده» است. از این منظر، قابلیت اطمینان، کنترلپذیری و پیشبینیپذیری سیستم، عناصر بنیادین انطباق حقوقی میشوند.
در حوزه سلامت، ملاحظه ۴۷ یکی از حساسترین مصادیق را برجسته میکند. قانونگذار تصریح میکند که سامانههای تشخیصی پیشرفته و سامانههای پشتیبان تصمیم پزشکی باید دقیق، قابل اتکا و ایمن باشند، زیرا خطای آنها میتواند مستقیماً به آسیب جانی یا درمان نادرست منجر شود. این تأکید نشان میدهد که در منطق AI Act، هرجا پای جان و سلامت انسان در میان باشد، آستانه تحمل خطا بهشدت پایین میآید و الزامات حقوقی سختگیرانهتر میشوند.
در نهایت، این ملاحظه روشن میکند که هدف قانون صرفاً محدود کردن فناوری نیست، بلکه ایمنسازی نوآوری است. اتحادیه اروپا میخواهد محصولات مبتنی بر هوش مصنوعی آزادانه در بازار گردش کنند، اما فقط به شرط آنکه ایمن، قابل اعتماد و منطبق با الزامات حفاظتی باشند. بنابراین ملاحظه ۴۷ یکی از پایههای اصلی منطق «نوآوری مشروط به ایمنی» در قانون هوش مصنوعی اتحادیه اروپاست.
منبع: ترجمه شده توسط بخش فناوری های نوین سایت راسخون
