قانون هوش مصنوعی اروپا: ملاحظه 35
«هر بار استفاده از یک سامانه شناسایی زیستسنجی از راه دورِ «بلادرنگ» در فضاهای در دسترس عموم برای اهداف اجرای قانون باید مشمول مجوزی صریح و مشخص از سوی یک مرجع قضایی یا یک مرجع اداری مستقلِ یک دولت عضو باشد که تصمیم آن الزامآور است. این مجوز، اصولاً، باید پیش از استفاده از سامانه هوش مصنوعی برای شناسایی یک یا چند شخص اخذ شود. استثنا بر این قاعده فقط در وضعیتهای موجهِ مبتنی بر فوریت مجاز است؛ یعنی در شرایطی که نیاز به استفاده از سامانههای مزبور بهگونهای باشد که اخذ مجوز پیش از آغاز استفاده از سامانه هوش مصنوعی عملاً و بهطور عینی ناممکن شود. در چنین وضعیتهای فوری، استفاده از سامانه هوش مصنوعی باید به حداقل مطلقِ ضروری محدود شود و مشمول تضمینها و شرایط مقتضی باشد که در حقوق ملی تعیین شده و در هر مورد فوریِ مشخص، توسط خود مرجع اجرای قانون تصریح میشود.افزون بر این، مرجع اجرای قانون باید در چنین وضعیتهایی، بدون تأخیر ناموجه و حداکثر ظرف ۲۴ ساعت، ضمن ارائه دلایل عدم امکان درخواست زودتر، درخواست آن مجوز را مطرح کند. اگر چنین مجوزی رد شود، استفاده از سامانههای شناسایی زیستسنجی بلادرنگِ مرتبط با آن مجوز باید فوراً متوقف شود و تمامی دادههای مربوط به آن استفاده کنار گذاشته و حذف شوند. این دادهها شامل دادههای ورودیای است که مستقیماً توسط سامانه هوش مصنوعی در جریان استفاده از آن تحصیل شدهاند، و نیز نتایج و خروجیهای ناشی از استفادهای که به آن مجوز مرتبط است. این امر شامل دادههای ورودیای نمیشود که بهطور قانونی بر اساس قانون دیگر اتحادیه یا قانون ملی تحصیل شدهاند. در هر حال، هیچ تصمیمی که اثر حقوقی زیانبار برای شخصی ایجاد کند نباید صرفاً بر مبنای خروجی سامانه شناسایی زیستسنجی از راه دور اتخاذ شود.»
تحلیل ملاحظه 35
این ملاحظه مهمترین لایه تضمین رویهای را بر استفاده از شناسایی زیستسنجی بلادرنگ تحمیل میکند: حتی در موارد استثناییِ مجاز، استفاده از این فناوری نه فقط باید ضروری و متناسب باشد، بلکه باید تحت کنترل پیشینی و الزامآور یک مرجع مستقل قرار گیرد. اگر ملاحظههای پیشین به این میپرداختند که چه زمانی و چگونه این فناوری میتواند استفاده شود، ملاحظه ۳۵ مشخص میکند که چه کسی باید پیش از استفاده بر آن نظارت کند.نخستین نکته محوری این ملاحظه، اصل «مجوز قبلی» است. قانونگذار تصریح میکند که هر بار استفاده از شناسایی زیستسنجی بلادرنگ باید مستلزم مجوز صریح، مشخص و الزامآور باشد. این بدان معناست که استفاده از این فناوری نمیتواند به تصمیم داخلی، خودکار یا صرفاً عملیاتی پلیس واگذار شود. پیش از استفاده، یک مرجع بیرونی و مستقل باید مداخله کند و مشروعیت آن را بسنجد.
دومین نکته مهم، قانونگذار این نظارت را به مرجعی با استقلال نهادی میسپارد: یا مرجع قضایی، یا مرجع اداری مستقلی که تصمیمش الزامآور باشد. این نکته بسیار مهم است، زیرا هدف قانونگذار صرفاً کنترل صوری نیست، بلکه ایجاد نظارت واقعی و مستقل بر یکی از مداخلهگرانهترین اشکال نظارت دولتی است. بنابراین، مجوز باید نه مشورتی، بلکه الزامآور باشد.
سومین نکته محوری، استثنای فوریت بهعنوان استثنایی مضیق حفظ میشود. قانونگذار میپذیرد که در برخی وضعیتهای واقعاً فوری، اخذ مجوز پیشینی ممکن است عملاً ناممکن باشد؛ اما این استثنا را بسیار محدود میکند. فوریت باید واقعی، عینی و بهگونهای باشد که اخذ مجوز پیشاپیش عملاً ممکن نباشد، نه صرفاً دشوار یا نامطلوب. این یعنی فوریت نباید به بهانهای برای دور زدن نظارت قبلی تبدیل شود.
چهارمین نکته مهم، حتی در حالت فوریت نیز استفاده آزاد نمیشود. برعکس، قانونگذار تصریح میکند که در چنین مواردی استفاده باید به «حداقل مطلقِ ضروری» محدود شود. این تعبیر از سختگیرانهترین فرمولهای محدودسازی در متن قانون است و نشان میدهد که وضعیت اضطراری، دامنه مداخله را گسترش نمیدهد، بلکه باید آن را هرچه بیشتر محدود کند.
پنجمین نکته، فوریت فقط مجوز را به تعویق میاندازد، نه حذف. مرجع اجرای قانون موظف است حداکثر ظرف ۲۴ ساعت مجوز را اخذ کند و توضیح دهد چرا پیشتر نتوانسته چنین کند. این قاعده بسیار مهم است، زیرا نشان میدهد حتی در وضعیت اضطراری نیز نظارت مستقل حذف نمیشود، بلکه فقط موقتاً به پس از آغاز استفاده منتقل میشود.
ششمین نکته مهم، ضمانت اجرای رد مجوز بسیار شدید است: توقف فوری و حذف کامل دادهها. اگر مرجع مستقل مجوز را رد کند، استفاده باید فوراً متوقف شود و همه دادههای گردآوریشده، نتایج و خروجیهای مرتبط حذف شوند. این قاعده یکی از مهمترین سازوکارهای بازدارنده در برابر استفاده غیرموجه است، زیرا مقام استفادهکننده میداند که در صورت فقدان تأیید، نهفقط استفاده نامعتبر میشود، بلکه کل محصول دادهای آن نیز از میان میرود.
هفتمین نکته، قانونگذار یک تضمین بنیادین دیگر نیز میگذارد: هیچ تصمیم زیانبار حقوقی نباید صرفاً بر اساس خروجی سامانه اتخاذ شود. این اصل بسیار مهم است، زیرا حتی در صورت استفاده مجاز، خروجی سامانه فقط میتواند ابزار کمکی باشد، نه مبنای مستقل تصمیمگیری علیه اشخاص. بدینترتیب، قانونگذار از اصل «انسان در حلقه تصمیم» دفاع میکند و مانع از آن میشود که یک خروجی الگوریتمی بهتنهایی مبنای مداخله حقوقی علیه افراد قرار گیرد.
در نهایت، این ملاحظه روشن میکند که در منطق حقوقی اتحادیه اروپا، شناسایی زیستسنجی بلادرنگ فقط زمانی قابل تحمل است که زیر شدیدترین سطح کنترل حقوقی، نظارت مستقل، مجوز الزامآور، قابلیت حذف داده و ممنوعیت تصمیمگیری صرفاً الگوریتمی قرار گیرد.
منبع: ترجمه شده توسط بخش فناوری های نوین سایت راسخون
