ملاحظه مقدماتی سیودوم توضیح میدهد که استفاده از سامانههای هوش مصنوعی برای شناسایی زیستسنجی بلادرنگ در فضاهای عمومی با هدف اجرای قانون، بهشدت مداخلهگر و مخاطرهآمیز است، زیرا میتواند زندگی خصوصی بخش بزرگی از جمعیت را تحت تأثیر قرار دهد، احساس نظارت دائمی ایجاد کند و بهطور غیرمستقیم آزادی تجمع و دیگر حقوق بنیادین را تضعیف کند. افزون بر این، خطاهای فنی این سامانهها ممکن است به نتایج جانبدارانه و آثار تبعیضآمیز، بهویژه نسبت به گروههای آسیبپذیر، منجر شود. بلادرنگ بودن این فناوری نیز خطر را تشدید میکند، زیرا فرصت بازبینی و اصلاح را کاهش داده و احتمال مداخله فوری و ناعادلانه را افزایش میدهد.
ملاحظه قبلی:
قانون هوش مصنوعی اروپا: ملاحظه 31
قانون هوش مصنوعی اروپا: متن ملاحظه 32
«استفاده از سامانههای هوش مصنوعی برای شناسایی زیستسنجی از راه دورِ «بلادرنگ» اشخاص حقیقی در فضاهای در دسترس عموم، با هدف اجرای قانون، بهطور خاص مداخلهگرانه و تعرضآمیز نسبت به حقوق و آزادیهای اشخاص مورد نظر است؛ تا آنجا که میتواند بر زندگی خصوصی بخش بزرگی از جمعیت اثر بگذارد، احساس نظارت دائمی ایجاد کند و بهطور غیرمستقیم اشخاص را از اعمال آزادی تجمع و دیگر حقوق بنیادین بازدارد. خطاهای فنی سامانههای هوش مصنوعیِ طراحیشده برای شناسایی زیستسنجی از راه دورِ اشخاص حقیقی میتواند به نتایج جانبدارانه منجر شود و آثار تبعیضآمیز در پی داشته باشد. این نتایج جانبدارانه و آثار تبعیضآمیز بالقوه، بهویژه در ارتباط با سن، قومیت، نژاد، جنسیت یا معلولیت اهمیت ویژه دارند. افزون بر این، فوریت اثرگذاری و فرصت محدود برای بررسی یا اصلاح بعدی در استفاده از چنین سامانههایی که بهصورت بلادرنگ عمل میکنند، خطرات فزایندهای برای حقوق و آزادیهای اشخاص مورد نظر در بستر فعالیتهای اجرای قانون ــ یا اشخاصی که از آن متأثر میشوند ــ به همراه دارد.»
تحلیل ملاحظه 32
این ملاحظه یکی از مهمترین و حساسترین مبانی هنجاری قانون هوش مصنوعی اتحادیه اروپاست، زیرا توضیح میدهد چرا «شناسایی زیستسنجی از راه دورِ بلادرنگ» در فضاهای عمومی، بهویژه برای اهداف اجرای قانون، در زمره خطرناکترین کاربردهای هوش مصنوعی قرار میگیرد. در اینجا قانونگذار صرفاً درباره یک ابزار فنی شناسایی سخن نمیگوید، بلکه درباره فناوریای سخن میگوید که میتواند رابطه میان دولت، شهروند و فضای عمومی را بهطور بنیادین دگرگون کند.
نخستین نکته محوری این ملاحظه، تأکید بر «شدت مداخله» است. قانونگذار این نوع استفاده را صرفاً پرخطر یا حساس نمینامد، بلکه آن را «بهطور خاص مداخلهگرانه» توصیف میکند. دلیل این امر روشن است: این فناوری نه فقط یک فرد خاص، بلکه بالقوه جمعیت بزرگی از افراد حاضر در فضای عمومی را در معرض رصد، تحلیل و شناسایی قرار میدهد. بنابراین مسئله فقط شناسایی یک شخص نیست، بلکه تبدیل فضای عمومی به محیطی دائماً قابل پایش است.
دومین نکته مهم، این ملاحظه به اثر ساختاری این فناوری بر آزادیهای مدنی توجه میکند. قانونگذار هشدار میدهد که چنین سامانههایی صرفاً حریم خصوصی را نقض نمیکنند، بلکه «احساس نظارت دائمی» ایجاد میکنند. این عبارت بسیار مهم است، زیرا نشان میدهد قانونگذار فقط نگران مداخله واقعی نیست، بلکه نگران اثر روانی و اجتماعی نظارت نیز هست. وقتی افراد احساس کنند همواره ممکن است در حال شناسایی و ردیابی باشند، رفتارشان تغییر میکند.
سومین نکته، این اثر روانی بهطور خاص با «اثر بازدارنده» (chilling effect) بر حقوق بنیادین پیوند میخورد. قانونگذار بهصراحت میگوید چنین فناوریای میتواند اشخاص را بهطور غیرمستقیم از اعمال آزادی تجمع و سایر حقوق بنیادین منصرف کند. این نکته بسیار مهم است، زیرا نشان میدهد نگرانی قانونگذار صرفاً حفظ حریم خصوصی فردی نیست، بلکه حفاظت از بستر دموکراتیک مشارکت عمومی نیز هست. فضایی که در آن افراد از ترس شناسایی، کمتر گردهم میآیند، کمتر اعتراض میکنند و کمتر مشارکت عمومی دارند، دیگر فضای عمومی آزاد به معنای دموکراتیک آن نیست.
چهارمین نکته مهم، ملاحظه به مسئله «سوگیری و تبعیض» میپردازد. قانونگذار تصریح میکند که خطاهای فنی این سامانهها میتوانند به نتایج جانبدارانه و آثار تبعیضآمیز منجر شوند، بهویژه نسبت به گروههایی که historically بیشتر در معرض تبعیض بودهاند: افراد بر حسب سن، نژاد، قومیت، جنسیت یا معلولیت. این نکته نشان میدهد مشکل فقط نظارت گسترده نیست، بلکه نظارتی است که میتواند بهطور نامتوازن و ناعادلانه برخی گروهها را بیش از دیگران هدف قرار دهد.
پنجمین نکته، ویژگی «بلادرنگ بودن» منشأ خطر مضاعف است. قانونگذار فقط با شناسایی زیستسنجی از راه دور مشکل ندارد؛ آنچه اینجا خطر را تشدید میکند، بلادرنگ بودن آن است. در سامانههای بلادرنگ، شناسایی فوراً به مداخله منتهی میشود و فرصت چندانی برای بازبینی، اصلاح یا کنترل انسانی باقی نمیماند. همین فوریت، خطر اشتباه، مداخله ناعادلانه و آسیب فوری به حقوق اشخاص را بهطور جدی افزایش میدهد.
در نهایت، این ملاحظه نشان میدهد که از منظر قانونگذار اروپایی، مسئله شناسایی زیستسنجی بلادرنگ در فضاهای عمومی صرفاً یک مسئله دقت فنی یا کارآمدی پلیسی نیست؛ بلکه مسئلهای مربوط به ماهیت جامعه آزاد است. وقتی دولت بتواند در زمان واقعی، افراد را در فضای عمومی شناسایی و ردیابی کند، مسئله فقط فناوری نیست؛ مسئله نسبت میان امنیت، آزادی و دموکراسی است.
ملاحظه بعدی:
قانون هوش مصنوعی اروپا: ملاحظه 33
منبع: ترجمه شده توسط بخش فناوری های نوین سایت راسخون
