قانون هوش مصنوعی اروپا: ملاحظه 16
«مفهوم «دسته‌بندی زیست‌سنجی» (biometric categorisation) در این مقرره باید به‌معنای انتساب اشخاص حقیقی به دسته‌های مشخص بر مبنای داده‌های زیست‌سنجی آن‌ها تعریف شود. این دسته‌های مشخص می‌توانند به اموری مانند جنسیت، سن، رنگ مو، رنگ چشم، خالکوبی، ویژگی‌های رفتاری یا شخصیتی، زبان، مذهب، تعلق به یک اقلیت ملی، گرایش جنسی یا گرایش سیاسی مربوط باشند.این مفهوم شامل سامانه‌های دسته‌بندی زیست‌سنجی‌ای نمی‌شود که صرفاً یک ویژگی فرعی (ancillary feature) و ذاتاً وابسته به یک خدمت تجاری دیگر باشند؛ به این معنا که آن ویژگی بنا به دلایل فنی عینی، بدون خدمت اصلی قابل استفاده نباشد، و ادغام آن ویژگی یا کارکرد نیز وسیله‌ای برای دور زدن قواعد این مقرره نباشد.
برای مثال، فیلترهایی که ویژگی‌های چهره یا بدن را در بازارگاه‌های آنلاین دسته‌بندی می‌کنند، می‌توانند مصداق چنین ویژگی فرعی‌ای باشند، زیرا فقط در ارتباط با خدمت اصلی ــ یعنی فروش محصول از طریق امکان پیش‌نمایش نمایش آن محصول بر روی خود مصرف‌کننده ــ قابل استفاده‌اند و به مصرف‌کننده برای تصمیم‌گیری خرید کمک می‌کنند. همچنین فیلترهایی که در خدمات شبکه‌های اجتماعی آنلاین برای دسته‌بندی ویژگی‌های چهره یا بدن به کار می‌روند تا کاربران بتوانند تصاویر یا ویدئوهای خود را اضافه یا ویرایش کنند نیز می‌توانند ویژگی فرعی تلقی شوند، زیرا این فیلترها بدون خدمت اصلی شبکه اجتماعی ــ یعنی اشتراک‌گذاری محتوا به‌صورت آنلاین ــ قابل استفاده نیستند.»
تحلیل ملاحظه 16
این ملاحظه یکی از حساس‌ترین مفاهیم قانون هوش مصنوعی اتحادیه اروپا را تعریف می‌کند: «دسته‌بندی زیست‌سنجی». اگر «شناسایی زیست‌سنجی» ناظر به این باشد که «این شخص چه کسی است»، «دسته‌بندی زیست‌سنجی» ناظر به این است که «این شخص از چه نوعی است». این تفاوت از نظر حقوقی بسیار مهم است، زیرا قانون‌گذار در اینجا نه با مسئله احراز هویت، بلکه با مسئله طبقه‌بندی انسان‌ها بر مبنای ویژگی‌های بدنی و رفتاری مواجه است.جوهره این مفهوم، انتساب افراد به دسته‌های مشخص بر اساس داده‌های زیست‌سنجی است. این دسته‌ها می‌توانند ظاهراً خنثی و فیزیکی باشند، مانند سن، رنگ مو یا رنگ چشم؛ اما می‌توانند به حوزه‌های به‌مراتب حساس‌تر نیز وارد شوند، مانند ویژگی‌های شخصیتی، زبان، مذهب، تعلق قومی یا ملی، گرایش جنسی و گرایش سیاسی. همین گستردگی نشان می‌دهد که «دسته‌بندی زیست‌سنجی» صرفاً یک ابزار توصیفی نیست، بلکه می‌تواند به ابزاری برای استنباط، برچسب‌گذاری و در نهایت تبعیض یا نظارت تبدیل شود.
خطر اصلی این نوع سامانه‌ها در این است که به‌جای شناسایی فرد، افراد را در دسته‌های اجتماعی، فرهنگی، زیستی یا سیاسی قرار می‌دهند و از این طریق امکان پروفایل‌سازی، تبعیض، دستکاری یا کنترل اجتماعی را افزایش می‌دهند. به همین دلیل، این مفهوم در قانون هوش مصنوعی فقط یک تعریف فنی نیست، بلکه یک دسته‌بندی با پیامدهای جدی حقوق بنیادین است، به‌ویژه در نسبت با کرامت انسانی، عدم تبعیض، آزادی اندیشه و حریم خصوصی.
در عین حال، قانون‌گذار برای جلوگیری از افراط در شمول، یک استثنای مهم در نظر می‌گیرد: «ویژگی فرعی» (ancillary feature). این استثنا برای آن است که هر نوع فیلتر چهره یا ابزار ظاهری در خدمات دیجیتال، خودبه‌خود در زمره سامانه‌های پرریسک یا حساس قرار نگیرد. اگر دسته‌بندی زیست‌سنجی صرفاً بخشی فرعی و فنی از یک خدمت اصلی دیگر باشد، و به‌طور مستقل قابل استفاده نباشد، و صرفاً برای پشتیبانی از خدمت اصلی به کار رود، ممکن است از این تعریف سخت‌گیرانه خارج شود.
مثال‌های ارائه‌شده در متن ــ مانند فیلترهای پیش‌نمایش لباس در فروشگاه‌های آنلاین یا فیلترهای ویرایش چهره در شبکه‌های اجتماعی ــ دقیقاً برای ترسیم همین مرز آمده‌اند. قانون‌گذار می‌خواهد نشان دهد که همه اشکال پردازش چهره لزوماً مسئله‌دار نیستند. آنچه مهم است، کارکرد و زمینه استفاده است: آیا سامانه صرفاً به کاربر کمک می‌کند محصولی را امتحان کند یا تصویر خود را ویرایش کند، یا در حال طبقه‌بندی معنادار او در دسته‌های هویتی، رفتاری یا اجتماعی است؟
در نتیجه، این ملاحظه یکی از مهم‌ترین خطوط مرزی قانون را ترسیم می‌کند: مرز میان «پردازش ظاهری و کاربردی ویژگی‌های انسانی» و «طبقه‌بندی هویتی و اجتماعی انسان‌ها». این تمایز برای تشخیص ریسک، تبعیض و مداخله در حقوق بنیادین کاملاً تعیین‌کننده است.
منبع: ترجمه شده توسط بخش فناوری های نوین سایت راسخون
