در چند دهه اخیر، فناوری به سرعت وارد همه گوشه‌های زندگی انسان‌ها شده است. تلفن‌های همراه، دوربین‌های شهری، حسگرهای اینترنت اشیاء، شبکه‌های اجتماعی، نقشه‌های آنلاین، پرداخت الکترونیکی و به‌طور کلی «داده بزرگ» (Big Data) بخش مهمی از زندگی ما شده‌اند. در این بستر، پروژه‌هایی ظهور کرده‌اند که قصد دارند فعالیت‌های فردی و جمعی را نه فقط ثبت کنند، بلکه تحلیل، پیش‌بینی و حتی کنترل نمایند. آنچه شما در این متن به آن اشاره می‌شود، پروژه‌ای تحت عنوان HAYSTAC است که باید آن را در دل مجموعه‌ای بزرگ‌تر از پروژه‌های امنیتی-اطلاعاتی و نظارتی درک و تحلیل کرد.
 
در این یادداشت، تلاش می‌کنم تصویری زنده و ملموس از این «آکواریوم جهانی» ارائه دهیم، چالش‌ها و مخاطرات آن را بررسی کنیم، نمونه‌های واقعی از پروژه‌های مشابه بیاوریم و نشان دهیم چگونه رسانه و سواد رسانه‌ای نقش کلیدی در شناسایی و مقابله با فریب‌های ناشی از چنین سیستم‌هایی دارند.
 
یکی از پروژه‌های رسمی که درباره آن اطلاعات مستندی وجود دارد، پروژه HAYSTAC (Hidden Activity Signal and Trajectory Anomaly Characterization است، که تحت نظارت مؤسسه IARPA (شاخه تحقیقاتی پیشرفته‌ی اطلاعاتی آمریکا) تعریف شده است. هدف این پروژه توسعه توانمندی‌هایی است که بتوانند الگوهای حرکت عادی انسان‌ها را در فضا و زمان مدل‌سازی کنند و هر انحراف از آن‌ها را – بسته به مقدار و ویژگی‌اش – به عنوان «ناهنجاری» یا «نشانه مشکوک» شناسایی کنند.
 
به بیان دیگر، HAYSTAC قصد دارد آنچه را که بشر عادی انجام می‌دهد (حرکت روزانه، مسافرت، مسیرهای معمول، زمان‌های رفت‌وآمد) ثبت و مدل‌سازی کند و سپس هر چیزی که از آن الگو فاصله بگیرد، به‌عنوان یک علامت احتمالی امنیتی تلقی کند.
 
البته چالش اصلی این است که داده‌های «حقیقی» برای آموزش الگوریتم‌های تشخیص ناهنجاری وجود ندارد یا به سختی فراهم می‌شود؛ بنابراین HAYSTAC از شبیه‌ سازی‌های نسل بزرگ استفاده می‌کند تا «حرکت پس‌زمینه» را تولید کند و سپس تیم‌های پژوهشی تلاش می‌کنند فعالیت‌های مصنوعی را در آن شبیه‌ سازی کنند و الگوریتم‌ها را آزمایش کنند که آیا می‌توانند آن فعالیت‌ها را از حرکت‌های عادی تفکیک نمایند یا نه؟
 
یکی از دلایل شکل‌گیری چنین پروژه‌ای این است که در حوادث غیرمنتظره — مثل بلایا، اعتراضات اجتماعی یا حملات — الگوهای حرکت مردم به طور ناگهانی تغییر می‌کند: افراد از منطقه حادثه فرار می‌کنند، مسیرها بسته می‌شوند، ترافیک شکل می‌گیرد یا جمعیت‌ها به مکان جدیدی منتقل می‌شوند. اگر بتوان این تغییرات را زود تشخیص داد، در تحلیل و مقابله با رویداد مؤثر خواهد بود.
 
در گزارش رسمی DNI (دفتر مدیر اطلاعات ملی ایالات متحده) آمده است که برنامه HAYSTAC در ۱۸ مه ۲۰۲۳ رسماً شروع شده است و این پروژه قصد دارد مدل‌های حرکت «عادی» را در زمان‌ها و مکان‌های مختلف بسازد، تا بتواند تغییرات را شناسایی کند. همچنین در مقاله‌ای درباره پروژه‌های تحقیقاتی IARPA ذکر شده است که HAYSTAC یکی از پروژه‌هایی است که می‌خواهد با استفاده از هوش مصنوعی و تحلیل داده‌ها، توانایی پیش‌بینی فعالیت‌های مردم را در محیط شهری و شبکه‌ای ارتقا دهد.
 
اما HAYSTAC فقط یک نمونه از تلاش‌های نظارتی پیچیده است؛ برای درک عمق موضوع به پروژه‌های پیشین توجه کنیم:
یکی از مشهورترین پروژه‌ها در زمینه پیش‌بینی روندهای جمعی، پروژه MBERS است (مخففEarly Model Based Event Recognition using Surrogates)؛ این پروژه از سال ۲۰۱۲ آغاز شده و برای پیش‌بینی اعتراضات، ناآرامی‌های اجتماعی، حوادث سیاسی یا بحران‌های اجتماعی در کشورهای آمریکای لاتین و دیگر نقاط جهان استفاده شده است. EMBERS از منابع باز داده (Open Source Indicators) استفاده می‌کند: داده‌های توییتر، پست‌های شبکه‌های اجتماعی، اخبار، وبلاگ‌ها، شاخص‌های اقتصادی، شاخص‌های جستجو در اینترنت، تصاویر ماهواره‌ای و داده‌های مربوط به حمل‌ونقل و جمعیت.
 
این سیستم، به طور خودکار ۲۴ ساعت شبانه روز داده‌ها را می‌بلعد و هشدارهایی تولید می‌کند که مکان احتمالی ناآرامی، گروه‌های دخیل، زمان و سطح اطمینان پیش‌بینی (Confidence level) را اعلام می‌کند. گزارش‌هایی وجود دارد که EMBERS در پیش‌بینی اضطراب‌های اجتماعی موفق بوده است: مثلاً اعتراضات پاراگوئه در سال ۲۰۱۲، «بهار برزیلی» در سال ۲۰۱۳، اعتراضات دانشجویی در ونزوئلا در ۲۰۱۴، و انتخابات در پاناما و کلمبیا.
 
اما هیچ سیستمی کامل نیست. یکی از نقدهایی که بر EMBERS وارد شده است این است که این سیستم مبتنی بر داده‌های باز و الگوریتم‌های ماشینی است که لزوماً نمی‌توانند تمام عوامل مؤثر بر رفتار انسانی را بگنجانند. همچنین پیش‌بینی پدیده‌های انسانی پیچیده محدود به الگوهای آماری است و ممکن است در موارد خاص خطا کند. پژوهش‌هایی نیز نشان داده‌اند که تلاش‌های مشابه برای پیش‌بینی رفتار جمعی در ایالات متحده نیز انجام شده است. مثلاً گزارش‌هایی از برنامه‌های پنتاگون و ارتش آمریکا وجود دارد که با استفاده از نظارت بر شبکه‌های اجتماعی تلاش کرده‌اند اعتراضات داخلی یا جنبش‌های اعتراضی را پیش‌بینی کنند.
 
مثلاً تحقیقی منتشر شده در سال ۲۰۱۸ اشاره می‌کند که پنتاگون برنامه‌ای را تأمین مالی کرده است تا با ردیابی داده‌های شبکه‌های اجتماعی بتواند اعتراضات ضد ترامپ را پیش‌بینی کند. این مطالعه نشان می‌دهد که ساختار شبکه اجتماعی و ارتباطات میان کاربران می‌تواند نشانه‌ای از احتمال تجمع اعتراضی باشد. همچنین در ادبیات علمی، مقاله‌ای با عنوان Future Protest Made Risky اشاره می‌کند که فناوری‌های پیش‌بینی و نظارت بر افراد و گروه‌ها آنلاین برای پیش‌بینی اعتراضات پس از انتخابات ۲۰۱۶ آمریکا استفاده شده‌اند.
 
یک جنبه عملی فریب رسانه‌ای در این زمینه این است: رسانه‌های دولتی یا رسانه‌های وابسته به قدرت ممکن است چنین پروژه‌هایی را کم‌وبیش پنهان کنند یا مشروعیت آن‌ها را کم اهمیت جلوه دهند یا گفتمان میلیاردی امنیتی را غالب کنند که گویا ما برای دفاع از امنیت مجبور به پذیرش چنین کنترل‌هایی هستیم. در این راستا، سواد رسانه‌ای اهمیت فراوانی پیدا می‌کند.
 
چرا این پروژه‌ها مهم و نگران‌کننده‌اند؟
۱. خطر نقض حریم خصوصی: وقتی یک سیستم بتواند مسیرهای رفت‌وآمد فردی را با دقت تشخیص دهد، زمان ملاقات‌ها، محل کار، محل تفریح و حتی روابط اجتماعی را بازتاب دهد، مفهوم «حریم خصوصی» تحت فشار جدی قرار می‌گیرد.
۲. نرمال‌سازی نظارت تاماگر عمومی شدن چنین سامانه‌هایی پذیرفته شود، جامعه ممکن است به این باور برسد که «نظارت کامل طبیعی است» و اصل «مراقب بودن حکومت بر مردم» به امری عادی بدل شود.
۳. سوگیری و تبعیض در تشخیص ناهنجاری: الگوریتم‌ها ممکن است نسبت به اقلیت‌ها، گروه‌های سیاسی خاص یا مناطق فقیرنشین حساسیت بیشتری نشان دهند و آن‌ها را به عنوان افراد «مشکوک» برچسب بزنند، حتی اگر فعالیت‌شان عادی باشد.
4. خطا و هشدارهای کاذب: هر سیستمی که با احتمال خطا کار می‌کند (False Positives) ممکن است افراد بی‌گناه را تحت فشار قرار دهد، بازداشت کند یا مورد بررسی قرار دهد. اینکه چه میزان دقت برای چنین سیستم‌هایی قابل قبول است، یک مسئله اخلاقی و فنی است.
5. استفاده سیاسی: چنین ابزارهایی می‌توانند به ابزار کنترل سیاسی تبدیل شوند؛ کسانی که منتقد حکومت‌اند ممکن است به آسانی تحت نظارت قرار گیرند.
۶. تأثیر روانی: وقتی انسان بداند هر حرکتش ممکن است رصد شود، ممکن است دچار خود سانسوری، اضطراب یا تغییر رفتار به نحوی شود که آزادی فردی کاهش یابد.
 
چگونه رسانه‌ها ممکن است در این فَضا نقش فریبگر داشته باشند؟
رسانه‌ها (دولتی یا وابسته) می‌توانند پروژه‌هایی مانند HAYSTAC را به‌عنوان ابزاری امنیتی ضروری و بدون هزینه پنهان معرفی کنند، بدون آنکه تأکید کنند چه هزینه‌ای بر حریم خصوصی و آزادی‌ها می‌آید.
رسانه‌ها ممکن است بر روی جنبه‌های مثبت مثل پیش‌بینی بلایا، تروریسم یا جرائم تأکید کنند و جنبه‌های خطر آن را کم رنگ کنند.
رسانه‌ها ممکن است داده‌های ناقص یا اغراق‌آمیز درباره «دقت ۸۰%» یا «کاهش تهدیدات» منتشر کنند بدون اشاره به اینکه در چه شرایطی چنین اعدادی صحیح هستند یا چقدر خطا وجود دارد.
رسانه‌ها می‌توانند مردم را نسبت به چنین نظارتی عادی کنند، طوری که اعتراض یا سؤال در مورد آن موضوع «خُرده‌ گرفتن علیه امنیت» تلقی شود.
رسانه‌ها ابزارهایی مثل عکس انتخابی، واژه ‌سازی، برجسته ‌سازی اخبار مرتبط با جنبه امنیتی و برجسته ‌سازی تهدیدها را برای القای ضرورت نظارت به کار می‌برند.
 
نقش سواد رسانه‌ای در مواجهه با چنین پروژه‌ها و گفتمان‌ها
برای اینکه ما به‌عنوان شهروندان در برابر فریب رسانه‌ای و قدرت‌های نظارتی آسیب‌پذیر نباشیم، راه‌هایی وجود دارد:
1. شناخت منبع و اعتبار: وقتی رسانه‌ای خبری درباره «پیش‌بینی دقیق» یا «نظارت کامل» منتشر می‌کند، از خود بپرسیم چه ارگان یا نهادی چنین چیزی را اعلام کرده است و آیا سند یا گزارش شفاف ارائه داده است؟
2. مقایسه منابع: خبری که فقط در رسانه وابسته به حکومت منتشر شده است را با رسانه‌های مستقل و بین‌المللی مقایسه کنیم.
3. تحلیل زبان و واژگان: اگر خبر از کلماتی مثل «امنیت»، «خطر»، «تهدید عمومی»، «اطلاعات حیاتی» زیاد استفاده کند، احتمال دارد تلاش دارد احساسات مخاطب را تحریک کند تا پذیرش بیشتری برای نظارت ایجاد شود.
4. طلب شواهد تجربی: بپرسیم آیا در یک مورد واقعی نشان داده شده است که این سیستم کار کرده و چه نتایجی داشته است؟ آیا کسانی به اشتباه تحت تأثیر قرار گرفته‌اند؟
5. شناخت محدودیت‌های تکنولوژیک: هیچ الگوریتمی کامل نیست. فهم اینکه داده‌ها ناقص‌اند، مدل‌ها سوگیری دارند و رفتار انسانی پیچیده‌تر از امکانات مدل‌های آماری است.
6. آگاهی از حقوق مدنی و قوانین حریم خصوصی: باید بدانیم قانون، ناظران مستقل و حقوقی برای حفاظت از حریم خصوصی وجود دارد یا نیاز به فشار برای تصویب آن‌ها هست.
7. مشارکت در گفتمان عمومی: درباره سازوکارها، شفافیت، نظارت مردمی و محدودیت‌های قانونی بحث کنیم و رسانه‌ها را به پاسخگویی فراخوانیم.
8. مصرف رسانه آگاهانه: وقتی خبری از مشروعیت چنین پروژه‌هایی دفاع می‌کند، زمان بگذاریم، نقد و بازتاب آن را هم بخوانیم، نه اینکه فقط بازنشر کنیم.
 
در پایان، اگرچه پروژه‌هایی مانند HAYSTAC ممکن است به‌صورت رسمی و با ادعاهای «امنیت بهتر» معرفی شوند، ولی آنچه در پس پرده می‌گذرد، وارد شدن به قلمرو داده‌های انسان‌ها به گونه‌ای است که انسان را از موجودی آزاد به مجموعه‌ای از داده‌ها تبدیل می‌کند. رسانه‌ها نقش کلیدی در شکل‌دهی افکار عمومی دارند؛ آن‌ها می‌توانند مشروعیت دهند یا نقد کنند، آگاهی‌سازی کنند یا فریب دهند. سواد رسانه‌ای، ابزار مقابله ما در این شرایط است: ابزار هوشمندانه‌ای برای تشخیص، پرسشگری و مقاومت در برابر تسلط نظارت بی‌مرز...
 
[1]: https://www.iarpa.gov/research-programs/haystac?utm_source=chatgpt.com "HAYSTAC"
[2]: https://www.iarpa.gov/newsroom/article/finding-a-needle-with-haystac?utm_source=chatgpt.com "Finding a Needle with HAYSTAC"
[3]: https://www.dni.gov/index.php/newsroom/press-releases/press-releases-2023/3693-iarpa-kicks-off-new-research-program-to-detect-changes-in-movement-patterns?utm_source=chatgpt.com "IARPA Kicks Off New Research Program to Detect ..."
[4]: https://fedtechmagazine.com/article/2022/06/iarpa-explores-ai-reimagine-physical-safety-and-combat-disinformation?utm_source=chatgpt.com "IARPA Explores AI to Reimagine Physical Safety and ..."
[5]: https://dac.cs.vt.edu/research-project/embers/?utm_source=chatgpt.com "EMBERS"
[6]: https://www.brookings.edu/wp-content/uploads/2020/11/fp_20201130_uncomfortable_ground_truths.pdf?utm_source=chatgpt.com "PREDICTIVE ANALYTICS AND NATIONAL SECURITY"
[7]: https://www.vice.com/en/article/pentagon-wants-to-predict-anti-trump-protests-using-social-media-surveillance/?utm_source=chatgpt.com "Pentagon Wants to Predict Anti-Trump Protests Using ..."
[8]: https://pmc.ncbi.nlm.nih.gov/articles/PMC8423833/?utm_source=chatgpt.com "Future Protest Made Risky: Examining Social Media Based ..."