تشخیص چهرهٔ اشتباه که زندگی آنجلا لیپس را ویران کرد

در لحظه‌ای که آنجلا لیپس مشغول مراقبت از نوه‌هایش بود، صدای کوبش در به گوش رسید.

چند دقیقه بعد، این مادربزرگ پنجاه‌ساله اهل تنسی با دستبند در محاصره مأموران فدرال ایالات متحده قرار داشت؛ مأمورانی که اسلحه‌های خود را آماده کرده بودند. اتهامی که مطرح شد، به‌نظر غیرواقعی می‌رسید: کلاهبرداری بانکی در فارگو، داکوتای شمالی — مکانی که لیپس می‌گوید هرگز حتی یک‌بار هم آن را ندیده است.

آنچه پس از آن آمد، کابوسی بود که نزدیک به نیم سال ادامه یافت. در مرکز این پرونده نیز یک مقصر آشنا و مدرن قرار داشت: تشخیص چهره مبتنی بر هوش مصنوعی که بازپرس‌ها به آن بسیار بیشتر از حد لازم اعتماد کرده بودند.

آنجلا لیپس، مادر سه فرزند و مادربزرگ پنج نفر، تمام عمر خود را در بخش شمال مرکزی ایالت تنسی گذرانده است، حدود ۱۰۰۰ مایل دورتر از فارگو. با این حال در ژوئیهٔ ۲۰۲۵، مقامات او را به‌عنوان فراری مرتبط با چند فقره برداشت بانکی تقلبی بازداشت کردند.

دلیل چه بود؟ یک ویدئوی نظارتی از یکی از بانک‌های فارگو که زنی را نشان می‌داد که با استفاده از کارت شناسایی جعلی ارتش آمریکا، ده‌ها هزار دلار برداشت می‌کرد. کارآگاهان تصویر ضبط‌شده را در نرم‌افزار تشخیص چهره وارد کردند و سیستم، لیپس را به‌عنوان «مطابقت احتمالی» علامت زد.

آن سرنخ واحد به‌نظر می‌رسد وزن بسیار زیادی داشت.

طبق پرونده‌های پلیس که توسط شبکه محلی WDAY بررسی شد، یک کارآگاه تصویر مظنون در ویدئو را با لیپس مقایسه کرد و نتیجه گرفت که ویژگی‌های چهره، نوع بدن و موها شبیه به هم هستند. هیچ مدرکی دال بر این وجود ندارد که بازپرس‌ها پیش از آن برای پرس‌وجو یا تأیید محل حضور او، با لیپس تماس گرفته باشند.

در عوض، آن‌ها با صدور حکم بازداشت پیش رفتند.

وقتی الگوریتم تبدیل به مدرک می‌شود

از آنجا که لیپس به‌عنوان فراری از ایالتی دیگر تلقی شد، در تنسی بدون قرار وثیقه زندانی شد. روزها تبدیل به هفته‌ها و هفته‌ها تبدیل به ماه‌ها شد.

برای نزدیک به چهار ماه، او در بازداشتگاه یک شهرستان محبوس ماند در حالی که فرایند استرداد به‌کندی جلو می‌رفت. وکیل تعیین‌شده توسط دادگاه در نهایت به او گفت که مجبور است شخصاً به داکوتای شمالی سفر کند تا اتهامات را رد کند.

«من هرگز به داکوتای شمالی نرفته‌ام. هیچ‌کس را از آنجا نمی‌شناسم،» لیپس بعدها به خبرنگاران گفت.

اداره پلیس فارگو او را فوراً منتقل نکرد. در واقع، ۱۰۸ روز پس از بازداشت او طول کشید تا مقامات او را از تنسی به داکوتای شمالی منتقل کنند. تنها در ماه دسامبر — بیش از پنج ماه پس از بازداشت — بازپرس‌ها اولین مصاحبهٔ مستقیم خود را با او انجام دادند.

خط زمانی و تأخیرهای اجرایی

این تأخیر در انتقال و مصاحبه نشان‌دهندهٔ ضعف‌های اجرایی در تعامل بین نهادهای قانون‌گذاری و برنامه‌ریزی قضایی است. فرایندهای استرداد بین ایالتی عموماً شامل بررسی مدارک، صدور دستورها و هماهنگی بین ادارات مختلف است؛ اما در این پرونده، تصمیم نهایی بر پایهٔ یک تطبیق الگوریتمی گرفته شد و بررسی‌های اولیه انسانی، مانند تماس یا استعلام از آدرس‌های محلی، به‌نظر انجام نشده بود.

منتظر ماندن طولانی برای یک متهم بی‌گناه پیامدهای انسانی و اقتصادی شدیدی دارد: از از دست دادن درآمد و مسکن تا اثرات روحی و اجتماعی که ممکن است ماه‌ها یا سال‌ها ادامه یابد.

نقض حقوق اولیه: بازداشت بدون وثیقه و پیامدهای آن

بازداشت بدون وثیقه برای افرادی که از لحاظ قانونی بی‌گناه هستند، می‌تواند پیامدهای طولانی‌مدتی ایجاد کند. لیپس نه‌تنها منابع مالی و اجتماعی خود را از دست داد، بلکه مجبور شد در شرایط جوی زمستانی داکوتای شمالی بدون لباس مناسب رها شود. بی‌اعتنایی به این واقعیت که اتهامات براساس یک «مطابقت احتمالی» تشکیل شده بود، نشان‌دهندهٔ ریسک‌های انسانی استفادهٔ بی‌قیدوشرط از فناوری‌های هوش مصنوعی در دستگاه عدالت کیفری است.

وقتی مدرک دیجیتال تنها مدرک است

وکیل مدافع لیپس — جی گرینوود — پس از ارائهٔ سوابق بانکی توانست نقطهٔ عطفی در پرونده ایجاد کند. این سوابق نشان می‌دادند که لیپس هم‌زمان با برداشت‌های تقلبی، بیش از ۱۲۰۰ مایل دورتر و در تنسی حضور داشته است.

به عبارت دیگر، آن باوری که بازپرس‌ها بر اساس آن حکم بازداشت صادر کرده بودند، پیش از هر اقدام دیگری، یک آلیبی قابل اثبات را بررسی نکرده بود.

«اگر تنها چیزی که دارید، تشخیص چهره باشد، شاید بهتر است کمی بیشتر کندوکاو کنید،» جی گرینوود در توضیح وضعیت گفت.

با ارائهٔ اسناد بانکی و شواهد محکم دیگر، پرونده تقریباً بلافاصله فروپاشید. مقامات در آستانهٔ کریسمس اتهامات را پس گرفتند و لیپس را آزاد کردند.

آزادسازی و تبعات انسانی

اما آزادی، طعم تلخی داشت. لیپس هیچ پولی نداشت و راهی برای بازگشت به خانه نداشت. به گزارش WDAY، وکلا و گروه‌های مدافع محلی برای تهیهٔ یک اتاق هتل به‌طور جمعی هزینه جمع‌آوری کردند و یک سازمان غیردولتی کمک به ترتیب سفر او تا تنسی کرد.

لیپس می‌گوید این حادثه تقریباً همه‌چیزش را از او گرفته است — خانه‌اش، ماشینش و حتی سگش.

«من لباس تابستانی به تن داشتم، هیچ کت نداشتم،» او دربارهٔ آزادسازی خود در سرمای زمستان داکوتا یادآور شد. «برف روی زمین بود. وحشت کرده بودم. فقط می‌خواستم به خانه برگردم.»

او همچنین می‌گوید هیچ‌کس از اداره پلیس فارگو از او عذرخواهی نکرده است.

پروندهٔ لیپس در متن مشکلات گسترده‌تر

پروندهٔ آنجلا لیپس یک نمونهٔ منفرد نیست. در سال‌های اخیر، چندین ادارهٔ پلیس در ایالات متحده تحت بررسی قرار گرفته‌اند زیرا سامانه‌های تشخیص چهره تطابق‌های نادرست داده و به بازداشت‌های اشتباه منجر شده‌اند. در سال ۲۰۲۴، پلیس نیویورک مردی را بر اساس تصاویر کم‌کیفیت دوربین مداربسته بازداشت کرد، در حالی که او نسبت به مظنون اختلاف قد قابل‌توجهی داشت. در دیترویت، زنی پس از تطبیق اشتباه هوش مصنوعی که تفاوت‌های عینی ظاهری را نادیده گرفت، به اتهام قتل بازداشت شد و دعوی حقوقی مطرح کرد.

گسترش فناوری تشخیص چهره در میان آژانس‌های انتظامی با وعدهٔ افزایش کارآیی در تحقیقات همراه بوده است، اما کارشناسان دربارهٔ خطاهای تشخیص (false positives)، سوگیری‌های الگوریتمی و چگونگی تحلیل تصاویر کم‌کیفیت هشدار می‌دهند. وقتی سیستم‌ها پیشنهاد را به‌عنوان تأیید قطعی تلقی می‌کنند، خطر خطاهای فاحش بالا می‌رود.

ریسک‌های فنی و خطاهای الگورتیمی

سامانه‌های تشخیص چهره بر پایهٔ الگوریتم‌های یادگیری ماشینی عمل می‌کنند که از مجموعه‌های دادهٔ آموزشی برای شناسایی شباهت‌ها استفاده می‌کنند. این الگوریتم‌ها در شرایطی که تصویر تار، زاویهٔ صورت متفاوت، نور نامناسب یا پوشش مو و لباس وجود دارد، دقت پایین‌تری دارند. همچنین مطالعات متعدد نشان داده‌اند که برخی از این الگوریتم‌ها نسبت به تفاوت‌های نژادی، سنی و جنسی تعصب نشان می‌دهند و نرخ خطای آن‌ها برای گروه‌های اقلیت بالاتر است.

وقتی تنها «سرنخ» یک تطبیق الگوریتمی باشد، بدون بررسی‌های ثانویهٔ انسانی و شواهد تکمیلی مانند رسیدهای بانکی، ویدئوهای مکمل یا تماس با شاهدان محلی، نتیجه‌گیری نهایی می‌تواند ناعادلانه و خطرناک باشد.

معیارهای قابل‌اعتماد برای استفاده از تشخیص چهره در تحقیقات

• استفاده از تصویر با کیفیت مناسب و چند زاویهٔ تصویری برای کاهش اشتباهات.
• تأیید تطبیق الگوریتمی با شواهد فیزیکی مستقل مانند داده‌های بانکی، مدارک سفر یا شهادت‌های معتبر.
• آموزش و نظارت بر کارآگاهان برای جلوگیری از «اعتماد کور» به نتایج ماشینی.
• پیاده‌سازی استانداردهای صدور حکم و استفاده از این فناوری‌ها در چارچوب حقوق بشر و قانون اساسی.

روند حقوقی و مسئولیت‌پذیری

از منظر حقوقی، سؤال‌های مهمی مطرح می‌شود: چه کسی مسئول تصمیمات اتکا بر الگوریتم است؟ آیا شرکت‌های سازندهٔ نرم‌افزار تشخیص چهره باید پاسخگو باشند؟ یا مسئولیت با مقامات انتظامی است که نتایج را بدون اعتبارسنجی کافی به‌عنوان مدرک استفاده می‌کنند؟

در مواردی مانند پروندهٔ لیپس، تمرکز باید بر اصلاح رویه‌ها و تضمین بازبینی انسانی و شواهد مستقل باشد تا از تکرار چنین خطاهایی جلوگیری شود. همچنین قوانین شفاف و استانداردهای فنی لازم است تا استفاده از هوش مصنوعی در دستگاه قضایی محدود به شرایطی شود که شواهد کافی و قابل اعتماد در کنار آن قرار داشته باشد.

راهکارهای سیاست‌گذاری

برای کاهش خطر بازداشت‌های اشتباه به‌دنبال تشخیص چهره، سیاست‌گذاران می‌توانند اقدامات زیر را در نظر بگیرند:

1. تنظیم استانداردهای ملی برای استفاده از تشخیص چهره در تحقیقات جنایی.
2. الزام به ثبت و گزارش عمومی موارد استفاده از این فناوری و نتایج آن برای افزایش شفافیت و پاسخگویی.
3. ایجاد فرآیندهای بررسی مستقل و دسترسی متهمان به شواهد و نحوهٔ استفاده از الگوریتم‌ها در پرونده‌هایشان.
4. آموزش مداوم کارکنان انتظامی در خصوص محدودیت‌ها و خطاهای بالقوهٔ فناوری.

پیامدهای انسانی و عدالت ترمیمی

آسیب‌هایی که از بازداشت نادرست به افراد وارد می‌شود فقط مالی یا موقتی نیست. این تجربه‌ها می‌تواند اعتماد عمومی به دستگاه‌های قضایی و نهادهای اجرای قانون را تضعیف کند. برای احیای این اعتماد، ضروری است که نهادهای قضایی نه‌تنها اشتباهات را پذیرفته و جبران کنند، بلکه سیاست‌هایی اجرا کنند که از تکرار آن‌ها جلوگیری شود.

در بسیاری از پرونده‌ها، قربانیان بازداشت نادرست نیازمند جبران خسارت مالی، عذرخواهی رسمی و برنامه‌های حمایتی برای بازگشت به زندگی عادی هستند. در مورد آنجلا لیپس، عدم عذرخواهی رسمی از سوی پلیس فارگو و هزینه‌های سنگینی که او متقبل شد، نمونه‌ای از نیاز به سازوکارهای جبران و مسئولیت‌پذیری است.

چرا این موضوع برای عموم اهمیت دارد

فناوری تشخیص چهره و دیگر ابزارهای مبتنی بر هوش مصنوعی روزبه‌روز در حوزهٔ عمومی و خصوصی نفوذ بیشتری پیدا می‌کنند. وقتی این فناوری‌ها در سیستم عدالت کیفری وارد می‌شوند، خطراتی که برای حقوق بنیادین افراد ایجاد می‌کنند نباید دست‌کم گرفته شود.

محرک‌های اصلی این نگرانی عبارت‌اند از: احتمال خطای الگوریتمی، سوگیری ناشی از داده‌های آموزشی نامتعادل، اتکای بیش از حد مقامات به نتایج ماشینی و نبود رویه‌های شفاف برای بررسی و پاسخگویی. همهٔ این عوامل می‌توانند با هم ترکیب شوند و به بدرفتاری‌های حقوقی گسترده منتهی شوند.

نتیجه‌گیری

پروندهٔ آنجلا لیپس یادآور این است که ورود هوش مصنوعی به دستگاه عدالت باید با احتیاط، شفافیت و کنترل‌های انسانی همراه باشد. الگوریتم‌ها می‌توانند ابزارهای قدرتمندی برای کمک به تحقیقات باشند، اما وقتی به‌عنوان مدرک قطعی و بدون بررسی‌های مکمل مورد استفاده قرار گیرند، خطر اشتباهات فاجعه‌آمیز افزایش می‌یابد.

برای محافظت از حقوق شهروندان و جلوگیری از تکرار چنین رویدادهایی لازم است که سیاست‌گذاران، نهادهای قضایی و شرکت‌های فناوری با هم کار کنند تا استانداردها و سازوکارهای لازم برای استفاده مسئولانه از تشخیص چهره و دیگر فناوری‌های هوش مصنوعی را وضع و اجرا کنند.

در نهایت، داستان لیپس یادآور این است که یک اشتباه دیجیتال می‌تواند زندگی واقعی یک انسان را ویران کند و مسئولان باید همهٔ تلاش خود را برای جلوگیری از چنین پیامدهایی به کار گیرند.