وجهك قد يضعك في قائمة المشتبه بهم دون علمك

هذا التحول مهم لأن القانون لم يواكب التكنولوجيا. ففي الولايات المتحدة، تستخدم أجهزة الشرطة منذ سنوات خدمات مرتبطة بقواعد بيانات رخص القيادة وصور المعتقلين ومصادر صور خاصة. وحذر باحثون في كلية الحقوق بجامعة جورجتاون منذ عام 2016 من أن الشرطة يمكنها البحث عن وجوه في قواعد بيانات تشمل أكثر من نصف البالغين الأمريكيين. ومنذ ذلك الحين، أصبحت هذه الأدوات أرخص وأسرع وأسهل في الاستخدام. وفي المملكة المتحدة، اختبرت الشرطة تقنية التعرف على الوجه بشكل مباشر في الشوارع العامة، وطعنت جماعات الحريات المدنية في هذا الإجراء أمام المحاكم. وفي الهند، أثار المدافعون عن الحقوق مخاوف بشأن استخدام هذه التقنية بعد احتجاجات وأحداث عامة واسعة النطاق. النمط متشابه في أماكن كثيرة: الأنظمة تأتي أولاً، والقواعد تأتي لاحقاً، هذا إن أتت أصلاً.

يقول المؤيدون إن التكنولوجيا يمكن أن تساعد في حل الجرائم والعثور على المفقودين. وهذا صحيح في بعض الحالات. فقد أشارت أجهزة الشرطة في عدة دول إلى نجاحها في تحديد هويات أشخاص بعد أعمال شغب أو اعتداءات أو تحقيقات في استغلال الأطفال. لكن القلق العام الأكبر ليس ما إذا كانت التقنية تعمل أم لا، بل ما إذا كان يمكن للنظام القانوني أن يعتمد بأمان على أداة تصدر أحكاماً خفية واحتمالية حول هوية الأشخاص. وهذا القلق ليس نظرياً. ففي الولايات المتحدة، شملت عدة قضايا اعتقال خاطئ حظيت بتغطية إعلامية واسعة، مطابقات بتقنية التعرف على الوجه تبين لاحقاً أنها غير صحيحة. فقد تم اعتقال رجال في ديترويت ولويزيانا بعد أن حددهم برنامج حاسوبي من صور المراقبة، ليكتشف المحققون لاحقاً وجود أخطاء فادحة. أصبحت هذه القضايا مهمة لأنها أظهرت نقطة الضعف نفسها مراراً وتكراراً: الخيط الذي يقدمه الحاسوب يمكن أن يتحول بسرعة إلى يقين لدى الشرطة.

أظهرت الأبحاث منذ فترة طويلة أن أنظمة التعرف على الوجه لا تعمل بنفس الكفاءة مع جميع الوجوه والظروف. فقد وجد تقييم أجراه المعهد الوطني للمعايير والتكنولوجيا في الولايات المتحدة عام 2019 أن العديد من الخوارزميات أعطت معدلات أعلى من النتائج الإيجابية الخاطئة للوجوه الآسيوية والأمريكية من أصل أفريقي، وكذلك للنساء والأطفال وكبار السن، وذلك حسب النظام ونوع الصورة. ورغم أن الاختبارات اللاحقة أظهرت تحسناً في بعض النماذج، إلا أن المشكلة لم تنتهِ تماماً. وحتى عندما ترتفع معدلات الدقة في ظروف خاضعة للرقابة، فإن عمل الشرطة الحقيقي نادراً ما يتم في مثل هذه الظروف. فصور مسرح الجريمة غالباً ما تكون منخفضة الجودة، والإضاءة ضعيفة، والوجوه مغطاة جزئياً، وزوايا الكاميرات سيئة. وقد يكون الشخص في الصورة متحركاً. من الناحية القانونية، هذا الأمر مهم لأن الأداة قد تبدو دقيقة، لكنها في الواقع غير موثوقة في نفس الظروف التي تُستخدم فيها غالباً.

السبب الأعمق ليس مجرد خطأ في البرنامج، بل هو الطريقة التي تندمج بها هذه التكنولوجيا في عمل الشرطة. غالباً ما يتم تقديم تقنية التعرف على الوجه على أنها مجرد خيط في التحقيق، وليست دليلاً نهائياً. وهذا يبدو محدوداً وحذراً. لكن في الواقع، بمجرد أن يقترح النظام اسماً، قد يبدأ المحققون في رؤية القضية من منظور ذلك الشخص. وهذه مشكلة بشرية معروفة، وليست من الخيال العلمي. فقد أظهرت دراسات في العدالة الجنائية وعلم النفس مراراً قوة "الانحياز التأكيدي". فخيط ضعيف يمكن أن يشكل مقابلات الشهود لاحقاً، وعرض صور المشتبه بهم، وقرارات الاعتقال. للمحاكم قواعد للتعرف على شهود العيان لأن الذاكرة يمكن توجيهها. ومع ذلك، لا تزال الضمانات القانونية الواضحة لأنظمة مطابقة الوجوه في أماكن كثيرة أقل من تلك الموجودة للشهود من البشر.

مشكلة أخرى هي السرية. فالناس عادة لا يعرفون متى استُخدمت تقنية التعرف على الوجه في قضيتهم أو في حيهم. وغالباً ما يصعب الحصول على سجلات الشراء والسياسات الداخلية وسجلات التدقيق. وقد وقعت بعض أقسام الشرطة عقوداً تحد من الكشف العلني عن الأدوات التي تستخدمها. في الولايات المتحدة، كشفت تقارير صحفية ومنظمات حقوقية عن وكالات أجرت عمليات بحث دون موافقة محلية رسمية. وفي أوروبا، اتخذت سلطات حماية البيانات موقفاً أكثر صرامة في بعض الحالات، لكن الصورة لا تزال غير متجانسة. قانون الذكاء الاصطناعي للاتحاد الأوروبي وضع ضوابط أشد على استخدامات معينة لتحديد الهوية البيومترية، خاصة التحديد عن بعد في الوقت الفعلي بالأماكن العامة. ومع ذلك، لا يزال القانون يحتوي على استثناءات لإنفاذ القانون ويترك مجالاً للتفسير الوطني. وهذا يعني أن الناس العاديين قد يعيشون في ظل مستويات حماية مختلفة تماماً حسب مكان وجودهم.

تمتد العواقب إلى ما هو أبعد من مجرد توقيف أو اعتقال خاطئ واحد. فعندما يعتقد الناس أنه يمكن التعرف عليهم في مظاهرة أو تجمع ديني أو خارج عيادة، قد يغيرون سلوكهم حتى لو لم يفعلوا شيئاً خاطئاً. وقد حذرت الجماعات الحقوقية لسنوات من أن المراقبة يمكن أن تكبح حرية التعبير والتجمع. وهذا أحد أسباب إثارة القضية لمثل هذا القلق الشديد بعد المظاهرات في أماكن مثل لندن ونيودلهي ومدن أمريكية. فالخطر ليس فقط في تحديد الهوية الخاطئ، بل أيضاً في الفرز الاجتماعي الواسع. فبمجرد أن يصبح الوجه مفتاحاً روتينياً للتتبع، يبدأ الحاجز بين مكافحة الجرائم الخطيرة ومراقبة الحياة المدنية العادية في الضعف.

هناك أيضاً قضية طبقية مخفية داخل هذا النقاش. فالأشخاص الأثرياء يمكنهم أحياناً تجنب مناطق المراقبة الكثيفة، أو دفع تكاليف المساعدة القانونية، أو الطعن في الإجراءات الخاطئة بشكل أسرع. أما المجتمعات الأفقر فتكون أكثر عرضة للرقابة الشرطية المكثفة، وأكثر تعرضاً للكاميرات العامة، وأقل قدرة على الاعتراض على البيانات السيئة. وهذا يجب أن يثير قلق المحاكم والمشرعين. فنظام العدالة لا يُحكم عليه فقط بقدرته على القبض على المذنبين، بل يُحكم عليه بقدرته على حماية الأبرياء، خاصة عندما تجعل التكنولوجيا سلطة الدولة أرخص وأكثر خفاءً.

هناك ضمانات عملية، لكنها تتطلب أكثر من مجرد وعود غامضة بالاستخدام المسؤول. أولاً، يجب ألا يُسمح للشرطة بإجراء عمليات بحث بالتعرف على الوجه سراً. قد لا تكون أوامر التفتيش أو الأوامر القضائية مناسبة لكل استخدام، ولكن يجب اشتراط موافقة مستقلة وعتبات قانونية واضحة لأي بحث غير طارئ. ثانياً، يجب إبلاغ المتهمين عندما تساهم تقنية التعرف على الوجه في التحقيق. فبدون هذا الكشف، لا يمكنهم الطعن في الطريقة أو جودة الصورة أو سلسلة اتخاذ القرار. ثالثاً، يجب على الحكومات أن تفرض الإبلاغ العلني عن عدد مرات استخدام الأنظمة، وقواعد البيانات التي يتم البحث فيها، وعدد المرات التي يتبين فيها أن المطابقات خاطئة. رابعاً، يجب على المشرعين حظر التعرف على الوجه المباشر في معظم الأماكن العامة حتى يتم وضع ضرورات صارمة وحماية للحقوق. وقد تحركت عدة مدن، بما في ذلك سان فرانسيسكو، في وقت مبكر لتقييد استخدام الشرطة، مما يثبت أن القيود القانونية ممكنة حتى في الأماكن التي تتقدم فيها التكنولوجيا.

الضمانة الأخيرة ثقافية بقدر ما هي قانونية. فالقضاة والمدعون العامون وقادة الشرطة بحاجة إلى التعامل مع التعرف على الوجه كدليل قابل للخطأ، وليس كحقيقة رقمية. وهذا يعني التدريب، والتدقيق الخارجي، والاستعداد لاستبعاد الخيوط الضعيفة التي تقدمها الآلة من المحكمة. ويعني أيضاً تذكر مبدأ قانوني أساسي لا ينبغي أن يتغير بسبب تدخل البرمجيات: الاشتباه ليس دليلاً.

غالباً ما يتم تسويق تقنية التعرف على الوجه كأداة محايدة تساعد القانون على الرؤية بشكل أفضل. لكن القانون لا يتعلق بالرؤية فقط، بل يتعلق بالبت، بحذر، في ما يمكن للدولة أن تفعله بشخص ما باسم اليقين. فإذا كان الوجه يمكن أن يضع شخصاً في طابور اشتباه للشرطة دون موافقة أو إشعار أو حدود قانونية واضحة، فإن السؤال الحقيقي لم يعد ما إذا كانت التكنولوجيا مثيرة للإعجاب، بل ما إذا كانت المجتمعات الديمقراطية مستعدة لمنع السهولة من إعادة كتابة العدالة بهدوء.