تقنية التعرف على الوجه تخطئ في 96% من الحالات صنفت أشخاصا عاديين بوصفهم مجرمين محتملين

تلميذ أسود البشرة في الـ14 من العمر من بين أولئك الذين أُخذت بصماتهم بغير حق بعد تصنيف خاطئ

لم يستطع الذكاء الصناعي التمييز بين وجه البريء والمشتبه فيه في 96% من المارة في شوارع لندن (أ.ف.ب.)

 

كشفت أرقام جديدة أن تقنية "التعرّف على الوجه"  Face Recognition قد أخطأت في تعريف أفراد من جمهور عام وصنّفتهم مجرمين محتملين في 96% من عمليات المسح التي أجريت حتى الآن في لندن.
وأوردت شرطة "ميتروبوليتان" في العاصمة البريطانية أنّ ذلك البرنامج الرقمي المثير للجدل قد يساعدها في تعقب الجناة المطلوبين ويقلّل العنف، غير أنّ النقاد اتّهموها بهدر المال العام وانتهاك حقوق الإنسان.
وبلغت كلفة التجارب حتى الآن أكثر من 222 ألف جنيه إسترليني في لندن، وهي تتعرّض لطعون قانونيّة وتحقيق منفصل يجريه "مفوض المعلومات".


أعطت  ثمانية تجارب في لندن نتيجة "إيجابي كاذب" بمعدل 96 %، بين العامين 2016 و2018، بمعنى أن برنامج "التعرف على الوجه" نبّه الشرطة بشكل خاطئ إلى أنّ شخصاً ماراً عبر منطقة المسح يطابق صورة في قاعدة بيانات البرنامج التي يفترض أنها تضم صوراً لمشتبهٍ فيهم.
وفي العام، جرى استخدام البرنامج مرتين في مراقبة المنطقة الخارجية التابعة  لمركز تسوق في "ستراتفورد "خارج "ويستفيلد" العام الماضي، لكنه نسبة إخفاقه كانت 100%، وأفاد مراقبون عن أخذ بصمات تلميذ أسود البشرة في الرابعة عشرة من عمره، بسبب خطأ البرنامج في تصنيفه، بمعنى اعتباره مشتبهاً فيه.


وتزعم الشرطة أنها أوقفت أشخاصاً بسبب تغطيتهم وجوههم أو ارتدائهم قبعات تغطي الرأس وجوانب الوجه، كما غُرِّم رجل بدعوى مخالفته النظام العام بعد رفضه الخضوع لمسح ضوئي متصل بذلك البرنامج، في منطقة "رومفورد".
 

وصفت "سكوتلاند يارد" (= مقر الشرطة البريطانية) الاختبارات بأنها "علنية"، لكنّ "الإندبندنت" وجدت أنّ بعض المتسوقين كانوا غير مدركين أنهم يخضعون لتقنية "التعرف على الوجه"، ووجّه ناشطون اتّهامات إلى الشرطة بنشر هذه التقنية "بطريقة خفيّة".
ولم تشمل تلك الأرقام تجربتين استخدمت فيها شرطة "ميتروبوليتان" تقنية التعرف على الوجه في العام 2019، وستُدرج تلك النتائج في المراجعة الخاصة بتلك التقنية المستندة إلى الذكاء الصناعي. 
وبحسب قوات الشرطة، نُفّذت ثمانية اعتقالات استناداً إلى معطيات التجربة الأحدث في استعمال تقنية التعرف على الوجة، كنتيجة مباشرة لإخفاق نظام في التعرف على مجرمين عنيفين مطلوبين.

وأضاف متحدث رسمي أنّ "جميع التنبيهات بشأن قائمة المشتبه فيهم تُحذف بعد 30 يوماً، وكذلك تُحذف فوراً من البث التدفقي لأشرطة الفيديو، كل الوجوه التي لا يقدم البرنامج تبيهات بشأنها".

ودَعَتْ منظمة "بيغ براذر ووتش" Big Brother Watch، بعد حصولها على بيانات بفضل قانون حرية طلب المعلومات، دعت الشرطة إلى التخلّي عن تكنولوجيا "التعرف على الوجه".
وأعربت المديرة سيلكي كارلو عن قناعتها بأن المعطيات السابقة هي "نقطة تحوّل للحريات المدنية في المملكة المتحدة. إذا مضت الشرطة قدماً في المراقبة عن طريق تقنية التعرف على الوجه، سيصير من الممكن تعقّب أفراد من الشعب عبر شبكات الدوائر التلفزيونية المغلقة الضخمة (المتصلة بكاميرات المراقبة المنتشرة) في بريطانيا".
وتابعت، "بالنسبة إلى أمة عارضت بطاقات الهوية ورفضت قاعدة البيانات الوطنية للحمض النووي، فإنّ فكرة التعرف المباشر على الوجه التي تحوّل المواطنين إلى بطاقات هوية تسير على قدمين، هي أمر مخيف".


وحذّرت السيدة كارلو من أنّ الشرطة البريطانية تقدّم "مثلًا خطيراً إلى بلدان اخرى في جميع أنحاء العالم... سيكون ذلك كارثيّاً على الشرطة ومستقبل الحريات المدنية، ونحن نحثّ الشرطة على التخلي عنها إلى الأبد".
و نجحت منظمة "بيغ براذر واتش" في جمع عشرة آلاف جنيه إسترليني كي تستعمله في طعن قانوني يجادل بأنّ تقنية التعرف على الوجه "تنتهك حقوق الإنسان الأساسية التي تحمي الخصوصية وحرية التعبير".


كذلك صرّحت شرطة "ميتروبوليتان" أنها "واعية لكون دقّة تقنية التعرف المباشر على الوجه، هي موضع نقاش وتحديات".
و أضاف متحدث رسمي أنّه "عند استخدام هذه التكنولوجيا، يُصار إلى إجراء مزيد من الضوابط والتدقيقات، قبل اتخاذ أي إجراء من جانب الشرطة، بمعنى أنّ القرار النهائي بالتعامل مع شخص تصفه هذه التكنولوجيا بأنّه مشتبهاً فيه، يتّخذه الإنسان دائماً... نحن نتفهم أنّ الجمهور يتوقع بحقّ أن يُنظر في هذه التكنولوجيا بدقّة شديدة، ويجري استخدامها بشكل قانوني، مع الإشارة إلى أنّها تخضع إلى تطوّر مستمرّ، ويجري العمل على ضمان دقتها قدر الإمكان".
وأفادت شرطة "ميتروبوليتان" أنّ العمل جارٍ على إنجاز "تقييم مستقل كامل" للتجارب الجارية، وستنشر النتائج في الوقت المناسب.

وفي نقاش برلماني ذُكِر أنّ شرطة جنوب ويلز وشرطة "ليسيسترشاير" قد استخدمت أيضاً تقنية التعرف المباشر على الوجه، بينما تلجأ قوات أخرى إلى برامج لمقارنة الصور الجديدة للمشتبه بهم مع ما تحتفظ به في قواعد البيانات لديها.
وأورد دارين جونز، النائب العمالي عن "بريستول نورث ويست"، إنّه يمكن استعمال التكنولوجيا من قبل الشرطة والمجالس والشركات الخاصة، من دون علم الأفراد بها فعليّاً".
ويوم الأربعاء الماضي، أورد جونز أمام أعضاء البرلمان البريطاني، أنه "لسنوات عدّة، عرفنا أنّ الطريقة التي تعالج فيها الشرطة صور وجه المواطنين الأبرياء، هي غير مشروعة... النظام لا يفي بالغرض المرجو... ونحن في العام 2019 وعلى مشارف العام 2020 لا ندري ما الذي نفعله لإصلاحه أو كيف سيجري ذلك... ذلك أمرٌ غير مرضٍ على الإطلاق".

وأشار عضو الحزب الوطني الاسكتلندي ستيوارت ماكدونالد إلى وجوب استخدام هذه التكنولوجيا "المثيرة للمشكلات بشكل كبير" بطريقة موجهة وتتناسب مع المرجو منها.
وأضاف "ثمة مخاوف كبيرة حول تأثير هذه التكنولوجيا على الخصوصية والحريات مثل حرية التجمع... لقد أظهرت الدراسات أنّ مثل هذه التكنولوجيا يمكنها أن تخطئ  بشكل كبير، عند تطبيقها على النساء وأصحاب البشرة السوداء والأقليات العرقية، ونتيجة لذلك من المرجح أن يوقف أفراد من تلك المجموعات عن طريق الخطأ، ويُخضعون إلى الاستجواب".
وأفادت لويز هاي، الوزيرة العمّالية المعنيّة بشؤون الشرطة في حكومة الظل، "أنّ الشرطة قد تستخدم تقنية التعرف على الوجه بنوايا حسنة لكنها "تفسد الأمر".

وأضافت، "ليس لدي انطباع قوي بأنّ قوات الشرطة المختلفة تتعلم من بعضها بعضاً. في حالة شرطة "متروبوليتان"، خضعت التقنية إلى الاختبار لمدة ثلاث سنوات متتالية. متى تتحول التجربة إلى إجراء دائم؟"
وأشار نيك هيرد، وزير شؤون الشرطة، إلى أنّ الحكومة تدعم المشاريع التجريبية وتعتقد أن تقنية "التعرف على الوجه" تحمل "فرصاً حقيقية".
وأوضح أنّ اللجان البرلمانية وأجهزة الرقابة، درست "المخاوف المشروعة للغاية والمتعلقة بالخصوصية"، فيما كانت وزارة الداخلية "تعمل مع الشرطة بهدف تحسين إجراءاتها... نحن لسنا دولة مراقبة ولا ننوي أن نصير كذلك... هذا يعني أنه يجب علينا استخدام التقنيات الجديدة بطرق تحترم تأثيرها على موضوع الخصوصيّة، والتأكّد من أنها تستخدم بشكل مناسب"، وفق كلمات هيرد.

© The Independent

المزيد من دوليات