نظام أمازون لكشف المجرمين يتعرف على بعض أعضاء الكونغرس الأمريكي

أجرى الاتحاد الأمريكي للحريات المدنية، ACLU، تجربة عملية على نظام أمازون للتعرف على الوجوه REKOGNITION، بتمرير صور 535 عضوًا من أعضاء الكونغرس من خلال قاعدة بيانات تحتوي على 25 ألف سجل جنائي للمجرمين ومرتكبي مخالفات قانونية.

وخلال التجربة أطلق النظام إنذاره بالخطر أمام صور 28 عضوًا اعتبرهم من المشتبه بهم بشكل خاطئ.

وأشار الاتحاد إلى أن تلك التجربة تعتبر جرس إنذار حول طبيعة الخطر الذي يحد حريات المواطنين في الولايات الأمريكية، حيث يستخدم في تتبع المجرمين والكشف عن هوية المشتبه بهم، مما يعرض حرية وحياة المواطنين للخطر.

وأكد المتحدث الرسمي باسم شركة أمازون أن الاختبار الذي تم تنفيذه لم يقم بضبط نسبة المطابقة بين ملامح المشتبه بهم وبين الوجوه في قاعدة بيانات المجرمين، حيث تم على أساس النية الافتراضية للمطابقة وهي 80%، بينما لا بد أن يتم رفع النسبة إلى 95%، لرفع مستوى الثقة في النتائج.

لكن الاتحاد علّق على رد أمازون بأن النظام الذكي لم يقم بلفت انتباه من قام بضبط وإعداد النظام قبل التجربة إلى تلك الملاحظة، فيما يخص رفع نسبة المطابقة، وبالتالي فإن ذلك سيعتبر أمرًا مضللًا، ولا بد لأمازون أن تقوم بتوضيح الأمور أكثر من ذلك مستقبلًا.

وأثار نظام أمازون حفيظة الأمريكيين في نيسان/ أبريل الماضي، خصوصًا ما يتعلق بتسريب معلومات حول تعاقد أجهزة شرطة مع أمازون لتجربة نظامها الجديد، ومن بينهم شرطة أورلاندو التي تقوم باستخدام النظام في المراقبة الحية Real-time Monitoring؛ لمتابعة معدلات الجرائم وتسهيل القبض على مرتكبيها والمشتبه بهم.

ولفت تقرير الاتحاد إلى أن انخفاض تكلفة استخدام خدمة أمازون، والتي تبلغ 12 دولارًا شهريًا، سيجعل من السهل على أي مؤسسة حكومية أو خاصة أن تستغل تلك البيانات وتقوم بتسريب بيانات المواطنين وانتهاك خصوصيتهم.

وأظهرت التجربة تحيزًا كبيرًا ضد أعضاء الكونغرس من ذوي البشرة السمراء، وعددهم 11 عضوًا من أصل 28 عضوًا تم التعرف عليهم بشكل خاطئ على نظام ريكوجنيشن، ما يرفع من المخاوف الخاصة بتحفز أنظمة التعرف على الوجوه والكشف الجنائي ضد السُمر، باعتبار أن البشرة الداكنة من سمات المجرمين.