كيف وضع الذكاء الاصطناعي عجوزاً أميركياً في السجن بالخطأ؟

قضى عجوز أميركي 11 شهراً خلف القضبان، بعد اتهامه بقتل شاب العام الماضي بولاية شيكاجو الأميركية، وذلك بعد أن أكد نظام ذكاء اصطناعي يحمل اسم ShotSpotter، التقاطه لصوت إطلاق نار، ولكن فيما بعد تم اكتشاف أن القرار كان خاطئاً.

بعد إسقاط التهمة عنه وإطلاق سراحه، اعترض مايكل ويليامز (65 عاماً) على إضاعة 11 شهراً في السجن بسبب قرار خاطئ من جانب نظام إلكتروني، مستنكراً عدم محاسبة المسؤولين عن استخدام هذا النظام داخل ولاية شيكاجو، وفقاً لتحقيق موسع أجرته أسوشيتدبرس.

ما هو ShotSpotter؟

يعتبر نظام ShotSpotter أحد أنظمة الذكاء الاصطناعي التي تستخدمها حالياً العديد من الولايات الأميركية، وذلك عبر نشر عدد كبير من الميكروفونات في شوارع الولايات، ومن ضمنها شيكاجو، بحيث تقوم تلك الميكروفونات برصد أي صوت لإطلاق الأعيرة النارية، ومن ثم تقوم أنظمة برمجية ذكية بتحليل تلك الأصوات، ومطابقتها بقاعدة بيانات من أصوات إطلاق النار من الأسلحة المختلفة، بحيث إذا تم التأكد يتم مباشرة تنبيه أقرب قطاع شرطي.

وعلى الرغم من تأكيد الشركة المطورة للنظام أن دقته تصل إلى 97%، أوضحت دراسة في 2011، أجرتها مؤسسة غير ربحية The Innocence Project تهدف لمواجهة الأحكام القضائية غير العادلة، أن النظام يتم تفعيله عبر العديد من المؤثرات الخارجية، ما يدفعه إلى إطلاق إنذارات مضللة، وتلك المؤثرات تتمثل في أصوات تتكرر يومياً مثل الألعاب النارية وطائرات الهليكوبتر وكذلك الدراجات النارية وأعمال البناء وغيرها.

وبحسب تحقيق أسوشيتدبرس الموسع، فإن قرارات النظام الذكي لا تعتمد فقط على خوارزمياته البرمجية، وإنما يتدخل موظفو الشركة في تحديد اتجاه صدور صوت الأعيرة النارية وعددها واختيار المستشعر الأقرب لتلك الأصوات، وفي بعض الأحيان يكون هناك تدخل أيضاً من جانب الشرطة الأميركية، ما يفتح المجال أمام التحيز البشري، خاصة أن النظام لا يقوم بإرسال التنبيهات مباشرة إلى الشرطة، وإنما يقوم بذلك موظفو الشركة مطورة النظام، بعد مراجعة ما تلتقطه مستشعرات النظام.

وفي الوقت الذي تؤكد فيه الشرطة الأميركية مدى فعالية نظام ShotSpotter في تقليل معدلات جرائم القتل المعتمدة على إطلاق النار، فإن دورية Journal of Urban Health أكدت، في دراسة منشورة أبريل الماضي، أنه على مدى الفترة بين 1999 و2016 لم يسهم النظام البرمجي في تقليل معدل الجريمة أو في زيادة معدلات أمان المجتمعات الأميركية الأكثر عرضة لانتشار جرائم الأسلحة النارية.

ويعتبر نظام ShotSpotter أحد أنظمة التقاط أصوات الأعيرة النارية الإلكترونية التي تعتمد عليها الحكومة الأميركية، وقد أنفقت عليها حوالي 6.9 مليون دولار، مع العلم أن تكلفة تغطية الميل المربع الواحد بنظام ShotSpotter تبلغ 95 ألف دولار.

إنذار خاطئ

ويبدو أن حظ العجوز مايكل ويليامز العاثر دفعه نحو الرغبة في شراء بعض السجائر بنهاية مايو 2020، لذلك غادر منزله وذهب لمحطة وقود قريبة، ولكنه بمجرد أن وصل إليها وجد أنها محطمة جراء بعض أعمال الشغب والنهب التي أعقبت مقتل الأميركي من أصل إفريقي جورج فلويد في مدينة مينيابوليس بولاية مينيسوتا، ولذلك قام مايكل باتخاذ طريق العودة لمنزله عندما قابل الشاب سافاريان هيرينج الذي أشار له طالباً منه أن يوصله إلى المنزل.

وقال ويليامز لوكالة الأنباء الأميركية إنه وافق لأنه يعرفه بحكم أنهما يعيشان في الحي نفسه، ولكن بعد أن انطلقا في طريق العودة، قام شخص ما بإطلاق عيار ناري من سيارة مجاورة، أسقط سافاريان قتيلاً.

في الوقت نفسه، التقطت مستشعرات ShotSpotter، في منطقة وجود كل من ويليامز وهيرينج، صوت إطلاق نار، وذلك هو الدليل الوحيد الذي استخدمته هيئة الادعاء في توجيه تهمة قتل من الدرجة الأولى إلى العجوز، دون تقديم أي أدلة أخرى أو شهود عيان، وحتى دون العثور على سلاح الجريمة.

وكان هناك دليل آخر إلى جانب تقرير "شوت سبوتر"، وهو تسجيل كاميرات المراقبة لسيارة ويليامز تسرع بشكل ملحوظ لتكسر إشارة مرور حمراء، وكان ذلك بعد إطلاق النار على هيرينج.

بعد مرور 11 شهراً من وضع ويليامز خلف القضبان، قدم محامو الدفاع عن ويليامز طلباً للمحكمة بإعادة التحقيق في القضية، عندها قامت هيئة الادعاء بسحب تقرير "سبوت شوتر" من القضية، وطلبت إسقاط القضية لعدم كفاية الأدلة، معتبرة إنذار النظام الذكي كان إنذاراً خاطئاً، بعد أن تم التأكد من أن مستشعرات النظام التقطت صوتاً اعتبرته فرقعة ألعاب نارية، ولكن موظف الشركة المطورة اعتبره صوت إطلاق عيار ناري، كما أن أحد المهندسين المسؤولين بالشركة قام بتغيير موقع التقاط الصوت من الموقع الذي حددته مستشعرات "سبوت شوتر" إلى موقع آخر، وهو الموقع الذي كان بالقرب منه مايكل ويليامز.