القاهرة-الشرق
كشفت دعوى قضائية رفعتها ولاية نيومكسيكو أن قوات إنفاذ القانون في الولاية، استخدمت صورة مولّدة بالذكاء الاصطناعي لفتاة مراهقة "وهمية"، في محاولة لضبط مرتكبي الاعتداءات الجنسية، ومستغلي الأطفال جنسياً.
واتهمت الدعوى، التي أقيمت الأسبوع الماضي ضد تطبيق "سناب شات"، تتهمه بالفشل في "حماية الأطفال من الابتزاز الجنسي، والاستغلال، وغيرها من أضرار".
وتضمنت أجزاء من "التحقيق السري" للشرطة قيام مسؤولي وزارة العدل في الولاية بإنشاء "حساب وهمي على سناب شات باسم فتاة (14 عاماً) تُدعى هيذر".
وتمكنت الشرطة بفضل هذه الشخصية من "العثور على حسابات" تتبع لأشخاص معروفين كمتورطين في الاعتداءات الجنسية، وتبادلت الرسائل معهم.
وتاريخياً، كانت الشرطة تستخدم صوراً لنساء بالغات يبدون أصغر سناً، وغالباً ما كنّ ضابطات شرطة، لإقناع المعتدين بأنهم يتحدثون إلى فتاة مراهقة حقيقية، لكن في هذه الحالة، استخدمت الشرطة صورة مولدة بالذكاء الاصطناعي لإقناع المجرمين بأن "هيذر" كانت فعلاً حقيقية.
ووفقاً للشرطة، كانت هذه الاستراتيجية ناجحة، فقد خُدع العديد من أصحاب الحسابات الذين تواصلوا معها، وحاولوا دفع "هيذر" لمشاركة صور جنسية صريحة، أو مواد استغلال جنسي على الأطفال (CSAM).
ورغم نجاح التحقيق في كشف حقائق مقلقة حول خوارزميات "سناب شات"، أثار استخدام الذكاء الاصطناعي تساؤلات أخلاقية جديدة.
ومع تزايد المواد الجنسية للأطفال المولدة بالذكاء الاصطناعي، أثار التحقيق مدى قبول الاستخدامات الحكومية والأمنية لإنتاج المزيد منها، حتى وإن كانت زائفة.
وذكرت المحامية كاري جولدبرج، التي مثّلت العديد من ضحايا الاعتداءات الجنسية: "سيكون من المقلق أخلاقياً إذا قامت الحكومة بإنشاء مواد اعتداء جنسي على الأطفال باستخدام الذكاء الاصطناعي.. وهذه الصور غير قانونية، ولا نريد المزيد من هذه المواد في التداول".
معضلة الذكاء الاصطناعي
وتثير هذه القضية تساؤلات بشأن مجموعات بيانات التدريب التي استخدمها الذكاء الاصطناعي، لتوليد صور مزيفة للأطفال، حيث يتعيّن تدريب نموذج الذكاء الاصطناعي على صور لأطفال حقيقيين.
ومن الصعب التأكيد أن الطفل يمكنه منح موافقته الكاملة لاستخدام صورته في تدريب الذكاء الاصطناعي، وهي مسألة تصبح أكثر جدية عندما يُستخدم الذكاء الاصطناعي لإنشاء صور جنسية أو ضارة.
ومن الناحية العملية، حذّرت كاري جولدبرج من أن استخدام صور الذكاء الاصطناعي للأطفال المزيفين قد يُستخدم كذريعة للدفاعات التي يقدمها الجناة.
وبوجه عام، يعكس استخدام الذكاء الاصطناعي من قِبَل المحققين معضلة كبيرة للشرطة، فمن جهة، نجح التحقيق في جذب المعتدين، ولكن من جهة أخرى، إذا كان الهدف هو حماية الأطفال الحقيقيين، فإن استخدام صور مولدة بالذكاء الاصطناعي لخلق صورة جنسية للأطفال المزيفين قد لا يوفر حماية كاملة.
اتجاه متزايد
جدير بالذكر أن دراسة نشرها معهد أبحاث الشرطة الدولية والحماية العامة بجامعة أنجليا روسكين منتصف أغسطس الماضي، أظهرت وجود إقبال متزايد في شبكة "الإنترنت المظلم"، على خدمات إنشاء الصور المسيئة عبر تقنيات الذكاء الاصطناعي، بهدف الاستغلال الجنسي للأطفال.
وكشفت الدراسة، التي تُعد جزءاً من برنامج عمل أوسع حول استغلال التكنولوجيا لإساءة معاملة الأطفال، عن أن أعضاء المنتديات في الشبكة المظلمة، يُعلّمون أنفسهم كيفية إنشاء المحتوى الاستغلالي باستخدام الذكاء الاصطناعي، عبر الوصول إلى أدوات وفيديوهات على الإنترنت، ويتبادلون النصائح، والتوجيهات فيما بينهم.
وأظهر التحليل أيضاً أن أعضاء المنتديات يستخدمون مجموعة من الصور، والفيديوهات غير المنتجة بالذكاء الاصطناعي الموجودة بالفعل لديهم لتسهيل تعلمهم، ويعبّر العديد منهم عن آمالهم وتوقعاتهم بأن تتطور التكنولوجيا، لجعل إنشاء هذه المواد أكثر سهولة.
تصنيفات
