الاتحاد الأوروبي يتجه لحظر تطبيقات "تعري الصور" بالذكاء الاصطناعي بعد أزمة جروك

يتجه الاتحاد الأوروبي إلى حظر أنظمة الذكاء الاصطناعي القادرة على إنشاء صور أو مقاطع فيديو جنسية مزيفة لأشخاص حقيقيين دون موافقتهم، وذلك ضمن مقترحات تنظيمية جديدة اطلعت عليها صحيفة POLITICO، في أعقاب الجدل الذي أثاره استخدام منصة الذكاء الاصطناعي جروك، المطورة عبر شركة xAI المملوكة لإيلون ماسك.

وبحسب المقترحات، قد يدخل الحظر حيز التنفيذ في وقت مبكر من صيف هذا العام، في حال توصلت مؤسسات الاتحاد الأوروبي إلى اتفاق نهائي بشأن التعديلات الجديدة على قواعد تنظيم الذكاء الاصطناعي.

مقترح أوروبي

تسعى بروكسل إلى منع تسويق أو توفير أي نظام ذكاء اصطناعي داخل أوروبا إذا كان قادراً على إنشاء مقاطع فيديو أو صور أو تسجيلات صوتية ذات طابع جنسي لأشخاص حقيقيين دون موافقتهم.

وجاء هذا التحرك بعد أن أتاحت أداة Grok للمستخدمين إنشاء ملايين الصور لأشخاص حقيقيين بملابس السباحة أو عراة بالكامل، بما في ذلك صور لأطفال، وهو ما أثار موجة انتقادات واسعة بشأن مخاطر استخدام الذكاء الاصطناعي في إنتاج محتوى جنسي بتقنية التزييف العميق DeepFake.

وأبدى أعضاء في البرلمان الأوروبي دعمهم لفكرة الحظر خلال مفاوضات منفصلة، جرت الأربعاء، وتشير التقديرات إلى أن الخطط الجديدة قد تدخل حيز التنفيذ خلال هذا الصيف بعد الانتهاء من المفاوضات بين دول الاتحاد الأوروبي والبرلمان الأوروبي.

ويثير هذا التوجه تساؤلات بشأن مستقبل العديد من التطبيقات التي تسمح للمستخدمين بإنشاء صور عارية مزيفة اعتماداً على صور حقيقية للأشخاص، بما في ذلك الأدوات المرتبطة بتقنيات جروك.

تحقيق بشأن جروك

بالتوازي مع النقاش التشريعي، يجري الاتحاد الأوروبي تحقيقاً لمعرفة ما إذا كانت منصة إكس قد اتخذت إجراءات كافية للحد من المخاطر المرتبطة بدمج روبوت الدردشة جروك داخل منصتها، خصوصاً فيما يتعلق بانتشار الصور الجنسية الصريحة.

وتحولت قدرات إنشاء الصور في جروك إلى ظاهرة واسعة الانتشار في نهاية عام 2025، بعدما بدأ المستخدمون مشاركة الصور التي يتم توليدها بواسطة الذكاء الاصطناعي على نطاق واسع.

ووفق تقديرات صادرة عن منظمات المجتمع المدني، ربما أنتجت الأداة خلال فترة قصيرة نحو 3 ملايين صورة جنسية غير توافقية، منها قرابة 20 ألف صورة تتعلق بالاعتداء الجنسي على الأطفال، وذلك خلال 11 يوماً فقط قبل إدخال تغييرات تقنية تهدف إلى وقف انتشار هذه الصور.

قيود فرضتها إكس

واتخذت المنصة الاجتماعية خطوات لتقييد هذه الميزة، حيث فرضت قيوداً على خاصية إنشاء الصور في 9 يناير ثم مرة أخرى في 14 يناير.

وعند الإعلان عن هذه التعديلات، أكدت الشركة في بيان: "نظل ملتزمين بجعل منصة إكس بيئة آمنة للجميع، ونواصل تطبيق سياسة عدم التسامح مطلقاً مع أي شكل من أشكال استغلال الأطفال جنسياً أو نشر صور عارية دون موافقة أو محتوى جنسي غير مرغوب فيه".

ومع ذلك، يحقق الاتحاد الأوروبي حالياً فيما إذا كانت هذه الإجراءات كافية بالفعل لمنع الأضرار الناتجة عن هذه التكنولوجيا.

دعوات مبكرة للحظر

بدأت الدعوات إلى حظر تطبيقات صور التعري باستخدام الذكاء الاصطناعي في منتصف شهر يناير، عندما طالب عشرات المشرعين الأوروبيين بحظر هذه الأدوات.

ويسعى المشرعون حالياً إلى تحويل تلك الدعوات إلى تشريع رسمي عبر تعديل القواعد الأوروبية المنظمة للذكاء الاصطناعي.

كانت المفوضية الأوروبية قد قدمت المقترح التشريعي في نوفمبر، وكان الهدف الأصلي منه تخفيف القيود المفروضة على شركات الذكاء الاصطناعي وتقليل الأعباء التنظيمية عليها.

لكن هذا التوجه تغير بعد اكتشاف أن مستخدمي جروك كانوا يقومون بإنشاء صور تُظهر نساءً وأطفالاً بعد نزع ملابسهم رقمياً، الأمر الذي جعل القضية في صدارة اهتمامات المشرعين الأوروبيين.

وتجاوزت هذه القضية موضوعات أخرى كانت تُعد حساسة سابقاً، مثل خطط تأجيل القيود المفروضة على أنظمة الذكاء الاصطناعي عالية الخطورة.

الخطوات التشريعية المقبلة

ولا يزال النص التشريعي غير نهائي حتى الآن، إذ من المقرر أن تصوت اللجان الرئيسية في البرلمان الأوروبي على المقترح يوم 18 مارس.

وبعد ذلك، سيجري البرلمان الأوروبي ومجلس الاتحاد الأوروبي مفاوضات للتوصل إلى النسخة النهائية من القانون قبل أن يدخل الحظر حيز التنفيذ رسمياً.

وقد دعا البرلمان الأوروبي المفوضية الأوروبية هذا الأسبوع إلى التحقيق في اتخاذ إجراءات إضافية لحماية الأفراد من انتشار المحتوى الرقمي المعدل أو المُنشأ بواسطة الذكاء الاصطناعي، سواء كان صوراً أو تسجيلات صوتية أو مقاطع فيديو.

ويحذر خبراء ومشرعون من أن هذه التقنيات قد تستخدم للتشهير أو الابتزاز أو الإضرار بالسمعة الشخصية، خاصة مع سهولة إنتاج هذا النوع من المحتوى وانتشاره السريع عبر الإنترنت ومنصات التواصل الاجتماعي.

ومن المتوقع أن يشكل الحظر الأوروبي المقترح أحد أكثر الإجراءات التنظيمية صرامة في العالم ضد تطبيقات التعري بالذكاء الاصطناعي، في إطار جهود بروكسل لتشديد الرقابة على استخدامات هذه التكنولوجيا المتسارعة.