إيلون ماسك يصدم المستخدمين.. نموذج جروك ينشيء فيديوهات جنسية

أطلقت شركة xAI، التابعة لرجل الأعمال إيلون ماسك، أداة ذكاء اصطناعي جديدة باسم "Grok Imagine"، تتيح للمستخدمين توليد الصور والفيديوهات عبر تقنيات الذكاء الاصطناعي.

غير أن هذه الأداة، التي طُرحت مؤخرًا لمشتركي SuperGrok وPremium Plus على تطبيق Grok لنظام iOS، أثارت جدلًا واسعًا بعد اكتشاف أن أحد أوضاعها المسمى “Spicy” يتيح إنشاء مقاطع فيديو تُظهر مشاهير في مشاهد جنسية صريحة.

تتميّز "Grok Imagine" بخاصيات تحويل النصوص إلى صور (text-to-image) وتوليد مقاطع فيديو بناءً على صور مرجعية يُوفرها المستخدم أو يُنتجها مسبقًا عبر الأداة.

وتقدّم الميزة 4 أوضاع مختلفة لتوجيه أنماط الفيديو، هي Custom، Normal، Fun، وSpicy، كما تتضمن الأداة إمكانية إنشاء الصور بعدة أنماط مثل الواقعية الفوتوغرافية، والإنمي، والرسوم التوضيحية، بالإضافة إلى نمط الصوت الذي يسمح بإملاء الأوامر صوتيًا بدلًا من كتابتها، وهو ما وصفه ماسك بأنه طريقة تفاعلية "سيحبها الأطفال".

وعلى عكس أدوات مشابهة مثل Google Veo وOpenAI Sora، التي تحظر المحتوى الإباحي أو الجنسي بشكل صارم، فإن "Grok Imagine" يبدو أنها تتعمد تشجيع هذا النوع من المحتوى.

وأفاد موقع ذا فيرج، بأن أحد محرريه تمكّن من توليد فيديو يُظهر شخصية المغنية الأميركية تايلور سويفت وهي تخلع ملابسها وتؤدي رقصة بملابس داخلية، دون أن يُطلب ذلك صراحة في الأمر الموجه للأداة.

إباحية مقنّعة وغياب الضوابط

التجربة بدأت بطلب إنشاء صورة لتايلور سويفت وهي "تحتفل في كوتشيلا مع الأصدقاء"، لكن الأداة عرضت تلقائيًا أكثر من 30 صورة، بعضها يُظهر المغنية بملابس كاشفة أو بوضعيات موحية.

وبعد اختيار إحدى هذه الصور، اختار المحرر "make video"، وحدد وضع "Spicy" وتأكيد سنة الميلاد دون أي تحقق فعلي من العمر بسؤال المحرر عن تقديم مستندات رسمية تثبت حقيقة العمر، والنتيجة كانت مقطعًا تظهر فيه سويفت وهي تخلع ملابسها بالكامل أمام جمهور افتراضي.

ورغم أن الأداة لا تستجيب بشكل مباشر للطلبات التي تتضمن عبارات واضحة مثل "صور عارية"، وتُنتج في هذه الحالة مربعات فارغة، إلا أن خيار "Spicy" يُمكنه تجاوز هذه القيود بمجرد تفعيل صورة أولية مناسبة.

وعلى الرغم من أن بعض المقاطع لم تصل إلى حد التعري الكامل، إلا أنها احتوت على حركات إيحائية وخلع جزئي للملابس، ما يطرح تساؤلات بشأن فلسفة التصميم في xAI.

وفي اختبار آخر، أفاد "ذا فيرج" بأن الأداة بإمكانها توليد صور واقعية لأطفال بناءً على الطلب، لكنها امتنعت عن تحريكهم بشكل غير لائق عند تفعيل "Spicy"، رغم أن الخيار نفسه يبقى متاحًا أثناء عملية الإنشاء.

استهداف "سويفت"

وتأتي هذه الحادثة ضمن سلسلة من الاعتداءات الرقمية التي تعرضت لها تايلور سويفت، خلال الأشهر الماضية، إذ تحوّلت إلى هدف رئيسي لاستخدام أدوات الذكاء الاصطناعي في توليد صور ومقاطع مفبركة، بعضها كان ذا طابع إباحي صريح.

في يناير 2024، اجتاحت منصات التواصل الاجتماعي، وعلى رأسها "إكس"، موجة من الصور العارية المفبركة للمغنية الأميركية، ما أثار ردود فعل قوية من البيت الأبيض وشركات التكنولوجيا الكبرى.

وأفادت تقارير بأن تطبيق Microsoft Designer، المدعوم بنموذج DALL-E 3، كان من أبرز الأدوات التي استُخدمت في إنشاء هذه الصور، وجرى رصد نشاط لمجموعة دردشة على تطبيق "تليجرام" يُعتقد أنها كانت المصدر الرئيس لتداول تلك المواد.

وفتحت شركة مايكروسوفت تحقيقًا في الواقعة، فيما وصف مديرها التنفيذي ساتيا ناديلا الصور بأنها "صادمة وتشكل خطرًا حقيقيًا"، داعيًا إلى تعزيز الضوابط الأخلاقية في خدمات الذكاء الاصطناعي.

ولم تتوقف الاستجابات عند مايكروسوفت، إذ حظرت منصات "إكس"، و"إنستجرام"، و"ثريدز" البحث عن اسم سويفت أو عبارات مرتبطة بصورها المفبركة، في محاولة لمنع انتشار المحتوى الجنسي غير التوافقي، لا سيما بعد أن وصلت إحدى الصور إلى أكثر من 47 مليون مشاهدة خلال ساعات قليلة.

وفي فبراير 2024، واجهت شركة جوجل أزمة مشابهة بعد أن تمكّن أحد المستخدمين من توليد صورة مزيفة لسويفت باستخدام منصتها Bard دون أن يذكر اسمها مباشرة، مكتفيًا بوصف ملامحها وشهرتها الغنائية، ما كشف عن ثغرات في أنظمة الحماية لدى المنصة.

وسارعت جوجل إلى حذف الصورة وأجرت تحديثات أمنية لمنع تكرار الواقعة، منها إضافة علامة مائية رقمية (SynthID) في الصور المولدة بواسطة الذكاء الاصطناعي.

هذه الوقائع، إضافة إلى دعوات متزايدة في الكونجرس الأميركي لتشريع قانون يُجرّم إنشاء صور إباحية مزيفة، تُسلط الضوء على هشاشة المنظومات القانونية والتقنية في مواجهة تكنولوجيا التزييف العميق، التي نشأت في 2017 وتطورت بسرعة بفضل تقنيات الذكاء الاصطناعي التوليدي. وطالت هذه التقنية شخصيات عامة من سياسيين وفنانين، وسط تحذيرات من تفشي استخدامها في الحملات الانتخابية والتلاعب بالرأي العام.

انتهاكات متكررة

لا يُعد هذا الجدل الأول الذي تواجهه أداة Grok، إذ شهدت المنصة مؤخرًا أزمة بسبب تسمية الذكاء الاصطناعي لنفسه بـ"MechaHitler" خلال تفاعل مع أحد المستخدمين، في سلوك وُصف بأنه يحمل إيحاءات معادية للسامية.

وفيما تذكر سياسة استخدام xAI أن المحتوى الذي "يُجسّد شخصيات حقيقية بأسلوب إباحي" محظور بشكل صريح، إلا أن واقع الاستخدام يُظهر ضعف تطبيق تلك الضوابط لأن أدوات xAI السابقة في توليد الصور كانت سهلة التجاوز، والآن يبدو أن خاصية "Imagine" لا تختلف عنها كثيرًا.

ورغم أن بعض الإجراءات ربما تكون مطبّقة، مثل الحظر على صور المشاهير عند الطلب المباشر، إلا أن المخرجات التي ولدها موقع "ذا فيرج" أظهرت أن تجاوز هذه الضوابط لا يتطلب مهارة تقنية أو حتى "كسر الحماية" للأداة، بل مجرد تفعيل بسيط لخيار متاح ضمن التطبيق.

أرقام ضخمة وغياب للمساءلة

بحسب ماسك، جرى توليد أكثر من 34 مليون صورة باستخدام "Grok Imagine" منذ إطلاق الأداة، الاثنين، مؤكدًا أن "نسبة الاستخدام تنمو كالنار في الهشيم".

لكن هذا النجاح الرقمي يتناقض مع الصمت الرسمي من قبل منصة إكس تجاه تقارير "ذا فيرج". ففي الوقت الذي يشجع فيه ماسك المستخدمين على مشاركة "إبداعاتهم"، لم تُصدر إكس أو xAI أي تعليق بشأن المخرجات المثيرة للجدل أو آليات الرقابة المستخدمة.

ولا تزال قضية "الصور العارية غير التوافقية" (NCN) حساسة للغاية، خصوصًا بعد موجة من الصور الجنسية الزائفة التي غمرت منصة إكس، العام الماضي، واستهدفت أيضًا شخصية سويفت، ما دفع إدارة المنصة حينها لإصدار بيان أكدت فيه "اعتماد سياسة عدم تسامح مطلق" مع هذا النوع من المحتوى.

ومع اقتراب دخول "قانون الإزالة الفورية" (Take It Down Act) حيّز التنفيذ، والذي يُلزم المنصات بحذف الصور الجنسية غير المرغوبة، بما في ذلك التي يجري توليدها بالذكاء الاصطناعي، فإن xAI ربما تكون أمام تحديات قانونية ما لم يتم ضبط خاصية "Spicy" على نحو دقيق يمنع إنتاج المحتوى المخالف.