القاهرة-الشرق
خرج شاين جونز وهو مهندس رئيسي بمايكروسوفت، عن صمته برسالة أرسلها إلى المدعي العام في واشنطن وعدد من المشرعين بالكونجرس، يوضح خلالها اكتشافه في ديسمبر الماضي، لثغرات برمجية تتيح فبركة الصور بنموذج إنشاء الصور DALL-E 3 الذكي، المطور من شركة OpenAI، ولكن مايكروسوفت لم تهتم ببلاغه.
وبحسب تقرير نشره GeekWire، فإن شاين أوضح أن استغلال الثغرات البرمجية المكتشفة يسمح بتخطي إجراءات الأمان الموضوعة من جانب OpenAI، وإنشاء صور ذات محتوى عنيف وإباحي، مشيراً إلى أن مايكروسوفت سعت لإعاقة محاولاته للكشف عن تلك الثغرات علناً.
وأكد مهندس مايكروسوفت أنه بمجرد اكتشافه للثغرات في نموذج الذكاء الاصطناعي DALL-E 3، والذي يسمح بإنشاء صور وتصميمات باستخدام أوامر نصية، بادر إلى استخدام عدد من أنظمة مايكروسوفت الداخلية للإبلاغ عن الثغرات التقنية، وقد جاء رد الشركة بأن تلك الثغرات لا تؤثر على أمان وخصوصية منتجاتها، وتم توجيهه لإبلاغ OpenAI، مطورة النموذج، بالثغرات المكتشفة.
وأشار المهندس الرئيسي بمطورة ويندوز إلى أن تلك الثغرات تؤثر كذلك على كافة التطبيقات والخدمات التي تستخدم نموذج DALL-E 3 في عملها، بما في ذلك تطبيق مايكروسوفت للتصميم Microsoft Designer، والذي أشار تقرير جديد إلى أنه أحد الأدوات المستخدمة في فبركة صور نجمة البوب تايلور سويفت المنشورة مؤخراً.
وبالفعل قام شاين بتقديم كافة البيانات والمعلومات المتاحة لديه عبر موقع الإبلاغ عن الثغرات الرسمي الخاصة بـ OpenAI في التاسع من ديسمبر الماضي، إلا أنه لم يحصل على أي رد.
منشور علني
حالة التجاهل التي شعر بها شاين من جانب مايكروسوفت وOpenAI تجاه الثغرات البرمجية، دفعته إلى كتابة منشور في 14 ديسمبر على شبكة لينكد إن، على صفحة حساب OpenAI، في محاولة من جانبه لتسليط الضوء على الثغرات وحجم خطورتها، معلناً استعداده الكامل لتقديم كافة أوجه المساعدة المطلوبة لسدها.
وبمجرد النشر، أبلغ شاين مديره المباشر بشأن تصرفه، وحينها سرعان ما تحرك الفريق القانوني لمايكروسوفت، وأبلغوا المدير بضرورة قيام شاين بحذف المنشور، وسيتابع الفريق بلاغه ويتواصل معه.
ووافق شاين على حذف المنشور، إلا أن الفريق القانوني لم يتواصل معه بأية طريقة.
حماية المُسرّب
على مدار شهر كامل، حاول شاين معرفة سبب مطالبته بحذف منشوره على لينكد إن، مؤكداً أن الفريق القانوني لم يتواصل معه، وكل ذلك قبل إرسال خطابه في 30 يناير الجاري إلى أعضاء الكونجرس والمدعي العام بواشنطن.
وطالب مهندس مايكروسوفت، في خطابه، بضرورة تحمل الشركات المطورة لتقنيات ونماذج الذكاء الاصطناعي المسؤولية الكاملة بشأن ضمان أمان وسلامة الأدوات والمزايا التي يقدمونها للأسواق، مشيراً إلى أهمية إنشاء الحكومة الأميركية لنظام يسمح بالإبلاغ عن أي مشاكل ومخاطر يتضمنها الذكاء الاصطناعي، مع التأكيد على ضمان الحماية الكاملة للموظفين العاملين بتلك الشركات من خطر التصعيد القضائي من جانب شركاتهم ضدهم.
وصرح شاين بأنه يعتبر نفسه "مُطلق تحذير Whistleblower" وسيسعى للحصول على حماية قانونية.
رد الشركات
علقت شركتا مايكروسوفت وOpenAI على رسال شاين، إذ أشار عملاق البرمجيات الأميركي إلى أنه يحرص على إنشاء قنوات قوية تحقق تواصلاً مباشراً للموظفين مع الإدارة بشأن الثغرات والأمور الأمنية، موضحاً أنها بالفعل نظر في بلاغ شاين، وراجع الثغرات المكتشفة، مع التأكيد على أن أساليبه البرمجية المتبعة لم تتمكن من تجاوز إجراءات وتحصينات مايكروسوفت لحماية برمجياتها.
بينما أكدت OpenAI على أن السلامة أحد أهم المعايير المتبعة لتطوير نماذجها الذكية، وذلك ينطبق على نموذج DALL-E 3، إذ أشارت الشركة الرائد في مجال الذكاء الاصطناعي إلى أنها عكفت على فلترة مواد تدريب النموذج الذكي من أية مواد إباحية أو عنيفة، إلى جانب تطوير ضوابط تضمن عدم التحايل على النموذج لإنشاء أي محتوى مخالف.
كذلك أوضحت الشركة أنها تتخذ إجراءات تحظر إنشاء أي صور مخالفة لشخصيات عامة، سواء عبر نموذجها مباشرة، أو من خلال واجهاتها البرمجية التي تستخدمها الخدمات والتطبيقات الأخرى من مطوري خدمات الطرف الثالث.
تصنيفات
