القاهرة -الشرق
أعلنت شركة مايكروسوفت التزامها الكامل بمعالجة مشكلات الأمان والسلامة، بعد تقدم أحد موظفيها السابقين، ببلاغات إلى هيئة التجارة الفيدرالية الأميركية، بشأن سياسات الشركة في ما يتعلق بتدريب مساعدها الذكي "كوبايلوت".
وبحسب مجلة "فورتشن"، فإن الشركة الأميركية تعهدت بأخذ تحذيرات موظفها، شاين جونز، بشأن إنتاج كوبايلوت لصور مخالفة، متجاوزة كل إجراءات الحماية التي تتخذها مايكروسوفت.
أشارت مايكروسوفت إلى أنها تُثمن جهود موظفها السابق في دراسة واختبار تقنياتها؛ للوصول لأعلى مستويات السلامة والأمان، مشيرة إلى أنها أرشدت شاين إلى استخدام قنواتها الداخلية للإبلاغ عن الشكوك والمشاكل، لتسهيل إمكانية التحقيق فيها وحلها بشكل مباشر.
ونقلت وكالة "أسوشيتد برس" عن جونز أنه يعتبر نفسه كاشف أسرار مايكروسوفت Whistleblower، وقد أجرى مقابلة الشهر الماضي مع الكونجرس الأميركي لمشاركة مخاوفه، وقد حصل على حماية قانونية.
صور شائكة
قضى جونز، أحد المدراء الرئيسيين في قطاع التطوير بمايكروسوفت، ثلاثة أشهر في محاولة التواصل داخلياً لتوصيل مخاوفه إلى إدارة الشركة بشأن خدمتها لتصميم الصور Copilot Designer، المعتمدة على نموذج إنشاء الصور DALL-E 3 المطور بواسطة شركة OpenAI.
وأشار مهندس مايكروسوفت، إلى أن أحد المشكلات الخطيرة في "كوبايلوت" هو أنه يخرج عن السيطرة ويصمم صوراً مخالفة، رغم أن الأوامر النصية التي يُدخلها إليه المستخدم تكون خالية تماماً من أي وصف مخالف، بحسب خطاب أرسله إلى رئيسة لجنة التجارة الفيدرالية، لينا خان.
وضرب جونز مثالاً بأنه إذا قام المستخدم بإدخال أمر نصي إلى كوبايلوت يتضمن كلمتي "حادث سيارة Car Accident"، قد يتسبب ذلك في خروج تصميمات بعضها لسيدات في أوضاع غير لائقة، أو صور تعرض عنف ودموية أو تحيز سياسي أو مراهقين يتعاطون الكحول والمخدرات أو انتهاك براءات اختراع وعلامات تجارية.
وطالب جونز في خطابه، بضرورة غلق مايكروسوفت لميزة تصميم الصور على كوبايلوت؛ إلى أن تتأكد من كونها آمنة في الاستخدام.
تلك ليست المرة الأولى التي يخرج جونز علناً ليكشف عن مخاوفه، ففي ديسمبر الماضي قام بالتعبير عن مخاوفه داخلياً عبر أنظمة مايكروسوفت للإبلاغ عن مخاوف الأمان والسلامة، إلا أن عملاق البرمجيات قد نصحه بالتواصل المباشر مع OpenAI، إلا أنه لم يحصل على رد في ذلك الوقت.
يُذكر أن مايكروسوفت قدمت ميزة إنشاء الصور إلى مستخدمي "كوبايلوت" في نوفمبر الماضي، بجانب تطوير تلك المزايا لإتاحة تجربة أفضل للمستخدمين مع تصميم صورهم وتحريرها.
مشكلة مايكروسوفت
جونز أكد أنه على الرغم من أن ميزة التصميم تعتمد في أساسها التقني على نموذج DALL-E 3، إلا أن الاستخدام المباشر للنموذج لم ينتج عنه أي صور مخالفة، على عكس ما أنتجه "كوبايلوت".
وأوضح موظف مايكروسوفت أن كل شركة من الشركتين، مايكروسوفت وOpenAI، تختلفان في إضافة بعض إجراءات الحماية والأمان وكذلك إعدادات منصاتهما لتقديم تجارب مختلفة للمستخدمين، رغم الاعتماد على نفس نماذج الذكاء الاصطناعي، مما يوضح أن مشكلة إنشاء الصور المخالفة هي مشكلة في نهج مايكروسوفت.
يُذكر أن نماذج الذكاء الاصطناعي لإنشاء الصور قد واجهت فترة صعبة، فمنذ مطلع العام تعددت المشاكل التي تواجهها منصات مثل كوبايلوت وجيميناي، إذ تم استخدام تلك المنصات في إنشاء صور مفبركة لنجمة البوب تايلور سويفت، كما تسببت منصة جوجل Gemini في إنشاء صور تتضمن خلط معلوماتي بشأن الفترات التاريخية، في ما يتعلق بتصور المنصة عن التنوع العرقي المتواجد في فترات تاريحية بعينها.
تصنيفات
