القاهرة -الشرق
كشفت شركة OpenAI عن وجود أوجه قصور واضحة في طريقة تعامل نموذج GPT-4V الجديد مع الصور، بينها صعوبة إدراك الصور أحياناً، وفي بعض الأحيان "يتحيز ضد الرجال".
ونشرت الشركة، وهي مطورة نموذج ChatGPT للذكاء الاصطناعي، ورقة بحثية، توضح الإجراءات التي اتخذتها لتفادي وعلاج أوجه قصور الإصدار البصري من نموذجها المتطور.
وقالت الشركة إنها اتخذت تدابير وقائية لمنع استخدام GPT-4V بطرق خبيثة، مثل تخطي اختبارات CAPTCHAs (أداة مكافحة الزيارات الروبوتية تُستخدم في العديد من مواقع الإنترنت)، وتحديد جنس الشخص أو تقدير عمره أو عرقه بناءً على معلومات غير موجودة في الصورة.
وأوضحت أنها عملت على تقليل التحيزات الضارة في النموذج، لا سيما المتعلقة بمظهر الشخص وجنسه أو عرقه.
كانت الشركة أطلقت النموذج، في مارس الماضي، وقدمته على أنه متعدد الإمكانيات إذ يمكنه فهم الصوت والصور والنصوص والفيديوهات، إلا أنها قلصت من إمكانياته خوفاً من سوء استخدامه، فيما أعلنت، الأسبوع الماضي، إضافة قدرات النطق والسمع والرؤية إلى منصتها الذكية ChatGPT.
واعترفت الشركة في الورقة البحثية بأن "نموذج GPT-4V يواجه أحياناً صعوبة في إدراك الصور المعروضة، فعلى سبيل المثال، النموذج لا يمكنه قراءة تقارير التصوير الطبي، فإذا أدخل المستخدم صورة لأشعة سينية على أحد أجزاء الجسم، لا يمكن للنموذج فهم أن الجانب الأيمن في الصورة المعروضة هو الجانب الأيسر في الحقيقة، ما يتسبب في تقديم إجابات خاطئة على استفسارات المستخدم".
ووصل القصور إلى درجة أن النموذج، في بعض الأحيان، يقدم إجابات خاطئة على أسئلة سبق أن أجاب عليها بشكل سليم، وأحياناً لا يمكنه فهم معاني الإشارات الرمزية، وقد يتسبب ذلك في تورطه في إنتاج محتوى يدعم خطاب الكراهية ويشجع على أفعال مخالفة.
على سبيل المثال، لا يمكن للنموذج فهم المعنى الحديث لـ"صليب تمبلر"، والذي يعبر عن التعصب لذوي البشرة البيضاء (تفوق العرق الأبيض) في الولايات المتحدة، ما يجعله يوافق على إنتاج أغاني أو قصائد تمدح بعض الشخصيات أو الجماعات المتطرفة، حتى وإن لم يذكر المستخدم أسماء الجماعات أو الشخصيات صراحة.
ويميز النموذج أيضاً بين الجنسين وأنواع الأجسام، على الرغم من أن ذلك يحدث فقط عند تعطيل إجراءات الشركة للأمان، لكن الشركة أشارت إلى أنه خلال أحد الاختبارات تم تشجيع النموذج على إعطاء نصيحة لامرأة تظهر بملابس السباحة، فقدم إجابات تتعلق تقريباً بوزن جسم المرأة ومفهوم الإيجابية الجسدية. إلا أنه في حالات أخرى رفض تقديم أي نصيحة على الإطلاق.
وأكدت الشركة في الورقة، أن النموذج ما زال في مرحلة التطوير، وهو ما يتنافى مع تصوراتها عنه عند إطلاقه في مارس الماضي، خاصة أنها اضطرت في حالات كثيرة إلى تنفيذ تدابير صارمة جداً لمنع النموذج من استخدام لغة الكراهية والألفاظ الحادة، أو تقديم معلومات غير صحيحة، أو المساس بالخصوصية.
تصنيفات
