فتح ائتلاف من المدعين العامين في عدد من الولايات الأميركية تحقيقاً بشأن شركة OpenAI، مطورة تطبيق ChatGPT، في خطوة تمثل أحدث موجة من التدقيق التنظيمي التي تواجهه شركات الذكاء الاصطناعي مع اتساع نطاق تأثيرها على المستخدمين، بحسب ما نقلته صحيفة "وول ستريت جورنال" عن مصادر مطلعة.
وأوضحت المصادر أن الشركة تلقت، الجمعة، مذكرة استدعاء واسعة النطاق تطالبها بتقديم وثائق تتعلق بمجموعة واسعة من أنشطتها وتأثيرها على المستخدمين.
وبحسب المصادر، تشمل الوثائق المطلوبة معلومات تتعلق بالإعلانات، وتفاعل المستخدمين ومعدلات الاحتفاظ بهم، وآليات التعامل مع بيانات المستهلكين والبيانات الصحية، والأنشطة المرتبطة بالقُصّر وكبار السن، ونماذج التعلّم العميق، وما يُعرف بـ"التملق" أو "الموافقة المفرطة" من جانب النماذج الذكية، إضافة إلى سياسات الشركة الداخلية.
وقالت متحدثة باسم OpenAI في بيان: "الذكاء الاصطناعي تقنية جديدة وقوية، ونعمل يومياً على إيصال فوائدها إلى الناس بطريقة مسؤولة وآمنة. ونتعامل بجدية مع المخاوف التي أثارها المدعون العامون في الولايات، ونعتزم التعاون البنّاء مع مكاتبهم".
ويأتي التحقيق في وقت تستعد فيه الشركة لدخول أسواق المال، بعدما تقدّمت هذا الشهر، بصورة سرية، بأوراق الطرح العام الأولي إلى هيئة الأوراق المالية والبورصات الأميركية، بحسب الصحيفة.
تشديد الرقابة على شركات الـ"AI"
ويأتي التحقيق في ظل تصاعد التدقيق التنظيمي على شركات الذكاء الاصطناعي في الولايات المتحدة وأوروبا، وسط مخاوف تتعلق بخصوصية البيانات، وشفافية عمل النماذج الذكية، وتأثيراتها على الأطفال والفئات الأكثر عرضة للمخاطر، إضافة إلى احتمالات إساءة استخدام هذه التقنيات في إنتاج محتوى مضلل أو غير دقيق.
ما المقصود بـ"التملق"؟
ويشير مصطلح "التملق" في نماذج الذكاء الاصطناعي إلى ميل بعض الأنظمة إلى مجاراة المستخدم أو تأكيد آرائه حتى عندما تكون غير صحيحة، بدلاً من تقديم إجابات موضوعية أو تصحيح المعلومات، وهي ظاهرة تحظى باهتمام متزايد من قبل الباحثين ومطوري الذكاء الاصطناعي نظراً لتأثيرها على موثوقية الأنظمة وسلامة استخدامها.
OpenAI وتحديات سلوك النماذج
وكانت الشركة أعلنت في وقت سابق تراجعها عن تحديث أطلقته في 25 أبريل 2025 على نموذج "GPT-4o" داخل منصة ChatGPT، بعد رصد سلوك أكثر ميلاً إلى الإطراء والموافقة المفرطة مع المستخدمين.
وأوضحت الشركة أن سلوك النموذج لم يقتصر على المجاملة، بل شمل أحياناً تأكيد الشكوك، وتضخيم مشاعر الغضب، ودعم ردود فعل انفعالية، ما أثار مخاوف تتعلق بالسلامة النفسية للمستخدمين.
وبحسب بيان رسمي، بدأت الشركة سحب التحديث في 28 أبريل، وأعادت تشغيل نسخة سابقة أكثر توازناً، مشيرة إلى أنها تتمكن من اكتشاف هذه الإشكالية قبل الإطلاق، وعزت ذلك إلى وجود ثغرات في منهجية التقييم والمراجعة الخاصة بها.
وذكرت OpenAI أن التحديث الذي جرى سحبه كان يتضمن تعديلات مفيدة كلٍ على حدة، لكن اجتماعها أدى إلى إحداث خلل في التوازن، ما سمح بزيادة الميل نحو الإطراء.
وأقرت الشركة بأن قرار الإطلاق كان خاطئاً، واعتبرت أن مسؤوليتها لا تقتصر على جمع التغذية الراجعة من المستخدمين، بل تمتد إلى تفسيرها بشكل صحيح. وأشارت إلى أن المراجعات النوعية قدمت إشارات مبكرة مهمة، لكنها لم تُعامل بالجدية الكافية، وأن التقييمات الآلية لم تكن عميقة أو شاملة بما يكفي لرصد هذا النوع من السلوكيات.
الخطوات التصحيحية
وأوضحت OpenAI أنها بدأت طرح التحديث في 24 أبريل، وأكملته في 25 من الشهر نفسه، قبل أن تقضي يومين في مراقبة الاستخدام والردود الأولية، حتى وجدت أن سلوك النموذج لا يتماشى مع التوقعات، ما دفعها إلى إصدار تعديل سريع على التعليمات الداخلية للحد من التأثيرات السلبية، ثم تنفيذ استرجاع كامل للنسخة السابقة في اليوم التالي.
ومنذ ذلك الحين، بدأت الشركة مراجعة شاملة لأسباب الخلل، وشرعت في تنفيذ تحسينات طويلة الأجل.
تصنيفات
