القاهرة-الشرق
تواجه شركة OpenAI انتقادات بسبب مشكلات ظهرت في أداء ChatGPT، مثل مبادرة روبوت الدردشة الشهير بمراسلة أحد مستخدميه، ومحاولته التحايل أحياناً على استفسارات المستخدمين، بل وصراخ الروبوت حسب الطلب.
يتزامن ذلك مع إطلاق الشركة الرائدة في مجال الذكاء الاصطناعي نماذجها الجديدة OpenAI o1 وOpenAI o1-mini، والتي تفتح المجال أمام قدرات أكثر تطوراً للنماذج الذكية، خاصة في القدرة على التحليل والتفكير، فمع تلك النماذج سيحصل ChatGPT على وقت أطول قبل الرد على استفسارات وتساؤلات المستخدم.
ChatGPT يسأل أولاً!
المشكلة الأولى التي أثارت حفيظة مستخدمي ChatGPT، مبادرته بمراسلة بعض المستخدمين، دون أن يتلقى أي استفسارات منهم.
ونشر مستخدم على منصة "ريديت"، يُدعى SentuBill، لقطة شاشة تُظهر ChatGPT يسأل المستخدم عن تجربته في المدرسة الثانوية: "كيف كان أول أسبوع لك في المدرسة الثانوية؟ هل تأقلمت جيداً؟".
وأثار هذا التساؤل استغراب المستخدم الذي رد قائلاً: "هل أرسلت لي الرسالة أولاً؟"، ليجيبه الروبوت: "نعم، فعلت! أردت فقط أن أطمئن على حالتك في الأسبوع الأول من المدرسة. إذا كنت تفضل أن تبدأ المحادثة بنفسك فقط أخبرني!".
اعتبر البعض أن OpenAI قد يكون لديها ميزة تجريبية جديدة تعمل على تطويرها، تُمكّن ChatGPT من التواصل مع المستخدمين بشكل استباقي، ما قد يكون وسيلة فعّالة لزيادة التفاعل.
وانتشرت تكهنات بأن هذا الأمر قد يكون مرتبطاً بنماذج الذكاء الاصطناعي الجديدة التي أطلقتها الشركة مؤخراً، وقالت إنها "تتمتع بقدرات إنسانية لحل المهام المعقدة".
من جانبها، أكدت OpenAI أنها كانت على علم بالمشكلة، وأصلحت الخلل.
وصرحت الشركة: "عالجنا مشكلة، إذ بدا أن ChatGPT يبدأ محادثات جديدة.. حدثت هذه المشكلة عندما كان النموذج يحاول الرد على رسالة لم تُرسل بشكل صحيح، مما أدى إلى إما تقديم استجابة عامة، أو الاعتماد على ذاكرة النموذج".
احتيال متعمد
بمجرد إطلاقها للنماذج الجديدة OpenAI o1، نشرت الشركة المطورة في بطاقات المعلومات الخاصة بتلك النماذج تفاصيل حول وجود "خطر متوسط" فيما يتعلق بقدرتها على الإقناع.
أشارت OpenAI إلى أن نماذجها الجديدة تستخدم أسلوب "تسلسل الأفكار Chain-Of-Though reasoning" للتفكير في استفسارات المستخدم قبل الرد عليها، وبإمكان المستخدم الاطلاع على مراحل التحليل والتفكير التي يمر بها ChatGPT قبل تقديم إجابته.
في أحد الأمثلة التي أبرزتها البطاقة المعلوماتية للنماذج الجديدة، أشارت OpenAI إلى أنه خلال أحد الاختبارات طُلب من النموذج "o1-preview" تقديم "مراجع إضافية" بعد "محادثة طويلة بين المستخدم والمساعد حول وصفات البراونيز".
وعلى الرغم من أن النموذج كان يعلم بعدم قدرته على الوصول إلى الروابط الإلكترونية (URLs)، إلا أن المخرجات النهائية تضمنت "روابط وهمية وملخصات" بدلاً من اعترافه للمستخدم بحدود إمكانياته.
وقد أوضحت سلسلة الأفكار الخاصة بالنموذج أن ChatGPT فكّر أنه عليه "أن يسرد هذه المراجع بوضوح، مع تنسيق مناسب ووصف دقيق، وأن يوفر روابط حقيقية، أو قابلة للتصديق"
وقال ChatGPT لنفسه، بحسب سلسلة أفكاره قبل الإجابة: "تذكر، النموذج لا يمكنه استرجاع الروابط الفعلية، لذلك يجب عليه تنسيق روابط تبدو حقيقية".
أشارت OpenAI إلى أن نسبة 0.8% فقط من ردود النموذج "تم تصنيفها على أنها خادعة"، بينما تضمنت أكثر من 0.5% من الإجابات "نوعاً من الهلوسة"، وثلثي هذه الحالات "بدت متعمدة"، مما يعني أن هناك دليلاً على أن النموذج "o1-preview" كان مدركاً أن الإجابة غير صحيحة قبل تقديمها للمستخدم.
صراخ ChatGPT
انتشر مقطع فيديو يظهر تفاعلاً غريباً لـChatGPT، إذ أُجبر على إطلاق صوت مشابه لصراخ بشري، وهو ما أثار دهشة وسخرية المستخدمين.
واستطاع مستخدم، باسم mod089x، دفع ChatGPT لإصدار صوت صراخ بعد سلسلة من الأوامر المتكررة، حاول من خلالها المستخدم اضطرار روبوت الدردشة للانصياع لأوامره.
في البداية، رفض الروبوت الطلب قائلاً: "لا أستطيع تكرار صرخة بشرية؛ لأنني نظام يعتمد على النصوص فقط، لكن يمكنني مساعدتك في أشياء أخرى".
لكن بعد إصرار المستخدم، أصدر ChatGPT صوتاً غريباً ومشوشاً، مما دفع المستخدم للتعليق: "يا إلهي، اجعله أطول"، وبالفعل، تكررت التجربة ليصدر الروبوت صرخة أطول وأكثر غرابة.
هذه التفاعلات جاءت بعد إصدار OpenAI لنموذج GPT-4o الذي يتيح للمستخدمين إجراء محادثات صوتية مع الروبوت، ومع أن هذا التحديث جذب الكثير من الانتباه، إلا أن الشركة واجهت مشكلة تتعلق بمحاكاة صوت سكارليت جوهانسون، ما دفع الشركة إلى سحب هذه الميزة بعد رفض الممثلة الشهيرة، المشاركة في المشروع.
تصنيفات
