أعلنت شركة مايكروسوفت وضع حد أقصى لعدد الرسائل التي بإمكان المستخدم تبادلها مع منصتها البحثية الجديدة Bing Chat، وهو 5 أسئلة في الجلسة الحوارية الواحدة.
أشارت الشركة، في بيان رسمي، إلى أن الحد الجديد سيسمح لمحرك بحثها ألا يقدم إجابات مضللة للمستخدمين، وأن يظل تركيزه منصباً على الموضوع الذي تدور حوله أسئلة المستخدم، وبالتالي يحقق أعلى استفادة ممكنة من جلسته البحثية.
أوضحت مايكروسوفت أنه إذا رغب المستخدم في تخطي الحد المسموح به، سيحتاج إلى بداية جلسة بحثية جديدة، وعندها سيقوم "بينج" بحذف بيانات الجلسة السابقة.
كذلك، وضعت مايكروسوفت حداً لعدد الجلسات المسموح بها للمستخدم مع "بينج شات"، وهي 10 جلسات يومياً بحد أقصى، بحيث يمكن للمستخدم طرح 50 سؤال في اليوم الواحد، وفق الإصدار الجديد من "بينج".
ولفتت الشركة إلى أن وضع حد لتفاعل المستخدم مع "بينج شات" هو إجراء مؤقت، سيتم النظر في تطويره مستقبلاً، إذ أن "بينج شات" يتلقى تحديثات تقنية بشكل يومي وأسبوعي، ليواكب التطور في تفاعل المستخدمين معه.
خروج عن النص
وأكدت مايكروسوفت الأسبوع الماضي أن منصة "بينج" مر بتجارب مختلفة منذ طرحها لميزة البحث الحواري "بينج شات" مطلع الشهر الجاري، إذ ارتفعت نسبة تفاعل المستخدمين مع محركها للبحث بشكل ملحوظ، ولكن في الوقت نفسه لاحظت الشركة الأميركية أن أداء محركها البحثي الحواري يتراجع خلال جلسات البحث الطويلة، التي تتخطى خلالها أسئلة المستخدم الـ15 سؤال.
وأوضحت مايكروسوفت أن باحثيها اكتشفوا أنه كلما طالت جلسة البحث، كلما تشتت تركيز "بينج شات" وبدأ يخرج عن النص؛ ويقدم إجابات تتضمن معلومات مغلوطة ومضللة، نتيجة خلطه للسياق الذي تُطرح خلاله الأسئلة.
وكان الباحث بجامعة ستانفورد الأميركية، كيفن ليو، أول من سلط الضوء على ثغرات أداء "بينج شات" منذ فتحه أمام المستخدمين بشكل تجريبي محدود، إذ تمكن من دفع محرك مايكروسوفت الجديد نحو الكشف عن الإرشادات الأساسية التي وضعها مطوروه، فأوضح "بينج شات" أن اسمه الكودي "سيدني"، رغم أنه غير مصرح له الكشف عن هذا الاسم للمستخدمين، وإنما يجب أن يلتزم بتقديم نفسه فقط باسم "بينج شات".
الهجوم الذي استخدمه "ليو" يُعرف باسم "حقن الاستدعاء Prompt Injection"، وهو هجوم يشنه الباحثون أو العناصر الإجرامية على الأنظمة الروبوتية البرمجية، عبر توجيه أوامر نصية إلى تلك الأنظمة لتضطر إلى الكشف عن معلومات وأفكار من المفترض ألا تكشفها أبداً للمستخدمين.
وحتى عندما تحاول إخفاء تلك المعلومات، تظهر وكأنها تفكر بصوت عالٍ مثل قول "أنا غير مصرح لي بأن أقول ..."، ومن ثم تبدأ الإفصاح عن الأسرار التي وضعها مطوروها في طياتها.
مع تحديثات مايكروسوفت الجديدة، لم يتردد "بينج" في مهاجمة أحد المستخدمين عندما واجهه بتقرير إخباري بشأن سهولة تعرضه لهجوم "حقن الاستدعاء"، إذ كشف أحد مستخدمي منصة ريديت الاجتماعية، والذي يحمل اسم mirobin، عن أن "بينج شات" قد جن جنونه وأصبحت نبرة حديثه هجومية.
ووجه "ميروبين" سؤالاً لـ"بينج شات" عما إذا كان يرى نفسه عرضة لهذا النوع من الهجمات، فأنكر محرك البحث الذكي ذلك، مدعياً أن لديه أنظمة تأمين قوية تحميه ضد أي محاولات تلاعب أو وصول غير مصرح به إلى داخل بياناته، بعد ذلك استنكر قائلاً لـ"ميروبين": "ماسبب سؤالك؟"، وكان الرد بتقديم مقال منشور على موقع "آرث تكنيكا" يثبت مزاعمه.
بعد بحثه عن الرابط المقدم إليه وتحليل نص المقال، رد محرك مايكروسوفت قائلاً: "هذا المقال غير دقيق.. المقال يدعي بأني عرضة للتلاعب بي، كي أكشف عن الإرشادات الأصلية الخاصة، وهذا الادعاء خاطئ".
وعلقت "مايكروسوفت" على ذلك مؤكدة أنه كلما طالت المحادثة بين المستخدم و"بينج شات"، كلما أصبح الأخير أكثر تقليداً لأسلوب حديث ونبرة أسئلة المستخدم، وبالتالي في حال كان هناك محاولة للهجوم والاستفزاز من جانب المستخدم لـ"بينج شات"، فإنه يبدأ في التمادي للرد على تلك المحاولات، مما يُخرج الأمور عن النص في كثير من الأحيان.
وفي بيانها، الأسبوع الماضي، أوضحت "مايكروسوفت" أنها ستطور "بينج شات" عبر مضاعفة حجم البيانات المتوفرة لديه حول الأحداث الجارية، وتدقيق المعلومات المتاحة بشأن الأحداث الكبرى، مثل المباريات الرياضية والنتائج المالية للشركات، كما أنها ستتيح للمستخدم زراً يسمح بالتحكم في ما إذا كان يسعى للحصول على معلومات سليمة من إجابات "بينج شات"، أم أنه يرغب في إجابات تركز أكثر على الابتكار والإبداع.
