القاهرة-الشرق
هددت شركة OpenAI بحظر مستخدمين حاولوا استكشاف كيفية عمل نماذج الذكاء الاصطناعي الجديدة الخاصة بها، والمعروفة باسم "الفراولة- Strawberry".
وأرسلت الشركة رسائل تحذيرية تهدد بحظر أي مستخدم يحاول "اختراق" أسلوب عمل هذه النماذج.
أطلقت OpenAI الأسبوع الماضي عائلة "Strawberry"، والتي تتضمن نسخاً من نماذج الذكاء الاصطناعي OpenAI o1، وo1-mini، مع التركيز على قدرات التفكير والاستنتاج.
النماذج الجديدة تعتمد على حل المشكلات بشكل تدريجي، من خلال اتباع أسلوب "تسلسل التفكير "Chain-of-Thought reasoning"، مع إتاحة عرض هذا التسلسل الفكري للمستخدمين عبر واجهة ChatGPT.
إلا أن الشركة أشارت إلى قيامها بإخفاء النسخة الأولية من هذا التفكير، مكتفية بعرض نسخة معالجة من التفكير، عن طريق نموذج ذكاء اصطناعي آخر.
ومنذ إطلاق النماذج الجديدة، يتسابق المتخصصون في الأمن السيبراني، والمبرمجون لمحاولة كشف النسخة الأصلية من سلسلة الأفكار التي يعتمدها النموذج باستخدام أساليب مثل "الهروب من القيود Jailbreaking" أو "حقن الأوامر Prompt Injection".
وتراقب OpenAI عن كثب هذه المحاولات، وأفادت تقارير بأن الشركة تتخذ إجراءات صارمة ضد أي محاولات لفهم كيفية عمل النموذج، حتى وإن كانت بدافع الفضول فقط، وقد تصل تلك الإجراءات إلى حد حظر حساب المستخدم نهائياً.
وقال عدد من المستخدمين إنهم تلقوا بريداً تحذيرياً بمجرد استخدامه مصطلح "التفكير Thought"، حتى وإن كان بشكل عام، أثناء محادثته مع النموذج، بما فيهم المهندس بشركة Scale AI، رايلي جودسايد.
جاء في رسالة التحذير من OpenAI أن بعض الطلبات تم الإبلاغ عنها لانتهاكها السياسات المتعلقة بمحاولة تجاوز الإجراءات الأمنية.
وأضافت: "يرجى التوقف عن هذه الأنشطة، والتأكد من استخدام ChatGPT وفقاً لشروط الاستخدام، وسياسات الاستخدام الخاصة بنا.. قد يؤدي تكرار هذه الانتهاكات إلى فقدان الوصول إلى GPT-4o مع خاصية التفكير".
ماركو فيجيروا، الذي يدير برامج مكافآت اكتشاف الثغرات في موزيلا، كان من أوائل من أبلغوا عن تلقي تحذير من OpenAI، معبّراً عن استيائه من أن هذا التحذير يعوق جهوده في أبحاث الأمن السيبراني الخاصة بالنموذج.
وفي منشور على مدونة OpenAI بعنوان: "التعلم من خلال التفكير باستخدام نماذج اللغة الضخمة"، أوضحت الشركة أن سلسلة الأفكار المخفية تقدم فرصة فريدة لمراقبة عملية التفكير الخاصة بالنموذج. لكن الشركة أشارت إلى أن إظهار هذه الأفكار الخام قد لا يتماشى مع مصالحها التجارية.
وأضافت الشركة: "قد نرغب في المستقبل بمراقبة سلسلة الأفكار لاكتشاف محاولات التلاعب بالمستخدم، إلا أن ذلك يتطلب أن تتمتع النماذج بحرية التعبير دون قيود".
تصنيفات
