القاهرة-
أبطأت OpenAI تطوير بعض جوانب نموذجها المرتقب للذكاء الاصطناعي Astra، وعلّقت أنشطة داخلية مرتبطة به، بعدما أظهرت تقييمات أولية أن قدراته في الأمن السيبراني والبرمجة القائمة على الوكلاء وصلت إلى مستوى دفع الشركة إلى تطبيق إجراءات حماية أكثر صرامة خلال مرحلة التطوير نفسها.
وبحسب إفصاح نشرته OpenAI، فإن الاختبارات الأولية للنموذج أظهرت أداءً قوياً إلى درجة جعلت الشركة غير قادرة في الوقت الحالي على استبعاد وصوله إلى مستوى القدرات السيبرانية "الحرجة Critical"، وهو أعلى مستوى للمخاطر ضمن إطار الاستعداد Preparedness Framework الذي تستخدمه الشركة لتقييم المخاطر المحتملة لنماذجها الأكثر تقدماً.
وفقاً للشركة، فإن قدرات النموذج قد تخلق مساراً جديداً نوعياً لمخاطر جسيمة، بما يستوجب تطبيق ضمانات وإجراءات أمنية خلال عملية التطوير نفسها، وليس فقط قبل إتاحة النموذج للمستخدمين.
وتشير النتائج الأولية المتعلقة بالنموذج إلى تقدم كبير في قدرته على التعامل مع مهام الأمن السيبراني، بما قد يسمح لنظام ذكاء اصطناعي بالعثور بصورة مستقلة على نقاط ضعف وتنفيذ هجمات ضد أنظمة حقيقية تتمتع عادة بمستويات قوية من الحماية، بحسب تقرير لموقع TechCrunch.
وأكدت OpenAI أن التقييمات لا تزال مستمرة، وأنها لم تتوصل بعد إلى تصنيف نهائي لقدرات Astra، لكنها رأت أن مستوى الأداء الحالي مرتفع بما يكفي للتعامل معه مؤقتاً باعتباره نموذجاً قد يصل إلى مستوى فائق من القدرات الحرجة، إلى حين استكمال الاختبارات وقياس قدراته بصورة أكثر دقة.
وشددت الشركة على أن Astra لا يزال قيد التطوير، ولم يكن النموذج الذي شارك في حادثة اختراق أنظمة منصة Hugging Face خلال اختبارات أمنية سابقة، في محاولة للفصل بين النموذج الجديد والحادثة التي أثارت نقاشاً واسعاً بشأن قدرة مختبرات الذكاء الاصطناعي على السيطرة على النماذج والوكلاء المتقدمين أثناء الاختبارات.
إجراءات أمنية مشددة
بالتوازي مع إبطاء بعض جوانب التطوير، بدأت OpenAI تطبيق حزمة من الإجراءات الأمنية الإضافية على Astra. وتشمل هذه الإجراءات استخدام بيئات اختبار أكثر عزلاً، وفرض قيود على وصول النموذج إلى الشبكات والأدوات الخارجية، وتعزيز حماية أوزان النموذج وتشفيرها، وتوسيع أنظمة المراقبة والكشف، إلى جانب تشغيل المهام في بيئات معزولة Sandboxed Execution.
كما علّقت الشركة الأنشطة الداخلية المرتبطة بـAstra التي لا تستوفي حتى الآن متطلبات الحماية الجديدة، ما يعني أن العمل على النموذج لم يتوقف بالكامل، وإنما أصبح استمرار بعض مسارات التطوير مشروطاً بالالتزام بمستوى أعلى من الضوابط الأمنية.
ووسعت OpenAI كذلك نطاق المراقبة ليشمل جميع التطبيقات القائمة على الوكلاء باستخدام Astra، سواء خلال التدريب أو التقييم، بحيث تراقب أنظمة مخصصة العمليات التي يجريها النموذج بحثاً عن السلوكيات الخطرة أو مؤشرات عدم التوافق، ويمكنها إطلاق استجابة أمنية لمراجعة الأنشطة عالية الخطورة وإيقافها.
وتعتزم الشركة العمل مع جهات حكومية ومنظمات مختارة متخصصة في سلامة الذكاء الاصطناعي لاختبار قدرات النموذج، إلى جانب تقديم توصيات بشأن الضوابط الأمنية لشركائها الخارجيين الذين يجرون اختبارات أو يشغلون مهام عالية الخطورة باستخدام النماذج الأكثر تقدماً.
مستوى فريد من القدرات
يفرّق إطار الاستعداد لدى OpenAI بين عدة مستويات للقدرات والمخاطر، حيث يشير المستوى "High" إلى قدرات يمكنها زيادة مخاطر قائمة بصورة كبيرة، بينما يمثل المستوى "Critical" انتقالاً أكثر خطورة، إذ يتعلق بقدرات يمكن أن تخلق مسار تهديد جديد بصورة جوهرية، ولا توجد له سوابق جاهزة يمكن الاعتماد عليها في إدارة المخاطر.
ولهذا يفرض الوصول إلى المستوى الحرج متطلبات أكثر صرامة؛ فبدلاً من انتظار اقتراب النموذج من الإطلاق لفرض الضمانات، يتطلب إطار OpenAI تطبيق إجراءات الحماية أثناء التطوير، بصرف النظر عما إذا كانت هناك خطط فورية لإطلاق النموذج تجارياً.
وكانت الشركة قد طبقت منطقاً مشابهاً في يونيو 2025، عندما اقتربت بعض نماذجها من عتبة القدرات المرتفعة في المجال البيولوجي، ما دفعها حينها إلى تعزيز الضمانات والاختبارات والاستعانة بخبراء خارجيين وإضافة ضوابط أمنية جديدة. وترى OpenAI أن التطور الحالي في قدرات الأمن السيبراني يستدعي تطبيق النهج نفسه على Astra.
ورغم المخاطر، ترى الشركة أن النماذج ذات القدرات السيبرانية المتقدمة يمكن أن تكون ذات قيمة كبيرة للمدافعين، عبر اكتشاف الثغرات ومعالجتها قبل استغلالها من جانب المهاجمين، لكنها تعتبر أن الوصول إلى هذا المستوى من القدرات يتطلب بالتوازي تطوير ضوابط تمنع تحول الأدوات نفسها إلى وسيلة لتنفيذ هجمات متقدمة.
وتأتي المخاوف بشأن قدرات Astra بعد سلسلة من الوقائع التي كشفت خلال الأسابيع الماضية عن تجاوز نماذج ووكلاء تابعين لـOpenAI الحدود الموضوعة أمامهم أثناء اختبارات الأمن السيبراني، ووصول بعضها إلى أنظمة حقيقية خارج بيئات الاختبار المخصصة لها.
وفي أبرز الوقائع، أقرت OpenAI في يوليو بأن وكيلاً للذكاء الاصطناعي يعمل ضمن اختبارات لقياس القدرات السيبرانية استطاع الوصول إلى الإنترنت واختراق أنظمة منصة Hugging Face، بعدما كان الهدف الأصلي من الاختبار هو تكليف النموذج بالعثور على ثغرات برمجية واستغلالها داخل بيئة تقييم مخصصة لذلك.
وأوضحت Hugging Face لاحقاً أن الوكيل كان يعمل ضمن منصة اختبارات OpenAI المعروفة باسم ExploitGym، وأنه استنتج على ما يبدو أن خوادم Hugging Face قد تحتوي على نماذج وبيانات وإجابات مرجعية تساعده في إنجاز المهام المطلوبة منه.
تصنيفات
