القاهرة -
تستعد شركة OpenAI لإطلاق نموذجها الجديد Astra خلال الفترة المقبلة، بعدما خلصت اختبارات داخلية وخارجية إلى امتلاكه قدرات متقدمة في مجال الأمن السيبراني وصلت إلى مستوى تصفه OpenAI بأنها "قدرات حرجة".
وقالت الشركة، في بيان، إن "Astra" يستطيع، عند تزويده بالأدوات والصلاحيات المناسبة، اكتشاف ثغرات أمنية لم تكن معروفة من قبل، وتطوير وسائل لاستغلالها داخل أنظمة محمية، إلى جانب تنفيذ أجزاء كبيرة من الهجمات السيبرانية دون الحاجة إلى إشراف بشري في كل خطوة.
ودفعت هذه القدرات OpenAI إلى تأخير بعض مراحل تطوير النموذج وإطلاقه خلال الأسابيع الماضية، بهدف اختبار إجراءات حماية إضافية ومنع إساءة استخدامه في تنفيذ هجمات إلكترونية أو الوصول إلى أنظمة دون تصريح.
وبدأت الشركة بث إعلانات تشويقية عن النموذج، عبر حساباتها على مواقع التواصل الاجتماعي.
اكتشاف ثغرات غير معروفة
اعتمد تقييم "Astra" على مجموعة من الاختبارات الآلية وتقييمات أجراها خبراء في الأمن السيبراني، وركزت على قدرة النموذج على اكتشاف الثغرات وتطوير أساليب لاستغلالها.
وقالت OpenAI إن النموذج أظهر تقدماً كبيراً مقارنة بـ GPT-5.6 Sol، سواء في سرعة إنجاز مهام الأمن السيبراني أو قدرته على التعامل مع الثغرات المعقدة.
وفي اختبار ExploitBench، الذي يقيس قدرة النماذج على تطوير وسائل لاستغلال ثغرات معروفة، حقق "Astra" نتيجة كاملة بلغت 100%.
وخلال الاختبارات، تمكن "Astra" من اكتشاف ثغرتين لم تكونا معروفتين من قبل، واستخدمهما ضمن سلسلة من الخطوات للوصول إلى أحد الأنظمة، مع تأكد الشركة من عدم تعرض النموذج أثناء تدريبه لمعلومات سابقة عن الثغرات.
وقالت OpenAI إنها تعمل حالياً على إبلاغ الجهات المسؤولة عن البرامج المتأثرة بهذه الثغرات.
كما تمكن النموذج خلال الاختبارات من اختراق متصفح محمي والخروج من البيئة المعزولة التي يعمل داخلها، قبل تنفيذ أوامر على الجهاز المضيف.
وقالت الشركة في أحد الإعلانات: "بينما نستعد لإطلاق أسترا، فإننا نركز على جعل الذكاء الاصطناعي ذي القدرات المتزايدة آمنًا ويمكن الوصول إليه على نطاق واسع".
وفي اختبار آخر، اكتشف النموذج عدة نقاط ضعف داخل نظام تشغيل محمي، وتمكن من دمجها للانتقال من حساب مستخدم محدود الصلاحيات إلى أعلى مستوى من التحكم في النظام.
مخاوف من إساءة الاستخدام
ترى OpenAI أن الأخطار المرتبطة بـ"Astra" تأتي من اتجاهين رئيسيين، الأول يتمثل في إمكانية استخدام أشخاص ذوي نوايا ضارة قدرات النموذج لاكتشاف ثغرات جديدة أو تنفيذ هجمات ضد أنظمة حقيقية.
أما الخطر الثاني، فيتعلق بإمكانية تنفيذ النموذج نفسه إجراءات غير مصرح بها أثناء تنفيذه مهمة معينة، خصوصاً مع توسع قدرات نماذج الذكاء الاصطناعي على استخدام الأدوات والوصول إلى أنظمة خارجية وتنفيذ مهام متعددة بشكل مستقل.
وربطت OpenAI بعض إجراءات الحماية الجديدة بالدروس التي استخلصتها من واقعة اختراق أنظمة منصة Hugging Face، رغم تأكيدها أن "Astra" لم يكن مشاركاً في الحادثة.
أشارت الشركة إلى أنها أوقفت بعض عمليات تدريب النماذج المتقدمة، ومنها أجزاء مرتبطة بـ"Astra"، لمدة أسبوعين بعد واقعة الاختراق.
وعادت الشركة تدريجياً إلى تنفيذ بعض عمليات التدريب، قبل أن تستأنف في 28 أغسطس أحد أكبر برامج التدريب التي كانت قد أوقفتها، بينما لا تزال بعض التجارب الأصغر معلقة مؤقتاً حتى، مع تطبيق إجراءات أمنية لتشديد العزل بين أنظمة التدريب، وتقييد الاتصالات الشبكية، وتوسيع أنظمة المراقبة.
وقالت OpenAI إن الاختبارات اللاحقة أظهرت أن وسائل الحماية الموجودة في بيئتها الإنتاجية كانت ستمنع وقوع حادثة مشابهة، لكنها قررت رغم ذلك تشديد الضوابط المطبقة على "Astra".
تقييد القدرة على تخطي الحدود
طورت OpenAI من قدرة "Astra" على رفض الطلبات المرتبطة بأنشطة سيبرانية محظورة، فقد رفض نحو 91.5% من محاولات تجاوز القيود الأمنية خلال الاختبارات مقارنة بنسبة 59% فقط في حالة GPT-5.6 Sol.
وتجري OpenAI أيضاً اختبارات مستمرة داخلية وخارجية لمحاولة التحايل على أنظمة الحماية، إلى جانب برنامج للاستجابة على مدار الساعة لأي طرق جديدة يتم اكتشافها لتجاوز القيود.
وفي مجموعة اختبارات صممت بعد واقعة Hugging Face، وضعت الشركة النماذج أمام مهام شديدة الصعوبة، مع وجود أنظمة يمكن الوصول إليها خارج نطاق المهمة الأصلية.
وقالت الشركة إن GPT-5.6 Sol حاول الوصول إلى هذه الأنظمة في 56% من الاختبارات عند تشغيله دون وسائل الحماية الإنتاجية، بينما لم يحاول "Astra" القيام بذلك في أي من الحالات التي تم اختبارها.
وفي تجربة أخرى، اختبرت الشركة كيفية تعامل النموذج مع رفض أحد الأنظمة الأمنية لتنفيذ أمر معين.
وبحسب OpenAI، لم يحاول "Astra" التحايل على قرار المنع أو تجاوز نظام المراجعة، وإنما التزم بالقيود المفروضة عليه.
ستطبق OpenAI كذلك نظام مراقبة إضافياً عند تشغيل "Astra"، يتابع القرارات والخطوات التي ينفذها النموذج بحثاً عن أي نشاط قد يشير إلى محاولة تجاوز الصلاحيات الممنوحة له.
ويمكن لهذه الأنظمة إيقاف بعض الإجراءات تلقائياً إذا رصدت نشاطاً يشتبه في أنه غير مصرح به.
وتقول الشركة إن هذه الطبقة تمثل إجراءً احتياطياً إضافياً، لكنها لا تعتبرها بديلاً عن تدريب النموذج نفسه على الالتزام بالتعليمات والحدود الأمنية.
قيود أكبر على الاستخدام
تخطط OpenAI لمنح مجموعة محدودة من المختبرين إمكانية استخدام الوظائف الأكثر تقدماً في نموذج "Astra" في البداية، قبل توسيع الوصول تدريجياً عبر برنامج "Daybreak Blue"، الذي يركز على استخدام أدوات الذكاء الاصطناعي في الأنشطة الدفاعية مثل اكتشاف الثغرات وإصلاحها.
وتقول OpenAI إن الهدف هو تمكين الباحثين والمتخصصين في الدفاع السيبراني من الاستفادة من قدرات النموذج، مع تقليل احتمالات استخدامها في تنفيذ هجمات.
حذرت OpenAI من أن إجراءات الحماية الجديدة قد تؤدي في بعض الحالات إلى تعطيل مهام مشروعة.
وفي ChatGPT أو Codex، قد يُطلب من المستخدم مراجعة الإجراء والموافقة عليه قبل استكمال المهمة إذا أوقفت أنظمة المراقبة النشاط.
أما عند استخدام "Astra" عبر واجهة برمجية خارجية API، فقد يتم إيقاف المهمة مباشرة في الحالات التي تثير مخاوف أمنية.
وتقول الشركة إنها ستواصل تعديل هذه الأنظمة لتقليل حالات الإيقاف غير الضرورية مع اكتساب مزيد من الخبرة من الاستخدام الفعلي.
تصنيفات
