القاهرة
كشف تقرير جديد عن وقوع حوادث عدة تسببت فيها أدوات الذكاء الاصطناعي وأدت إلى انقطاع خدمات سحابية، إحداها وصلت مدة الانقطاع فيها إلى 13 ساعة.
وأفادت صحيفة "فاينانشيال تايمز"، بأن قسم الحوسبة السحابية Amazon Web Services (AWS) تعرّض لما لا يقل عن حادثتي انقطاع خلال الأشهر الماضية، ارتبطتا بأدوات ذكاء اصطناعي مخصصة لكتابة الشيفرات البرمجية وإدارتها.
وأوضحت أنه في إحدى الحوادث التي وقعت في ديسمبر الماضي، سمح مهندسو AWS لأداة برمجة داخلية تُدعى Kiro، توصف بأنها وكيل رقمي يحظى بقدر من الاستقلالية، بإجراء تعديلات مباشرة على بيئة برمجية تسببت في عطل واسع النطاق.
ووفقاً لأربعة مصادر مطلعة على الواقعة، فإن الأداة قررت حذف البيئة وإعادة إنشائها، ما أدى إلى انقطاع استمر 13 ساعة.
وأفاد موظفون بأن هذا الحادث لم يكن الأول، إذ شهدت بيئة الإنتاج حالتي انقطاع على الأقل خلال الأشهر الماضية، نتيجة منح وكلاء الذكاء الاصطناعي صلاحية معالجة مشكلات دون تدخل بشري مباشر.
ووصف أحد كبار موظفي AWS الواقعتين بأنهما "صغيرتان، لكن كان من الممكن توقعهما بالكامل"، بحسب التقرير.
وكان قطاع الخدمات السحابية في أمازون أطلق المساعد البرمجي الداخلي Kiro، في يوليو الماضي، وقدمته الشركة باعتباره وكيلاً مستقلاً يمكنه إنجاز المشروعات بداية من الخروج بالفكرة إلى إتمام عملية التنفيذ.
ونقلت "فاينانشيال تايمز" عن مصادر قولها إن مساعداً برمجياً آخر طورته الشركة، وُصف بأنه مساعد ذكاء اصطناعي، تورّط في حادثة انقطاع سابقة.
صلاحيات كاملة تتجاوز البروتوكولات
وبحسب إفادات العاملين، جرى التعامل مع أدوات الذكاء الاصطناعي باعتبارها امتداداً للمشغّل البشري، ومنحت صلاحيات تشغيلية على مستوى المستخدم المسؤول (Operator-level permissions).
وفي الواقعتين، لم يُشترط الحصول على موافقة مهندس ثانٍ قبل تثبيت التغييرات، في مخالفة للبروتوكولات المعتادة التي تتطلب مراجعة مزدوجة في البيئات الحساسة.
تأثير محدود في الصين
من جانبها، قلّلت أمازون من خطورة الواقعة، ووصفتها، في بيان للصحيفة، بأنها حدث محدود للغاية كان له تأثير على خدمة واحدة في أجزاء من الصين.
أضافت أمازون: "تزامن الحادث مع استخدام أدوات ذكاء اصطناعي كان محض مصادفة"، مؤكدة أن المشكلة "كان يمكن أن تحدث باستخدام أي أداة تطوير أو حتى عبر إجراء يدوي".
وشددت الشركة على أن أداة Kiro تطلب تفويضاً قبل تنفيذ أي إجراء، لكنها أوضحت أن المهندس المعني بحادث ديسمبر كان يمتلك صلاحيات أوسع من المعتاد، معتبرة أن ما حدث مشكلة في ضوابط الوصول الخاصة بالمستخدم، وليس مسألة استقلالية للذكاء الاصطناعي.
وأكدت في البيان أن "ما جرى كان خطأ بشرياً، وليس خطأ من الذكاء الاصطناعي".
مخاوف بشأن الموثوقية
تأتي هذه التطورات في سياق سباق متسارع بين شركات التكنولوجيا لدمج أدوات الذكاء الاصطناعي في عملياتها الداخلية، إذ أعلنت كل من مايكروسوفت وجوجل أن أكثر من ربع الشفرات البرمجية لديهما يُكتب حالياً بمساعدة الذكاء الاصطناعي، كما أشار مهندسون في شركتي أنثروبيك وOpenAI إلى أن النسبة تقترب من 100% في بعض مشروعاتهم.
وبحسب الموظفين الذين تحدثوا إلى "فاينانشيال تايمز"، وضعت أمازون هدفاً يتمثل في أن يستخدم 80% من المطورين أدوات الذكاء الاصطناعي في مهام البرمجة مرة واحدة أسبوعياً على الأقل، وهو ما يراه البعض توجهاً إلزامياً فعلياً داخل الشركة.
تصنيفات
