أجرت وزارة الحرب الأميركية (البنتاجون) تعديلات على عقيدتها الخاصة بكيفية اختيار قوات الجيش لأهدافه في ساحات القتال، بما يفتح المجال أمام استخدام الذكاء الاصطناعي لاتخاذ قرارات "حاسمة" خلال الحروب مستقبلاً، وفق "بلومبرغ".
وتتصور المبادئ المعدلة، التي أُقرت في أبريل من دون إعلان عام واطلعت على تفاصيلها "بلومبرغ"، أنظمة "يبادر فيها الذكاء الاصطناعي باتخاذ إجراءات مع مراقبة بشرية"، في تحول عن الممارسة الحالية القائمة على أنظمة يكون فيها "الإنسان داخل الحلقة"، أي أن البشر هم من يبدؤون اتخاذ القرار.
وتعد التوجيهات المعدلة بشأن الاستهداف أحدث مؤشر على سعي "البنتاجون" إلى تسريع تبني الذكاء الاصطناعي، وهي تكنولوجيا بدأت بالفعل في تغيير طبيعة ساحات القتال في نزاعات حول العالم.
كما تثير القدرات المتسارعة للذكاء الاصطناعي تهديدات جديدة ومعضلات أخلاقية، في وقت تواجه فيه الجيوش تحدياً متزايداً لمواكبة هذه التكنولوجيا والالتزام بقانون النزاعات المسلحة.
وجاء في الوثيقة أن "سرعة الحروب المستقبلية، إلى جانب التطورات التي يحققها خصومنا في مجال الذكاء الاصطناعي، قد تتطلب من القوات المشتركة اعتماد أنظمة ذاتية التشغيل بالكامل".
تقليص دور الإنسان في القرارات المصيرية
تتضمن الرؤية "المثيرة للجدل" فصلاً جديداً بشأن مستقبل عمليات الاستهداف، فيما تضع الوثيقة بأكملها الإجراءات الرسمية لما يسمى بـ"الاستهداف المشترك"، أي الطريقة التي تحدد بها القوات الأميركية الأهداف التي ستهاجمها في العمليات القتالية.
وتتضمن الوثيقة محتوى جديداً حول "الحد من الأضرار التي تلحق بالمدنيين"، وذلك بعد أسابيع من إعلان "البنتاجون" فتح تحقيق في ضربة استهدفت مدرسة ابتدائية بجوار قاعدة بحرية تابعة للحرس الثوري الإيراني في مدينة ميناب الإيرانية، وقتلت ما يقدر بنحو 120 طفلاً.
وفي وقت سابق الخميس، أعلن "البنتاجون" بدء نشر أدوات متقدمة مدعومة بالذكاء الاصطناعي بهدف "تقليص الوقت اللازم لتحويل المعلومات الاستخباراتية إلى خيارات مدروسة للقادة حول العالم"، مؤكداً أن هذه الأدوات ستغير إدارة المعارك ودعم القرارات والاستهداف.
وأوضح أن النظام الجديد لن يختار الأهداف أو ينفذ الضربات بشكل مستقل، لكنه سيوفر للقادة خيارات مبنية على المسح المستمر للمعلومات الاستخباراتية الدفاعية والأنظمة العملياتية.
تسريع الاستهداف مع إشراف بشري
ورغم أن الإصدارات السابقة من عقيدة الاستهداف المشترك كانت تُنشر عبر الإنترنت، وأحياناً نتيجة طلبات بموجب قانون حرية المعلومات، فإن النسخة الوحيدة المتاحة للعامة حالياً تعود إلى عام 2018.
وتُعد الوثيقة المعدلة الجديدة أوضح مؤشر حتى الآن على تركيز "البنتاجون" على تقليل الاعتماد على البشر في القرارات التي تتعلق بالحياة والموت، إذ تشير إلى أن الذكاء الاصطناعي سيقلص "دورة الانتقال من المستشعر إلى مطلق النار" ويزيد "وتيرة العمليات".
وفي الوقت نفسه، تقر العقيدة الجديدة بمخاطر الاعتماد الكامل على الذكاء الاصطناعي، مشيرة إلى أن ذلك "يثير معضلات أخلاقية وقانونية خطيرة ويتطلب وضع إرشادات أخلاقية واضحة للتخفيف من المخاوف المتعلقة بالقرارات المعززة بالذكاء الاصطناعي".
ولا تقدم العقيدة المحدثة هذه الإرشادات، لكن مذكرة رئاسية جديدة للأمن القومي صدرت في وقت سابق هذا الشهر منحت "البنتاجون" مهلة 90 يوماً لتحديث سياسته بشأن الاستقلالية في أنظمة الأسلحة.
وتشترط السياسة الحالية خضوع أنظمة الأسلحة الذاتية وشبه الذاتية لمراجعات للتأكد من تصميمها بما يسمح للقادة والمشغلين بممارسة "مستويات مناسبة من الحكم البشري بشأن استخدام القوة". إلا أن هذه المتطلبات لا تصل إلى مستوى الضمانات التي يطالب بها نشطاء يسعون إلى فرض سيطرة بشرية فعالة على استخدام القوة.
ودعا الأمين العام للأمم المتحدة أنطونيو جوتيريش إلى حظر أنظمة الأسلحة ذاتية التشغيل الفتاكة، واصفاً إياها بأنها "غير مقبولة سياسياً" و"مرفوضة أخلاقياً".
مخاوف من الاعتماد المفرط على الخوارزميات
دخلت شركة Anthropic، التي توفر أدوات ذكاء اصطناعي لشبكات "البنتاجون" المصنفة سرية، بما في ذلك استخدامها في عمليات إيران، في خلاف مع الوكالة بسبب إصرار الشركة على أن التكنولوجيا ليست موثوقة بعد بما يكفي لاستخدامها في "أسلحة ذاتية التشغيل بالكامل"، وأن البشر يجب أن يتخذوا القرار النهائي بشأن استخدام القوة.
وتؤكد عقيدة الاستهداف الجديدة أن الجيش "يجب أن يتوخى الحذر لتجنب الاعتماد المفرط على مخرجات الذكاء الاصطناعي من دون إشراف بشري"، مشيرة إلى أن "الخوارزميات قادرة على استيعاب وتحليل المعلومات الاستخباراتية بسرعة وحجم يتجاوزان بكثير القدرة البشرية".
كما تحدد الوثيقة دوراً أكبر للذكاء الاصطناعي في تحسين جودة بيانات الاستهداف، وسد فجوات المعلومات الاستخباراتية، وأتمتة تدفقات البيانات.
ويرى عدد من خبراء الاستهداف أن ربط الأنظمة الرقمية وإدخال مزيد من الذكاء الاصطناعي قد يساعد، رغم ذلك، في معالجة مشكلات الاستهداف مستقبلاً، مثل إجراء فحوصات آلية للمواقع العامة، كخرائط جوجل، لرصد أي اختلافات محتملة وإحالتها إلى مراجعة بشرية.
وجاء في وثيقة البنتاجون أن "التطورات في الذكاء الاصطناعي ستُحسن عملية الاستهداف وتمكن من تنفيذ ضربات دقيقة بعيدة المدى"، مضيفة أن القادة "سيحتاجون إلى الاستفادة من قوة الذكاء الاصطناعي" لتعزيز التحليل البشري وصنع القرار وإدارة المخاطر للحفاظ على تفوق القوات المشتركة.
وأضافت الوثيقة أن الذكاء الاصطناعي "قد يقارن بسرعة بيانات الأهداف المجمعة من منصات متعددة للتحقق من صحة المعلومات التي تم جمعها".
ومع ذلك، تضيف الوثيقة الجديدة تحذيراً في ملحق مخصص للتحدي التاريخي المتمثل في دمج الأتمتة في عمليات الاستهداف، مؤكدة أن "الأتمتة ليست بديلاً عن التفكير البشري أو الاتصالات الاستباقية".
وبغض النظر عن أي أدوات آلية مستخدمة، تؤكد الوثيقة أن "القادة مسؤولون عن الأولويات والتأثيرات والتوقيت" ضمن مناطق عملياتهم، وعن الالتزام بقانون الحرب وقواعد الاشتباك العسكرية الأميركية ذات الصلة.
تصنيفات
