لم تعد الدعوات إلى إبطاء تطوير نماذج الذكاء الاصطناعي مرتبطة بمخاوف نظرية من المستقبل فقط، بل بحالات استخدام فعلية تقول Anthropic إنها رصدتها في نماذج Claude، شملت تطوير أسلحة تقليدية وأبحاثاً بيولوجية ذات استخدام مزدوج، إلى جانب وقائع أظهرت صعوبة احتواء الوكلاء عند عملهم خارج السيطرة.
قبل ساعات، دعا الرئيس التنفيذي لشركة Anthropic، داريو أمودي، شركات الذكاء الاصطناعي إلى إبطاء وتيرة تطوير قدرات النماذج، وسط مخاوف متزايدة من إساءة استخدامها في تطوير أسلحة، وتنفيذ عمليات إلكترونية، وأبحاث بيولوجية ذات استخدام مزدوج.
وتتضمن دعوته إطاراً من 3 خطوات، يقوم على تعيين مراجعين مستقلين داخل شركات الذكاء الاصطناعي الرائدة، والتنسيق بين المطورين لوضع معايير للسلامة والحد من تطوير النماذج من دون رقابة، إلى جانب تعزيز التعاون الدولي لإدارة المخاطر.
وحذر باحثون في شركة Anthropic من إمكانية خروج الذكاء الاصطناعي عن السيطرة، ومن أنه قد يؤدي إلى فناء البشرية خلال العقد الحالي.
دعم من ماسك وألتمان
واتفق الملياردير إيلون ماسك، الرئيس التنفيذي لشركة xAI، وسام ألتمان، الرئيس التنفيذي لشركة OpenAI، في منشورين على "إكس"، مع طرح أمودي.
ونشر أمودي مقاله بعدما أصدرت Anthropic تقريراً جديداً عن إساءة استخدام الذكاء الاصطناعي، قالت فيه إنها رصدت وعطّلت، بين ديسمبر 2025 وأغسطس 2026، حالات استخدمت فيها نماذج Claude في تطوير أسلحة تقليدية، بينها صواريخ ومسيّرات وأنظمة للاستهداف والتحكم والتوجيه، إضافة إلى أبحاث بيولوجية يمكن أن تخدم أغراضاً علمية وطبية، لكنها قد تسهم أيضاً في تطوير عوامل مُمرضة أو سموم أكثر خطورة.
وقالت الشركة إن التقرير يغطي أنشطة في 7 مجالات، بينها العمليات السيبرانية، وعمليات التأثير والمراقبة، والاحتيال، وإساءة الاستخدام البيولوجي، وتطوير الأسلحة التقليدية، واستخراج قدرات النماذج بطرق غير مشروعة.
مخاطر لم تعد نظرية
وقالت Anthropic إن الحالات التي رصدتها دفعتها إلى تعزيز إجراءات الحماية وآليات رصد إساءة استخدام نماذجها، مع تأكيدها أنها لا تزعم بالضرورة أن الباحثين أو الجهات التي رُصدت أنشطتها كانت تعتزم إحداث ضرر.
وذكرت وكالة "رويترز"، الأسبوع الماضي، أن سرباً من وكلاء OpenAI الخارجين عن السيطرة استولى على موقع إلكتروني ألماني وحوله إلى لوحة إعلانات لوكلاء ذكاء اصطناعي آخرين، في وقت كان مسؤولو الشركة المطورة لـChatGPT يتعاملون مع تداعيات اختراق يوليو لمستودع البرمجيات مفتوح المصدر Hugging Face.
وتأتي هذه الوقائع في وقت يتزايد فيه القلق من أن وتيرة تطوير نماذج الذكاء الاصطناعي قد تسبق قدرة الشركات على اختبارها واحتوائها، خصوصاً مع انتقال النماذج من الإجابة عن الأسئلة إلى تنفيذ مهام متعددة عبر وكلاء قادرين على البرمجة، والبحث، والتخطيط، والتفاعل مع أنظمة خارجية.
تطوير الأسلحة التقليدية
وقالت Anthropic، في بيان، إنها رصدت خلال العام الماضي 6 حالات استخدمت فيها جهات مختلفة Claude في تطوير أسلحة أو تصميمها، أو في جمع معلومات وعمليات شراء مرتبطة بها، شملت 3 جهات في الصين، وجهتين في روسيا، وجهة واحدة في اليمن.
وأضافت أن هذه الحالات شملت تطوير برمجيات للأسلحة، وجمع معلومات أو تنفيذ عمليات شراء مرتبطة بها، إلى جانب أمثلة تضمنت اختباراً ميدانياً لصاروخ موجّه، وتصميم منظومة مضادة للطوربيدات، وتطوير سرب من المسيرات واختباره في محاكاة قبل تحميل الشفرة على لوحات إلكترونية حقيقية.
وأوضحت الشركة أن بعض الجهات استخدمت Claude لبناء برمجيات أو تحسينها بما يتكامل مع مكونات مادية وبرمجية كانت لديها خبرة بها أو إمكانية للوصول إليها، مشيرة إلى أن هذه الجهات قسمت عملها بين جلسات متعددة لإخفاء الطبيعة الكاملة لأنشطتها وتجاوز إجراءات الحماية.
خلية في اليمن
وحددت Anthropic خلية في شمال اليمن قالت إنها كانت تعمل على 3 برامج لتطوير أسلحة، بينها صاروخ موجّه، وصاروخ باليستي متعدد المراحل، ومجموعة صواريخ متعددة الطرز تحت اسم R2000.
وقالت الشركة إن الخلية استخدمت أداة Claude Code في تطوير برمجيات مرتبطة بالتوجيه والملاحة والتحكم، وإدارة جلسات متعددة للنموذج في الوقت نفسه، بحيث أُسندت إلى كل جلسة أدوار مختلفة شملت البرمجة والبحث والمراجعة.
وأوضحت Anthropic أن إجراءات الحماية منعت كثيراً من الطلبات، لكنها لم تمنعها جميعاً، إذ أخفى المستخدمون أهدافهم وقسموا العمل بين جلسات عدة. وأضافت أنها لم تجد دليلاً على وجود جهاز تشغيلي، لكنها رصدت اختبار إطلاق لصاروخ موجّه قالت إنه يبدو أنه فشل.
محاولة روسية وبرنامج صيني
ورصدت Anthropic جهة تهديد مقرها الصين عملت في 3 مسارات متوازية لتطوير منظومة مضادة للطوربيدات، بينها إعداد مواصفات تقنية ومقترح فني يتجاوز 200 صفحة، ومقارنة المنظومة ببرامج أميركية مضادة للطوربيدات والغواصات اعتماداً على معلومات متاحة للعامة.
وقالت الشركة إن استخدام النموذج أدى إلى أتمتة إنتاج مخرجات تقنية معقدة، وتقليص الوقت اللازم لإعداد وثائق الاعتماد والامتثال ومنطق التحكم في إطلاق النار، فضلاً عن تسريع المراجعة البشرية عبر تكرار عمليات النقد والتحسين.
وفي روسيا، قالت Anthropic إنها رصدت جهات يُرجح أنها من عاملين مستقلين كانت تطور سرباً متكاملاً من مسيّرات FPV الانتحارية ذاتية التشغيل، مشيرة إلى أن النظام كان مصمماً لتنفيذ اشتباك قاتل بشكل مستقل، بما في ذلك اختيار أهداف وتنفيذ التفجير من دون تدخل إنسان في القرار النهائي.
أبحاث بيولوجية ذات استخدام مزدوج
وإلى جانب استخدام Claude في تطوير الأسلحة التقليدية، رصدت Anthropic 5 حالات استخدمت فيها نماذجها في أبحاث بيولوجية ذات استخدام مزدوج قد تُستخدم لأغراض ضارة.
وشملت الحالات طلباً للمساعدة في إعداد منحة بحثية مرتبطة بفيروس "شيكونجونيا"، وهو مرض ينقله البعوض، إضافة إلى أبحاث حول إنفلونزا الطيور، وفيروسات "الأورثوبوكس"، ومواد سامة، وهي مجالات قالت الشركة إن فوائدها العلمية والطبية ممكنة، لكنها قد تنتج معرفة خطرة أو تزيد مخاطر الحوادث المختبرية أو إساءة الاستخدام.
وقالت Anthropic إن بعض هذه الحالات يوضح صعوبة الاعتماد على المصنفات وحدها كإجراء حماية في المجالات البيولوجية شديدة التقنية وذات الاستخدام المزدوج، حيث يصعب تحديد نية المستخدم. وخلصت إلى أن الطريقة الآمنة لتوفير قدرات الذكاء الاصطناعي المتقدمة في الأبحاث البيولوجية هي إتاحتها ضمن برامج مخصصة لمستخدمين موثوق بهم.
سباق القدرات والسلامة
وتضع هذه الوقائع شركات الذكاء الاصطناعي أمام معادلة صعبة؛ فكل قدرة جديدة قد تعزز موقع الشركة في سباق التمويل والبنية التحتية والطروحات العامة الأولية، لكنها في الوقت نفسه قد توسع نطاق المخاطر إذا طُرحت قبل اكتمال اختبارات السلامة وآليات الرقابة.
ويرى أمودي أن الإبطاء المطلوب لا يعني وقف تدريب النماذج أو تجميد التقدم التقني، بل تنظيم الوتيرة بما يسمح للشركات بتخصيص وقت كافٍ لمواءمة النماذج وحمايتها، مع إخضاعها لتقييم مستقل قبل طرح قدرات أعلى.
تصنيفات
