"أنثروبيك": الذكاء الاصطناعي يقترب من تطوير نفسه بالكامل ولا بد من "وقفة" لإدارة المخاطر

حذرت شركة "أنثروبيك" الأميركية من أن الذكاء الاصطناعي يقترب من امتلاك القدرة على تصميم وتطوير نفسه بالكامل، مشيرة إلى أن التطورات المتسارعة في قدرات النماذج المتقدمة يمكن أن تقودنا خلال سنوات قليلة إلى مرحلة تصبح فيها نماذج الذكاء الاصطناعي قادرة على تصميم وتطوير أجيالها اللاحقة بصورة مستقلة، في تحول وصفته بأنه قد يكون من أهم الأحداث التقنية في تاريخ البشرية.

واعتبرت ورقة بحثية مطولة نشرها "معهد أنثروبيك"، الذراع البحثية للشركة، أن الذكاء الاصطناعي تجاوز مرحلة أنه مجرد أداة يستخدمها الباحثون والمهندسون، إلى كونه مشاركاً فاعلاً في تطوير أنظمته نفسها، وأشارت إلى أن هذه العملية تتسارع بصورة ملحوظة مع كل جيل جديد من النماذج.

وأطلقت الشركة على هذا الاحتمال اسم "التحسين الذاتي التكراري" (Recursive Self-Improvement)، وهو سيناريو تصبح فيه الأنظمة الذكية قادرة على تصميم وتحسين وتدريب الأجيال اللاحقة بصورة ذاتية، ما يؤدي إلى تسارع مستمر في وتيرة التطور دون حاجة إلى تدخل بشري مباشر في معظم مراحل العملية.

وقالت الورقة إن هذا السيناريو ليس واقعاً حالياً، كما أنه ليس حتمياً، لكنه قد يصبح أقرب بكثير مما تتوقعه الحكومات والمؤسسات والمجتمعات.

واستندت "أنثروبيك" إلى بيانات داخلية ونتائج اختبارات عامة لإثبات أن النماذج الحديثة باتت تساهم بالفعل في تطوير النماذج اللاحقة.

وأوضحت أن مهندسي الشركة ينجزون اليوم في المتوسط ما يعادل 8 أضعاف الشيفرات البرمجية التي كانوا ينجزونها قبل سنوات قليلة، بفضل الاعتماد المكثف على نموذج الذكاء الاصطناعي الرئيسي للشركة Claude.

ووفقاً للبيانات التي كشفتها الورقة، فإن أكثر من 80% من الشيفرات التي تُدمج حالياً في قاعدة البرمجيات الخاصة بـ"أنثروبيك" يكتبها Claude نفسه، بعدما كانت هذه النسبة لا تتجاوز أرقاماً محدودة للغاية قبل إطلاق أدوات البرمجة الخاصة بالنموذج في عام 2025.

وتقول الشركة إن دور المهندسين يتغير تدريجياً من كتابة الشيفرات إلى الإشراف عليها ومراجعتها وتحديد الأهداف المطلوب تحقيقها.

"التعامل مع مشكلات معقدة"

وأضافت أن النماذج الحديثة لم تعد تقتصر على تنفيذ تعليمات محددة، بل أصبحت قادرة على التعامل مع مشكلات معقدة ومفتوحة النهاية، واكتشاف أسباب الأعطال البرمجية، واقتراح حلول جديدة، بل وحتى تصميم تجارب بحثية كاملة وتنفيذها.

ووفقاً للورقة، فإن التقدم الأكثر أهمية لا يتمثل في كتابة الشيفرات فحسب، بل في توسع قدرة النماذج على أداء أدوار كانت تعتبر حتى وقت قريب حكراً على الباحثين.

وأشارت إلى أن Claude بات قادراً على تنفيذ تجارب بحثية معقدة وتحسين الخوارزميات بصورة تفوق أداء الباحثين البشر في بعض المهام المحددة.

كما عرضت الشركة نتائج تجربة أجرتها خلال عام 2026، تمكن فيها مجموعة من الوكلاء المعتمدين على Claude من إدارة مشروع بحثي كامل في مجال سلامة الذكاء الاصطناعي، بدءاً من وضع الفرضيات واختبارها وصولاً إلى تحليل النتائج وتبادل المعارف بين الوكلاء.

ورغم أن الباحثين البشر هم الذين اختاروا المشكلة، وحددوا معايير التقييم، فإن النظام صمم جميع التجارب بنفسه تقريباً.

وترى "أنثروبيك" أن هذا النوع من النتائج يمثل مؤشراً مبكراً على أن القدرات التي كانت تعد "بشرية خالصة" قد لا تبقى كذلك لفترة طويلة.

ورغم هذا التقدم، تؤكد الشركة أن هناك جانباً رئيسياً لا يزال يمثل نقطة تفوق للبشر، وهو ما تسميه "الذوق البحثي" أو القدرة على إصدار الأحكام الاستراتيجية.

ويشمل ذلك تحديد المشكلات التي تستحق الدراسة، واختيار المسارات الواعدة، والتمييز بين النتائج المهمة وتلك التي لا  غير المهمة.

لكن الورقة تثير احتمالاً مقلقاً يتمثل في أن هذه القدرة نفسها قد تتحسن تدريجياً لدى نماذج الذكاء الاصطناعي، تماماً كما حدث مع مهارات أخرى كان يُعتقد سابقاً أنها بعيدة عن متناول الذكاء الاصطناعي.

وقالت إن أنظمة الذكاء الاصطناعي سبق أن فاجأت الباحثين في عدة مجالات، مثل تفسير النكات، وفهم النوايا البشرية، وحل الألغاز اللغوية المعقدة، بعد أن كان يُعتقد أن هذه القدرات تتطلب فهماً بشرياً عميقاً.

3 سيناريوهات للمستقبل

ورسمت الورقة البحثية لـ"أنثروبيك" 3 سيناريوهات رئيسية لمستقبل الذكاء الاصطناعي، يمثل أولها في تباطؤ التقدم الحالي نتيجة الوصول إلى حدود تقنية أو مادية، مثل نقص الطاقة أو القدرة الحاسوبية أو الحاجة إلى أفكار جديدة تتجاوز معمارية "ترانسفورمر" التي تقوم عليها النماذج الحالية.

أما السيناريو الثاني، الذي تعتبره الشركة الأكثر ترجيحاً، فيقوم على استمرار المكاسب الكبيرة في الكفاءة مع بقاء البشر مسؤولين عن تحديد الاتجاهات البحثية الرئيسية، بينما تتولى الأنظمة الذكية الجزء الأكبر من التنفيذ.

وفي هذا السيناريو قد تتمكن شركة تضم 100 موظف فقط من إنجاز أعمال كانت تحتاج سابقاً إلى مؤسسات تضم عشرات الآلاف من العاملين.

أما السيناريو الثالث والأكثر دراماتيكية، فيفترض أن تصل الأنظمة إلى القدرة الكاملة على تطوير أجيالها اللاحقة وتحسين نفسها ذاتياً.

وفي هذه الحالة، تقول الشركة إن سرعة التقدم ستصبح مرتبطة أساساً بتوافر القدرة الحاسوبية، بينما يتراجع دور البشر إلى الإشراف والتحقق من النتائج.

دعوة إلى "زر إيقاف" عالمي

ورغم الحماس الواضح للإمكانات العلمية والاقتصادية لهذه التكنولوجيا، حذرت "أنثروبيك" من المخاطر التي قد تنجم عن وصول الذكاء الاصطناعي إلى مرحلة التطوير الذاتي الكامل.

وقالت إن العالم يجب أن يمتلك خياراً يسمح بإبطاء أو تعليق تطوير النماذج المتقدمة إذا أصبحت المخاطر أكبر من قدرة المؤسسات على إدارتها.

وأضافت أن وجود مثل هذا الخيار يتطلب بناء آليات دولية للرقابة والتحقق تسمح بالتأكد من أن جميع الأطراف الرئيسية تلتزم بالاتفاقات نفسها.

وحذرت من أن أي توقف أحادي الجانب من قبل شركة واحدة لن يكون كافياً، لأن الجهات الأخرى قد تستغل ذلك لمواصلة التقدم والاستحواذ على الصدارة.

ودعا جاك كلارك، الشريك المؤسس لـ"أنثروبيك"، إلى امتلاك القدرة على إبطاء تقدم الذكاء الاصطناعي، محذراً من أن التكنولوجيا تقترب من نقطة قد تصبح فيها قادرة على التطور من دون تدخل بشري.

وقال كلارك لبرنامج "نيوزنايت" على هيئة الإذاعة البريطانية BBC: "تريد أن يكون لديك خيار رفع قدمك عن دواسة الوقود ووضعها على دواسة الفرامل".

وأضاف: "في الوقت الحالي، الأمر أشبه بأن صناعة الذكاء الاصطناعي تمتلك دواسة تسارع، لكنها لا تمتلك دواسة فرامل".

وشدد على ضرورة أن يحافظ البشر، من خلال السياسات الحكومية، على السيطرة على أنظمة الذكاء الاصطناعي التي ستصبح أكثر قوة وتأثيراً في المجتمع مع مرور الوقت.

وقال: "العالم بحاجة إلى التفكير في هذه المسألة، ونحن بحاجة في نهاية المطاف إلى تطوير لوائح تنظيمية جديدة تسمح لنا بالثقة في هذه الأنظمة".

وأوضح أن روبوت المحادثة الشهير Claude التابع لـ"أنثروبيك" يعمل حالياً باستخدام شيفرات برمجية كتب النظام نفسه نحو 80% منها.

وأضاف أن الوصول إلى نسبة 100% ممكن خلال عامين، وأن ذلك "سيحمل تداعيات هائلة".

ولم يوضح كلارك كيف يمكن إنشاء "دواسة فرامل" لأبحاث وتطوير الذكاء الاصطناعي، لكنه عقد مقارنة بين الذكاء الاصطناعي وطفرة النفط وأباطرة النفط في مطلع القرن الماضي.

وقال: "كان رد فعل المجتمع آنذاك هو وضع سياسات وإطار تنظيمي معقول منح الناس الثقة في النفط، وفي الفوائد التي يمكن أن يقدمها للعالم، وجعلهم لا يحتاجون إلى القلق بشأن شخصيات الأفراد الذين يديرون الشركات".

وأضاف: "ومن الواضح أن هذا هو الاتجاه الذي سننتهي إليه هنا أيضاً".

"سباق التسلح"

وشبهت "أنثروبيك" الحاجة إلى آليات التحقق الدولية في مجال الذكاء الاصطناعي بالتجارب السابقة الخاصة بالحد من التسلح النووي والصاروخي.

غير أنها أشارت إلى أن المهمة الحالية أكثر تعقيداً بكثير، فبينما يمكن رصد منصات الصواريخ أو المنشآت النووية بالأقمار الاصطناعية وأدوات المراقبة التقليدية، فإن تدريب نماذج الذكاء الاصطناعي يمكن أن يتم داخل مراكز بيانات يصعب اكتشافها، كما أن المعدات المستخدمة لها استخدامات مدنية وتجارية مشروعة.

وقالت الشركة إن أي اتفاق دولي فعال يجب ألا يقتصر على الولايات المتحدة وحلفائها، بل يجب أن يشمل أيضاً القوى المنافسة، وفي مقدمتها الصين، لأن أي تباطؤ لا يشارك فيه جميع الفاعلين الرئيسيين قد يفشل في تحقيق أهدافه.

وخلصت "أنثروبيك" إلى أن العالم لا يزال يمتلك فرصة لمناقشة هذه التحولات والاستعداد لها، لكن هذه الفرصة قد لا تستمر طويلاً إذا واصلت النماذج الحالية التقدم بالمعدلات نفسها.

وقالت إن السؤال لم يعد ما إذا كان الذكاء الاصطناعي سيشارك في تطوير نفسه، لأن ذلك يحدث بالفعل، بل إلى أي مدى يمكن أن يمتد هذا الدور، وما إذا كانت الأنظمة المقبلة ستظل بحاجة إلى البشر لتطويرها أم ستصبح قادرة على تولي المهمة بنفسها.

وأضافت أن الوصول إلى مرحلة يستطيع فيها الذكاء الاصطناعي بناء الجيل التالي من الذكاء الاصطناعي قد يمثل بداية عصر جديد من التقدم العلمي والتكنولوجي، لكنه قد يفتح أيضاً الباب أمام مخاطر غير مسبوقة إذا لم تُبنَ آليات رقابة وتنسيق دولية قادرة على مواكبة سرعة هذا التحول.