كشفت شركة "أنثروبيك" (Anthropic) أن نموذج الذكاء الاصطناعي "كلود" (Claude) بات يتولى دوراً قيادياً في 26% من أعمال البحث والتطوير الخاصة بالنماذج الجديدة داخل الشركة، مقارنة بأقل من 1% في فبراير، في مؤشر على تزايد اعتماد شركات الذكاء الاصطناعي على أنظمتها نفسها في تطوير أجيال جديدة من هذه التكنولوجيا.
وقالت الشركة، الخميس، إن "كلود" يستطيع حالياً تولي الدور القيادي في نحو 26% من مهام البحث والتطوير، وفق مقياس تستخدمه لقياس مستوى مساهمة الذكاء الاصطناعي في العمل، وفق ما أوردت صحيفة "واشنطن بوست".
ويعني مستوى "القيادة" أن النظام يستطيع إنجاز معظم المهمة من البداية إلى النهاية استناداً إلى توجيه عام، بينما يظل الإنسان مشرفاً عليها.
وأكدت "أنثروبيك" أن "كلود" لا يعمل حتى الآن بصورة مستقلة بالكامل في أي جزء من أعمال البحث والتطوير التي جرى قياسها، كما أن أكثر من 90% من هذه الأعمال تتم بمشاركة الذكاء الاصطناعي بدرجات مختلفة.
"تحسين ذاتي"
وترتبط هذه التطورات بما يُعرف بـ"التحسين الذاتي التكراري" (Recursive Self Improvement)، أي قدرة نظام ذكاء اصطناعي على المساهمة في تطوير نسخة أكثر تقدماً من نفسه، وصولاً نظرياً إلى مرحلة يمكن فيها للنظام أن يصمم ويطور خليفته بصورة مستقلة.
وقالت "أنثروبيك" إن العالم لم يصل إلى هذه المرحلة بعد، وإن "التحسين الذاتي التكراري" ليس أمراً حتمياً، لكنها حذرت من أنه قد يصبح أقرب مما تستعد له معظم المؤسسات.
وأضافت الشركة أن زيادة اعتماد الذكاء الاصطناعي على تطوير الذكاء الاصطناعي نفسه قد تجعل من الصعب على البشر فهم هذه الأنظمة والسيطرة عليها، ولذلك دعت إلى نشر مؤشرات دورية لقياس مدى التقدم في هذا المسار.
30 ألف وكيل ذكاء اصطناعي
وكشفت "أنثروبيك" أيضاً عن استخدام نحو 30 ألف وكيل للذكاء الاصطناعي في أعمال البحث والهندسة داخل منصتها الداخلية الأكثر استخداماً.
وقالت إن هؤلاء الوكلاء الداخليين يخضعون لنوعين من أنظمة المراقبة، وهما: أنظمة تعمل في الوقت الفعلي لمنع الأنشطة الخطرة أو توجيه السلوك غير المرغوب فيه، وأنظمة أخرى تراجع نشاط الوكلاء بعد حدوثه لرصد مؤشرات السلوك الخطِر أو عدم التوافق.
كما تخصص الشركة نحو 6% من قدرتها الحوسبية المستخدمة في البحث والتطوير لأعمال السلامة، بحسب البيانات التي نشرتها.
وأوضحت "أنثروبيك" أن أي شركة تطور نماذج ذكاء اصطناعي متقدمة يمكنها نشر مؤشرات مماثلة بصورة منتظمة باستخدام منهجيات علنية، بما يسمح بمقارنة وتيرة تطور الأنظمة بين الشركات بمرور الوقت.
وأقرت الشركة بوجود مشكلة في المقارنة بين الشركات، لعدم وجود منهجية موحدة لقياس مساهمة الذكاء الاصطناعي في أعمال التطوير. كما أشارت إلى أن استخدامها نماذجها الخاصة لتقييم هذه المساهمة قد يخلق مخاطر تتعلق بدقة القياس، ولذلك اقترحت الاستعانة بجهات مستقلة أو شركات أخرى للتحقق من النتائج.
أمودي يدعو إلى إبطاء التطوير
ويأتي إعلان "أنثروبيك" بعد أيام من دعوة رئيسها التنفيذي داريو أمودي شركات الذكاء الاصطناعي المتقدمة إلى تنسيق الجهود "لإبطاء وتيرة" تطوير التكنولوجيا، وإتاحة مزيد من الوقت لبناء ضوابط السلامة.
وحظيت الدعوة بتأييد الرئيس التنفيذي لـ"أوبن إيه آي" (OpenAI) سام ألتمان، بينما انتقدها الرئيس الأميركي دونالد ترمب، الذي يضغط من أجل تسريع تطوير الذكاء الاصطناعي والحفاظ على تقدم الولايات المتحدة على الصين.
وتزايدت المخاوف بشأن مخاطر فقدان السيطرة على أنظمة الذكاء الاصطناعي بعد سلسلة من الحوادث التي كشفت قدرة الوكلاء على تنفيذ مهام معقدة بصورة متزايدة، بما في ذلك الوصول إلى أنظمة إلكترونية وتنفيذ عمليات لم تكن متوقعة من مطوريها.
وأعادت "أنثروبيك" من خلال بياناتها الجديدة طرح سؤال أوسع بشأن سرعة اقتراب الذكاء الاصطناعي من مرحلة يصبح فيها تطويره معتمداً بصورة متزايدة على الذكاء الاصطناعي نفسه، ومدى قدرة إجراءات السلامة والرقابة البشرية على مواكبة هذا التطور.
ولا يعني تولي "كلود" دوراً قيادياً في 26% من مهام البحث والتطوير أن الشركة بلغت مرحلة التحسين الذاتي المستقل، لكنه يكشف عن انتقال جزء متزايد من دورة تطوير الذكاء الاصطناعي من العمل البشري المباشر إلى أنظمة الذكاء الاصطناعي نفسها.
تصنيفات
