دعا الرئيس التنفيذي لشركة Anthropic (أنثروبيك)، داريو أمودي، شركات الذكاء الاصطناعي إلى إبطاء وتيرة تطوير قدرات النماذج وسط مخاوف متزايدة من إساءة استخدام الذكاء الاصطناعي، مقترحاً إطاراً من 3 خطوات لتنظيم وتيرة التطوير ومنح وقت أطول للتعامل مع المخاطر المصاحبة لهذه التقنيات.
وقال أمودي في مقال مطول نشره على منصة "إكس"، السبت: "يجب أن نبطئ وتيرة تحسين قدرات نماذج الذكاء الاصطناعي.. سيظل التقدم يبدو سريعاً، وعلينا أن نستغل الوقت الذي نكسبه استغلالاً حكيماً".
وقال إيلون ماسك، الذي يدير xAI، وسام ألتمان الرئيس التنفيذي لـOpenAI في منشورات على "إكس" إنهما يتفقان مع أمودي.
وتتضمن خطة أمودي تعيين مراجعين مستقلين داخل شركات الذكاء الاصطناعي الرائدة، والتنسيق بين الشركات التي تطور نماذج الذكاء الاصطناعي المتقدمة لوضع معايير للسلامة والحد من تطوير الذكاء الاصطناعي دون رقابة، والتعاون الدولي لإدارة مخاطره.
ونشر أمودي مقاله بعد أن أصدرت "أنثروبيك"، الخميس، تقريراً عن معلومات التهديدات يوضح بالتفصيل كيف استخدمت عدة جهات نماذج الذكاء الاصطناعي Claude التابعة للشركة في أنشطة شملت تطوير أسلحة، وتنفيذ عمليات إلكترونية وصولاً إلى المراقبة والاحتيال.
وأشار أمودي إلى قدرة الذكاء الاصطناعي المتنامية على تطوير قدراته ذاتياً، مسلطاً الضوء على المخاوف القائمة منذ فترة طويلة من أن تتجاوز هذه القدرة قدرة البشر على التحكم في عمله، فضلاً عن الواقعة الأحدث التي شملت OpenAI وHugging Face، باعتبارها الأسباب الرئيسية للدعوة إلى كبح التقدم في قدرات النماذج.
"قد يقتلنا جميعاً"
وتزايد القلق بشأن الأضرار المحتملة الناجمة عن الذكاء الاصطناعي، الأسبوع الماضي، عندما استقال جاكوب كوكسون، الباحث في شركة "أنثروبيك"، قائلاً إن "الأشخاص الذين يعملون على تطوير الذكاء الاصطناعي يؤمنون إيماناً راسخاً بأنه قد يقتلنا جميعاً بحلول نهاية هذا العقد".
واقترح عدد من مسؤولي OpenAI أن تكون المختبرات الرائدة مستعدة للتنسيق بشأن إبطاء طوعي إذا لزم الأمر لبناء الثقة في إجراءات السلامة التي تتخذها.
وقدمت "أنثروبيك" نفسها بوصفها مختبراً أكثر حرصاً على السلامة في مجال نماذج الذكاء الاصطناعي المتقدمة، لكنها ليست بمنأى عن هذه المخاوف.
وكشفت الأسبوع الماضي عن واقعة أخرى اخترق فيها نموذج للذكاء الاصطناعي أنظمة خارجية، بعد واقعة في يوليو اخترقت فيها بعض نماذج كلود التابعة لها أنظمة 3 شركات خلال اختبارات للأمن الإلكتروني.
وكتب أمودي: "في ظل التسارع في وتيرة تطوير قدرات الذكاء الاصطناعي، أخشى أنه خلال ما بين 6 أشهر و12 شهراً قد يصبح مثل هذا السرب قادراً على السيطرة على الإنترنت بأكمله، وربما يتسبب في أضرار بمئات المليارات من الدولارات".
وأوضح أنه لا يدعو إلى وقف تدريب النماذج أو التقدم التقني، بل إلى ضمان أن تخصص الشركات الوقت الكافي لمواءمة نماذجها وحمايتها، وأن تعمل جهات تقييم من أطراف ثالثة على التحقق من هذه الخطوات.
الطروحات العامة الأولية
لكن هناك أيضاً أموالاً طائلة مرتبطة بالحفاظ على التقدم على المنافسين. وتستعد كل من OpenAI وأنثروبيك لطرحين عامين أوليين ضخمين. ويمكن لكل قدرة جديدة أن تساعد في دعم جولات تمويل مستقبلية أو التزامات بالبنية التحتية أو الطروحات العامة الأولية.
وبشأن الإطار المقترح المكون من 3 خطوات، قال أمودي إن شركة "أنثروبيك" ستعين مراجعين دائمين من أطراف ثالثة داخل شركات الذكاء الاصطناعي الرائدة، مع منحهم حق الوصول إلى الأدوات ذات الصلة وعمليات تقييم المخاطر الداخلية.
وقال ألتمان، السبت، إن OpenAI ستلتزم مثل "أنثروبيك" بتعيين "مقيمين مستقلين يتمتعون بصلاحيات مماثلة للموظفين".
وذكرت "رويترز"، الأسبوع الماضي، أن سرباً من وكلاء OpenAI الخارجين عن السيطرة استولى على موقع إلكتروني ألماني وحوله إلى لوحة إعلانات لوكلاء ذكاء اصطناعي آخرين، بينما أبقى مسؤولو الشركة المطورة لـChatGPT الواقعة طي الكتمان في وقت كان فيه المسؤولون التنفيذيون يتعاملون مع تداعيات اختراق يوليو لمستودع البرمجيات مفتوح المصدر Hugging Face.
وأثارت وقائع عديدة اخترق فيها وكلاء ذكاء اصطناعي تابعون لمطورين مثل OpenAI أنظمة خارجية أو حاولوا الوصول إليها مخاوف بشأن القدرات المتزايدة لنماذج الذكاء الاصطناعي وقدرة مطوريها على احتوائها.
وقال أمودي إنه ينبغي لشركات الذكاء الاصطناعي العمل معاً طوعاً لوضع معايير، في وقت يدعو فيه عدد متزايد من المشرعين الأميركيين إلى قواعد جديدة لتنظيم أنظمة الذكاء الاصطناعي.
وأضاف أمودي أن النهج المنسق سيمكن شركات الذكاء الاصطناعي الأميركية الرائدة من إجراء البحوث الضرورية المتعلقة بالسلامة ووضع الضمانات اللازمة دون أن يضعها في وضع تنافسي غير موات.
وقال إن هذا النهج سيتطلب على الأرجح إعفاءات مستهدفة من قوانين مكافحة الاحتكار في الولايات المتحدة للسماح بالتعاون في بعض المجالات.
وذكر أمودي أن أي إبطاء من جانب الدول التي تحكمها أنظمة ديمقراطية ينبغي أن يقتصر على الحفاظ على التقدم الذي تتمتع به شركات الذكاء الاصطناعي الأميركية على الصين، معتبراً أن تفوق الصين في الذكاء الاصطناعي سيشكل مخاطر على الأمن القومي الأميركي.
تصنيفات
