القاهرة -
طرح باحثون بريطانيون إطاراً جديداً لحوكمة الذكاء الاصطناعي، أطلقوا عليه اسم "المبادئ الأربعة"، بهدف الحد من الأخطار الأخلاقية والأمنية للتقنيات المتقدمة، دون عرقلة الابتكار أو فرض قيود شاملة على تطوير الأنظمة الجديدة، في محاولة لإعادة صياغة النقاش العالمي بشأن مستقبل هذه التكنولوجيا سريعة التطور.
ويستند الإطار المقترح إلى 4 محاور، هي الفعل، والوصول، والسلطة، والتوزيع، ويركز على تحديد طبيعة الأخطار المرتبطة بالذكاء الاصطناعي، والجهات المسؤولة عن التعامل معها، والضمانات اللازمة لمنع وقوع أضرار جسيمة.
أعد المقترح الذي نشر في دورية "AI and Ethics"، الباحثان كيرتي براكاش، وإيان فان دير ليندي، من مركز أبحاث الحوسبة المتقدمة بجامعة أنجليا روسكين في بريطانيا، انطلاقاً من رؤية مفادها أن الجدل بشأن تسريع تطوير الذكاء الاصطناعي أو إبطائه لم يعد كافياً لمواجهة تحدياته المتزايدة.
حوكمة الذكاء الاصطناعي دون إبطاء الابتكار
يرى الباحثان أن الدعوات إلى إبطاء تطوير الأنظمة المتقدمة تمثل استجابة غير مكتملة؛ لأن قدرات الذكاء الاصطناعي لم تعد محصورة في شركة أو دولة واحدة، كما يمكن نسخ النماذج القائمة وتحسينها دون حاجة إلى تدريب نماذج جديدة من الصفر، فضلاً عن الضغوط التجارية، والتنافس الجيوسياسي، اللذين يصعبان تطبيق قيود موحدة.
ويعالج أول محور من الإطار الجديد، وهو "الفعل"، قدرة البشر على التحكم في سلوك أنظمة الذكاء الاصطناعي، خصوصاً عندما تتمتع بدرجات مرتفعة من الاستقلالية، بما يضمن إمكانية تقييد سلوكها، أو التدخل لإيقافها قبل اتخاذ إجراءات قد تترتب عليها عواقب خطيرة.
أما المحور الثاني "الوصول"، فيتناول تحديد الجهات والأفراد الذين ينبغي السماح لهم باستخدام القدرات المتقدمة، ولا سيما تلك التي قد يساء توظيفها في أنشطة ضارة، مع وضع ضوابط أمنية تتناسب مع مستوى الأخطار.
ويركز المحور الثالث، وهو "السلطة"، على القرارات التي يمكن تفويضها إلى أنظمة الذكاء الاصطناعي، وتلك التي يجب أن تظل خاضعة للحكم البشري، خصوصاً في المجالات الحساسة مثل الطب والعمليات العسكرية.
ويتعلق المحور الرابع "التوزيع" بكيفية توزيع المنافع والأعباء والنفوذ الناجم عن استخدام الذكاء الاصطناعي، ومنع تركز القدرات التكنولوجية، والسلطة المرتبطة بها لدى عدد محدود من الشركات، أو المؤسسات.
ويقترح الإطار توزيعاً واضحاً للمسؤوليات؛ بحيث تتولى الشركات المطورة وضع ضمانات التحكم في سلوك الأنظمة، وتختص الجهات التنظيمية بضبط الوصول إلى القدرات الحساسة، بينما تتحمل المؤسسات المستخدمة مسؤولية تحديد القرارات التي يمكن تفويضها للتكنولوجيا، وتتولى الحكومات والهيئات العامة معالجة قضايا العدالة، وتوزيع المنافع والأخطار.
ولا يكتفي المقترح بتحديد التدخلات المناسبة، بل يدعو أيضاً إلى تقييم آثارها غير المباشرة؛ فقد يؤدي تقييد الوصول إلى نموذج قوي إلى خفض أخطار إساءة استخدامه، لكنه قد يمنح عدداً محدوداً من المؤسسات سيطرة أكبر على التكنولوجيا، ما يخلق مشكلة جديدة تتعلق بتركيز النفوذ.
وقال المحاضر الأول في تطبيقات الذكاء الاصطناعي بجامعة أنجليا روسكين، كيرتي براكاش، إن اختزال النقاش في المفاضلة بين تسريع التطوير وإبطائه يتجاهل الاختلافات الجوهرية بين الأخطار، موضحاً أن فقدان السيطرة على نظام مستقل يختلف عن السماح بالوصول إلى قدرات خطيرة، أو تفويض قرارات طبية وعسكرية إلى الآلات.
وأضاف أن كل مشكلة تتطلب شكلاً مختلفاً من الحوكمة، بدلاً من التعامل مع أخطار الذكاء الاصطناعي باعتبارها تحدياً واحداً يمكن معالجته بإجراءات عامة.
وقال الأستاذ المشارك في علوم الحوسبة والمعلومات، فان دير ليندي، إن الحوكمة الفعالة تتطلب تجاوز قوائم المبادئ الأخلاقية العامة، وصولاً إلى تحديد القيود المطلوبة، والجهات المكلفة بتطبيقها، والمؤشرات التي تكشف فشلها، والإجراءات التصحيحية الواجب اتخاذها.
واستشهد الباحثان بـ"المختبر البريطاني للأمن البيولوجي المدعوم بالذكاء الاصطناعي"، الذي أعلنت الحكومة البريطانية تأسيسه، للاستفادة من النماذج المتقدمة في اكتشاف التهديدات البيولوجية وتطوير وسائل مواجهتها، عبر ترتيبات للوصول الموثوق إلى تقنيات شركات بينها OpenAI و"أنثروبيك" وGoogle DeepMind.
وحذر براكاش من أن تسارع القدرات بوتيرة تتجاوز قدرة المؤسسات على التكيف سيجعل السؤال عن مدى أمان الذكاء الاصطناعي غير كافٍ، مشدداً على ضرورة تحديد من يتحكم في الأنظمة، ومن يستطيع استخدامها، ومن يمتلك سلطة اتخاذ القرارات، ومن يتحمل تبعاتها.
تصنيفات
