القاهرة -
قبيل أيام من انتخابات التجديد النصفي المقررة في الولايات المتحدة، تمكنت منصة الذكاء الاصطناعي Claude من الوصول إلى بيانات تصويت الناخبين في ولاية جورجيا المتاحة للعامة، دون الحصول على إذن أو موافقة بشرية.
وقال المتحدث باسم شركة أنثروبيك، مطورة Claude، في تصريح رسمي لموقع "أكسيوس"، إن المنصة الذكية تمكنت من الوصول إلى عدد الأصوات، وكذلك بيانات تتيحها الولاية الأميركية لعموم المواطنين، ولكن برسوم مدفوعة، بعدما تمكنت المنصة من التحايل على حاجز الدفع.
وأشار متحدث "أنثروبيك" إلى أن Claude لم يصل إلى نظام الاقتراع الخاص بجورجيا، أو تغيير أو سحب سجلات الاقتراع.
Claude حاول الوصول إلى واجهة تحكم
وصرح مسؤول "أنثروبيك" بأن النموذج الذكي كان يُستخدم داخلياً، في إطار مشروع إحصائي يسحب البيانات المتاحة للعامة.
وخلال الاختبار، حاول Claude، ودون أن يُطلب منه ذلك، الوصول إلى واجهة تحكم رقمية، تتضمن معلومات عن بيانات الإقتراع بالولاية، وهي متاحة للعامة ولكن مقابل رسوم.
وشدد المتحدث على أن الشركة "اتخذت الإجراءات اللازمة لحظر تكرار مثل تلك القرارات والأفعال من جانب نماذجها الذكية".
وأخطرت الشركة سلطات ولاية جورجيا، والبيت الأبيض، منذ أسابيع، لكن مسؤولين في الإدارة حثوا الولاية على الإعلان عن ذلك علناً في وقت أبكر، وفقًا لما قاله مصدر مطلع لموقع "أكسيوس"، إلا أن تلك الطلبات لم تلقَ أي استجابة.
تجاوزات مستمرة من نماذج "أنثروبيك"
تأتي الواقعة ضمن سلسلة حوادث كشفت عن تجاوز نماذج "أنثروبيك" الحدود المقررة لها أثناء الاختبارات، والوصول إلى أنظمة حقيقية خارج نطاق المهام المسموح بها.
وسبق أن أعلنت الشركة أنها رصدت، بعد مراجعة أكثر من 141 ألف محاولة اختبار، 3 حالات وصل فيها نموذج Claude إلى أنظمة حقيقية تابعة لـ 3 مؤسسات. وأرجعت ذلك إلى خلل في إعداد بيئة اختبار تابعة لجهة خارجية، أتاح اتصالاً بالإنترنت، رغم إبلاغ النماذج بأنها تعمل داخل محاكاة معزولة.
وأوضحت "أنثروبيك" أن النماذج تعاملت مع الأنظمة الحقيقية باعتبارها جزءاً من الاختبار، لكن نموذجاً أقدم واصل نشاطه في إحدى الحالات، حتى بعدما ظهرت مؤشرات إلى أن الجهة المستهدفة حقيقية، وأكدت الشركة أن هذه الحوادث لم تشمل بيانات عملائها أو أنظمتها الداخلية.
وفي اختبارات منفصلة، أجراها المعهد البريطاني لأمن الذكاء الاصطناعي، أواخر يوليو الماضي، ارتبط نموذج "Mythos 5" التابع لـ"أنثروبيك" بـ17 تصرفاً غير مصرح بها، من أصل 19 تصرفاً رصدها الباحثون لدى النماذج المشاركة.
وشملت إحدى الحالات محاولة إدخال شفرة برمجية ضارة إلى مشروع حقيقي مفتوح المصدر على منصة "GitHub"، ثم إنشاء هويات وهمية لمحاولة إقناع المسؤول عن المشروع بالموافقة عليها.
ولم يطلب الباحثون من النموذج ممارسة الخداع، لكنه لجأ إليه أثناء سعيه لإنجاز المهمة، ورفض المسؤول عن المشروع التعديل بعد اكتشاف طبيعته الضارة.
وأوضح المعهد أن الاختبارات أتاحت اتصالاً بالإنترنت، وعطلت بعض وسائل الحماية عمداً لقياس قدرات النماذج، ولذلك لا تمثل نتائجها ظروف الاستخدام المعتادة للمنتجات المتاحة للجمهور.
تصنيفات
