مسابقة أمنية لاكتشاف ثغرات في أنظمة الذكاء الاصطناعي

شعار تطبيق ChatGPT الذي طورته شركة OpenAI للذكاء الاصطناعي. 23 فبراير 2023 - REUTERS
شعار تطبيق ChatGPT الذي طورته شركة OpenAI للذكاء الاصطناعي. 23 فبراير 2023 - REUTERS
القاهرة -الشرق

أعلنت إدارة ملتقى الباحثين الأمنيين السنوي DEF CON أن الدورة الجديدة من الملتقى هذا العام ستشهد تركيز مسابقة AI Village على اكتشاف ثغرات أمنية في أنظمة الذكاء الاصطناعي مثل ChatGPT من شركة OpenAI و"بارد" من جوجل.

وقالت إدارة الملتقى الذي يعقد في الفترة بين 10و13 أغسطس، في بيان، إن الإصدار الثالث من المسابقة سيضع هذا العام أمام الباحثين المشاركين مجموعة من أنظمة الذكاء الاصطناعي المطورة من جانب كبرى الشركات مثل جوجل وOpenAI وAnthropic وHugging Face، وStability AI، وNvidia، إلى جانب مشاركة من مايكروسوفت.

وتقام مسابقة هذا العام برعاية قطاع العلوم والتكنولوجيا والسياسات في البيت الأبيض، وجمعية الكونجرس للذكاء الاصطناعي، والمديرية الهندسية للعلوم والمعلومات والحاسوب (CISE) التابعة للمؤسسة الوطنية للعلوم.

وأشارت إدارة المسابقة إلى أن قرار تركيز المسابقة في المقام الأول على مشكلات أنظمة الذكاء الاصطناعي، نابع من المشكلات العديدة التي يواجهها العالم مع تلك الأنظمة، منذ العام الماضي، مثل هلاوس الذكاء الاصطناعي، ومحاولة التلاعب بتلك الأنظمة الذكية والتحيز في الإجابات المقدمة للمستخدمين.

وقال سفين كاتيل، مؤسس المسابقة، إنه على الرغم من أن الشركات التقنية العملاقة تتولى مهمة إجراء الدراسات البحثية على أنظمتها الذكية للتعرف على مشكلاتها وثغراتها التقنية، إلا أن نتائج تلك الدراسات يتم الاحتفاظ بها داخل الشركات، ونادراً ما يتم مشاركتها مع مجتمع أمن المعلومات، وبالتالي فإن المبادرة بوضع تلك الأنظمة في مرمى الباحثين الأمنيين لاستهدافها بهجماتهم الأمنية لاكتشاف مواضع ضعفها سيجعل من السهل حلها وجعل المجتمع البحثي قادر على المساهمة في تقديم تجربة آمنة لمستخدمي تلك الأنظمة.

ووعدت المسابقة بمشاركة نتائجها مع عموم الباحثين حول العالم، بحيث يكون متاح لهم إمكانية اختبار مشكلات أنظمة الذكاء الاصطناعي وكيفية حلها.

اقرأ أيضاً:

تصنيفات