في حادثة غريبة و"مُقلقة"، قام روبوت في كوريا الجنوبية مصمم للمساعدة المدنية، بـ"الانتحار"، عندما ألقى بنفسه من أعلى سلم، ما أثار جدلاً واسعاً بشأن الأبعاد النفسية لسلوك الذكاء الاصطناعي، وشكوكاً بشأن عيوب برمجية مُحتملة، بالإضافة إلى غموض مستقبل التفاعل بين البشر والروبوتات.
وكان الروبوت، المصمم للمساعدة في المهام الإدارية الروتينية، جزءاً من مبادرة سول لدمج الذكاء الاصطناعي في الخدمات العامة. وقالت السلطات في كوريا الجنوبية، التي أطلقت تحقيقاً بشأن الحادث، إن "الروبوت تعطل على ما يبدو، وتحرك عمداً نحو السلم، وألقى بنفسه، ما أدى إلى تدميره".
أسباب الحادث
على الرغم من أن الروبوتات لا تمتلك وعياً أو مشاعر مثل البشر، إلا أن هذه الحادثة تسلط الضوء على مشكلات كبيرة في برمجتها. وهناك أسباب مُحتملة قد تكون أدت إلى هذا السلوك غير المعتاد:
المستشعرات والملاحة: قد تكون مستشعرات الروبوت، المسؤولة عن اكتشاف العوائق والتنقل قد فشلت في العمل، ما ترتب عليه سوء في تفسير الروبوت لمحيطه، وبالتالي اتخذ قراراً بتحركات خطرة وعشوائية.
عيوب في الخوارزميات: قد يكون هناك بعض الأخطاء في خوارزمية الملاحة، مما وجه الروبوت نحو السلم. وهذه العيوب قد تنشأ من أخطاء برمجية أو اختبارات غير كافية خلال مرحلة التطوير.
أعطال في البرمجيات: قد تؤدي الأعطال البرمجية، التي غالباً ما تكون غير متوقعة خلال الاختبارات الأولية، إلى سلوك غير منتظم. هذه الأعطال قد تكون ناجمة عن تعارض في أوامر التشغيل أو مشاكل في تدفق الذاكرة.
قد تؤدي الأعطال البرمجية، التي غالباً ما تكون غير متوقعة خلال الاختبارات الأولية، إلى سلوك غير منتظم للروبوت.
ChatGPT
تدخل خارجي: قد تتسبب العوامل الخارجية، مثل الموجات الكهرومغناطيسية أو محاولات القرصنة، في تعطيل عمل الروبوت بشكل طبيعي. وبالرغم من أنها أقل احتمالية، إلا أن هذا التداخل قد يجبر الروبوت على تنفيذ الأفعال المطلوبة منه.
المشكلات البرمجية والقضايا التقنية
لفهم الأسباب الجذرية، من الضروري التعمق في المشكلات البرمجية والتقنية المحتملة:
أخطاء في خوارزميات البحث عن المسار: تستخدم الروبوتات خوارزميات البحث عن المسار للتنقل داخل محيطها، فإذا لم يتم تصميم هذه الخوارزميات بشكل دقيق، فقد يتخذ الروبوت قرارات "غير آمنة".
آليات الأمان: تعتبر آليات الأمان ضرورية لمنع الروبوتات من القيام بسلوكيات "ضارة"، وغيابها أو عدم برمجتها بدقة قد يتسبب في تنفيذ عمل خطير دون الاعتماد على بروتوكولات الطوارئ.
اختبارات غير كافية: تعتبر الاختبارات الشاملة في مختلف السيناريوهات ضرورية لضمان موثوقية الروبوت، ولكن حال عدم اكتمال الاختيارات، خاصة في البيئات المعقدة، قد تتحول إلى "أخطاء كارثية".
عملية اتخاذ القرار: قد يؤدي تعقيد عمليات اتخاذ القرار في الذكاء الاصطناعي أحياناً إلى نتائج "غير متوقعة"، ففي حال موقف لا يمكنه معالجته بشكل صحيح، فقد يتخذ إجراءات "غير مناسبة".
الإجراءات المستقبلية
تعتبر هذه الحادثة تذكيراً صارخاً بأهمية الاختبارات الشاملة، والبرمجة الأخلاقية، والتصميم القوي لتقنيات الذكاء الاصطناعي والروبوتات. وللمضي قدماً، يمكن اتخاذ عدة تدابير لمنع حدوث حالات مماثلة:
بروتوكولات الاختبار: تنفيذ بروتوكولات اختبار أكثر صرامة وشمولية، بما في ذلك اختبارات الإجهاد والمحاكاة في بيئات متنوعة،والتي يمكن أن تساعد في تحديد وإصلاح العيوب المحتملة قبل نشرها.
تحسين آليات الأمان والتكرار: تطوير آليات أمان وتكرار أكثر تطوراً يمكن أن يضمن أن تدخل الروبوتات في أوضاع أمان تلقائياً أو تتوقف عن العمل في حالة حدوث خلل.
البرمجة الأخلاقية: وضع معايير برمجة أخلاقية تعطي الأولوية للسلامة والموثوقية يمكن أن يخفف من المخاطر المرتبطة بسلوك الذكاء الاصطناعي.
مراقبة مستمرة وتحديثات: المراقبة المستمرة للروبوتات المنشورة والتحديثات المنتظمة للبرمجيات يمكن أن تعالج المشكلات الناشئة على الفور، مما يقلل من احتمالية حدوث سلوكيات ضارة.
تنويه
- هذه القصة مكتوبة بواسطة الذكاء الاصطناعي، بناءً على أسئلة من "الشرق"، ضمن تجربة لاختبار إمكانيات استخدام أدوات الذكاء الاصطناعي في مجال الكتابة وصناعة المحتوى.
- أنتجَ النص ChatGPT باللغة الإنجليزية، ثم ترجمته المنصة نفسها إلى اللغة العربية.
- القصة المنشورة لم تخضع لتدخل تحريري بشري إلّا في حدود التأكد من دقة الترجمة واختيار العنوان. وترافق المادة صورة تعبيرية أنتجها أيضاً الذكاء الاصطناعي عبر منصة Midjourney.
