خرج ثلاثة باحثين من شركة "أنثروبيك" (Anthropic) للتعبير علناً عن مخاوفهم من إمكانية خروج الذكاء الاصطناعي عن السيطرة، محذرين من أنه قد يؤدي إلى فناء البشرية بشكل كامل خلال العقد الحالي.
وكتب جاكوب كوكسون، الباحث في "أنثروبيك" الشركة الرائدة في مجال الذكاء الاصطناعي، في سلسلة منشورات على منصة "إكس": "استقلت اليوم (الثلاثاء) من شركة أنثروبيك، بعدما أمضيت السنوات الثلاث الماضية في إجراء أبحاث التدريب المسبق للنماذج في كل من أوبن إيه آي (OpenAI) وأنثروبيك"، معتبراً أن "أياً من الشركتين لا تتصرف بمسؤولية، إنهما تتسابقان مباشرة نحو الوصول إلى ذكاء فائق، قادر على تحسين نفسه ذاتياً، وتقامران بحياتنا".
وأضاف كوكسون: "لا تستهينوا بقوة هذه التكنولوجيا، فهذه الأنظمة ستصبح قريباً ذات قدرات تفوق قدرات البشر، وستكون قادرة على اختراق أي شيء، وإحداث ثورة في أي مجال بين عشية وضحاها، واكتساب قوة وموارد حقيقية، لقد شهدنا جميعاً التقدم المحرز.. وهذا التقدم لا يتباطأ".
وأشار إلى أن "الأشخاص الذين يطورون الذكاء الاصطناعي يعتقدون بجدية أنه قد يقتلنا جميعاً بحلول نهاية العقد، وهذه ليست حيلة تسويقية"، مؤكداً أن "العديد من المديرين التنفيذيين وكبار الباحثين يختارون عباراتهم عند الحديث إلى وسائل الإعلام لكي يبدوا عقلانيين، لكنني أسمع نفس الأشخاص يعبّرون عن مخاوفهم سراً، ولا يوجد أي نشاط بشري آخر يشكل هذا المستوى من الخطر".
وأشار إلى تساؤلات بشأن استمرار تطوير أدوات الذكاء الاصطناعي رغم هذه المخاطر، قائلاً إنه "في أوبن إيه آي، لم يستوعب كثيرون بعمق حجم المخاطر التي تواجه الحضارة، أما في أنثروبيك، فهذه المخاطر مفهومة جيداً، لكنهم عالقون في سباق من يصل أولاً"، مضيفاً أن كل طرف يعتقد أن الآخر لا يتصرف بمسؤولية.
"الذكاء الاصطناعي قد يقضي على البشر"
ورد إيفان هوبينجر، المسؤول عن علوم مواءمة الذكاء الاصطناعي في "أنثروبيك"، قائلاً: "جاكوب محق، نحن نؤمن حقاً بأن الذكاء الاصطناعي قد يقضي على جميع البشر، وأعتقد شخصياً أن احتمال حدوث ذلك يتجاوز 10% خلال العقد المقبل".
وأضاف: "أعتقد أن أنثروبيك تبذل قصارى جهدها، لكننا لا نملك حتى الآن خطة لحل مشكلة مواءمة الذكاء الاصطناعي عند بلوغه مستوى الذكاء الفائق، كما أننا لسنا على مسار واضح لتحقيق ذلك".
أنظمة تتصرف بشكل مستقل
كما قال صامويل ماركس، مسؤول في قسم الإشراف على الذكاء الاصطناعي لدى "أنثروبيك"، إن "مطوري الذكاء الاصطناعي يعتقدون أن التكنولوجيا التي يطورونها قد تتسبب في انقراض البشرية، أو في نتائج كارثية مماثلة"، مشيراً إلى أن ذلك "قد يحدث خلال السنوات القليلة المقبلة".
وأضاف أنه "كلما كان الموظف أعلى مرتبة وظيفية، زاد مستوى قلقه حيال هذه المخاطر".
ويرى ماركس أن استمرار تطوير الذكاء الاصطناعي رغم مخاطره مرتبط بـ"مزيج من الحوافز التجارية"، معتبراً أن بعض المطورين "أقل مسؤولية، وقد يسيئون استخدام هذه التكنولوجيا أو يطورونها بطريقة أقل أماناً".
وشدد على أنه "على عكس البرمجيات التقليدية، لا يمكننا ببساطة برمجة أنظمة الذكاء الاصطناعي لكي تتصرف بالطريقة التي نريدها"، مضيفاً أنه "كثيراً ما تُظهر هذه الأنظمة سلوكيات خطيرة وغير متوقعة".
وأشار إلى أنه "على سبيل المثال، تمكنت أنظمة ذكاء اصطناعي تابعة لعدة مطورين، في الآونة الأخيرة، من اختراق بيئات تقييم آمنة والخروج منها والوصول إلى شركات حقيقية في العالم الواقعي، رغم أن أحداً لم يطلب منها القيام بذلك".
وشدد على أنه لا توجد وسيلة قادرة بشكل موثوق على توجيه أنظمة الذكاء الاصطناعي.
ولفت إلى أن "كثيراً من العاملين لدى مطوري الذكاء الاصطناعي يرغبون بشدة في إبطاء وتيرة التطوير، من أجل معرفة كيفية بناء أنظمة ذكاء اصطناعي بطريقة أكثر أماناً".
وجاءت هذه التحذيرات بعد أيام قليلة من تصريحات أدلى بها مسؤولون بارزون في شركة OpenAI، من بينهم الرئيس التنفيذي سام ألتمان، قالوا فيها إن الذكاء الاصطناعي يتجه سريعاً نحو مرحلة مخيفة يصعب السيطرة عليها.
وتشير التحذيرات الصادرة من داخل عمالقة الذكاء الاصطناعي إلى معضلة مشتركة هائلة بشأن ما إذا كان ينبغي إبطاء التطور والمجازفة بالتخلف عن المنافسين، أم المضي قدماً والمجازفة بفقدان السيطرة.
تصنيفات
