المشكلات شملت تقديم معلومات مغلوطة وتسريب بيانات حساسة

موظفو "أمازون" يكشفون عن مشكلات في المساعد الذكي Amazon Q.. والشركة تنفي

آدم سيليبسكي مدير قطاع الخدمات السحابية بشركة أمازون أثناء الإعلان عن المساعد الذكي "أمازون كيو" - Amazon
آدم سيليبسكي مدير قطاع الخدمات السحابية بشركة أمازون أثناء الإعلان عن المساعد الذكي "أمازون كيو" - Amazon
القاهرة-الشرق

حذر موظفون بشركة "أمازون" إدارة الشركة من وجود مشكلات في المساعد الذكي الجديد "Amazon Q" الذي طرحته، الخميس الماضي، منها أنه يتسبب في "تسريب بيانات حساسة"، عن بعض منتجات الشركة، ويقدم "معلومات مغلوطة"، وهو ما نفته الشركة.

وذكر موقع "ذا بلاتفورمر"، أن الموظفين قالوا إن المساعد الجديد يسرب بيانات حساسة عن الشركة، مثل المواقع الجغرافية لمراكز بيانات الخدمات السحابية (AWS)، وبرامج التخفيضات الداخلية بالشركة، وعدد من المزايا غير المعلنة.

ونقل الموقع عن أحد الموظفين قوله إن خطورة مشكلات المساعد التقنية، هي من الدرجة الثانية "SEV 2"، ما دفع عدداً من مهندسي الشركة للعمل لوقت أطول خلال عطلة نهاية الأسبوع، لحل المشكلات.

وقال الموقع: "على سبيل المثال، عندما سُئل المساعد عن طريقة لتأمين حسابات المستخدم، قدم أساليب تأمين ضعيفة، ما يضع خصوصية المستخدم في خطر".

"إجراء روتيني"

في المقابل قال المتحدث الرسمي للشركة، إن ردود فعل الموظفين على المنتجات التجريبية إجراء روتيني يعتمد عليه داخلياً لتطوير المنتجات قبل طرحها للمستخدمين، مؤكداً أن المساعد لم يتسبب في تسريب أية بيانات حساسة.

كان آدم سيليبسكي، مدير قطاع الخدمات السحابية (AWS)، قال في تصريحات لصحيفة "نيويورك تايمز"، في 28 نوفمبر، إن "كيو" مساعد ذكي يركز على قطاع الأعمال، ويقدم مستوى من الأمان والخصوصية أعلى مما تقدمه الروبوتات البرمجية الموجهة للمستخدمين مثل "ChatGPT".

وذكر الموقع أن المساعد يقدم معلومات مغلوطة أحياناً في سياق يجعل المستخدم يصدق إجاباته باعتبارها حقيقية ودقيقة، وهو ما يعرف باسم "هلاوس الذكاء الاصطناعي AI Hallucinations".

تصنيفات

قصص قد تهمك