القاهرة -
أطلقت شركة OpenAI ميزة جديدة داخل نموذج ChatGPT تحمل اسم Computer History، تتيح للمساعد الذكي تكوين سجل قابل للبحث للأنشطة التي ينفذها المستخدم على أجهزة ماك، من خلال تسجيل النقرات وضغطات لوحة المفاتيح واختصارات الكيبورد وعمليات التنقل بين التطبيقات.
وتهدف الميزة إلى تحويل هذه الأنشطة إلى نوع من الذاكرة الرقمية التي يمكن لـChatGPT الرجوع إليها لاحقاً، بما يسمح للمساعد باستعادة معلومات عما فعله المستخدم على جهازه واستخدامها كسياق عند الإجابة عن الأسئلة أو تنفيذ المهام.
وتثير الميزة مجموعة من المخاوف المتعلقة بالخصوصية والأمان، خصوصاً أن ملفات الذاكرة الناتجة عنها تُخزن محلياً على أجهزة المستخدمين بصيغة Markdown كنصوص عادية غير مشفرة.
كيف تعمل Computer History؟
تعتمد Computer History على إطار إمكانية الوصول Accessibility Framework داخل نظام macOS لجمع مجموعة من الأحداث المرتبطة بتفاعل المستخدم مع جهاز الكمبيوتر.
وتشمل البيانات التي تسجلها الميزة نقرات المستخدم بالفأرة، وضغطات لوحة المفاتيح، واختصارات الكيبورد، وعمليات الانتقال بين التطبيقات المختلفة.
وبعد تسجيل هذه الأحداث، تعمل OpenAI على تحويلها إلى سجل وذاكرة قابلة للبحث، يستطيع ChatGPT الاستفادة منها لاحقاً عندما يحتاج إلى استعادة سياق متعلق بأنشطة المستخدم السابقة على جهاز ماك.
ورغم أن وصف الميزة قد يوحي بأنها تراقب كل ما يحدث على شاشة الجهاز، إلا أن نطاق البيانات التي تجمعها أضيق من ذلك، لأنها لا تلتقط صوراً للشاشة، ولا تسجل فيديو للشاشة، ولا تستخدم الميكروفون، ولا تسجل الصوت الصادر من النظام، كما لا تشمل عمليات التصفح التي تتم داخل وضع التصفح الخاص Private Browsing.
وتمثل Computer History تعديلاً واضحاً على النهج الذي اتبعته OpenAI سابقاً مع ميزة Chronicle المرتبطة بأداة Codex.
وكانت Chronicle تعتمد على التقاط محتوى شاشة المستخدم بهدف بناء سياق يستطيع النظام الرجوع إليه لاحقاً.
أما الميزة الجديدة فتتخلى عن تسجيل صور الشاشة، وتعتمد بدلاً من ذلك على تسجيل أحداث الإدخال، مثل النقرات وضغطات لوحة المفاتيح والتنقل بين التطبيقات.
وبذلك تحاول OpenAI تقليل حجم ونوعية البيانات الحساسة التي تحتاج إلى جمعها من أجهزة المستخدمين، مع الإبقاء على إمكانية تكوين ذاكرة حول النشاط الذي ينفذونه على الكمبيوتر.
بيانات غير مشفرة
لكن أحد الجوانب الأساسية لم يتغير مقارنة بالنهج السابق، فملفات الذاكرة التي تنتجها Computer History يتم تخزينها محلياً على جهاز ماك في صورة ملفات نصية عادية، دون تشفير.
ويعني ذلك أن أي برنامج آخر يعمل باستخدام حساب macOS نفسه يمكنه، من الناحية التقنية، الوصول إلى هذه الملفات وقراءتها.
ويجعل هذا التصميم طبيعة البيانات التي يتم تخزينها داخل الذاكرة عاملاً مهماً عند تقييم مستوى الأمان والخصوصية الذي توفره الميزة.
تفعيل يدوي
اعتمدت OpenAI نظاماً متعدد المستويات للموافقة على تشغيل Computer History، خصوصاً داخل بيئات الشركات والمؤسسات، ففي مساحات العمل التابعة لخدمتي ChatGPT Business وChatGPT Enterprise، يتعين أولاً على مسؤول مساحة العمل تفعيل الميزة، وبعد ذلك يجب على المستخدم نفسه الموافقة بصورة منفصلة على استخدامها.
ويشترط تشغيل خاصية Memories في ChatGPT حتى تعمل Computer History، وبذلك لا يكفي أن يبدأ مسؤول المؤسسة تشغيل الخاصية، بل يحتاج كل مستخدم إلى الموافقة عليها بشكل مستقل.
تحكم كامل
توفر OpenAI للمستخدمين أيضاً أدوات للتحكم في نطاق التطبيقات والمواقع التي يمكن أن تتعامل معها Computer History، ويستطيع المستخدم إضافة تطبيقات أو مواقع إلى قوائم تسمح بإدراجها ضمن التسجيل، أو استبعادها منه، كما يمكن إيقاف عملية التسجيل مؤقتاً بصورة مباشرة من شريط القوائم Menu Bar في نظام macOS، وتمنح هذه الخيارات المستخدم إمكانية منع الميزة من تسجيل النشاط داخل تطبيقات أو خدمات بعينها إذا كان يرى أنها تحتوي على بيانات حساسة أو خاصة.
تفرق OpenAI بين ملفات الذاكرة الناتجة عن الميزة وبين ملفات الأحداث المؤقتة التي يتم جمعها أثناء عملية التسجيل، وتظل ملفات الأحداث المؤقتة مخزنة على جهاز المستخدم لمدة تصل إلى 48 ساعة قبل حذفها.
وتقول OpenAI إنها تعالج هذه البيانات على خوادمها، لكنها لا تحتفظ بها بعد انتهاء عملية المعالجة، إلا في الحالات التي يكون فيها الاحتفاظ بالبيانات مطلوباً بموجب القانون، وبالتالي فإن التسجيل الخام للأحداث يفترض أن يكون قصير الأجل، في حين تتحول المعلومات ذات الصلة إلى ملفات الذاكرة التي يستطيع ChatGPT الرجوع إليها لاحقاً.
وأشارت الشركة إلى أن ملفات الذاكرة التي تنشئها Computer History لا تُستخدم مباشرة في تدريب نماذج الذكاء الاصطناعي التابعة لها، إلا في حال ظهرت كسياق داخل محادثة مستقبلية، فحينها قد يدخل محتوى تلك المحادثة ضمن البيانات المستخدمة في تدريب نماذج OpenAI.
تشير وثائق OpenAI نفسها بصورة واضحة إلى وجود أخطار أمنية مرتبطة بالميزة، من أبرزها زيادة احتمالات التعرض لهجمات حقن الأوامر Prompt Injection، وهي هجمات يمكن من خلالها تضمين تعليمات خبيثة داخل محتوى يتعامل معه نموذج الذكاء الاصطناعي بهدف التأثير في سلوكه أو دفعه إلى تنفيذ إجراءات لم يقصدها المستخدم.
وتنصح الشركة الأميركية بعدم تشغيل Computer History مع تطبيقات التواصل والمراسلة إلا إذا حصل المستخدم على موافقة جميع الأشخاص المشاركين في المحادثات.
ويعكس هذا التحذير مشكلة أوسع تواجه صناعة الذكاء الاصطناعي، تتعلق بتسجيل أو معالجة محادثات وأصوات ومعلومات أشخاص آخرين قد لا يكونون على علم بأن أحد المشاركين يستخدم أداة قائمة على الذكاء الاصطناعي لتسجيل تلك التفاعلات أو تخزينها.
وتزداد المشكلة تعقيداً عندما تصبح هذه البيانات جزءاً من ذاكرة يستطيع مساعد ذكي البحث فيها واستدعاؤها مستقبلاً.
وشددت الشركة على ضرورة استبعاد التطبيقات والخدمات التي تتعامل مع معلومات شديدة الحساسية، مثل أي بيانات صحية، أو معلومات مالية، أو بيانات شخصية حساسة.
وتعكس هذه التوصيات إدراك الشركة أن تخزين معلومات من هذا النوع داخل ملفات نصية غير مشفرة قد يؤدي إلى زيادة مستوى الخطر في حال استطاع برنامج آخر يعمل على حساب المستخدم نفسه الوصول إليها.
تصنيفات
