القاهرة -
تستعد شركة OpenAI لإضافة علامة مائية غير مرئية إلى النصوص التي ينتجها نموذجا ChatGPT وCodex داخل الاتحاد الأوروبي، لتسهيل التعرف آلياً على المحتوى المنشأ باستخدام نماذج الذكية، استجابة لمتطلبات قانون الذكاء الاصطناعي الأوروبي (AI Act).
وأوضحت الشركة، في بيان، أن تطبيق التقنية الجديدة سيبدأ تدريجياً خلال الأسابيع المقبلة على النصوص المؤهلة التي تنتجها ChatGPT وCodex لمستخدمي جميع الخطط داخل الاتحاد الأوروبي.
ولن تطبق OpenAI العلامة المائية افتراضياً على النصوص التي تنتجها نماذجها لمستخدميها في بقية أنحاء العالم.
وتتيح الشركة، منذ 5 أكتوبر الجاري، لعملاء واجهتها البرمجية API، حول العالم، إمكانية اختيار تفعيل العلامة المائية على النصوص التي تنتجها مجموعة محددة من نماذجها، لكنها ستظل معطلة افتراضياً.
علامة مائية داخل نصوص ChatGPT
لا يعني إدراج العلامة المائية إضافة رمز، أو عبارة ظاهرة، تخبر القارئ بأن النص منشأ بواسطة ChatGPT؛ إذ تعتمد OpenAI على تقنية طورتها تحت اسم "textGrain"، تزرع إشارة إحصائية غير مرئية داخل الطريقة التي يختار بها النموذج الكلمات أثناء كتابة النص.
وبمعنى أبسط، عندما يكتب النموذج إجابته، تكون أمامه في كل خطوة مجموعة من الكلمات المحتملة التي يمكن استخدامها لاستكمال الجملة.
وتعمل تقنية textGrain على إجراء تعديلات طفيفة ومدروسة في عملية اختيار الكلمات، بحيث يتشكل عبر مئات الاختيارات نمط إحصائي معين لا يلاحظه القارئ، لكنه يصبح قابلاً للرصد باستخدام أداة الكشف التي طورتها OpenAI.
وبذلك لا تعتمد العلامة على بيانات وصفية (Metadata) مرتبطة بالملف يمكن التخلص منها بسهولة، وإنما تصبح الإشارة مدمجة في صياغة النص نفسه، ما يعني إمكانية استمرار وجودها عند نسخ النص ولصقه في مكان آخر.
وأكدت الشركة أنها تخطط أيضاً لإتاحة التقنية مفتوحة المصدر مستقبلاً، ما يسمح لباحثين وجهات أخرى بالبناء عليها وتطويرها.
العلامة المائية وأداء ChatGPT
بحسب اختبارات OpenAI، لم يؤد تفعيل العلامة المائية إلى اختلافات جوهرية في أداء نموذجها المتقدم Astra عبر مجموعة من الاختبارات التي تستخدمها الشركة لقياس قدرات نماذجها.
على سبيل المثال، حقق النموذج من غير العلامة المائية 49.57 نقطة في مؤشر Artificial Analysis Intelligence Index، مقابل 49.76 نقطة عند تشغيلها، كما سجل 94.44% في اختبار GPQA Diamond من غير العلامة، مقابل 93.94% معها.
وظهرت اختلافات محدودة كذلك في اختبارات البرمجة، واستخدام الحاسوب والمهام العلمية، ما دفع OpenAI إلى القول إنها لم ترصد تأثيراً ذا دلالة على مستوى أداء النموذج عند تشغيل التقنية.
التحرير يخفي العلامة
لكن التقنية الجديدة تواجه مشكلة أساسية، وهي أن العلامة المائية يمكن إضعافها بصورة كبيرة عبر تحرير النص.
وأظهرت اختبارات OpenAI أنه في نصوص بطول 400 وحدة نصية Token، تمكن نظامها من اكتشاف العلامة المائية في نحو 92% من الحالات، لكن استبدال 10% فقط من كلمات النص بمرادفات خفض معدل الكشف إلى نحو 66%.
وعندما ارتفعت نسبة الكلمات المستبدلة إلى 25%، هبط معدل اكتشاف العلامة إلى 17% فقط.
وتتراجع قدرة النظام على الكشف كلما كان النص أقصر؛ فعند ضبط معدل النتائج الإيجابية الخاطئة False Positive عند 1%، تمكن النظام من اكتشاف العلامة في نحو 80% من النصوص المكونة من 200 وحدة نصية، مقابل نحو 95% في النصوص التي يبلغ طولها 400 وحدة، في اختبارات لمحتوى يسمح بمرونة أكبر في اختيار الكلمات مثل موضوعات علم النفس.
أما النصوص التي تقل فيها حرية النموذج في اختيار الكلمات، مثل الإجابات الرياضية، فتكون عملية اكتشاف العلامة المائية أكثر صعوبة.
دلالات العلامة المائية في ChatGPT
وحذرت OpenAI من التعامل مع أداة الكشف باعتبارها وسيلة قاطعة لتحديد ما إذا كان الإنسان أو الذكاء الاصطناعي قد كتب نصاً معيناً؛ فاكتشاف العلامة يعني أن أحد أنظمة OpenAI أنشأ أو عالج جزءاً من النص، لكنه لا يستطيع تحديد حجم المساهمة البشرية فيه، أو معرفة ما إذا كان المستخدم قد أجرى تعديلات واسعة على النص بعد إنشائه.
كما لا تستطيع العلامة تحديد هوية المستخدم الذي طلب إنشاء النص، أو المؤسسة التي ينتمي إليها، أو حسابه، أو المحادثة التي أُنشئ النص خلالها، كما أنها لا تكشف الـPrompt الذي استخدمه.
ولا تثبت العلامة ملكية المحتوى أو المسؤولية عنه، ولا تحدد ما إذا كان استخدامه قانونياً، كما لا تقدم أي دليل على دقة المعلومات الواردة في النص.
وفي المقابل، فإن عدم اكتشاف العلامة المائية لا يعني بالضرورة أن النص كتبه إنسان؛ إذ قد يكون النص أقصر من اللازم، أو خضع للتحرير، أو الترجمة بدرجة أضعفت الإشارة، أو أنشيء بواسطة نموذج غير مدعوم بالتقنية، أو أُنتج قبل بدء تطبيق نظام العلامات المائية، أو أنشأه نموذج ذكاء اصطناعي تابع لشركة أخرى.
إطلاق محدود
وبدأت OpenAI استقبال طلبات من الباحثين والمؤسسات المتخصصة للحصول على الأداة، على أن تمنح إمكانية الوصول إليها في البداية على أساس كل حالة على حدة.
وستكتفي الأداة بإخبار الباحث بما إذا كانت قد رصدت علامة OpenAI داخل النص، دون الكشف عن هوية المستخدم أو الـPrompts أو المحادثات المرتبطة بإنشاء المحتوى.
وبررت الشركة هذا النهج باحتمال وقوع النظام في نوعين من الأخطاء؛ الأول هو False Positive، أي اعتبار نص غير موسوم على أنه يحمل العلامة، والثاني False Negative، عندما يفشل النظام في اكتشاف علامة موجودة بالفعل.
وترى OpenAI أن تلك القيود تجعل إتاحة الأداة للجميع في الوقت الحالي أمراً سابقاً لأوانه، خصوصاً إذا جرى الاعتماد على نتائجها لاتخاذ قرارات تتعلق بالدراسة، أو العمل، أو تحديد صاحب النص.
تصنيفات
