القاهرة -
حذر باحثون أميركيون من أن الاعتماد المتزايد على روبوتات المحادثة المدعومة بالذكاء الاصطناعي للحصول على معلومات واستشارات صحية قد يؤدي إلى أضرار يصعب اكتشافها أو تتبع أسبابها، في ظل غياب أنظمة مستقلة لمراقبة ما تقدمه هذه التطبيقات للمستخدمين وآليات واضحة للإبلاغ عن الأخطاء الناجمة عنها.
وقال الباحثون، في ورقة علمية نُشرت في دورية Nature Health، إن الخطر لا يقتصر على احتمال تقديم معلومات طبية غير دقيقة، بل يمتد إلى ما وصفوه بـ"الاختفاء الهيكلي للأضرار" إذ تبقى المحادثات التي قد تؤدي إلى قرارات صحية خطيرة داخل المنصات التابعة لشركات التكنولوجيا، بعيداً عن متناول الأطباء والباحثين والجهات التنظيمية المسؤولة عن حماية الصحة العامة.
وأعد الورقة باحثون من جامعات "ستانفورد" و"بينجهامتون" و"تكساس إيه آند إم"و"إنديانا"، بهدف دراسة المخاطر المرتبطة باستخدام أنظمة الذكاء الاصطناعي التوليدي في تقديم المعلومات الصحية، سواء من خلال المحادثات المباشرة مع المستخدمين أو الملخصات الآلية التي تظهر في محركات البحث ومواقع التواصل الاجتماعي.
وأوضح الباحثون أن التطبيقات المدعومة بنماذج لغوية كبيرة تستطيع تقديم تفسيرات طبية مبسطة والإجابة عن الأسئلة الصحية على مدار الساعة، بما يساعد الأشخاص الذين يواجهون صعوبات لغوية أو محدودية في الوصول إلى الخدمات الطبية. لكن هذه المزايا تقابلها مخاطر تتعلق بإنتاج إجابات خاطئة تبدو واثقة ومقنعة، أو تبسيط مسائل طبية معقدة بصورة مضللة، أو الاستناد إلى معلومات قديمة وادعاءات غير صحيحة.
صعوبات التحقيق
واستشهد الباحثون بحالة رجل في الـ60 من عمره أُدخل المستشفى بعد إصابته بتسمم البروميد، بعدما قال إنه استخدم "شات جي بي تي" Chat GPT للحصول على معلومات بشأن تقليل الكلوريد في نظامه الغذائي، ثم استبدل ملح الطعام، أو كلوريد الصوديوم، ببروميد الصوديوم وهو مركب كيميائي لا يصلح بديلاً غذائياً آمناً للملح لمدة 3 أشهر.
وأدى استهلاك المركب إلى إصابة الرجل بتسمم البروميد ودخوله المستشفى بعدما ظهرت عليه أعراض عصبية ونفسية شملت الهلوسة والارتياب. ولم يتمكن الأطباء من الاطلاع على المحادثة الأصلية التي أجراها المريض مع التطبيق، ما حال دون تحديد المعلومات التي تلقاها بدقة أو إعادة بناء التسلسل الذي دفعه إلى اتخاذ هذا القرار.
وأشار الباحثون إلى أن هذه الواقعة، التي سبق توثيقها في تقرير طبي منشور عام 2025، تكشف صعوبة التحقيق في الحوادث الصحية المرتبطة بالذكاء الاصطناعي. كما أنعدم استعادة المحادثة يمنع الجزم بما إذا كان التطبيق قد أوصى مباشرة باستخدام المركب، أو بكيفية تفسير المستخدم المعلومات التي تلقاها.
وقال المؤلف المشارك في الدراسة، كاي تشينج يانج، الأستاذ المساعد في كلية الحوسبة بجامعة بينجهامتون الأميركية، إن ملايين المستخدمين باتوا يتلقون معلومات طبية من روبوتات المحادثة، بينما لا توجد رقابة كافية تسمح بتتبع الأخطاء الناتجة عن هذه التفاعلات أو معرفة حجم الأضرار التي قد تتسبب فيها.
وأضاف أن المشكلة تكمن في أن النصائح الطبية التي تقدمها هذه الأنظمة لا تخضع لآليات التوثيق والمراجعة المعمول بها في المؤسسات الصحية، إذ لا تُسجل عادة ضمن الملفات الطبية للمرضى، ولا تتوافر للباحثين المستقلين بيانات كافية لتقييم تأثيرها على القرارات العلاجية.
ويرى الباحثون أن هذا الوضع يخلق فجوة خطيرة في أنظمة سلامة المرضى، لأن اكتشاف الأخطاء الطبية التقليدية يعتمد على وجود سجلات يمكن مراجعتها، وشكاوى يمكن التحقيق فيها، وبيانات تسمح بتحديد الأنماط المتكررة للأضرار. أما في حالة روبوتات المحادثة، فقد يتخذ المستخدم قراراً صحياً بناءً على إجابة خاطئة دون أن يعرف طبيبه مصدر المعلومة أو تتمكن أي جهة مستقلة من اكتشاف حدوث الخطأ.
وحذر الباحثون كذلك من أن التعرض للمعلومات الصحية المضللة لم يعد يقتصر على الأشخاص الذين يبحثون عمداً عن استشارات طبية، بعدما أصبحت الملخصات التي يولدها الذكاء الاصطناعي جزءاً من نتائج محركات البحث، وانتشرت أدوات إنتاج المحتوى الآلي على منصات التواصل الاجتماعي.
وقال يانج إن المستخدم قد يتعرض لمعلومات صحية مولدة بالذكاء الاصطناعي أثناء تصفح حساباته على مواقع التواصل، حتى دون البحث عن موضوع طبي، محذراً من أن هذه المعلومات قد تؤثر في سلوك الأفراد وقراراتهم الصحية، خصوصاً عندما تتضمن ادعاءات مضللة أو محتوى تنشره جهات تسعى إلى التلاعب بالنقاشات العامة.
أنظمة رقابية
وأضاف الباحثون أن سهولة إنتاج معلومات صحية مخصصة باستخدام الذكاء الاصطناعي، وبتكلفة منخفضة للغاية، تتيح أيضاً للجهات الخبيثة نشر رسائل مضللة تستهدف فئات محددة من المستخدمين، ما قد يزيد صعوبة التمييز بين الإرشادات الطبية الموثوقة والمحتوى المصمم للتأثير في السلوك.
ولمعالجة هذه المخاطر، أوصى الباحثون بإلزام شركات الذكاء الاصطناعي بتوفير إمكانية الوصول إلى السجل الكامل للمحادثات الصحية الخاصة بالمستخدمين، بما يسمح لهم بمشاركتها مع الأطباء عند الحاجة، ويساعد على تحديد مصدر المعلومات التي ربما أدت إلى أضرار صحية.
كما دعوا إلى إنشاء أنظمة واضحة للإبلاغ عن النصائح الطبية الخطرة أو الخاطئة، بحيث يمكن توثيقها والتحقيق فيها وتحليلها بصورة منهجية، بدلاً من ترك التعامل معها للإجراءات الداخلية التي تحددها شركات التكنولوجيا وحدها.
واقترح الباحثون أن تتحمل منصات التواصل الاجتماعي مسؤولية أكبر في التحقق من المحتوى الصحي الذي ينتجه الذكاء الاصطناعي، من خلال وضع علامات واضحة تميّز هذا المحتوى، وإخضاع المعلومات الطبية للمراجعة من جهات مختصة قبل إتاحتها للمستخدمين. كما أوصوا بألا تعتمد محركات البحث في ملخصاتها الصحية الآلية إلا على معلومات خضعت للتحقق العلمي.
وعلى المستوى القانوني، دعا الباحثون صناع السياسات إلى دراسة توسيع قواعد المسؤولية المهنية المتعلقة بالأخطاء الطبية لتشمل الشركات المطورة لروبوتات المحادثة، عندما تتسبب المعلومات التي تقدمها في أضرار للمرضى، بدلاً من اقتصار المساءلة على مقدمي الخدمات الصحية التقليديين.
وشدّد يانج على ضرورة إنشاء أنظمة تقييم ورقابة مستقلة عن شركات التكنولوجيا، معتبراً أن الاعتماد على المبادرات الطوعية لهذه الشركات لن يكون كافياً، نظراً إلى التعارض المحتمل بين المصالح التجارية ومتطلبات الشفافية والمساءلة.
وقال إن الشركات تسعى بطبيعتها إلى زيادة أرباحها، بينما قد يتعارض إنشاء أنظمة رقابية تتيح كشف الأخطاء وتتبع الأضرار مع هذه الحوافز الاقتصادية، ما يجعل الرقابة المستقلة ضرورة لحماية المستخدمين.
وأكد الباحثون أن الورقة لا تقدم قياساً جديداً لمعدلات الأضرار الطبية الناجمة عن روبوتات المحادثة، بل تطرح تحليلاً للمخاطر والثغرات التنظيمية التي تعوق اكتشاف تلك الأضرار، وتقدم مجموعة من التوصيات لمعالجتها.
وخلصوا إلى أن تحسين دقة الإجابات الطبية التي ينتجها الذكاء الاصطناعي، رغم أهميته، لن يكون كافياً لضمان سلامة المستخدمين ما لم تصاحبه أنظمة تسمح بتوثيق المعلومات المقدمة، واكتشاف الأخطاء، وقياس آثارها الصحية، وتحديد المسؤولية عنها.
وتشير الورقة إلى أن التحدي الأساسي لم يعد مجرد منع روبوتات المحادثة من تقديم نصائح طبية خاطئة، وإنما ضمان ألا تتحول الأخطاء التي تقع بالفعل إلى أضرار صحية غير مرئية، لا يستطيع الأطباء تفسيرها، ولا الجهات التنظيمية التحقيق فيها، ولا الباحثون تقدير حجمها.
تصنيفات
