أعلنت شركة جوجل أن ملخصات الذكاء الاصطناعي التي تقدمها، والتي تعتمد على الذكاء الاصطناعي التوليدي لتوفير لمحات سريعة عن المعلومات الأساسية المتعلقة بموضوع أو سؤال معين، تُعتبر “مفيدة” و”موثوقة”.
مخاطر المعلومات الصحية المضللة
في حالة وصفها الخبراء بأنها “خطيرة للغاية”، تم توجيه مرضى سرطان البنكرياس بشكل خاطئ لتجنب الأطعمة الغنية بالدهون، وهو ما يتعارض تمامًا مع التوصيات الصحيحة، وقد يزيد من خطر وفاة المرضى. وفي مثال آخر “مثير للقلق”، قدمت نتائج البحث معلومات غير دقيقة حول اختبارات وظائف الكبد، مما قد يؤدي إلى اعتقاد الأشخاص المصابين بأمراض كبد خطيرة أنهم بصحة جيدة.
قالت آنا جويل، مديرة الدعم والبحث والتأثير في مؤسسة سرطان البنكرياس في المملكة المتحدة، إن نصح المرضى بتجنب الأطعمة الغنية بالدهون “أمر خاطئ تمامًا”، وأكدت أن ذلك “قد يكون خطيرًا للغاية ويعرض فرص الشخص في التعافي للخطر”. وأشارت إلى أن استجابة الذكاء الاصطناعي تشير إلى ضرورة تجنب الأطعمة الغنية بالدهون، مما قد يؤدي إلى عدم حصول المرضى على سعرات حرارية كافية، وبالتالي يعيق قدرتهم على تحمل العلاج الكيميائي أو الجراحة.
باميلا هيلي، الرئيسة التنفيذية لمؤسسة الكبد البريطانية، أعربت عن قلقها من ملخصات الذكاء الاصطناعي، مشيرة إلى أن العديد من مرضى الكبد لا تظهر عليهم أعراض إلا في المراحل المتأخرة، مما يجعل الفحص أمرًا بالغ الأهمية. وأوضحت أن ما تعتبره تقارير الذكاء الاصطناعي “طبيعيًا” قد يختلف بشكل كبير عن الواقع، مما قد يؤدي إلى اعتقاد بعض المرضى أنهم بصحة جيدة، وبالتالي عدم حضورهم لمتابعة الرعاية الصحية.
القلق من بيانات الذكاء الاصطناعي
تأتي تحقيقات صحيفة الجارديان في ظل مخاوف متزايدة من أن بيانات الذكاء الاصطناعي قد تُضلل المستهلكين الذين قد يفترضون موثوقيتها. ففي نوفمبر من العام الماضي، أظهرت دراسة أن برامج الدردشة الآلية التي تعتمد على الذكاء الاصطناعي تقدم نصائح مالية غير دقيقة، كما أثيرت مخاوف مشابهة بشأن ملخصات الأخبار.
قالت صوفي راندال، مديرة منتدى معلومات المرضى، إن هذه الأمثلة تُظهر أن “نظرة عامة الذكاء الاصطناعي من جوجل يمكن أن تضع معلومات صحية غير دقيقة في أعلى نتائج البحث، مما يشكل خطرًا على صحة الناس”. وأكدت ستيفاني باركر، مديرة قسم الإعلام الرقمي في مؤسسة ماري كوري، أن الناس يلجأون إلى الإنترنت في لحظات القلق، وإذا كانت المعلومات غير دقيقة، فقد تضر بصحتهم بشكل كبير.
كما وجدت صحيفة الغارديان أن خدمة “نظرة عامة على الذكاء الاصطناعي من جوجل” تقدم نتائج مضللة تتعلق بالصحة النفسية. وأشار ستيفن باكلي، رئيس قسم المعلومات في مؤسسة “مايند”، إلى أن بعض ملخصات الذكاء الاصطناعي لحالات مثل الذهان واضطرابات الأكل قدمت “نصائح خطيرة للغاية”، وكانت “غير صحيحة أو ضارة”. وأكد أن بعض الملخصات أغفلت سياقات أو فروق دقيقة مهمة، مما قد يقود الأشخاص إلى تجنب طلب المساعدة.
أكدت جوجل أن الغالبية العظمى من ملخصات الذكاء الاصطناعي التي تقدمها تتمتع بالدقة والفائدة، وأنها تعمل باستمرار على تحسين جودتها. وأشارت إلى أن معدل دقة هذه الملخصات يضاهي دقة ميزات البحث الأخرى، مثل المقتطفات المميزة، التي كانت متاحة لأكثر من عقد. وأوضح متحدث باسم جوجل أن الشركة تستثمر بشكل كبير في جودة مراجعات الذكاء الاصطناعي، خاصة في مجالات الصحة، وأن الغالبية العظمى منها تقدم معلومات دقيقة.
