لم يعد الذكاء الاصطناعي مجرد تقنية مستقبلية، بل أصبح حاضرًا في حياتنا اليومية، من البحث عن المعلومات وكتابة النصوص والترجمة والتعليم، إلى الطب والقانون والإعلام وتحليل البيانات واتخاذ القرارات. ومع هذا الانتشار برزت مشكلة مهمة من أبرز تحديات الذكاء الاصطناعي التوليدي، وهي هلوسة الذكاء الاصطناعي (Hallucination).

ويقصد بالهلوسة أن ينتج نظام الذكاء الاصطناعي معلومات تبدو صحيحة ومنطقية ومقنعة، لكنها في الحقيقة خاطئة أو غير دقيقة أو غير موجودة أصلًا. ويستخدم المعهد الوطني الأمريكي للمعايير والتكنولوجيا (NIST)، وهو مؤسسة علمية وتقنية حكومية أمريكية متخصصة في المعايير ودراسة المخاطر التقنية، مصطلح Confabulation لوصف إنتاج النظام معلومات زائفة أو غير صحيحة وتقديمها بطريقة تبدو واثقة ومقنعة.

وهنا تكمن الخطورة: الذكاء الاصطناعي قد يكون مخطئًا، لكنه لا يبدو بالضرورة مخطئًا. فقد تأتي الإجابة بلغة سليمة ومصطلحات علمية وأسماء كتب ودراسات وتواريخ وأرقام، مما قد يدفع القارئ إلى تصديقها دون التحقق منها. وقد تناولت مجلة Nature، وهي من أشهر المجلات العلمية المتخصصة في العالم وتنشر أبحاثًا تخضع لمراجعة خبراء قبل نشرها، هذه المشكلة، وأوضحت أبحاثها أن بعض النماذج اللغوية الكبيرة يمكن أن تنتج إجابات غير صحيحة بثقة عالية.

ويرتبط ذلك بطريقة عمل نماذج الذكاء الاصطناعي التوليدي. فهي لا تسترجع المعلومات دائمًا كما يسترجع الإنسان حقيقة يعرفها، وإنما تولّد الإجابة اعتمادًا على الأنماط والعلاقات التي تعلمتها من كميات ضخمة من البيانات. ولذلك قد تكون الإجابة صحيحة، أو خاطئة، أو مزيجًا من معلومات صحيحة وأخرى مختلقة، وقد يقدم النموذج المعلومة الخاطئة بالطريقة نفسها التي يقدم بها المعلومة الصحيحة.

وتزداد الخطورة عندما تنتقل المعلومة الخاطئة إلى العالم الحقيقي. فإذا استخدم شخص الذكاء الاصطناعي لكتابة مقال ونشره دون مراجعة، فقد تنتشر معلومات غير صحيحة. وإذا استخدمه طالب لإعداد بحث، فقد يحصل على مراجع غير موجودة، وإذا اعتمد عليه موظف في إعداد تقرير، فقد تنتقل الأخطاء إلى مؤسسة بأكملها. ومع قدرة الذكاء الاصطناعي على إنتاج كميات هائلة من المحتوى خلال دقائق، يمكن للخطأ الواحد أن ينتشر بسرعة كبيرة.

ومن أشهر الأمثلة الواقعية قضية قانونية في الولايات المتحدة عُرفت باسم Mata v. Avianca، وهو اسم القضية نسبةً إلى طرفيها: روبرتو ماتا، المدعي فيها، وشركة الطيران Avianca، المدعى عليها. ففي عام 2023 استخدم محامون إحدى أدوات الذكاء الاصطناعي التوليدي للمساعدة في إعداد مذكرة قانونية، فتضمنت أحكامًا وقضايا واقتباسات قانونية غير موجودة. وعندما تحققت المحكمة منها، تبين أنها مختلقة، ففرضت المحكمة عقوبة مالية على المحامين. وأصبحت القضية مثالًا واضحًا على أن استخدام الذكاء الاصطناعي في المجالات المهنية الحساسة لا يلغي مسؤولية الإنسان عن التحقق من المعلومات.

ولم تقتصر الأمثلة على القانون. ففي عام 2024 أثارت خاصية AI Overviews التي أطلقتها Google جدلًا واسعًا. وهي خاصية تظهر ملخصًا مولدًا بالذكاء الاصطناعي في أعلى نتائج البحث لتقديم إجابة سريعة عن سؤال المستخدم. وقد ظهرت في بعض الحالات إجابات غير موفقة، ومن أشهرها إجابة اقترحت استخدام الغراء لمساعدة الجبن على الالتصاق بالبيتزا. والمهم أن هذا المثال لا يعني أن كل خطأ من هذا النوع هو بالضرورة هلوسة بالمعنى التقني الدقيق، لكنه يوضح خطر تقديم إجابة تبدو موثوقة بينما تكون خاطئة أو غير مناسبة.

وفي المجال الطبي تصبح المسألة أكثر حساسية، لأن الخطأ قد يؤثر في صحة الإنسان. وقد أصبحت النماذج اللغوية تستخدم في البحث العلمي الطبي، وتلخيص الدراسات، والمساعدة في فهم بعض المصطلحات، لكن ذلك لا يعني أنها تستطيع أن تحل محل الطبيب المختص. فالخطأ في تفسير تشخيص طبي أو دواء أو نتيجة فحص يمكن أن يؤدي إلى قرار خاطئ، ولذلك تبقى المعلومات الطبية التي ينتجها الذكاء الاصطناعي بحاجة إلى مراجعة من مصادر موثوقة ومن المختصين.

كما أن المشكلة تتعلق أيضًا بطريقة تقييم أداء النماذج. فقد نشرت Nature في عام 2026 دراسة تشير إلى أن بعض أساليب تقييم النماذج بناءً على «الدقة» قد تدفعها إلى التخمين بدل الاعتراف بعدم المعرفة. فإذا كان النظام مطالبًا دائمًا بالإجابة، فقد يعطي إجابة محتملة حتى عندما لا تتوافر لديه معلومات كافية. وهنا تظهر فكرة مهمة: النظام الأفضل ليس بالضرورة الذي يجيب عن كل سؤال، بل الذي يعرف متى يقول: لا أعرف.

وهناك خطر آخر يتمثل في انتشار المحتوى الذي ينتجه الذكاء الاصطناعي على الإنترنت. فإذا أنشأ شخص معلومة خاطئة ثم نشرها، فقد تقرأها أنظمة أخرى لاحقًا وتتعامل معها باعتبارها جزءًا من المعلومات المتاحة. ومع ازدياد المحتوى المولد آليًا، يصبح التمييز بين المعلومة الأصلية والمعلومة المعاد إنتاجها أمرًا ضروريًا، لأن تكرار المعلومة لا يجعلها صحيحة.

وفي حياتنا اليومية قد تظهر المشكلة بأشكال بسيطة: فقد يخلط الذكاء الاصطناعي بين شخصيتين تاريخيتين، أو يضيف إلى خبر تفاصيل لم ترد فيه، أو يقدم معلومات قديمة عن قانون أو إجراء حكومي، أو يقدم تفسيرًا غير دقيق لوثيقة أو عقد.

ومن هنا، فإن التعامل الصحيح مع الذكاء الاصطناعي لا يقوم على رفضه ولا على الثقة المطلقة به، وإنما على الاستخدام الواعي والمسؤول. فهو أداة عظيمة في التعليم والبحث والكتابة والتحليل وتوفير الوقت، لكن لا ينبغي اعتباره مصدرًا معصومًا للحقيقة.

ومن أهم وسائل الحد من آثار الهلوسة الرجوع إلى المصادر الأصلية، والتحقق من المراجع والأسماء والتواريخ والأرقام، ومقارنة المعلومات بأكثر من مصدر موثوق. وفي المجالات الحساسة، مثل الطب والقانون والمال والأمن، يجب أن تكون إجابة الذكاء الاصطناعي نقطة بداية للتحقق، لا نقطة نهاية لاتخاذ القرار.

إن التحدي الحقيقي أمام الذكاء الاصطناعي ليس فقط أن نجعله أكثر قدرة على الإجابة، بل أن نجعله أكثر قدرة على معرفة حدود معرفته. فالتطور الحقيقي لا يقاس فقط بكمية المعلومات التي ينتجها، وإنما بقدرته على التمييز بين ما يعرفه وما لا يعرفه، وبين الحقيقة والاحتمال.

وفي النهاية، ربما لا يكون السؤال الأهم هو: هل يهلوس الذكاء الاصطناعي؟ فقد أصبحت هذه الظاهرة موضع بحث علمي واسع. السؤال الأهم هو: ماذا يفعل الإنسان عندما يخطئ الذكاء الاصطناعي؟ فإذا صدّق المعلومة ونشرها أو بنى عليها قرارًا، يتحول الخطأ التقني إلى مشكلة اجتماعية ومهنية وإنسانية. أما إذا تعامل معها باعتبارها معلومة تحتاج إلى التحقق، فإن الذكاء الاصطناعي يظل واحدة من أقوى الأدوات التي طورها الإنسان، بشرط أن تبقى المسؤولية النهائية عن الحكم والقرار في يد الإنسان.

كامل الروضان