أصبحت تطبيقات الذكاء الاصطناعي تتسارع بشكل رهيب، وتندمج في تفاصيل الحياة اليومية، من البحث والكتابة إلى الطب والإعلام، حيث برزت ظاهرة مقلقة تُعرف بـ”هلوسة الذكاء الاصطناعي”. وهي ليست خللًا عابرًا، بل سلوك متكرر في الأنظمة الذكية، حيث تقدّم معلومات تبدو دقيقة ومقنعة، لكنها في الواقع غير صحيحة أو مختلقة بالكامل.
تعتمد هذه الأنظمة على ما يُعرف بنماذج اللغة الكبيرة، وهي تقنيات تقوم بتحليل كميات هائلة من البيانات لتوليد نصوص تشبه الكتابة البشرية. غير أن هذه النماذج لا “تفهم” المعلومات بالمعنى البشري، بل تبني إجاباتها على التنبؤ الإحصائي للكلمات الأكثر احتمالًا، وهو ما يجعلها عرضة لإنتاج محتوى غير دقيق، خاصة في المواضيع المعقدة أو التي تتطلب معلومات متخصصة.
تكمن خطورة هذه الظاهرة، في أن الأخطاء لا تظهر بشكل واضح، بل تُقدَّم بثقة عالية وبأسلوب مقنع، ما يصعّب على المستخدم العادي التمييز بين الصحيح والمضلل. وفي هذا السياق، لم يعد التحدي في الوصول إلى المعلومة، بل في التحقق من صحتها. كما يزداد هذا التحدي تعقيدًا مع توسع استخدام الذكاء الاصطناعي في مجالات حساسة، مثل الإعلام، حيث يمكن أن يؤدي نشر معلومات غير دقيقة إلى تضليل الرأي العام، أو في المجال الطبي، حيث قد تؤثر التوصيات الخاطئة على قرارات صحية حاسمة، فضلًا عن استخدامه في التعليم، الذي قد يعزز نقل معلومات غير موثوقة للطلبة.
مقابل ذلك، تعمل الشركات المطوّرة على تقليل هذه المخاطر من خلال تحسين جودة البيانات المستخدمة في تدريب النماذج، ودمج مصادر تحقق خارجية، إضافة إلى تطوير آليات تمكّن الأنظمة من الإشارة إلى حدود معرفتها. ومع ذلك، يؤكد خبراء أن هذه المشكلة لا يمكن القضاء عليها بشكل كامل، نظرًا لطبيعة هذه النماذج القائمة على الاحتمال وليس على التحقق المباشر من الحقيقة.
فيما يرى مختصون، أن التعامل مع الذكاء الاصطناعي في المرحلة الحالية يتطلب وعيًا أكبر من المستخدمين، خاصة فيما يتعلق بعدم الاعتماد الكامل على مخرجاته، والتحقق من المعلومات عبر مصادر متعددة، خصوصًا في القضايا الحساسة.
بن عشور خديجة
