كشف باحثون من جامعة برمنجهام عن نتائج دراسة حديثة تبرز تأثير محركات البحث في تدريب نماذج الذكاء الاصطناعي، مثل ChatGPT، على نشر معلومات خاطئة ومحتوى تمييزي. وتوصلوا إلى أن هذه الأنظمة غالباً ما تتأثر بقصور في البيانات التي تعتمد عليها، مما يؤدي إلى انتشار الأخبار الزائفة، والتحيزات العنصرية، والجنسية في مخرجات الذكاء الاصطناعي.
تعميق القوالب النمطية
الدراسة التي نشرت في مجلة “فرونتيرز في الذكاء الاصطناعي”، أكدت أن البيانات اللغوية التي تُستخدم لتدريب هذه الأنظمة تميل إلى أن تكون غير شاملة بما فيه الكفاية، مما يؤدي إلى تعميق القوالب النمطية والتحيزات الاجتماعية. فعندما تعتمد محركات البحث على مجموعات بيانات تحتوي على معلومات مضللة أو ذات طابع تمييزي، فإن النماذج الذكية تعكس ذلك في استجابتها.
تحديات كبيرة
وتواجه هذه النماذج تحديات كبيرة عندما يتعلق الأمر بالتمثيل الصحيح للتنوع اللغوي والثقافي، فقد تبين أن بعض النماذج لا تقدم أداء جيدا مع لغات ولهجات غير شائعة أو مع مستخدمين من خلفيات ثقافية مختلفة. ويؤدي هذا إلى إقصاء بعض الفئات الاجتماعية من الاستفادة الكاملة من هذه التكنولوجيا المتقدمة.
تحسين التنوع
من جهة أخرى، تسعى الدراسة إلى تقديم حلول لتقليل التحيزات في الذكاء الاصطناعي، من خلال تحسين التنوع في مجموعات البيانات التي تُستخدم لتدريب النماذج. من خلال دمج مجموعة واسعة من اللغات، اللهجات، والسياقات الاجتماعية، يمكن لهذه الأنظمة أن تصبح أكثر دقة وأخلاقية، وبالتالي تساهم في تعزيز المساواة وتقليل التأثيرات السلبية على المجتمعات.
موثوقية أكبر
هذه النتائج تشير إلى الحاجة الماسة لتطوير أساليب جديدة لتحسين تدريب نماذج الذكاء الاصطناعي بما يضمن عدالة وموثوقية أكبر، ويعزز قدرتها على معالجة المعلومات بشكل أكثر حيادية وشفافية.
