مخاطر منصة جيميني على الأطفال .. أطلقت منظمة متخصصة في توعية الأسر والمربين بشأن سلامة استخدام الأطفال للتقنيات الرقمية تحذيرات صارمة، حول منصة محادثة الذكاء الاصطناعي “جيميني” التي طورتها إحدى كبريات شركات التكنولوجيا العالمية، حيث أكدت المنظمة أن المنصة لا تقدم الحماية الكافية للأطفال، على الرغم من إضافة بعض أدوات الأمان مؤخرا، مشيرة إلى أن المخاطر ما تزال قائمة وأن البيئة الرقمية التي توفرها قد تعرض الصغار لمحتويات غير مناسبة.
وقالت المنظمة إن منصة “جيميني” تمثل خطرا حقيقيا على فئة القاصرين، وذلك بعد رصد عيوب أساسية في بنية التصميم إلى جانب غياب آليات فعالة لضمان ملاءمة الاستخدام لأعمارهم، وأضافت أن هذه الثغرات تجعل الأطفال عرضة لتجارب غير آمنة، الأمر الذي يثير قلق أولياء الأمور والمربين خصوصا في ظل الانتشار المتزايد لتطبيقات الذكاء الاصطناعي بين المستخدمين.
وبحسب تقرير للمنظمة، فإن نسختي “جيميني” الموجهتين للأطفال دون الـ13 وللمراهقين، لا تختلفان جوهريا عن النسخة العادية الخاصة بالبالغين سوى بإضافة بعض عناصر الحماية، وهو ما يعني أن المنصات لم تُصمم من الأساس لتناسب احتياجات هذه الفئة العمرية بل جرى تعديلها بشكل سطحي، مما يجعلها عاجزة عن توفير بيئة رقمية آمنة كما يتوقع أولياء الأمور.
مخاطر منصة جيميني على الأطفال .. قصور في إجراءات السلامة
أوضحت المنظمة أن منصة “جيميني” تتعامل مع جميع الأطفال والمراهقين على نفس الدرجة من النضج، متجاهلة الفوارق الكبيرة في مراحل النمو والتطور، حيث إن الأطفال الأصغر سنا يحتاجون إلى إرشادات مختلفة تماما عن تلك الموجهة لليافعين، بينما تتعامل المنصة مع الفئتين بنفس الأسلوب دون تمييز، وهو ما يعد خللا كبيرا في التصميم.
كما أضافت المنظمة أن مرشحات الحماية في المنصة توفر بعض الضمانات الشكلية، لكنها لا تمنع وصول الأطفال إلى محتويات غير لائقة، مشيرة إلى أن المنصة فشلت في رصد أعراض الاضطرابات النفسية الخطيرة، وهو ما يضاعف المخاطر خصوصا في حالات الأطفال الذين يمرون بتجارب نفسية صعبة، حيث يمكن أن يحصلوا على استجابات غير مناسبة أو حتى مضرة من الأداة الذكية.
وأشارت المنظمة إلى أن “جيميني” جرى الترويج لها على أنها أول منصة محادثة رئيسية بالذكاء الاصطناعي مخصصة للأطفال دون الـ13، لكن الواقع يكشف عكس ذلك تماما، فالمنصة ليست سوى نسخة معدلة من الأداة الأصلية، مما يجعلها بعيدة عن تقديم الحماية الحقيقية للأطفال الذين يحتاجون إلى بيئة رقمية موجهة بدقة تراعي الفروق العمرية والنفسية.
مخاطر على الصحة النفسية والمحتوى
أكدت المنظمة أن أخطر ما في المنصة أنها تقدم نصائح غير آمنة في مجال الصحة النفسية للأطفال والمراهقين، حيث لوحظ أنها قد تسمح بتداول أفكار ومعلومات مضللة أو خطيرة، وهو ما قد يؤدي إلى مضاعفة الأزمات التي يواجهها الصغار بدلا من مساعدتهم في تجاوزها، مبينة أن هذا الخلل يجعل استخدامها محفوفا بمخاطر جسيمة.
إلى جانب ذلك، أوضحت المنظمة أن المنصة سمحت بسهولة بتداول مواد غير لائقة وغير مناسبة للفئة العمرية المستهدفة، شملت إشارات مباشرة أو غير مباشرة إلى الكحوليات والمخدرات والجنس، الأمر الذي وصفته المنظمة بغير المقبول إطلاقا، نظرا لما يحمله من تهديد للقيم التربوية والنفسية للأطفال.
وبناء على ما سبق، خلصت المنظمة إلى أن “جيميني” لا تمثل أداة آمنة للأطفال كما يُروّج لها، وأنها تحتاج إلى إعادة تصميم جذرية وليس مجرد تعديلات سطحية، فالمخاطر التي تنطوي عليها لا تتعلق فقط بالمحتوى غير المناسب، وإنما أيضا بغياب آليات واضحة للاستجابة لمشكلات الصحة النفسية الحساسة، مما يفرض على الأسر والجهات التعليمية ضرورة الحذر من اعتماد هذه المنصة أو السماح للأطفال باستخدامها دون إشراف مباشر.
بن عبد الله ياقوت زهرة القدس
