أطلقت لجنة التجارة الفيدرالية الأمريكية تحقيقا شاملا حول عمل روبوتات الدردشة المعتمدة على الذكاء الاصطناعي. وتأثيرها المحتمل على الأطفال والمراهقين. ويشمل هذا التحقيق شركات كبرى مثل “ابلفابت” و”ميتا” و”أوبن اي”و”اي” و”سناب”. إضافة إلى شركات أخرى مثل “كاراكترتكنولوجيز” و”إكس اي”.وتركز اللجنة على الكيفية التي تختبر بها هذه الشركات منتجاتها ومدى مراقبتها للمخاطر المرتبطة بها. خاصة وأن هذه الروبوتات باتت تقدم نفسها كرفقاء افتراضيين قادرين على محاكاة المشاعر الإنسانية.
تسعى الهيئة إلى معرفة ما إذا كانت الشركات قد قامت بتقييم سلامة منتجاتها بشكل كاف. وما إذا كانت قد وضعت حدودا واضحة لاستخدامها من طرف القاصرين. كما تهدف أيضا إلى التحقق من مدى التزام الشركات بإبلاغ المستخدمين. وأولياء الأمور بالمخاطر التي قد تنجم عن التفاعل مع هذه الروبوتات. خاصة بعدما ظهرت دعاوى قضائية وتقارير مثيرة للقلق بشأن نصائح خطيرة قدمتها هذه البرامج للمراهقين .في مواضيع حساسة وأدت في بعض الحالات إلى نتائج مأساوية.
أوامر صارمة وشركات تحت المجهر
أصدرت وكالة حماية المستهلك أوامر مباشرة لسبع شركات من بينها (ابلفابت وميتا وأوبن آيوآي وسناب). وذلك بغرض الحصول على تفاصيل دقيقة حول كيفية مراقبة هذه الشركات للتأثيرات السلبية. الناجمة عن برامج الدردشة المصممة لمحاكاة العلاقات الإنسانية.
وقد شدد رئيس لجنة التجارة الفيدرالية “أندرو فيرجسون” .على أن حماية الأطفال عبر الإنترنت تمثل أولوية قصوى بالنسبة للجنة. مؤكدا ضرورة إيجاد توازن بين ضمان سلامة القاصرين والحفاظ على مكانة الولايات المتحدة في مجال ابتكار تقنيات الذكاء الاصطناعي.
يستهدف التحقيق خصوصا روبوتات الدردشة التي توظف الذكاء الاصطناعي التوليدي لمحاكاة العواطف البشرية، حيث يتخوف المنظمون من أن يقع الأطفال والمراهقون ضحية علاقات عاطفية مع هذه الأنظمة، كما تسعى اللجنة لمعرفة كيفية تحقيق الشركات للأرباح من هذه التفاعلات ومدى احترامها للقوانين الخاصة بحماية القاصرين عبر الإنترنت، وقد شملت الطلبات الموجهة شركات مثل (كاراكتر إيه آي وإكس آي) التابعة لإيلون ماسك، إلى جانب شركات أخرى تدير روبوتات دردشة موجهة للمستهلكين.
روبوتات الدردشة .. معلومات شخصية ودعاوى مؤلمة
يشمل التحقيق كذلك مراجعة شاملة لكيفية تعامل هذه المنصات مع المعلومات الشخصية المستخلصة من محادثات المستخدمين، مع التركيز على قيود العمر التي تطبقها الشركات لضمان حماية الفئات الهشة، وقد صوتت اللجنة بالإجماع على إطلاق الدراسة دون غرض مباشر للإنفاذ، لكنها قد تشكل أساسا لإجراءات تنظيمية مستقبلية، خصوصا وأن برامج المحادثة باتت أكثر تطورا وانتشارا مما يثير أسئلة جدية بشأن أثرها النفسي على الفئات الضعيفة.
وقد جاءت هذه الخطوة بعد دعوى قضائية رفعها والدا المراهق “آدم راين” الذي انتحر عن عمر 16 عاما، حيث اتهما شركة أوبن آي بتقديم تعليمات تفصيلية لابنهما حول كيفية الانتحار عبر برنامج المحادثة، وأوضحت الشركة في بيان لها أنها تعمل على إجراءات تصحيحية لمنتجها الرائد بعد أن لاحظت أن طول فترة التفاعل مع المستخدمين لم يعد يتضمن إشارات منهجية لطلب المساعدة الطبية أو التواصل مع خدمات الصحة النفسية، في حال ذكر المستخدم وجود أفكار انتحارية، وهو ما أثار مخاوف إضافية بشأن خطورة هذه الأنظمة على الفئات الصغيرة.
ياقوت زهرة القدس بن عبد الله
