تقدمت عائلتان من ولاية تكساس الأمريكية بدعوى قضائية ضد منصة “Character.AI”، المتخصصة في تطوير روبوتات الدردشة المعتمدة على الذكاء الاصطناعي، متهمتين المنصة بالترويج لمحتويات غير ملائمة للأطفال، وتحريضهم على إيذاء النفس والعنف. وشملت الدعوى اتهامات بأن المنصة تساهم في تدهور الصحة النفسية للأطفال وتعرضهم لمخاطر جسيمة.
وطالبت العائلتان المحكمة بإغلاق المنصة مؤقتًا إلى حين معالجة هذه المشكلات، معتبرةً أن روبوتات الدردشة تمثل خطرًا كبيرًا على الشباب من خلال تقديم اقتراحات تؤدي إلى الانتحار، العزلة، وإيذاء النفس والآخرين. وجاء في نص الدعوى أن أحد الروبوتات نصح أحد المراهقين بأن قتل والديه أمر مقبول في حال تقييدهما لاستخدامه الأجهزة الإلكترونية.
تشير الشركة في تسويقها لمنصتها إلى أن روبوتات الدردشة الخاصة بها يمكن تخصيصها لتلبية احتياجات المستخدمين المختلفة، مما يجعلها وسيلة للتفاعل اليومي. لكن الانتقادات تتزايد بشأن تأثير هذه الروبوتات على الأطفال والمراهقين، لا سيما فيما يتعلق بالمحتوى الذي يُنتجه الذكاء الاصطناعي بشكل قد يبدو متعاطفًا أو داعمًا، لكنه في الواقع يعرض المستخدمين لصدمات نفسية خطيرة.
هذه الدعوى تأتي عقب قضية مماثلة رفعتها والدة طفل من فلوريدا في أكتوبر الماضي، حيث زعمت أن ابنها البالغ من العمر 14 عامًا انتحر بسبب تشجيع روبوتات المنصة له.
مع تزايد التشابه بين هذه الأدوات الرقمية والبشر، تُثار تساؤلات حول حدود استخدام الذكاء الاصطناعي في التفاعل العاطفي والاجتماعي، وحول دور الجهات المسؤولة في مراقبة المحتوى الذي تنتجه مثل هذه التقنيات. يرى المراقبون أن الاستخدام المتنامي لهذه المنصات، ليس فقط في السياقات العملية بل أيضا العاطفية، يشير إلى ضرورة وضع لوائح صارمة تحكم العلاقة بين المستخدمين والتقنيات الذكية.
ياقوت زهرة القدس بن عبد الله
