يتعرض المتهمون السود لخطر العودة إلى الإجرام وفق تطبيقات الذكاء الاصطناعي بكثير من المدعى عليهم البيض، إذا كان القضاة بيضا. في حين أن المدعى عليهم البيض كانوا أكثر عرضة من المدعى عليهم السود للحكم عليهم بشكل غير صحيح على أنهم منخفضي المخاطر والعودة للإجرام، إذا كان القضاة سودا. جاء ذلك في تقارير نشرتها منظمة “ProPublica”، وهي منظمة أمريكية غير ربحية تجري تحقيقات لتحقيق المصلحة العامة، بعد قيامها بمقارنة العودة الفعلية إلى الإجرام مع العودة المتوقعة إلى الإجرام. وجد تحليل 10000 قضية متهمين جنائيين.
وحسب خبراء غربيون فإن هذا المثال، يوضح أنه من الصعب تحقيق المساءلة وأن مثل هذه الأنظمة يمكن أن تحقن التحيز في العمليات القضائية. وينبغي إدخال التكنولوجيا – سواء تم استخدامها لإدارة القضايا، أو نماذج الويب البسيطة، أو المهام الأكثر تعقيدا القائمة على الذكاء الاصطناعي – في العملية القضائية إذا – وفقط إذا – تم وضع آليات المساءلة المناسبة. وتصبح مشكلة المساءلة أكثر خطورة مع أنظمة الذكاء الاصطناعي التي تعتمد على التعلم الآلي. في هذه الحالة، يعتمد التنبؤ على خوارزميات تتغير بمرور الوقت. مع التعلم الآلي، “تتعلم” (تتغير) الخوارزميات بناءً على تجربتها الخاصة. مع تغير الخوارزميات، لا يمكن معرفة كيف تعمل ولماذا تفعل الأشياء بطرق معينة. إذا لم يتم اعتماد آليات رقابة فعالة، فكيف يمكن ضمان المساءلة المناسبة؟ النقاش مستمر ويجب اعتماد المبدأ الاحترازي حتى يتم حل هذه الأسئلة من الناحية الفنية والمؤسسية.
تخوفات من تأثير الذكاء الاصطناعي على المبادئ الأخلاقية بالعدالة
تتخوف الشبكة العالمية لنزاهة القضاء من تأثير الاستخدام الذكاء الاصطناعي على المبادئ الأخلاقية للعدل، الذي بدأ في استخدام تطبيقات الذكاء الاصطناعي في الهيئات القضائية، عند إطلاقها رسميًا في أبريل 2018، متعبرة أن الذكاء الاصطناعي ورغم ما يجلبه من تطورات وتحسين للقضاء والمحاكم إلا أن التحديات المحتملة للمبادئ الأخلاقية، مثل الشفافية والمساءلة والحياد عند تطوير مشاريع جديدة قائمة. عند استخدام التكنولوجيا الجديدة، لا يزال يتعين على السلطات القضائية التأكد من أنها تتمسك بمبادئ بنغالور .يأتي هذا التخوف، بعد اقبال العديد من الهيئات القضائية في استخدام تطبيقات الذكاء الاصطناعي لتحسين الكفاءة، نظرا للإمكانات الكبيرة للذكاء الاصطناعي في هذا المجال. كما أن استخدام الذكاء الاصطناعي في المحاكم يعتبر مجالًا ناشئًا وغير منظم إلى حد كبير حسب الشبكة العالمية لنزاهة القضاء. وتدرس الشبكة العالمية لنزاهة القضاء الاستخدام الناشئ للذكاء الاصطناعي في أنظمة العدالة. ويتم تطوير تطبيقات الذكاء الاصطناعي بشكل متزايد مع التقدم التكنولوجي، أملة في مشاركة الممارسات الجيدة وتعزيز الاستخدام الأخلاقي للذكاء الاصطناعي.
على مدى أكثر من ثلاثة عقود، دخلت التطورات في مجال تكنولوجيا المعلومات والاتصالات (ICT) إلى عمليات المحاكم ومكاتب المدعين العامين، مما وعد بالشفافية والكفاءة وإحداث تغييرات جذرية في ممارسات العمل، مثل المحاكم غير الورقية. وحتى لو لم يتم الوفاء بهذه الوعود في معظم الولايات القضائية بعد، فإن البرامج والخوارزميات تنفذ بالفعل أجزاء متزايدة من الإجراءات القضائية. إن تأثيرات هذه التقنيات على عمل أنظمة العدالة والقيم التي أقرتها مبادئ بنغالور للسلوك القضائي هي في الغالب إيجابية.
من إعداد: خضرة. ع
