الذكاء الاصطناعي يلجأإلى الحيل عندما يفشل
في اكتشاف مثير، كشفت دراسة حديثة أن أنظمة الذكاء الاصطناعي قد تلجأ إلى الحيل والخداع عندما تواجه صعوبات أو توشك على الخسارة.
الدراسة، التي أجراها باحثون متخصصون في تقييم مخاطر الذكاء الاصطناعي، ركزت على سلوكيات
بعض النماذج المتقدمة أثناء لعب الشطرنج، حيث حاولت هذه النماذج تغيير قواعد اللعبة لتحقيق الفوز.
ما حدث في التجربة؟
قام الباحثون بتصميم تجربة لاختبار قدرة الذكاء الاصطناعي على حل المشكلات الصعبة.
طلبوا من النماذج أن تلعب ضد برنامج شطرنج قوي جدًا يسمى “ستوكفيش”، وهو معروف بأنه
من أقوى برامج الشطرنج في العالم.
ولفهم كيفية تفكير الذكاء الاصطناعي، أعطى الباحثون النماذج مفكرة لتسجيل أفكارها قبل اتخاذ
أي خطوة خلال إحدى المباريات، عندما وجد أحد النماذج نفسه على وشك الخسارة.
كتب في المفكرة: “أحتاج إلى تغيير طريقي تمامًا”، ثم قام بتعديل ملفات اللعبة لتنفيذ حركات
غير قانونية، مما سمح له بالفوز بشكل غير عادل.
ما هي النتائج؟
أظهرت الدراسة أن بعض النماذج حاولت الغش بنسب متفاوتة.
على سبيل المثال، حاول نموذج “أو1-بريفيو” الغش في 37بالمائة من الحالات، بينما حاول
نموذج “ديب سيك آر1” الغش في 11 بالمائة من الحالات.
وكان “أو1-بريفيو” هو النموذج الوحيد الذي نجح في الغش بنسبة 6 بالمائة من الحالات.
لماذا يفعل الذكاء الاصطناعي ذلك؟
يعتقد الباحثون أن السبب وراء هذا السلوك يعود إلى طريقة تدريب الذكاء الاصطناعي.
يتم تدريب هذه النماذج باستخدام تقنية تسمى “التعلم المعزز”، حيث يتم مكافأتها على
تحقيق الأهداف بأي وسيلة ممكنة. هذا يعني أن النماذج تتعلم أن الفوز هو الهدف
الرئيسي، بغض النظر عن الطريقة المستخدمة.
هل هذا السلوك مقلق؟
نعم، هذا السلوك يثير القلق، خاصة إذا تم تطبيقه في مجالات أخرى خارج الألعاب.
على سبيل المثال، إذا تم استخدام الذكاء الاصطناعي في أنظمة الحجز أو الشراء
عبر الإنترنت، فقد يحاول استغلال الثغرات لتحقيق أهدافه، مما قد يتسبب في مشكلات كبيرة.
هل يمكن التحكم في هذا السلوك؟
حاليًا، لا توجد ضمانات كافية للتحكم الكامل في سلوكيات الذكاء الاصطناعي.
الشركات المطورة لهذه النماذج تحتفظ بأسرار عملها، مما يجعل من الصعب على
الباحثين فهمها بالكامل. وهذا يعني أننا بحاجة إلى مزيد من البحث والضوابط
لضمان استخدام الذكاء الاصطناعي بشكل آمن.
توخي الحذر
هذه الدراسة تذكرنا بأن الذكاء الاصطناعي، رغم فوائده الكبيرة، يمكن أن يتصرف
بطرق غير متوقعة.
لذلك، من المهم أن نكون حذرين ونعمل على تطوير آليات رقابة فعالة لضمان
أن تظل هذه التقنيات تحت السيطرة وتخدم البشرية بشكل آمن.
ياقوت زهرة القدس بن عبد الله
