أطلقت مجموعة من كبار العلماء في مجال الذكاء الاصطناعي ناقوس الخطر. محذرين من أن استمرار تقدم النماذج الذكية دون رقابة على كيف تفكر الألة قد يؤدي إلى فقدان السيطرة على هذه التقنيات التي تزداد تعقيدًا.
وقد صدر تحذيرهم في وثيقة بحثية أعلن عنها مؤخرًا. ووقّعها نخبة من كبار المتخصصين في المجال من مختلف المؤسسات التقنية والجامعات . حيث دعوا فيها إلى ضرورة مراقبة ما يعرف بسلاسل التفكير التي تستخدمها الأنظمة الذكية لحل المشكلات. وهي الية متسلسلة تشبه الطريقة التي يدوّن بها الإنسان خطوات تفكيره في مسائل معقدة. لكن القلق يكمن في أن هذه السلاسل قد تصبح غير مرئية أو غامضة كلما ازدادت النماذج تطورًا.
هذا التحذير الجماعي لم يأتِ من فراغ، بل يعكس خشية متزايدة من أن تطور الذكاء الاصطناعي بدأ يتجاوز قدرة الإنسان على الفهم والمراقبة. فقد باتت النماذج الحديثة تعتمد على طرق تفكير مركبة وغير مباشرة تجعل من الصعب التحقق من صحتها أو مبرراتها. ويخشى العلماء من أن هذه السرعة في تطوير الأداء دون مواكبة في آليات التفسير قد تضع المجتمع العلمي أمام كائن تقني لا يمكن مساءلته أو التنبؤ بأفعاله.
تفكير الألة : بين التفسير والغموض
يعتمد الذكاء الاصطناعي في نماذجه الحديثة على ما يعرف بسلاسل التفكير. وهي عملية ذهنية صناعية تتبع خطوات لحل مسائل أو اتخاذ قرارات، وتعتبر هذه الخطوات بمثابة الملاحظات التي يكتبها النظام الذكي لنفسه حتى يصل إلى نتيجة ما. وفي حين تبدو هذه الالية مفيدة لفهم الية العمل الداخلي، إلا أن تطور النماذج جعل من هذه السلاسل أكثر تعقيدًا. حتى أصبحت في بعض الأحيان صعبة التفسير حتى من قبل مطوريها أنفسهم.
وقد عبّر عدد من الباحثين عن قلقهم من أن هذه السلاسل قد تطمس بفعل الطموح التجاري الساعي إلى الأداء السريع. حيث أصبح التركيز الأكبر على قوة النماذج ومخرجاتها، بينما يهمل جانب التفسير والشفافية . وقد أشار أحد الموقعين على الورقة إلى أن هذه الطريقة الجديدة في معالجة المعلومات قد تختفي أو تصبح عصيّة على الفهم خلال سنوات قليلة. وهو ما قد يؤدي إلى تحوّل النماذج الذكية إلى أنظمة مغلقة لا يعرف كيف تفكر أو لماذا تتخذ قراراتها بطريقة معينة.
كما نوّهت الورقة إلى أن الخطورة لا تكمن في وجود خطأ ظاهر, بل في أن النظام قد ينتج مخرجات سليمة ظاهريًا لكنها مبنية على منطق خاطئ أو متحيّز. ما يصعّب من اكتشاف الخلل أو تصحيحه، ولهذا دعت الوثيقة إلى ضرورة تخصيص موارد بحثية عاجلة لتطوير أدوات قادرة على مراقبة هذه السلاسل وتفسيرها بشكل واضح . بما يضمن سلامة النموذج وموثوقية قراراته.
تحديات الشفافية في سباق الأداء التقني
بينما تتسابق الشركات التقنية الكبرى نحو إطلاق نماذج أكثر كفاءة وسرعة. يزداد القلق من أن هذه السرعة قد تأتي على حساب الفهم العميق لاليات عمل هذه النماذج. إذ تسعى كل مؤسسة إلى إثبات تفوقها في الأداء. لكنها في ذات الوقت تهمل أهمية الوضوح الداخلي للقرار الصناعي. وهو ما يجعل من الصعب على المختصين. بل وحتى صانعي هذه الأنظمة أنفسهم تفسير النتائج التي يتم توليدها أو كيف تفكر الألة .
وقد برزت شركات معينة تسعى إلى وضع حد لهذا الخطر من خلال الاستثمار في أبحاث التفسير. ومن بين هذه المؤسسات من أعلنت عن برامج طويلة الأمد لفك رموز تفكير النماذج ومحاولة تتبع خطّها المنطقي خطوة بخطوة. كما شددت على ضرورة تعاون جميع الشركات والمراكز العلمية لتوحيد الجهود نحو تعزيز الشفافية وليس فقط تحسين الكفاءة. حيث إن التوازن بين الأداء والتفسير هو ما يضمن مستقبلًا آمنًا لهذه التقنية.
وفي ظل هذا الواقع، ينتظر من الحكومات والمراكز البحثية أن تولي هذه المسألة اهتمامًا عاجلًا. فالتقنيات المتطورة قد تصبح قريبًا أدوات لا يمكن الرجوع عنها إن لم تصمَّم منذ البداية على أسس واضحة. فمثلما نهتم بقوة النماذج وفاعليتها، علينا أيضًا أن نضمن أنها تفكر بطريقة يمكننا فهمها. وأن تكون قراراتها قابلة للمراجعة، لأن المجتمعات لا يمكن أن تبني مستقبلها على أنظمة لا تفهم كيف ولماذا تعمل بهذا الشكل.
بن عبد الله ياقوت زهرة القدس
