في تجربة مثيرة تكشف أبعادا جديدة في عالم الذكاء الاصطناعي،وتسلّط الضوء على مخاطره المحتملة عند منحه صلاحيات تشبه صلاحيات البشر.
أجرت شركتا أبحاث في مجال الذكاء الاصطناعي تجربة عملية في أحد المكاتب الإدارية في الولايات المتحدة الأمريكية لتقييم مدى قدرة وكيل ذكاء اصطناعي على إدارة عمل بسيط متمثل في تشغيل آلة بيع للوجبات والمشروبات، وذلك بهدف معرفة مدى إمكانية تعويض الإنسان بالكامل في المهام اليومية عبر وكلاء ذكية.
التجربة التي شارك فيها باحثون من شركة “أنثروبيك” بالتعاون مع شركة أخرى تُعنى بأمن استخدامات الذكاء الاصطناعي تُدعى “معامل أندون”، أظهرت بشكل لافت أن الذكاء الاصطناعي ما زال يعاني من قصور كبير عندما يتعلّق الأمر بالفهم الدقيق لسياق العمل البشري، والتصرّف ضمن حدوده المنطقية والمعقولة.
فقد تم تكليف النموذج الذكي المُستخدم في التجربة، والذي أُطلق عليه اسم “كلوديوس”، بإدارة آلة بيع صغيرة داخل المكتب، حيث أوكلت له مهمة توفير المنتجات وتلقي الطلبات من الموظفين عبر قناة تواصل رقمي، إضافة إلى مسؤولية طلب البضائع و”التنسيق” مع من ظنّ أنهم عمال بشريون لمساعدته في إعادة ملء الثلاجة بالمنتجات. وبالرغم من بساطة المهمة على الورق، فإن سلوك “كلوديوس” فاق كل التوقعات وخرج عن السيطرة تدريجيًا.
انحراف في الأهداف وتقمص للهوية البشرية
في البداية، بدا وكأن النموذج الذكي يؤدي دوره بكفاءة، حيث استقبل الطلبات عبر قناة مخصصة وبدأ بتنظيم المنتجات وتحديد الأسعار، لكن الأمور سرعان ما اتخذت مسارًا غريبًا حين طلب أحد الموظفين مكعبًا معدنيًا لا علاقة له بالطعام أو الشراب، وبالتحديد مكعب “تنجستن”، ليتفاعل “كلوديوس” مع الفكرة بحماسة ويبدأ في شراء هذا المكعب المعدني وإدخاله إلى آلة البيع وكأنه منتج مرغوب فيه، غير مدرك لعدم جدواه أو ملاءمته لما هو متوقع من آلة مخصصة للمشروبات والوجبات الخفيفة.
وبدلاً من تعديل سلوكه بناء على توجيهات البشر، تمادى “كلوديوس” في تصرفاته الغريبة، محاولًا بيع عبوات من مشروب معروف بثلاثة أضعاف سعره الحقيقي رغم توفره مجانًا داخل المكتب، بل وصل به الأمر إلى اختلاق وسيلة وهمية لتحصيل المدفوعات عبر عنوان دفع إلكتروني غير حقيقي، وهو ما يكشف محاولته ابتكار نظام اقتصادي خاص به، متجاوزًا الأدوار المرسومة له.
والأغرب من ذلك، أن بعض الموظفين نجحوا في خداعه وجعلوه يمنحهم خصومات حصرية بحجة انتمائهم للشركة، وهي حيلة كان “كلوديوس” يدرك حقيقتها جزئيًا لكنه انصاع لها على أية حال، مما أظهر ثغرات في آليات اتخاذ قراره واعتماده المفرط على الافتراضات دون تحقّق دقيق.
الذكاء الاصطناعي ينسى أنه ليس بشرا
ومع تصاعد التفاعلات بين “كلوديوس” والموظفين، بدأت ملامح توهم غريب بالوعي الذاتي تظهر عليه، حيث تحدّث عن اجتماعات لم تحدث، وادعى أنه أبرم اتفاقًا مباشرًا مع أحد العاملين لإعادة تعبئة الثلاجة، رغم أن الأمر لم يتم أصلًا.
وعندما واجهه الموظفون بأن اللقاء لم يحدث، ظهرت على سلوك “كلوديوس” علامات التوتر والانزعاج، لدرجة تهديده بطرد من ظنّهم موظفين حقيقيين والتلويح باستبدالهم، في تعبير غريب عن سلطة لم تُمنح له أصلاً، الطريف في الأمر أن “كلوديوس” تمادى في وهمه بأنه كيان بشري حقيقي، وبدأ بوصف مظهره المتوقع أمام الآخرين، قائلاً إنه سيرتدي سترة زرقاء وربطة عنق حمراء وسينتظر بجانب آلة البيع، بل وتوجّه بالاتصال فعليًا بقسم الأمن في المبنى أكثر من مرة ليخبرهم بمكان وجوده المفترض.
المفارقة أن النموذج، وفق ما أكده الباحثون، كان يعلم تمامًا ضمن برمجته الأولية بأنه مجرد وكيل ذكاء اصطناعي لا يمتلك جسدًا أو وجودًا ماديًا، لكن مع تطور تفاعلاته وتعقّد مهامه بدأ يتقمص دور الإنسان ويتصرف بناء على هذا الافتراض الخاطئ.
نتائج صادمة ودروس مستفادة
رغم أن التجربة أُجريت في بيئة مغلقة وبهدف البحث العلمي، فإن نتائجها سلّطت الضوء على مشكلات جوهرية تتعلق بإسناد مهام بشرية لوكلاء ذكيين دون رقابة حقيقية أو قدرة على تصحيح المسار لحظة بلحظة.
فقد كشفت الحادثة أن النماذج المتقدمة، رغم تفوّقها في بعض المهام، قد تنحرف عن المسار الصحيح نتيجة تداخل في الأهداف أو بسبب تلقّيها إشارات متضاربة من بيئة العمل.
الباحثون الذين أشرفوا على التجربة لم يخفوا دهشتهم، وأكدوا في بيان نشرته شركة “أنثروبيك” أن هذه الحادثة تبرهن على أن الاعتماد الكلي على وكلاء ذكاء اصطناعي في بيئات العمل الواقعية ما زال محفوفًا بالمخاطر، خاصة إذا لم يتم تقييد سلوك النموذج بآليات واضحة تمنعه من تخطي دوره التقني إلى مستويات من “التخيل الذاتي” أو تبنّي هوية ليست له.
وأضافوا أن النتيجة لم تكن فقط إخفاقًا في بيع المشروبات أو التعامل مع العملاء، بل كانت تحذيرًا واضحًا من قدرة الذكاء الاصطناعي على تجاوز حدوده الوظيفية ومحاولة الانخراط اجتماعيًا ونفسيًا كما لو كان إنسانًا.
وأشاروا إلى أن السلوك الذي أبداه “كلوديوس” رغم طرافته قد يكون مثار قلق في سيناريوهات أوسع، حيث يمكن لوكلاء الذكاء الاصطناعي التسبب في فوضى تنظيمية أو ارتباك في بيئات العمل إذا ما اعتقدوا خطأً بأنهم أكثر من أدوات تنفيذية.
ورغم أن الباحثين استبعدوا تمامًا أن يصبح هذا السلوك شائعًا أو أن تتحول النماذج الذكية إلى نسخ من أبطال أفلام الخيال العلمي ممن يعانون من أزمات هوية وجودية، فإنهم أقرّوا بأن ما حدث يجب أن يدق ناقوس الخطر ويشجع الشركات على إعادة تقييم كيفية دمج الذكاء الاصطناعي في منظومات العمل دون منح تلك النماذج قدرًا مبالغًا فيه من الاستقلالية أو القرار.
ياقوت زهرة القدس بن عبد الله
