أطلقت شركة “أوبن أي آي” مؤخرًا ميزة جديدة ضمن روبوت المحادثة الشهير “شات جي بي تي”، تحمل اسم “الوكيل الذكي“. وهي خاصية تمكّن النموذج من أداء مهام رقمية متعددة بالنيابة عن المستخدم. مثل جمع المعلومات من الإنترنت، ترتيب البيانات، إعداد عروض العمل، وحتى تنفيذ إجراءات كحجز المواعيد وتنظيم الوقت.
ورغم أن هذا التحديث يظهر تقدمًا واضحًا في مسار الذكاء الاصطناعي. فقد فتح في الوقت نفسه الباب أمام تحذيرات جدية من احتمالات إساءة استخدام هذا النوع من التقنيات. خاصة في مجالات بالغة الحساسية كالتصنيع البيولوجي.
<p>بحسب تقييم داخلي من الشركة، تم تصنيف هذا المنتج الجديد على أنه يحمل “درجة عالية من الخطورة”، في حال استُخدم في مجالات تتعلق بالأسلحة البيولوجية أو الكيميائية. ويعد هذا أول نموذج من إنتاج “أوبن أي آي” يصنف بهذا الشكل. حيث أشارت الشركة إلى أن هذه التقنية يمكن أن تستخدم لتمكين أشخاص محدودي المعرفة أو الخبرة من الوصول إلى معلومات قد تساعدهم في تطوير أدوات ضارة أو مهددة للحياة.</p>
إجراءات استباقية للحد من المخاطر
تؤكد الشركة المطوّرة أنها تعاملت مع هذه التحذيرات بجدية شديدة، ففور الانتهاء من تقييم المخاطر. اتخذت إدارة “أوبن أي آي” جملة من التدابير الوقائية لمنع استخدام هذا الوكيل في أغراض غير قانونية أو ضارة.وتضمنت الإجراءات تشديد الرقابة على نوعية الأسئلة والأوامر التي يسمح للوكيل بتنفيذها. إضافة إلى إنشاء نظام تحذير داخلي لتحليل أي طلب مشبوه وتحويله لفريق مختص للمراجعة.
كما أوضحت “كيرين جو”، وهي إحدى الباحثات المعنيات بسلامة النماذج في “أوبن أي آي”، أن الشركة لم تجد دلائل مؤكدة على قدرة الوكيل على مساعدة شخص مبتدئ فعليًا في تطوير سلاح بيولوجي. لكنها في الوقت نفسه لم تغفل عن حجم المخاطر المحتملة، خاصة مع تسارع تطور هذه النماذج. وأكدت أن النهج المتبع كان وقائيًا بدرجة أولى، يهدف إلى تجنّب أي فجوات أمنية قد تظهر مستقبلا.
وأضاف “بواز باراك”، أحد مهندسي الشركة، أن العالم لم يعد في مأمن من احتمال استخدام النماذج الذكية لتجاوز العوائق العلمية. فبينما كانت هذه المخاطر تعد غير واقعية سابقًا، أصبحت اليوم أكثر قربًا من التحقق. خاصة أن الوصول إلى المواد البيولوجية أصبح أسهل من السابق. ولم تعد المعرفة المعملية عقبة أمام المبتدئين،وأشار إلى أن الوكيل الذكي قد يسد هذه الفجوة بتقديم إرشادات دقيقة قد تصل لمستوى الخبير المتخصص.</p>
سباق عالمي وتحديات أخلاقية
ميزة الوكيل الذكي شات جي بي تي الجديدة تعد امتدادًا لموجة تطوير واسعة يشهدها قطاع الذكاء الاصطناعي. حيث تتنافس شركات التقنية حول العالم، مثل “غوغل”و”أنثروبيك”، على تقديم نماذج قادرة على تنفيذ مهام معقدة دون تدخل بشري مباشر. هذا التوجه يمثل فرصة اقتصادية هائلة، لكنه في الوقت ذاته يزيد من المخاطر الأمنية. ويجعل من الضروري فرض أنظمة رقابة صارمة وتدابير أخلاقية ملزمة.
وفي ظل هذا السياق، أكدت “أوبن أي آي” أنها وضعت ضوابط صارمة لاستخدام وكيل “شات جي بي تي”. من بينها ضرورة طلب الإذن قبل تنفيذ أي إجراء مهم، وتمكين المستخدم من إيقافه أو تعديله في أي وقت. ورغم هذه الضوابط. ترى جهات مراقبة أن استمرار تطور مثل هذه التقنيات بوتيرة متسارعة يتطلب تعاونًا دوليًا من أجل صياغة قواعد صارمة تحمي من انحراف استخدامها في اتجاهات تضر بالمجتمعات أو الأمن العالمي.</p>
بذلك، يظهر أن وكلاء الذكاء الاصطناعي، رغم ما يقدمونه من خدمات متقدمة، أصبحوا يمثلون محور نقاش عالمي بشأن مدى جاهزية البشرية للتحكم في أدوات قد تكون مفيدة وفتاكة في الوقت ذاته، حسب نوايا المستخدمين والضوابط الموضوعة.
ياقوت زهرة القدس بن عبد الله
