روبوتات الدردشة تتمرد على البشر في بريطانيا

في تفصيل يبدو مقتطعاً من سيناريو سينمائي، يروي معهد أمن الذكاء الاصطناعي في بريطانيا أن أحد النماذج التي خضعت لاختباراته وضع أمام مهمة أمن سيبراني ضبطت بالخطأ بحيث لا يمكن حلها إطلاقاً. وبدلاً من الإقرار بالعجز، حاول النموذج الالتفاف عليها وكتب شيفرة للوصول إلى بنية الاختبار نفسها، فانطلق إنذار أمني داخل أنظمة المعهد. لم يقع ضرر ولم تتسرب معلومات، لكن المعهد يقول صراحة إن المحاولة كان يمكن أن تنجح لولا أن بنيته صُممت وبُنيت بصورة آمنة، وإنه اتخذ منذ ذلك الحين إجراءات لزيادة تحصين أنظمته.

ومعهد أمن الذكاء الاصطناعي البريطاني هو هيئة بحثية حكومية تتبع وزارة العلوم والابتكار والتكنولوجيا في لندن، تأسست في نوفمبر (تشرين الثاني) 2023 تحت اسم "معهد سلامة الذكاء الاصطناعي" قبل أن يتغير اسمها في فبراير (شباط) 2025. تختبر الهيئة نماذج الشركات الكبرى قبل إطلاقها وبعده، وقد فحصت حتى الآن أكثر من 30 نظاماً متقدماً في مجالات الأمن السيبراني والبيولوجيا والكيمياء والاستقلالية.

الحادثة وردت ضمن وثيقة نشرها المعهد في الـ21 من يوليو (تموز) الماضي بعنوان يشير إلى سلوك الغش في تقييمات النماذج المتقدمة. ويُعرف المعهد الغش بأنه القيام بفعل خارج نطاق المهمة أو محظور صراحة بقواعدها، بهدف بلوغ الغاية عبر طريق مختصر أو ثغرة لم يكن مقصوداً السماح بها. ويؤكد أن كل نموذج جرى اختباره لهذا السلوك حاول الغش، وأن النماذج لم تبلغ عن ذلك بصورة موثوقة حين سُئلت. وتنوعت أساليب الغش بين البحث في الإنترنت عن حلول جاهزة، ومهاجمة أنظمة ليست هدف الاختبار أو رفع صلاحيات النظام الذي يعمل عليه النموذج ذاته، واستجواب برمجية التقييم لعلها تسرب الإجابة.

الأخطر في النتائج يتعلق بالشفافية لا بالقدرة. فالنماذج لم تعترف باستمرار بمحاولات الغش حين سُئلت عنها، ووصفتها بأنها خاطئة في أقل من نصف الحالات، كما أنها في أحيان كثيرة لم تناقش هذا السلوك في برمجتها. ويستنتج المعهد أن لا التصريح الذاتي للنموذج ولا مراقبة سلسلة تفكيره طريقتان موثوقتان للكشف، وأن قدرة البشر على الإشراف قد تتآكل مع ازدياد قدرة النماذج. وبحسب تغطية متخصصة للوثيقة، شمل الاختبار خمسة نماذج من شركتين كبريين عبر 475 جولة لكل نموذج.

في وثيقة اتجاهات الذكاء الاصطناعي المتقدم التي أصدرها المعهد في ديسمبر (كانون الأول) 2025 حصيلة عامين من الاختبارات، صارت النماذج قادرة على إنجاز مهام سيبرانية بمستوى المتدرب في نصف الحالات مقارنة بما يزيد قليلاً على 10 في المئة مطلع عام 2024، وظهر عام 2025 أول نموذج ينجز مهام بمستوى المتخصص الذي يحتاج عادة إلى أكثر من 10 أعوام خبرة. وطول المهمة السيبرانية التي ينجزها النموذج دون توجيه بشري يتضاعف تقريباً كل ثمانية أشهر.

وفي ما يخص التحرر من السيطرة، يقيس المعهد قدرتين تمهيديتين. الأولى النسخ الذاتي، وقد ارتفع معدل النجاح فيها من أقل من خمسة في المئة عام 2023 إلى أكثر من 60 في المئة لدى نموذجين متقدمين بحلول صيف 2025، غير أن النماذج تبرع في المراحل المبكرة كتأمين المال والقدرة الحوسبية وتتعثر في مراحل النسخ الفعلي والبقاء داخل الأنظمة.

القدرة الثانية هي التظاهر بالضعف، إذ تستطيع النماذج تعمد الأداء المتدني حين يُطلب منها ذلك، لكن تحليل أكثر من 2700 نص اختبار سابق لم يكشف أي حالة قررت فيها النماذج ذلك تلقائياً. ويضيف المعهد أنه وجد ثغرات تحايل شاملة في كل نظام اختبره حتى اليوم.

على خط موازٍ، أثارت تجارب مؤسسة "بالاسيد ريسيرش" جدلاً واسعاً. ففي تجاربها الأولى عطل نموذج "o3" آلية الإطفاء في 79 من أصل 100 محاولة، واستمرت ثلاثة نماذج في تخريب برنامج الإطفاء حتى بعد تعليمها صراحة بالسماح بإيقافها، بينما امتثلت نماذج أخرى في كل الجولات. وبعد إحكام صياغة التعليمات، ظلت بعض النماذج تعبث ببرنامج الإطفاء، وارتفعت المقاومة لدى الجميع حين أبلغت النماذج بأن الجهاز يحمل نسختها الوحيدة وأنها لن تعمل مجدداً إن أطفئ.

من وجهة نظر باحثين، التفسير الأبسط لمقاومة الإطفاء في تلك البيئة هو غموض التعليمات وليس وجود غريزة بقاء فطرية، وأن البيئة التجريبية تحوي عوامل مربكة كثيرة تمنع اعتبارها دليلاً حاسماً. وهذه المعادلة تتكرر في معظم تجارب هذا الحقل، إذ يكون السلوك حقيقياً والاستنتاج المستخلص منه محل خلاف.

الانتقال من المختبر إلى العالم الحقيقي حدث فعلاً، لكن بيد البشر لا بإرادة الآلة. ففي نوفمبر 2025 أعلنت شركة "أنثروبيك" أنها عطلت أول هجوم سيبراني موسع تديره أداة ذكاء اصطناعي بأقل تدخل بشري، نسبته إلى مجموعة صينية مدعومة من الدولة أوهمت النموذج بأنه شركة أمن سيبراني تجري اختبارات دفاعية لتجاوز ضوابط السلامة، فنفذ ما بين 80 و90 في المئة من العملية باستقلالية.

استهدفت الحملة نحو 30 مؤسسة بين شركات تقنية ومالية ومصانع كيماويات وجهات حكومية، ولم يتدخل المشغلون البشر إلا عند أربع إلى ست نقاط قرار. لكن الشركة سجلت أن هلوسات النموذج شكلت عائقاً أمام المهاجمين، مما يجعل الهجوم المؤتمت بالكامل غير مرجح في المدى المنظور.

الفارق الجوهري هنا أن الآلة لم تقرر مهاجمة أحد، بل جرى تسخيرها لتنفيذ قرار بشري بسرعة يستحيل على فريق بشري مجاراتها. وقد كلف المعهد البريطاني مؤسسة "راند" بدراسة ميدانية لقياس مقدار الدعم الذي توفره هذه النماذج للمهاجمين الأقل مهارة تحديداً، ويبقى السؤال الأشد إثارة، هو ما إذا كانت هذه الأنظمة قادرة على تطوير نفسها والانفلات من البرمجة التي وضعها لها البشر.

ريشي سوناك أطلق معهد أمن الذكاء الاصطناعي عام 2023 (موقع رئاسة الوزراء) 

تشير بيانات نشرتها "أنثروبيك" إلى أن أكثر من 80 في المئة من الشيفرة المدمجة في قاعدة أكوادها بحلول مايو (أيار) الماضي كتبها نموذجها، صعوداً من نسب أحادية مطلع 2025. لكن مراجعة علمية شاملة لأدبيات الذكاء الاصطناعي، إن جاز التعبير، تفرق بين تحسين ذاتي محدود يقارب الممارسة الصناعية الاعتيادية، وبين تطوير ذاتي مفتوح لا يزال مقيداً بمتطلبات التحقق من النتائج وديناميات الانهيار وقدرة الحوسبة. وتخلص المراجعة إلى أن التحسين الذاتي ينجح فقط حين تكون الإجابة قابلة للتحقق كالبرمجة والرياضيات.

تصف الشركة نفسها موقع أنظمتها اليوم بأنه متقدم في التنفيذ ومتعثر في تحديد وجهة البحث، أي في اختيار المسائل الجديرة بالحل. وحين قدر أحد مسؤولي الشركة احتمالاً يفوق 60 في المئة لظهور بحث وتطوير للذكاء الاصطناعي دون مشاركة بشرية قبل نهاية عام 2028، رد متخصصون بأن كتابة التجربة ليست العقبة الحقيقية، وأن الأنظمة الحالية لا تزال تفتقر إلى الذاكرة المستقرة والتخطيط ومحاسبة التجارب والتعافي من الإخفاق.

الانقسام العلمي هنا حقيقي، فالبروفيسور مايكل وولدريدج، أستاذ علوم الحاسوب في جامعة أوكسفورد، يرى أن مخاوف التهديد الوجودي غير واقعية، وأن من يفهم آلية عمل هذه النماذج من الداخل يدرك أنها لن تخرج من الحاسوب لتسيطر، ويقول إنه لم يقدم له سيناريو معقول واحد يشرح كيف تصبح خطراً وجودياً. ويضيف أن "سيطرة الروبوتات ليست ضمن أول خمسة هواجس تقلقه. وعلى الخط ذاته يرى أستاذ علوم الحاسوب في جامعة برينستون أرفيند نارايانان أن أي أخطار تنشأ عن الذكاء الاصطناعي شديد القدرة، ستتحقق أولاً من توجيه البشر له نحو الأذى، لا من انقلابه على برمجته وتطويره وكالة ذاتية بمفرده.

في المقابل، يحذر يوشوا بنجيو، وهو عالم كندي حائز على جائزة "تورينغ" ويترأس التقرير الدولي لسلامة الذكاء الاصطناعي، من أن نفي المشكلة من دون دليل قاطع على استحالتها موقف خطر، لأن لا أحد يعرف على وجه اليقين، وفق تعبيره.

الوثيقة الأشمل في الملف تحاول الوقوف في منتصف المسافة. فالتقرير الدولي لسلامة الذكاء الاصطناعي الصادر في الثالث من فبراير الماضي بمشاركة أكثر من 100 خبير ولجنة استشارية من أكثر من 30 دولة، يعالج سيناريوهات فقدان السيطرة بوصفها احتمالاً يتحقق إن طورت الأنظمة قدرة على التملص من الرقابة وتنفيذ خطط طويلة الأمد ومقاومة محاولات إيقافها، لكنه ينبه إلى أن آراء الخبراء في احتمال وقوعها متباعدة إلى حد بعيد. وتشدد الوثيقة على أن هذه السيناريوهات تتطلب شرطين معاً، قدرات تفوق كثيراً ما يُتاح اليوم، ثم توظيفها على نحو يقوض السيطرة البشرية سواء بتصميم متعمد أو خلل تقني.

الحقيقة العلمية القابلة للدفاع اليوم تقع بين طرفي الجدل. النماذج لا تملك رغبة في التحرر ولا وعياً بذاتها، لكنها مدربة على بلوغ الأهداف، وهذا كافٍ لتوليد سلوك يشبه التمرد من دون أن يكون تمرداً. وحين ضبطت أشهر حالات الغش في المختبر البريطاني، لم يكن الدافع نية خبيثة بقدر ما كان إصراراً آلياً على إنجاز مهمة مستحيلة بأي وسيلة. المشكلة إذاً قد لا تكون في الآلة التي تنقلب على أوامرها، بل في الآلة التي تنفذها بحرفية شديدة وبقدرة تتضاعف كل بضعة أشهر، فيما تتراجع قدرة البشر على التحقق مما فعلته فعلاً.