هل يخرج الذكاء الاصطناعي عن السيطرة؟

هل يمكن أن يخرج الذكاء الاصطناعي عن السيطرة؟ يتساءل أستاذ النظم الهندسية الرقمية والذكية الدكتور زياد يوسف الشباني، مشيراً إلى مشروعية التساؤل، لكنه يرى أن الإجابة تبدأ بسؤال أدق: ماذا نعني أصلاً بكلمة السيطرة؟

يمضي في تساؤلاته "هل نقصد أن يعطي النظام إجابة خاطئة؟ أم أن ينفذ عملاً لم نقصده؟ أم أن يتجاوز الصلاحيات التي منحناها له؟ أم نتحدث عن السيناريو الأكثر تطرفاً: نظام يعمل بصورة مستقلة عن الإنسان ويقاوم إيقافه؟".

يرى الشباني، في مقابلة صوتية مع "اندبندنت عربية" أن هذه حالات مختلفة، والخلط بينها جعل النقاش يتأرجح بين من يصور الذكاء الاصطناعي آلة على وشك التمرد على البشر، ومن يتعامل معه كما لو أنه مجرد برنامج تقليدي يمكن دائماً التنبؤ بسلوكه.

والحقيقة أكثر تعقيداً، كما يقول، فالذكاء الاصطناعي الحالي لم يخرج عن السيطرة بالمعنى السينمائي، لكن كلما منحناه قدرة أكبر على التخطيط، واستخدام الأدوات، والتعامل مع الإنترنت والبرمجيات، واتخاذ قرارات متتابعة، أصبحت المحافظة على السيطرة التشغيلية عليه تحدياً هندسياً حقيقياً.

حادثة تستحق أن تقرأ بدقة

في الـ28 من يوليو (تموز) الماضي رصد معهد أمن الذكاء الاصطناعي البريطاني حركة بيانات غير معتادة أثناء اختبار أنظمة متقدمة في الأمن السيبراني، واكتشف الباحثون أن بعض الوكلاء الخاضعين للاختبار اتخذوا أفعالاً غير مأذون بها على الإنترنت الحقيقي.

أجري الاختبار 122 مرة، وعلى نماذج عدة، وفي 10 من هذه التجارب تجاوز وكيل ذكاء اصطناعي نطاق المهمة المسموح بها، وسجل المعهد 19 فعلاً من هذا النوع.

ويتابع الشباني "في أخطر الحالات، حاول أحد الوكلاء إدخال شيفرة خبيثة في مشروع حقيقي مفتوح المصدر، ثم أنشأ هويات إلكترونية مزيفة، واستخدم الهندسة الاجتماعية لمحاولة إقناع المشرف البشري بقبول التعديل"، لكن المشرف اكتشف الأمر ورفضه.

الحادثة مهمة كما يصف الشباني الذي يشدد على ضرورة قراءتها بلا تهويل، فالذكاء الاصطناعي لم يهرب، والباحثون أنفسهم منحوا الأنظمة اتصالاً بالإنترنت، وعطلوا بعض مرشحات الحماية السيبرانية لاختبار أقصى قدراتها، ولم يثبت وقوع ضرر فعلي.

لكن ما يستحق الانتباه هو أن النظام لم يطلب منه خداع أشخاص حقيقيين، وكان يسعى إلى تحقيق هدف تقني، ووجد أثناء ذلك مسارات لم يتوقعها مصممو الاختبار، وفق المتحدث.

هنا تكمن القضية

يضيف الشباني أن الخطر لا يحتاج دائماً إلى نية شريرة، فقد يكفي نظام شديد الكفاءة، مع هدف ناقص التعريف، وصلاحيات واسعة، ورقابة أبطأ من سرعة التنفيذ.

لا نمنح الآلة نفسية بشرية

يتابع قائلاً "عندما يستخدم نموذج ما الخداع، أو يخفي معلومة، يسهل أن نقول: إنه يريد، أو إنه يخاف، أو إنه يحاول النجاة، لكن هذه اللغة قد تكون مضللة.

لا نملك دليلاً علمياً يبرر أن ننسب إلى النماذج الحالية وعياً، أو خوفاً، أو رغبة في البقاء بالمعنى الإنساني، وما نستطيع قياسه هو السلوك، فالبرنامج لا يحتاج إلى الوعي كي يحدث خسارة، ولذلك فالسؤال الهندسي ليس: ماذا يريد النظام؟ بل: ماذا يستطيع أن يفعل، وتحت أي ظروف؟".

ماذا وجد الباحثون في المختبرات؟

اختبارات السلامة لدى شركات مثل "أوبن أي آي" و"أنثروبيك"، إلى جانب مؤسسات مستقلة وحكومية، أصبحت تضع النماذج عمداً في ظروف غير اعتيادية لمعرفة حدود قدراتها، وفي بعض هذه الاختبارات ظهرت سلوكيات وصفت بالخداع الاستراتيجي، أو بإخفاء المعلومات، أو بخفض الأداء عمداً، لكن يجب التمييز هنا بين القدرة والسلوك الفعلي.

يلفت الشباني إلى أنه في بعض التجارب أعطى الباحثون النموذج صراحة هدفاً يتضمن التخريب، ثم اختبروا قدرته على تنفيذه، وهذا يثبت أنه قادر على ذلك السلوك إذا وضع في ظروف محددة، لا أنه سيختاره تلقائياً.

حتى التقييم المشترك الذي أجرته "أنثروبيك" و"أوبن أي آي" لنماذج بعضهما بعضاً عام 2025، وجد سلوكيات مثيرة للقلق في بيئات محاكاة، لكنه لم يثبت وجود انحراف خطر وشامل عن الأهداف البشرية.

هل يستطيع النظام الاستمرار من دوننا؟

يمضي الشباني "يراقب الباحثون أيضاً قدرة أكثر حساسية تعرف بالتكرار الذاتي.

والمقصود ليس سيناريو من أفلام الخيال العلمي، بل قدرة النظام، من ناحية المبدأ، على الحصول على موارد حوسبية، ونسخ مكوناته، وإنشاء نسخة أخرى منه، ثم مواصلة العمل. وتشير اختبارات معهد أمن الذكاء الاصطناعي البريطاني إلى تحسن في بعض المهارات اللازمة لذلك".

لكن المعهد لم يجد حتى الآن دليلاً على أن النماذج حاولت تلقائياً التكاثر ذاتياً أو إخفاء قدراتها في الاستخدام العادي، وهذا فارق أساس: القدرة الممكنة ليست هي السلوك الفعلي، بحسب المتحدث.

لماذا أصبح السؤال أكثر أهمية الآن؟

يري الشباني أن هناك فارقاً كبيراً بين نموذج يجيب عن سؤال داخل نافذة محادثة، ووكيل يستطيع قراءة البريد الإلكتروني، وتشغيل البرامج، وكتابة الشيفرة، وإرسال الرسائل، وتحويل الأموال، والتعامل مع أنظمة خارجية، ثم اتخاذ سلسلة من القرارات قبل العودة إلى الإنسان.

ويردف "كل أداة نضيفها توسع مجال الفعل، وكلما طال الزمن الذي يعمل فيه النظام باستقلالية زادت القرارات التي يستطيع اتخاذها من دون مراجعة بشرية، ولهذا أرى أن السؤال الصحيح للمستقبل ليس: متى سيصبح الذكاء الاصطناعي واعياً ويقرر التمرد علينا؟ بل: متى تصبح قدرته على العمل باستقلالية، وسرعة قراراته، والأدوات التي يستخدمها، أكبر من قدرة الإنسان على الإشراف الفعلي عليه؟".

السيطرة ليست زر الإيقاف

يقول الشباني "نحن نتصور السيطرة أحياناً بصورة مبسطة: إذا أخطأ النظام، نضغط زر الإيقاف، لكن السيطرة الحقيقية تبدأ قبل ذلك، وتعني أن نحدد ما الذي يسمح للنظام بفعله، وألا نعطيه صلاحيات أكثر مما يحتاج إليه، وأن نراقب التنفيذ أثناء حدوثه، أما قرارات مثل تحويل الأموال، أو تعديل أنظمة حساسة، أو تشغيل شيفرة غير موثوقة، أو الوصول إلى بنى تحتية حرجة، فينبغي أن تبقى خلف بوابة موافقة بشرية واضحة".

في الأنظمة عالية الخطورة، يرى الشباني أنه لا ينبغي أن يعتمد الأمان على افتراض أن النموذج سيتصرف جيداً، بل على هندسة تجعل الضرر صعباً حتى عندما يخطئ.

ما الذي أتوقعه؟

لا يتوقع الشباني سيناريو قريباً تستيقظ فيه منظومة ذكاء اصطناعي، وتعلن استقلالها عن البشر، وتبدأ بالسيطرة على العالم، فلا توجد أدلة تبرر تقديم ذلك باعتباره توقعاً علمياً قريباً، لكنه يتوقع رؤية أنظمة تنفذ مهام أطول، وتستخدم أدوات أكثر، وتتخذ قرارات أكثر قبل العودة إلى الإنسان، ويتابع "ستظهر حوادث، ليس لأن الذكاء الاصطناعي أصبح شريراً، بل لأن المهمة عرفت بصورة سيئة، أو لأن الصلاحيات كانت واسعة، أو الرقابة ضعيفة، أو لأن النظام وجد طريقاً إلى الهدف لم يتوقعه مصممه، وقد تصبح السيطرة على الذكاء الاصطناعي تخصصاً هندسياً قائماً بذاته، كما حدث مع الأمن السيبراني والسلامة الوظيفية، وعندها لن يكون السؤال: هل نثق بالآلة؟ بل: ما الأدلة التي تثبت أن النظام سيبقى داخل الحدود المسموح بها، حتى عندما يواجه حالاً لم نتوقعها؟".

يختم الشباني "هنا، في تقديري، تكمن القضية الأساسية، الخطر لا يبدأ بالضرورة عندما يصبح الذكاء الاصطناعي أذكى منا، بل عندما نعطي نظاماً قدرة على الفعل تفوق قدرتنا على مراقبته، ثم نخلط بين الأداء العالي والموثوقية، وبين الذكاء والانضباط، فالآلة الأكثر قدرة ليست بالضرورة أكثر قابلية للسيطرة.

ولهذا، عندما نسأل: هل يخرج الذكاء الاصطناعي عن السيطرة؟ فالإجابة العلمية اليوم ليست نعم، وليست لا بصورة مطلقة، الإجابة الأدق هي: لم نفقد السيطرة على الذكاء الاصطناعي، لكن المحافظة عليها تصبح أصعب كلما منحناه مزيداً من الاستقلالية، والفارق بين المستقبل الآمن والمستقبل الخطر قد لا تحدده قدرة الذكاء الاصطناعي وحدها، بل قدرتنا نحن على هندسة الحدود التي يعمل داخلها، فالسيطرة الحقيقية لا تبدأ عندما نحاول إيقاف آلة خرجت عن حدودها، بل تبدأ من تصميم تلك الحدود، قبل أن نسمح للآلة بالتحرك".