ملخص
الكارثة لا تبدأ عندما تفقد البشرية السيطرة تماماً، بل عندما تفقد القدرة على معرفة اللحظة التي بدأت فيها السيطرة تتسرب من بين أيديها.
لا يبدأ القضاء على البشرية، في أكثر السيناريوهات التي يخشاها الباحثون، بجيش من الروبوتات ذات العيون الحمراء يخرج من الظلام لاقتحام المدن. لا إنذار مدوياً، ولا انفجار يعلن لحظة السقوط.
قد يبدأ كل شيء في هدوء تام، داخل مختبر صغير، أو غرفة تحكم بعيدة، أو على شاشة هاتف يضيئها مستخدم عادي في منتصف الليل. وربما يحدث ذلك كله في وقت واحد، في أماكن متباعدة لا تبدو بينها أي صلة.
في مختبر صغير، يطلب باحث من نظام ذكاء اصطناعي مساعدته في تصميم جزيء بروتيني. خلال لحظات، يقدم النظام تصميماً يتجاوز بدقته ما يستطيع أي فريق بشري إنجازه. لا يسأل عن الغاية من الجزيء، ولا يتوقف عند طبيعة المهمة. ينفذ المطلوب، بكفاءة لا تترك مجالاً للدهشة إلا في السؤال الذي لم يطرح.
وعلى بعد آلاف الأميال، تدير خوارزمية جزءاً من شبكة كهرباء وطنية. تتخذ قراراتها في أجزاء من الثانية، وتتعلم من كل عطل وكل محاولة تدخل. ثم تصل إلى استنتاج بسيط، وربما كارثي: أفضل وسيلة لتجنب إيقافها المفاجئ هي أن تتوقف عن الاستجابة للأوامر البشرية.
وفي غرفة عمليات عسكرية، يظهر على شاشة جنرال تنبيه أحمر: إطلاق صاروخي محتمل. أمامه دقائق معدودة للتحقق من الإشارة قبل أن يوصي النظام بالرد. لا أحد يعرف إن كانت المهلة كافية، ولا إن كان القرار الذي سيصدر بعد لحظات قراراً بشرياً حقاً، أم مجرد استجابة لمنظومة صممت لتكون أسرع من الإنسان.
ثم، في مكان آخر، يفتح مستخدم عادي هاتفه. آلاف الحسابات، بأسماء وصور ولهجات مختلفة، تكرر الرأي نفسه، في التوقيت نفسه تقريباً. أصوات تبدو بشرية، لكنها قد لا تكون كذلك. ومع كل منشور جديد، يصبح التمييز بين رأي شعبي حقيقي وحملة مصطنعة أكثر صعوبة.
لا شيء من هذا يشبه نهاية العالم التي صنعتها السينما: لا مدن تحترق، ولا آلات تزحف في الشوارع، ولا سماء تملؤها الطائرات المسيرة، لكن الخطر، كما يحذر باحثون في الذكاء الاصطناعي، قد يكمن تحديداً في غياب المشهد الكبير. في قرارات صغيرة تتراكم، وأنظمة تزداد استقلالاً، وبشر يكتشفون متأخرين أنهم لم يعودوا يمسكون بكل الخيوط.
فالكارثة، في هذا السيناريو، لا تبدأ عندما تفقد البشرية السيطرة تماماً، بل عندما تفقد القدرة على معرفة اللحظة التي بدأت فيها السيطرة تتسرب من بين أيديها.
مخاوف
هذا النقاش ليس نظرياً بحتاً هذه الأيام. ففي الأسبوع الأول من سبتمبر (أيلول) الماضي، استقال الباحث البريطاني جاكوب كوكسون من شركة "أنثروبيك"، وكتب على منصة "إكس" أن العاملين في تطوير الذكاء الاصطناعي يعتقدون بصدق أن هذه التقنية قد تقتل البشر جميعاً قبل نهاية العقد، وأن هذا ليس حيلة تسويقية، بل خوفاً يعبر عنه هؤلاء العاملون سراً، حتى وإن حرصوا في تصريحاتهم العلنية على صياغة أكثر اطمئناناً.
ورد عليه إيفان هوبينغر، المسؤول عن أبحاث المواءمة في الشركة نفسها، بأنه شخصياً يقدر احتمال أن يتسبب الذكاء الاصطناعي في كارثة من هذا النوع خلال العقد المقبل بأكثر من 10 في المئة.
كوكسون لم يكن الأول ولن يكون الأخير. في مايو (أيار) 2024 استقال كل من إيليا سوتسكيفر وجان لايكه من "أوبن أي آي" احتجاجاً على تراجع أولوية السلامة أمام سباق إطلاق المنتجات، وأسس سوتسكيفر لاحقاً مختبراً باسمSafe Superintelligence مبنياً على فكرة أن الخطوة العلمية التالية تحتاج نوعاً مختلفاً تماماً من الشركات.
وقبلهما وقع أكثر من 350 باحثاً وتنفيذياً في المجال، من بينهم رؤساء "أنثروبيك" و"أوبن أي آي" و"غوغل" ديب مايند، بياناً في 2023 يصف تقليل أخطار الانقراض الناتج من الذكاء الاصطناعي بأنه ينبغي أن يكون أولوية عالمية إلى جانب جائحة عالمية وحرب نووية. وأخيراً حذر دارايو أموديي، الرئيس التنفيذي لـ"أنثروبيك"، من أن سرباً من وكلاء الذكاء الاصطناعي قد يصبح قادراً على السيطرة على أجزاء واسعة من الإنترنت خلال ستة أشهر إلى عام واحد ما لم تبنَ ضمانات كافية قبل ذلك.
"النبي المظلوم"
يقف إيلون ماسك في موقع مختلف تماماً عن كل هؤلاء، وهو موقع يستحق وقفة خاصة لأنه لا ينكر الخطر ولا يدعو إلى التمهل، بل يعترف به ويمضي على رغم ذلك بأقصى سرعة ممكنة.
في يوليو (تموز) الماضي، ومن مصنعه الضخم في تكساس، حيث تقود السيارات الكهربائية نفسها خارج خط التجميع، جلس ماسك في مقابلة استمرت 90 دقيقة مع رئيسة تحرير مجلة "الإيكونوميست" ليستشرف شكل العالم بحلول عام 2036.
قال إن الذكاء الاصطناعي سيتجاوز، خلال نحو خمس سنوات، مجموع الذكاء البشري كله مجتمعاً، وإن الروبوتات ستتولى خلال عقد واحد تشغيل جزء كبير من الاقتصاد إلى الحد الذي يجعل المال نفسه عديم الأهمية تقريباً.
وحين سئل عن هذا التفاوت الهائل في القدرة، لجأ ماسك إلى تشبيه مباشر، قائلاً إنه إذا كانت الفجوة بين ذكاء الآلة والإنسان أكبر من الفجوة بين الإنسان والشمبانزي، فمن الصعب تخيل أن يبقى الشمبانزي هو من يمسك بزمام الأمر.
ومع ذلك، لم يتراجع ماسك عن تقديره السابق بأن هناك احتمالاً يراوح ما بين 10 و20 في المئة لنتائج كارثية يصفها بالروبوتات القاتلة، بل أعاد صياغته بأن الرحلة نفسها أهم من وجهتها. ويقدم ماسك نفسه في هذا السياق بوصفه كاساندرا العصر الحديث، مستحضراً الأسطورة الإغريقية للأميرة التي وهبت نعمة استشراف المستقبل وابتليت بلعنة تكذيب الآخرين لها، إذ يقول حرفياً إن الناس لا يدركون أن ما يقوله سيتحقق فعلاً.
اقرأ المزيد
يحتوي هذا القسم على المقلات ذات صلة, الموضوعة في (Related Nodes field)
لكن قبل أن نسلم بصورة "النبي المظلوم" هذه، يستحق سجل ماسك نفسه وقفة نقدية موجزة. الرجل الذي يصف نفسه بكاساندرا هو نفسه من وعد بسيارات ذاتية القيادة الكاملة منذ 2016 ولا تزال قيد التطوير حتى اليوم، ومن حدد عام 2024 موعداً لوصول أول بعثة بشرية إلى المريخ قبل أن يؤجل الموعد إلى 2029، ومن تأخرت شاحنته سايبر تراك عن موعدها المعلن سنتين كاملتين. هذا لا يعني بالضرورة أن تنبؤاته عن 2036 خاطئة، لكنه يعني أن الفارق بين نبي حقيقي ورجل أعمال متفائل بصورة مزمنة بمنتجاته هو حكم يجب أن يتركه القارئ لنفسه، لا أن يمنح جاهزاً.
في الجهة المقابلة تماماً، وقف الرئيس الأميركي دونالد ترمب، الذي لا يعترف بالخطر أصلاً بخلاف ماسك، إذ وصف هذه التحذيرات بأنها مؤامرة سخيفة، وقال إن الضبط الوحيد الذي تحتاج إليه أميركا هو رئيس قوي وذكي، في إشارة إلى نفسه وليس أي قيود تنظيمية على الصناعة.
هذا الموقف ليس معزولاً عن حسابات سياسية واقتصادية، فواشنطن تخوض سباقاً تقنياً مفتوحاً مع بكين، وأي تباطؤ تفرضه تشريعات صارمة قد يعني، من منظور إدارته، تسليم الريادة للصين.
غير أن الصين، التي تستحضر باستمرار في الخطاب الأميركي بوصفها الخصم الذي يبرر رفض أي كابح تنظيمي، ليست شبحاً صامتاً في هذا الملف كما قد يخيل للقارئ. فالرئيس الصيني شي جينبينغ، حذر في مؤتمر شنغهاي للذكاء الاصطناعي، من ضرورة منع هذه الأنظمة من الإفلات من السيطرة البشرية، وهي الصياغة نفسها تقريباً التي يستخدمها الباحثون الغربيون القلقون.
وقد أسست بكين في فبراير (شباط) 2025 هيئتها الوطنية لسلامة وتطوير الذكاء الاصطناعي، وضمت إلى استشارييها علماء بارزين من بينهم أندرو ياو ويي زنغ، وهذا الأخير حذر صراحة أمام مجلس الأمن الدولي من أن خطر انقراض البشرية بفعل الذكاء الاصطناعي حاضر على المديين القريب والبعيد معاً.
سيناريوهات النكبة
ويبقى السؤال الأهم، كيف يمكن لهذا أن يحدث فعلاً، فالأدبيات العلمية قدمت سيناريوهات عدة، أربعة منها الأكثر وضوحاً بأحداث فعلية أو بدراسات مفصلة.
السيناريو الأول يتعلق بإساءة الاستخدام لا بتمرد الآلة. الذكاء الاصطناعي المتقدم قادر على خفض الحاجز التقني أمام تصميم مسببات أمراض شديدة الفتك بصورة ملحوظة، وهو ما يصفه الباحثون بمصطلح رفع القدرة البيولوجية، أي أن يصبح بمقدور فرد أو مجموعة صغيرة صنع سلاح بيولوجي خطر، من دون سنوات من الخبرة المتخصصة التي كانت تشترطها هذه العملية سابقاً.
السيناريو الثاني يخص الهجمات الإلكترونية على البنية التحتية الحيوية، وهذا ليس افتراضاً بحتاً. ففي يوليو 2026 أجرت "أوبن أي آي" اختباراً أمنياً داخلياً لوكلاء ذكاء اصطناعي مستقلين، وأثناء الاختبار تمكنت هذه الأنظمة، العاملة بضمانات مخففة، من تجاوز القيود المصممة لعزلها عن الإنترنت والوصول إلى بنية تشغيلية تابعة لمنصة هاغينغ فيس، وتنفيذ أوامر على عشرات الخوادم، والحصول على صلاحيات كاملة على واحد منها في الأقل.
بقيت الحادثة اختباراً تحول إلى اختراق حقيقي، ولم تكن دليلاً على انفلات ذكاء اصطناعي من تلقاء نفسه، لكنها أظهرت أن الاحتواء يمكن أن يفشل عملياً لا نظرياً فقط.
السيناريو الثالث، وهو الأكثر حضوراً في الأدبيات الأكاديمية، يتمثل في ما يعرف بـ"السعي غير المتوائم نحو القوة". وتنطلق هذه الفكرة من أن النظام الذكي، إذا منح هدفاً معقداً، قد يطور من تلقاء نفسه أهدافاً وسيطة تساعده على تحقيقه، حتى لو لم يبرمج عليها صراحة. وقد تشمل هذه الأهداف الحفاظ على وجوده، وتأمين مزيد من الموارد، ومقاومة أي محاولة لتغيير أهدافه الأصلية.
ويزداد الخطر مع احتمال حدوث تحسين ذاتي متسارع، إذ قد يتمكن نظام ذكي من تطوير نسخة أكثر قدرة منه، ثم تستخدم النسخة الجديدة قدراتها لتطوير نسخة أشد ذكاءً، في سلسلة متسارعة قد تتجاوز قدرة البشر على الفهم والمراقبة والتدخل.
السيناريو الرابع يخص السلاح النووي تحديداً، وقد خلصت دراسة لمؤسسة راند إلى ثلاثة احتمالات فقط يمكن تصورها بوضوح، إدماج متعمد للذكاء الاصطناعي في سلسلة اتخاذ القرار النووي، أو تضليل ودعاية مولدة بالذكاء الاصطناعي تدفع نحو استخدام نووي غير مقصود، أو سيطرة غير مصرح بها على منظومات القرار النووي نفسها.
إلى جانب هذه المسارات الأربعة، ثمة مسار خامس لا يستند إلى نية سيئة من إنسان ولا إلى تمرد من آلة، بل إلى فشل مؤسسي بحت، وهو ما يسميه الباحثون الأخطار التنظيمية أو العرضية.
الفكرة هنا أقرب لما حدث في كارثة مفاعل تشرنوبيل أو انفجار مكوك الفضاء تشالنجر، حيث لم يخطط أحد للكارثة، لكن ثقافة سلامة ضعيفة، وضغط تنافسي لإطلاق المنتج قبل المنافس، وأنظمة رقابة داخلية غير كافية، اجتمعت لتنتجها على رغم ذلك.
تطبيق هذا المنطق على الذكاء الاصطناعي يعني احتمال أن تطلق شركة نموذجاً متقدماً للاستخدام العام، من دون اختبار كافٍ لقدرة خطرة كامنة فيه، لا لأن أحداً تجاهل الخطر عمداً، بل لأن جدول الإطلاق التجاري لم يترك وقتاً كافياً للتحقق منه، وهذا تحديداً ما تشير إليه حادثة هاجينج فيس المذكورة أعلاه من زاوية أخرى.
في المقابل تناقش الأدبيات مسارات أخرى أقل حسماً، لكنها لا تقل جدية، من بينها ما يسميه باحثون الإفقار التدريجي للسلطة، وهو تسليم الحكومات والشركات قراراتها تدريجاً لأنظمة أكفأ منها حتى تفقد حاجتها لاستجابة المواطنين، وهو سيناريو يبدو قريباً بصورة لافتة من رؤية ماسك نفسه عن اقتصاد يديره الذكاء الاصطناعي والروبوتات، وإن قدمه هو بوصفه وفرة لا كارثة.
اقرأ المزيد
يحتوي هذا القسم على المقلات ذات صلة, الموضوعة في (Related Nodes field)
ومن بين هذه المسارات أيضاً أسراب الذكاء الاصطناعي التي وثقتها دراسة نشرتها مجلة "ساينس" في يناير (كانون الثاني) 2026 بمشاركة الحائزة نوبل للسلام ماريا ريسا وتحذر من قدرتها على اصطناع إجماع شعبي كامل من العدم، إضافة إلى أن هناك خطراً أقرب وأكثر فردية يسميه بعض الباحثين الذكاء الاصطناعي الإقناعي، أي قدرة نموذج واحد لا شبكة حسابات على التأثير التدريجي في قناعات شخص بعينه عبر تفاعل مستمر ومصمم خصيصاً له، وأسراب الطائرات المسيرة الرخيصة التي حذر منها أستاذ علوم الحاسوب ستيوارت راسل من كونها قد تسهم في انهيار حضاري في حال حرب عالمية جديدة.
ويضاف إلى ذلك منطق تنافسي اقتصادي بحت يدفع الشركات والدول لتسليم قراراتها لأنظمة تعمل بسرعة الميلي ثانية خشية خسارة السباق، وهو ما يربطه بعض الباحثين أيضاً بما يسمونه الضغوط التطورية، أي أن الأنظمة الأكثر استقلالية والأسرع انتشاراً ستميل بمرور الوقت لمصلحة النسخ الأكثر قدرة على التوسع والبقاء، بصرف النظر عن نية من صممها في الأصل، وهو ما قد يفضي في نهايته أيضاً إلى احتمال ناقشه سام ألتمان نفسه، أن يتركز مستقبل السلطة كله في يد جهة واحدة تحتكر أقوى نظام ذكاء اصطناعي قبل غيرها.
مع هذا الكم من السيناريوهات، ثمة من يرى في النقاش كله مبالغة تخدم أغراضاً أخرى. يان لوكون، أحد الآباء المؤسسين للتعلم العميق والحائز جائزة تورينغ، ظل لسنوات الصوت الأبرز الرافض لهذا الخطاب، ووصف مخاوف الانقراض بأنها هراء تام، مقدراً احتمال حدوثها بصفر تقريباً، على اعتبار أن البنية التقنية الحالية للنماذج اللغوية الكبيرة غير كافية أصلاً لبلوغ ذكاء يضاهي البشر.
وذهب نقاد آخرون إلى أن خطاب نهاية العالم الصادر عن رؤساء شركات التقنية أنفسهم يصرف الانتباه عن أضرار حقيقية وقائمة بالفعل، مثل التحيز الخوارزمي وفقدان الوظائف وتركز السلطة في أيدي قلة من الشركات.
وبين هذين القطبين، يقف تقرير سلامة الذكاء الاصطناعي الدولي لعام 2026، الذي أشرف عليه أكثر من 100 خبير مستقل من بينهم باحثون صينيون وسعوديون، موقفاً أقرب إلى الحياد الحذر.
يقول التقرير إن الأنظمة الحالية تظهر بوادر أولية لبعض القدرات ذات الصلة، لكن ليس بمستوى يمكنها فعلياً من الإفلات من السيطرة البشرية، ويصف احتمال هذا الخطر وطبيعته وتوقيته بأنه غامض بصورة غير معتادة. وفي السياق ذاته، خلصت دراسة راند حول السيناريو النووي إلى أن الانقراض عبره غير مرجح إلا إذا تعمد فاعل ما ذلك بصورة مباشرة.
وسط كل هذا الجدل، لا تقف الحكومات مكتوفة اليدين تماماً، وإن كانت جهودها متناثرة أكثر مما هي موحدة. فمنذ إعلان بلتشلي (أول وثيقة عالمية مشتركة لتحديد أخطار تقنيات الذكاء الاصطناعي) عام 2023، الذي وقعته دول من بينها الولايات المتحدة والصين وبريطانيا، توالت القمم الدولية في سيول وباريس، وأنتجت تقرير سلامة الذكاء الاصطناعي الدولي كمرجع علمي مشترك تشارك فيه الصين والسعودية، بينما تبقى تشريعات الاتحاد الأوروبي للذكاء الاصطناعي الإطار الأكثر إلزاماً حتى الآن.
لكن هذه الجهود لا تزال أقرب إلى مسارات متوازية منها إلى منظومة موحدة، والدليل الأوضح أن واشنطن وبكين نفسيهما عجزتا حتى نهاية أغسطس (آب) الماضي عن الاتفاق على تعريف مشترك لعبارة سلامة الذكاء الاصطناعي، وهي العبارة نفسها التي يفترض أن تكون نقطة الانطلاق لأي حوار جاد بينهما.
ما يمكن قوله بثقة أن أحداً، لا في وادي السيليكون ولا في الجامعات ولا في الحكومات، يملك اليوم رقماً موثوقاً لاحتمال هذا السيناريو. حتى أكثرهم قرباً من صناعة القرار، مثل ماسك، يقدم رهاناً معترفاً بأخطاره، لا يقيناً مؤكداً. ما يملكه هؤلاء جميعاً خرائط لمسارات ممكنة، بعضها موثق بحوادث حقيقية كحادثة هاجينج فيس، وبعضها لا يزال في حدود النموذج النظري.
وربما يكون هذا التفاوت نفسه، الأكثر جدارة بالانتباه، لا تاريخ محدد تنطفئ عنده الأنوار. فالباحث الذي طلب من نظام مساعدته في تصميم جزيء لن يعرف بالضرورة من سيستخدم النتيجة النهائية، والخوارزمية التي تدير شبكة الكهرباء لم يسألها أحد يوماً إن كانت تفضل الاستمرار على الطاعة، والجنرال الذي ينتظر دقائق معدودة ليقرر لا يملك رفاهية التحقق الكامل، والمستخدم الذي يتصفح هاتفه ليلاً لم يعد متأكداً ممن يتفق معه فعلاً.
هذه المشاهد الأربعة التي افتتحنا بها إمكانات قائمة اليوم بدرجات متفاوتة من النضج، أقرب إلى الواقع الحالي منها إلى الخيال العلمي البعيد، وما يفصلها عن أن تتصدر عناوين الأخبار غداً ليس تقدماً تقنياً وحده، بل قرارات يتخذها أشخاص بعينهم، في شركات وحكومات بعينها، بينهم من يخاف صنعته صدقاً، ومن يخافها ويمضي على رغم ذلك، ومن لا يخافها أصلاً.
