ملخص
تشير أداة ذكاء اصطناعي متخصصة في التنبؤ إلى أن احتمال أن يقضي الذكاء الاصطناعي على البشرية خلال العقد المقبل يبلغ 0.85 في المئة، أي فرصة واحدة تقريباً من كل 118. ويرصد التحليل ثلاثة أخطار رئيسة: إساءة الاستخدام البشري وفشل المؤسسات وفقدان السيطرة على أنظمة متقدمة، داعياً إلى تعزيز إجراءات السلامة والإبقاء على التحكم البشري.
حين استقال الباحث في مجال الذكاء الاصطناعي جاكوب كوكسون من شركة "أنثروبيك" التكنولوجية العملاقة في وقت سابق من هذا الشهر، أطلق تحذيراً من أن تلك الشركة ومنافسيها "يقامرون بحياتنا".
وقال كوكسون، المتخصص في تدريب نماذج الذكاء الاصطناعي الجديدة والذي سبق أن عمل لدى شركة "أوبن أي آي"، إن العاملين على تطوير الذكاء الاصطناعي "يؤمنون بجدية بأنه قد يقتلنا جميعاً قبل نهاية العقد".
وسرعان ما لاقت توقعاته القاتمة التي نشرها على منصة "إكس" تأييداً من آخرين في المجال، إذ رد زميله إيفان هوبينغر، وهو مهندس متخصص في مأمونية النظم الذكية قائلاً: "جاكوب محق هنا، فنحن نؤمن فعلاً بأن الذكاء الاصطناعي قد يقتل جميع البشر! وأنا شخصياً أعتقد بأن الاحتمال يتجاوز 10 في المئة خلال العقد المقبل".
ومنذ ذلك الحين، قدم خبراء في أنحاء العالم تقديرات مماثلة للخطر. وقال عالم الكمبيوتر الحائز "جائزة نوبل"، والمعروف بأنه أحد "آباء الذكاء الاصطناعي"، جيفري هينتون، لاحقاً لهيئة الإذاعة البريطانية (بي بي سي) إن احتمال أن يقضي الذكاء الاصطناعي على البشرية خلال الأعوام المقبلة غير معروف، لكن "احتمالاً يبلغ 10 في المئة لا يبدو تقديراً غير معقول".
اقرأ المزيد
يحتوي هذا القسم على المقلات ذات صلة, الموضوعة في (Related Nodes field)
وخلال عطلة نهاية الأسبوع، أيد رائدا الأعمال البارزان في قطاع التكنولوجيا، سام ألتمان، رئيس "أوبن أي آي"، وإيلون ماسك، دعوة رئيس "أنثروبيك" إلى أن "يبطئ" قطاع الذكاء الاصطناعي وتيرته، بما يسمح لإجراءات السلامة بأن تلحق بركب التطور.
وترسم تلك المعطيات أفقاً جديداً أمام استراتيجيات الدفاع العالمية.
بالتالي، ما الذي يخبرنا به الذكاء الاصطناعي نفسه عن الأخطار التي يحملها؟
أرادت "اندبندنت" معرفة ما إذا كان الذكاء الاصطناعي يمكن أن يؤدي دوراً في فهم الخطر الذي يمثله بنفسه.
وعملنا مع "نواه بريدكت" Noah Predict الذي يمثل منظومة للذكاء الاصطناعي تعمل على تحويل ملايين الأخبار والبيانات إلى مؤشرات للأخطار والاتجاهات، للتوصل إلى تقدير احتمالي لاحتمال أن يقضي الذكاء الاصطناعي على البشرية خلال العقد المقبل.
واختبرت أداة "التنبؤ الفائق" المعروفة باسم "سوبر-فوركاستنغ" super-forecasting هذه المسألة عبر 41 مساراً للتحقيق و108 عمليات تحقق بحثية، بالاستناد إلى نحو 52 مليون نقطة بيانات لتقدير احتمال انقراض البشر بسبب الذكاء الاصطناعي خلال الأعوام الـ10 المقبلة.
وقالت إن الاحتمال ليس 10 في المئة، بل 0.85 في المئة. وهذا يعادل تقريباً احتمالاً واحداً من أصل 118 بأن يقضي الذكاء الاصطناعي بالفعل على البشرية خلال العقد المقبل.
النسبة تبدو ضئيلة ربما، فهي أقل من واحد في المئة، لكنها ليست هامشية، ولا سيما أن طرفاً خبيثاً واحداً قد يكون قادراً على تغيير مسار الأحداث، فيما قد تكون العواقب غير قابلة للعكس.
لكننا واصلنا طرح الأسئلة على أداة التنبؤ بالذكاء الاصطناعي: أين يكمن الخطر؟ وكيف يمكن أن يتصاعد؟ وما التدخلات التي يمكن أن تخفض هذا الخطر فعلاً؟ وهذه خلاصة ما قالته:
الخطر الأول: أن يختار إنسان إلحاق الضرر
تقول أداة الذكاء الاصطناعي إن "المسار الأكثر مباشرة يبدأ بمهاجم بشري، لا بآلة، تقرر أن البشرية لا قيمة لها. وقد يساعد الذكاء الاصطناعي جهة فاعلة خبيثة في تنفيذ أجزاء من مهمة خطرة بسرعة أكبر أو بكلفة أقل أو بفاعلية أكبر".
وخلص المركز الوطني للأمن السيبراني في بريطانيا، في مايو (أيار) 2025، إلى أن الذكاء الاصطناعي سيزيد وتيرة التهديدات السيبرانية وحدتها حتى عام 2027، كما سيوسع الفجوة بين الأنظمة التي تتمتع بحماية كافية وتلك المعرضة للخطر.
لكن هجوماً على مستشفى أو شبكة كهرباء من الممكن أن يؤدي إلى مقتل أشخاص من دون أن يهدد سكان العالم بأسره. وبالمثل، ربما ينتشر هجوم بيولوجي إلى ما وراء هدفه الأصلي من دون أن يؤدي إلى إبادة الجنس البشري.
ومن المطمئن إلى حد ما أن الذكاء الاصطناعي يخبرنا بأن الآلة لن تولد نوايا عدائية من تلقاء نفسها، بل تعتمد على مشغل بشري يزودها بهذه النوايا.
ولدينا بالفعل إجراءات حماية في مواجهة الجهات البشرية الخبيثة، من بينها ضوابط الوصول والاختبارات المستقلة وتعزيز قدرة أنظمة الصحة العامة والبنية التحتية على الصمود.
الخطر الثاني: أن تفشل المؤسسات بوتيرة أسرع من قدرتها على التعافي
كتب نظام "نواه" للذكاء الاصطناعي: "لا يحتاج نظام الذكاء الاصطناعي إلى أن يتعطل حتى يتسبب في اضطراب شديد. فإذا استخدم أصحاب العمل الذكاء الاصطناعي لإعادة تنظيم العمل بوتيرة أسرع من قدرة الناس على إعادة التدريب أو الانتقال إلى وظائف أخرى، فمن المحتمل أن يؤدي توزيع الخسائر الناتج من ذلك إلى زعزعة الاستقرار السياسي. وإذا أصبحت المؤسسات تعتمد أيضاً على عدد قليل من الخدمات المؤتمتة، فإن عطلاً مشتركاً يمكن أن يؤثر في عدد كبير من الأنشطة الأساسية في وقت واحد".
وفي حين يمثل تأثير الذكاء الاصطناعي في الوظائف مصدر قلق بالغ لكثرٍ في الوقت الراهن، فإن البطالة وعدم الاستقرار السياسي ربما يكونان كارثيين، لكن من غير المرجح أن يصلا إلى مستوى يهدد بانقراض البشرية.
لكن عطلاً في البرمجيات، أو هجوماً، أو قراراً آلياً خاطئاً يمكن أن ينتشر بعد ذلك عبر مؤسسات لم تعُد تعرف كيف تعمل بصورة مستقلة.
الخطر الثالث: أن تصبح السيطرة البشرية شكلية
السيناريو الأكثر إثارة للقلق هو نظام صُمم لتحقيق هدف يصبح التدخل البشري عائقاً أمامه، ولذلك يواصل السعي إلى تحقيق أهدافه على رغم محاولات تصحيحه أو إيقافه.
لكن هناك، مرة أخرى، فرقاً كبيراً بين انتهاك تعليمات اختبارية وبين الإفلات من السيطرة البشرية المستدامة في العالم الحقيقي.
وكتب الذكاء الاصطناعي: "يمكن لنتيجة مختبرية أن تكشف عن نقطة ضعف من دون أن تثبت وجود تهديد مستقل وقادر على الاستمرار من تلقاء نفسه. والسؤال هو ما إذا كان السلوك يتكرر، وما مستوى الوصول الذي احتاج إليه النظام، وما إذا كان المشغلون اكتشفوه، وما إذا كان تدخلهم نجح".
ويجب أن تظل القدرة على إيقاف الأنظمة الفردية قائمة. وينبغي تقييد الصلاحيات الممنوحة لها والحد من وصولها إلى البنية التحتية ذات العواقب الخطرة وإخضاعها لاختبارات عدائية والتحقق من فاعلية إجراءات الإيقاف واستئناف العمل.
وما الذي تعنيه كل هذه المعطيات؟
الفئات الثلاث واسعة، وربما تتداخل في ما بينها، كما يمكن أن تفشل إجراءات الحماية مجتمعة. فعلى سبيل المثال، قد يؤدي عدم الاستقرار السياسي وفقدان الوظائف إلى تقليص قدرة البشر على السيطرة.
ويُحتمل أن يكون من المغري تجاهل تقييم الذكاء الاصطناعي للأخطار التي يمثلها هو نفسه، باعتباره أشبه بمن "يصنع امتحانه ويصححه بنفسه". لكنه، في المقابل، يستند إلى ملايين من نقاط البيانات التي يستحيل على أي إنسان تحليلها بمفرده للوصول إلى استنتاجاته.
وتتوافق هذه الاستنتاجات مع آراء كثرٍ، من بينهم الرئيس التنفيذي لشركة "أنثروبيك" داريو أمودي الذي قال خلال عطلة نهاية الأسبوع إن وتيرة التطور يجب أن تخضع للضبط، بما يضمن أن تكون أنظمة الأمن قادرة على إدارة الأخطار.
وفي بريطانيا، صدرت دعوات إلى إدخال تعديل على مشروع "قانون الأمن السيبراني والمرونة"، لإنشاء آلية قانونية تتيح للدولة التدخل، أو "مفتاح إيقاف" للذكاء الاصطناعي يمكن للحكومة تفعيله. لكن رئيس الوزراء البريطاني آندي بيرنهام رفض هذه الدعوات الأسبوع الماضي.
باختصار، يحتاج البشر إلى تطوير أنظمة آمنة بالكامل، مع إبقاء السيطرة البشرية عليها. ومع إطلاق العنان للقدرات المتعددة والمفيدة التي يتيحها الذكاء الاصطناعي والتي يمكن أن تغير حياتنا، يجب عليهم أيضاً تقييد القدرات التي قد تتيح إساءة استخدام خطرة لهذه التكنولوجيا أو تؤدي إلى فقدان مشغليها السيطرة عليها.
© The Independent
