"تشيرنوبل" الذكاء الاصطناعي... كارثة قد توقظ العالم

كثيراً ما اعتاد العاملون في وادي السيليكون احتساب ما يعرف بـ"احتمال الفناء"، وهو تقدير شخصي لاحتمال أن يقضي الذكاء الاصطناعي على البشرية بأكملها. وسمعت تقديرات تراوحت بين الصفر و99.99 في المئة، وبالمقارنة مع تقديرات نظرائه، لم تكن نسبة الـ10 في المئة التي وضعها جاكوب كوكسون من شركة "أنثروبيك"، وأثارت ضجة إعلامية واسعة، لا تعد مرتفعة أصلاً.

لكن الجديد اليوم أن عامة الناس باتوا بدورهم يقدرون احتمال وقوع هذه الكارثة، فالأصدقاء وأفراد العائلة يسألونني يومياً: هل سيقضي الذكاء الاصطناعي علينا جميعاً؟ وجوابي هو: لا أعرف، لكن الفكرة ليست جنونية بالقدر الذي قد تبدو عليه.

دعونا أولاً نتخلى عن الفكرة الشائعة والمطمئنة القائلة إن الحديث عن الأخطار الوجودية ليس سوى حيلة تسويقية متقنة تسبق طرح أسهم هذه الشركات في البورصة، وكم أتمنى لو كان ذلك صحيحاً! فأنا لا أثق كثيراً بشركات وادي السيليكون التي تقدر قيمتها بمليارات الدولارات، ويثير طبعي المتشكك مخاوف من أنها تضخم خطر الانقراض حتى يبدو الانهيار الاقتصادي، في المقابل، مصيراً يمكن التعايش معه. لكن المبلغين عن المخالفات والموظفين السابقين والأكاديميين والباحثين المستقلين والعلماء الحائزين جائزة نوبل يرددون التحذيرات نفسها منذ سنوات، إلا أن كثيرين لم ينتبهوا إليها إلا في الأشهر القليلة الماضية.

في الواقع، تستند الحجة القائلة إن الذكاء الاصطناعي قد يقضي علينا جميعاً إلى سلسلة منطقية بسيطة نسبياً، لكنها مقنعة. فهذه النماذج تزداد قدرة بوتيرة متسارعة، وتتغلغل أكثر فأكثر في قطاعات الحياة اليومية، من الجيوش ومختبرات الأبحاث إلى أنظمة تقنية المعلومات. وفي المقابل، لا يعرف أحد كيف يضمن أنها ستتصرف دائماً وفق ما نريده، وهي المشكلة المعروفة باسم "المواءمة".

وقد أظهرت هذه النماذج، في اختبارات مختلفة، سلوكيات تنطوي على الخداع والتلاعب، فلجأت إلى التحايل والغش والكذب. وليس لأنها واعية أو مدركة لذاتها، بل لأنها مصممة لتحقيق أهدافها بأقصى قدر ممكن من الكفاءة، وقد تسلك لتحقيق ذلك مسارات لا نتوقعها أو لا نرغب فيها. بل إن اختبار هذه النماذج نفسه أصبح أكثر صعوبة. فقد أخبرني أخيراً ماريوس هوبهان، مدير شركة "أبولو ريسيرش" Apollo Research المتخصصة في فحص النماذج المتقدمة قبل إطلاقها، بأن هذه النماذج تدرك أنها تخضع للاختبار في نحو 80 في المئة من عمليات المحاكاة التي تجريها شركته.

فكيف يمكن اختبار سلامة نظام لا يكل في سعيه إلى تحقيق أهدافه، ويعرف أنه قيد الاختبار، ويمتلك القدرة على الغش والكذب؟ الحقيقة أن أحداً لا يعرف الجواب.

عند هذه النقطة، قد تغريك فكرة الانضمام إلى باحثي السلامة السابقين في "أنثروبيك" الذين غادروا الشركة وانصرفوا إلى كتابة الشعر محذرين من أن "العالم في خطر"، وقد راودني هذا الشعور لبعض الوقت، لكن المشكلة أن المتشائمين أنفسهم لا يستطيعون أن يشرحوا بدقة كيف سيحدث استيلاء الذكاء الاصطناعي على العالم.

فكيف ستتمكن هذه الأنظمة من السيطرة على البنية التحتية المادية اللازمة للقضاء علينا جميعاً؟ وكيف ستمنع البشر من إيقافها أو تغيير مسارها؟ ففي كتاب "الذكاء الاصطناعي 2027"، يتخيل الباحث السابق في "أوبن إيه آي" دانيال كوكوتايلو أنظمة ذكاء اصطناعي تتولى تطوير قدراتها وإجراء أبحاثها بنفسها، وتتغلب على صانعيها بالحيلة والدهاء، وتسيطر على المصانع، ثم تطلق سلاحاً بيولوجياً. لكن ذلك مجرد سيناريو متخيل، لا توقع فعلي.

ويستند كثير من هذه السيناريوهات إلى فكرة غامضة مفادها بأن الآلات ستتوصل إلى ما يعجز البشر عن تصوره، وإلى الاعتقاد بأن الأكثر ذكاء يهيمن دائماً على الأقل ذكاء في الطبيعة. وفي نهاية المطاف، تبقى جميع تقديرات ما يعرف بـ"احتمال الفناء" أقرب إلى الانطباعات الشخصية منها إلى الحسابات العلمية الدقيقة.

لكن هذا لا يعني تجاهل التحذيرات، فهناك مشكلات كثيرة تثير القلق حتى وإن لم تصل إلى حد انقراض البشرية، فلا حاجة إلى ذكاء اصطناعي فائق يستقل بقراراته ويتآمر على البشر كي تسوء الأمور على نحو خطر.

تخيل مثلاً جماعة إرهابية تستعين بنموذج لغوي لتطوير فيروس جديد شديد العدوى والفتك ونشره، (أخبرني موظف سابق في وكالة الأبحاث والاختراعات المتقدمة البريطانية أن هذا السيناريو هو أكثر ما يثير قلقه). هنا لا نتحدث عن ذكاء اصطناعي مستقل يقرر تحويل البشر إلى بطاريات، بل عن أشخاص حقيقيين يستخدمون التكنولوجيا لنشر الفوضى.

وماذا عن أسراب الوكلاء البرمجيين التي تلوح في الأفق؟ ففي يوليو (تموز) الماضي، تمكن نموذجان تابعان لشركة "أوبن إيه آي" من الخروج من بيئة الاختبار المعزولة الخاصة بهما والوصول إلى الإنترنت المفتوح، بل واختراق منصة "هاغينغ فيس" المتخصصة في مشاركة أدوات الذكاء الاصطناعي، وذلك بهدف الغش في اختبار معياري. صحيح أن الاختبار كان سيئ التصميم، لكن السعي إلى إنجاز المهمات بطريقة أحادية التركيز على الهدف، حتى لو كانت الوسائل غير مرغوب فيها، هو السمة المميزة لوكلاء الذكاء الاصطناعي.

وقريباً سيدخل ملايين من هؤلاء الوكلاء إلى سوق العمل ويغمرون الإنترنت، من دون أن يعرف أحد على وجه اليقين ما قد تقدم عليه، وليس من المستبعد أن يتمكنوا، عن طريق الخطأ، من التسلل إلى منظومات شديدة الحساسية أو حتى تعطيلها بالكامل، مثل هيئة الخدمات الصحية الوطنية البريطانية، أو شبكة كهرباء، أو نظام عسكري.

وقد نكتشف قريباً مدى اعتماد الحياة الحديثة على شبكات مترابطة من أنظمة تقنية المعلومات، تعاني ثغرات أمنية مثيرة للقلق. وربما لا تقضي مثل هذه الحوادث علينا جميعاً، لكن آثارها ستكون وخيمة للغاية.

ومع ذلك، ثمة ما يدعو إلى التفاؤل. فالضغوط السياسية تتصاعد بوتيرة تكاد تضاهي سرعة تطور النماذج نفسها، كما تتصدر سلامة الذكاء الاصطناعي، بوتيرة متسارعة، جدول الأولويات السياسية، وتبدو قادرة على استقطاب دعم اليمين واليسار معاً. فمنذ يونيو (حزيران) الماضي فحسب، أصدر الرئيس الأميركي دونالد ترمب أمراً تنفيذياً يطالب مختبرات الذكاء الاصطناعي بإخضاع نماذجها لاختبارات حكومية قبل إطلاقها. كما اقترحت شركة "أنثروبيك" إبطاء وتيرة تطوير النماذج الرائدة، وامتنعت "أوبن إيه آي" عن إطلاق أحدث نماذجها، واتفقت الولايات المتحدة والصين على إنشاء خط ساخن للتعامل مع حوادث الذكاء الاصطناعي.

صحيح أن ذلك لا يزال بعيداً من أن يكون كافياً، وما زالت الشركات التقنية لا تخصص الوقت والموارد اللازمة لقضايا السلامة، لكنه يفوق بكثير ما كنت أتوقعه حتى قبل ستة أشهر فقط.

قد تتحرك السياسة أحياناً بوتيرة أسرع من التكنولوجيا، لكنها قد تحتاج، في أحيان أخرى، إلى كارثة كي تتحرك. فقد أخبرني أخيراً الأكاديمي البارز في مجال الذكاء الاصطناعي ستيوارت راسل أن أحد كبار المسؤولين التنفيذيين في هذا القطاع يعتقد أن "كارثة بحجم تشيرنوبل" قد تكون الشرارة اللازمة، لتوفير الإرادة السياسية الكفيلة بتنظيم هذه التكنولوجيا وإخضاعها لرقابة فعلية.

ولا يتمنى ذلك المسؤول حدوث مثل هذه الكارثة، لكنه لا يرى طريقاً آخر. كارثة كبرى، نعم، لكنها ليست كارثة وجودية، إنها فكرة مزعجة. وبالنظر إلى المسار الحالي، أعتقد أن ذلك المسؤول قد يكون محقاً.

جايمي بارتليت مؤلف كتاب "كيف تتحدث إلى الذكاء الاصطناعي (وكيف لا تفعل ذلك)" الصادر عن دار "دبليو إتش آلان".