الصين تعبث مع كارثة الذكاء الاصطناعي

لم تتخيل سوى قلة ممن راقبوا "الحرب الباردة" منذ بداياتها، أن أسوأ كارثة نووية في تلك الحقبة ستشهدها منشأة طاقة غير مشهورة في أوكرانيا. [يطلق على فترة الصراع بين المعسكرين الغربي بقيادة الولايات المتحدة والاشتراكي بقيادة الاتحاد السوفياتي، مصطلح "الحرب الباردة". وامتدت من منتصف أربعينيات القرن الـ20 إلى مطالع تسعينيات القرن نفسه].

 حدثت "كارثة تشيرنوبيل" في 1986 نتيجة عيوب شابت تصميم مفاعل نووي وسلسلة أخطاء ارتكبها مشغلو تلك المحطة النووية. وآنذاك، انجذبت قوى العالم العظمى إلى سباق تسلح ضخم تتضمن أمديته إمكان نهاية العالم، مما أدى إلى حجب المخاطر الأقل وضوحاً التي حملتها حينها تكنولوجيا تجريبية جديدة. ومع ذلك، بصرف النظر عن السيناريوهات المخيفة على شاكلة "أزمة الصواريخ الكوبية" عام 1962، فقد نجم ذلك الأمر [انفجار محطة تشيرنوبيل] من إخفاق في الإجراءات الأساسية والبسيطة للسلامة، فاقمته أزمة نظام استبدادي أخرق. وأدى ذلك إلى إطلاق منفلت لإشعاعات بلغ حجمها 400 ضعف مما انبعث من القنبلة النووية الأميركية التي أسقطت على هيروشيما عام 1945. وتتراوح تقديرات الدمار الناجمة عن انفجار تشيرنوبيل، بين مئات وعشرات الآلاف من الوفيات المبكرة نتيجة الإشعاع، إضافة إلى "منطقة الحظر" التي تبلغ ضعفي مساحة لندن، ولا تزال مهجورة في معظمها حتى يومنا هذا.

بينما ينتقل العالم إلى حقبة جديدة من التنافس، تدور رحاها هذه المرة بين الصين والولايات المتحدة، أثارت المنافسة على تكنولوجيا ثورية أخرى، هي الذكاء الاصطناعي، موجة من الهواجس العسكرية والأخلاقية توازي المخاوف التي أطلقها السباق النووي. في الحقيقة، تستحق هذه الشواغل الاهتمام الذي تلقاه، وأكثر. إذ تهدد عوالم الأسلحة الذاتية التشغيل والحرب السريعة بعواقب وخيمة على البشرية. مثلاً، إن استخدام بكين أدوات الذكاء الاصطناعي في تغذية جرائمها ضد الإنسانية التي ارتكبتها داخل إقليم "شينجيانغ" الذي تقطنه أقلية الإويغور [المسلمة]، يرقى بالفعل إلى مستوى الكارثة.

ولكن، إن احتمال تسبب مهندسي الذكاء الاصطناعي عن غير قصد في حوادث لها تداعيات مأسوية، يجب أن يحظى بالقدر نفسه من الاهتمام. صحيح أن أنظمة الذكاء الاصطناعي لا تنفجر خلافاً للمفاعلات النووية، بيد أن إمكاناتها في التدمير الواسع تشمل كل شيء، من القدرة على تطوير مسببات الأمراض القاتلة الجديدة إلى اختراق الأنظمة البالغة الأهمية على غرار الشبكات الكهربائية وأنابيب النفط. ونظراً إلى نهج بكين المتساهل تجاه المخاطر التكنولوجية وسوء إدارتها المزمن للأزمات، فإن حوادث الذكاء الاصطناعي تبقى أكثر خطورة في الصين. واستناداً إلى ذلك، إن التقييم الواضح لهذه المخاطر واحتمال انتشارها إلى ما وراء حدود الصين، لا بد من أن يعيد تشكيل الطريقة التي ينظر بها قطاع الذكاء الاصطناعي إلى مخاطر عمله.

شعور مختلف بالخطر

شهدت الأشهر الأخيرة نقاشات عامة واسعة بشأن توصيف مخاطر الذكاء الاصطناعي. إذ يزعم بعض الخبراء أن الذكاء الخارق سيشكل يوماً ما تهديداً وجودياً للبشرية، فيما سيهاجم آخرون "أصحاب الرأي القائل إن الذكاء الاصطناعي سيقود إلى انقراض البشرية" على اعتبار أنهم يمارسون التهويل منه. ولكن حتى لو وضعنا جانباً المخاوف الأكثر خطورة من الرؤية المستقبلية المتشائمة والقاتمة، أو الـ"ديستوبيا"، عن الذكاء الاصطناعي، فإن الحوادث السابقة قدمت أسباباً كثيرة تحملنا على القلق بشأن كوارث غير مقصودة واسعة النطاق ربما يحملها معه المستقبل القريب.

مثلاً، من شأن تفاقم التفاعلات السريعة بين أنظمة الذكاء الاصطناعي الخاصة بالأعمال المالية، أن يتسبب في انهيار الأسواق عن غير قصد، على غرار ما حدث في "الانهيار الخاطف" [بمعنى أنه عبر بسرعة، إذ تبين أنه ناجم من خطأ تقني، فصححت عواقبه بسرعة] عام 2010 الذي قضى خلال دقائق، لكن بصورة موقتة، على ما قيمته تريليون دولار من الأسهم. وحينما استخدم باحثو الأدوية الذكاء الاصطناعي بغية تطوير 40 ألف سلاح كيماوي حيوي محتمل في أقل من ست ساعات العام الماضي، فإنهم أظهروا مدى سهولة تعديل أنظمة الذكاء الاصطناعي البسيطة نسبياً كي توظف في أغراض تدميرية. وعلى نحو مماثل، في مقدور الهجمات الإلكترونية المتطورة العاملة بالذكاء الاصطناعي أن تفلت من عقالها وترتكب حماقات، فتعطل من دون تمييز أنظمة مهمة تعتمد عليها المجتمعات، بما لا يختلف عن الهجوم الإلكتروني الشهير "نوتبيتيا" NotPetya، الذي شنته روسيا ضد أوكرانيا في عام 2017، لكنه أصاب أجهزة الكمبيوتر في مختلف أنحاء العالم في نهاية المطاف. وعلى رغم هذه المؤشرات التحذيرية، تمضي تكنولوجيا الذكاء الاصطناعي في التقدم بسرعة فائقة، فيما تتضاعف المخاطر المتصلة بالسلامة بوتيرة أسرع من القدرة على إيجاد الحلول الملائمة.

ربما لا يكون معظم الأميركيين على دراية جيدة بتفاصيل هذه المخاطر، بيد أنهم يدركون مخاطر تطوير تكنولوجيات جديدة قوية في أنظمة معقدة تستطيع توليد عواقب كبيرة. وفق مسح نهضت به مؤسسة "إيبسوس" نشر في عام 2022، لا يعتقد سوى 35 في المئة من الأميركيين بأن فوائد الذكاء الاصطناعي تفوق مخاطره، مما يضع الولايات المتحدة ضمن الدول الأشد تشاؤماً في العالم بشأن الآمال المعقودة على التكنولوجيا. تشير مسوحات للرأي شملت مهندسين في مختبرات أميركية للذكاء الاصطناعي، إلى أنهم ربما يكونون أكثر وعياً بالمسائل المتعلقة بمدى مأمونية الذكاء الاصطناعي، مقارنة مع عامة الناس. إن جيفري هينتون، "عراب الذكاء الاصطناعي" الذي شغل حتى وقت قريب منصب نائب رئيس شركة "غوغل"، ترك هذه الصناعة كي يدعو العلماء إلى عدم توسيع نطاق تكنولوجيا الذكاء الاصطناعي "قبل أن يتبينوا مدى قدرتهم على التحكم فيها".

4

الصين تعبث مع كارثة الذكاء الاصطناعي

الصين تعبث مع كارثة الذكاء الاصطناعي

• 1/4

  علامة غوغل في مدينة شنعهاي الصينية بتاريخ سبتمبر 2018 (رويترز)

• 2/4

  مركز للبيانات في مدينة لوليا السويدية بتاريخ 2019 (ريدوكس/ فورين أفيرز)

• 3/4

  ردهة "نماذج الابتكار الوطني" في "مركز زهونغونكن للمعارض" في بكين بتاريخ فبراير 2022 (رويترز)

• 4/4

  نموذج عن تأثير الذكاء الاصطناعي في الأسلحة الحديثة تقدمه المسيرة المقاتلة المؤتمتة ام كيو 09 ريبر المعتمدة في سلاح الجو الأميركي، بتاريخ يوليو 2015 (رويترز)

وعلى النقيض من ذلك، تصنف الصين بوصفها الدولة الأكثر تفاؤلاً في العالم تجاه الذكاء الاصطناعي. إذ يعبر نحو أربعة من كل خمسة مواطنين صينيين عن ثقتهم في أن فوائده تتجاوز مخاطره. وفي حين أن حكومة الولايات المتحدة و"وادي السيليكون" انخرطتا منذ سنوات عدة في مناهضة المفهوم القائل "إذا كنت لا تكسر أي شيء، فأنت لا تتحرك بالسرعة الكافية"، إلا أن الحكومة والشركات في الصين تستمران في التفاخر بتبني تلك الروحية [المتضمنة في ذلك المفهوم عن ضرورة التحرك بسرعة على رغم المخاطر كلها].

ومثلاً، يبدو قادة التكنولوجيا الصينيون متحمسين تجاه استعداد حكومتهم للتعايش مع مخاطر الذكاء الاصطناعي التي يصفها الصيني كاي فو لي، الخبير المخضرم والمدير التنفيذي لإحدى شركات التكنولوجيا، بأنها "ستزرع الخوف في نفوس السياسيين الأميركيين من أصحاب الحساسية إزاء تلك المخاطر".

فقدان الذاكرة عن الكوارث

لم يكن مصادفة حدوث ذلك التباين الواضح بين التصورات الصينية عن مخاطر الذكاء الاصطناعي وبين نظيرتها الأميركية، وكذلك الحال بالنسبة إلى مدى الاختلاف في استعداد قطاع التكنولوجيا في البلدين لتحمل المخاطر. إذ جاء ذلك التباين والاختلاف نتيجة سياسات صينية تقمع بشكل منهجي تجربة المواطنين مع الكوارث بغرض حماية الحكومة من الانتقادات العامة.

في الولايات المتحدة، تميل الكوارث إلى زيادة الوعي العام وتعزيز تدابير السلامة إذ تنتشر عبر وسائل الإعلام والمجتمع أخبار عواقبها المفجعة في الصناعات الكثيفة الاعتماد على الآلات على غرار قطاعات التنقيب عن النفط، والإنتاج اليومي للغذاء والدواء، ومعالجة المواد الكيماوية الخطرة. حتى الآن، يعكف المشرعون في ولاية أوهايو على وضع قوانين جديدة عن السلامة، في أعقاب خروج قطار عن مساره في فبراير (شباط) الماضي، مما أدى إلى إطلاق عمود من المواد الكيماوية السامة فوق بلدة "إيست باليستاين" [الترجمة الحرفية لاسم البلدة هو شرق فلسطين].

وفي المقابل، نادراً ما تتردد في الصين أصداء هذه الأشكال من الحوادث عبر وسائل الإعلام، إذ تحكم الدولة قبضتها بصرامة على المعلومات بغية تعزيز مناخ ثابت من الاستقرار. ولا يتوقف "الحزب الشيوعي الصيني" عن تضييق الخناق على المعلومات في حال سوء إدارة الاستجابات للكوارث، ويعمل بشكل روتيني على تزييف أعداد القتلى. وأحياناً، ترفض الحكومة الاعتراف، بل حتى مجرد الإبلاغ، عن مآس مهولة على غرار التسمم الإشعاعي الجماعي الذي نتج من 40 تجربة نووية في أقل تقدير، شهدتها الفترة الممتدة بين عامي 1964 و1996. وأدت حوادث التسمم تلك إلى وفاة حوالى 200 ألف مواطن.  

خطر حوادث الذكاء الاصطناعي شديد الحدة في الصين

بالتالي، نتج من ذلك ثقافة فقدان ذاكرة الكارثة. ففي الغالب، يستحيل على الجمهور المطالبة بالتغيير أو إجبار الحكومة على التعلم من الحوادث المكلفة. وتؤدي ضآلة المساءلة بشأن الأخطاء إلى زيادة ميل أصحاب الأعمال إلى التصرف باستهتار ورعونة تجاه السلامة، وفق ما يتضح من التاريخ المروع للحوادث الصناعية في الصين. وحتى الحالات النادرة التي تتكشف فيها الحوادث المؤسفة علانية، تكون مفتقرة إلى ما يكفي من القدرة على تحفيز حدوث إصلاح جدي. مثلاً، أدى الغضب العام بشأن إنتاج كميات كبيرة من معجون أسنان يحتوي مواد سامة في عام 2007، وتسمم تركيبة حليب الأطفال في عام 2008، واصطدام القطارات العالية السرعة على مقربة من "ونتشو" في 2011، إلى ظهور حملات دعائية واسعة النطاق لتقديم أكباش فداء وخطط إصلاح حكومية معلنة صراحة، لكن تأثيراتها في السلامة العامة جاءت محدودة. غالباً ما تحضر الحكومة الصينية واجهة للاستجابة، لكنها بعد ذلك تدفن المعلومات المتعلقة بالحوادث، تماماً على غرار ما شهدناه في بقايا حطام قطار "وينزو" القابعة الآن تحت الأرض. وفي ظل حكم شي جين بينغ، يسود في الصين نظام إعلامي أكثر تقييداً بأشواط مما كان عليه حينما وقعت تلك الحوادث،  بالتالي فإن الكشف العلني عنها يبقى أقل احتمالاً اليوم من أي وقت مضى.

وفي ظل الاستئصال الروتيني للوعي العام الصيني عن أسوأ المواجهات مع التكنولوجيات الناشئة، يظهر المجتمع الصيني تفاؤلاً لامتناهياً بشأن التكنولوجيا، خصوصاً التقنيات الجديدة كالذكاء الاصطناعي. نظراً إلى أن صعود الصين التاريخي من الفقر ترافق مع تقدم تكنولوجي فائق السرعة، فإن البحث العلمي المتسارع يعتبر عملياً مرادفاً للتقدم الوطني في "روح العصر" الصينية، إذ ينظر إليه بأنه ينطوي على عيوب قليلة، إن لم تكن معدومة.

إذا أردت رؤية هذا النهج قيد التنفيذ بكامل قوته، لا تنظر إلى أبعد من العالم الصيني هيه جيانكوي الذي صدم العالم عام 2018 حينما أدخل سراً تعديلات جينية على أجنة بشرية، واضطلع بولادة أول طفلتين [توأمتين] معدلتين جينياً في العالم [بزعم حمايتهما من فيروس نقص المناعة البشرية]. وبالتوافق مع ما توقعه، حظي ذلك الطبيب في البداية بثناء كبير في الصين على إنجازه الفذ، بيد أن الحكومة وعلى نحو غريب غيرت موقفها تماماً في استجابة إلى الغضب الدولي تجاه القرار الأحادي الجانب من ذلك الدكتور بدفع الإنسانية إلى منطقة مجهولة. وعلى نحو متوقع، كشفت الفحوص الإضافية عن أن الدكتور أفسد تجربته بصورة لا رجعة فيها، في ما سماه أحد علماء الوراثة "دليلاً حياً على محاولة في التحكم بتركيبة الجينات انحرفت عن مسارها". على الأرجح، لم يخفق جيانكوي في جعل الطفلتين المعدلتين جينياً (وذريتهما المحتملة) مقاومتين لفيروس نقص المناعة البشرية على النحو المنشود، بل زاد أيضاً من قابليتهما للإصابة بالإنفلونزا والسرطان وأمراض أخرى. وبعدما أمضى عقوبته في السجن، أطلق سراحه. ويواصل الآن بحوثه في ظل التشريع الصيني الجديد الذي يوفر ثغرات للنهوض بتجارب جينية مماثلة مشحونة بالمسائل الأخلاقية، وربما تكون مربحة.

طموح جامح

لا تكتفي الصين باعتبار التكنولوجيات التجريبية خالية من المخاطر إلى حد بعيد، بل إن الدولة ألزمت نفسها أيضاً بسباق محموم لتصبح "مركز الابتكار الأول في العالم للذكاء الاصطناعي" مع حلول عام 2030.

في ذلك الصدد، لطالما شكلت جهود الصين الرامية التفوق على الولايات المتحدة في الذكاء الاصطناعي، إحدى أولويات الحزب الشيوعي منذ عام 2015 في أقل تقدير، حينما أعلن شي جين بينغ استراتيجيته "صنع في الصين 2025". ومنذ ذلك الحين، تكرر التركيز على الذكاء الاصطناعي في وثائق وخطب وطنية عدة. وأصبح الذكاء الاصطناعي ركيزة أساسية في استراتيجية تحديث القوات العسكرية المسلحة الصينية، وصار جزءاً أساسياً من منظومة الدولة في المراقبة والقمع والسيطرة. وإزاء ما يواجهها من تحديات جسام، ليس مستغرباً أن تستثمر الحكومة الصينية عشرات المليارات من الدولارات سنوياً في قطاعها من الذكاء الاصطناعي، وتستفيد من شبكة التجسس الواسعة في محاولة لسرقة الأسرار التكنولوجية الخاصة بالشركات الأجنبية.

مركز للبيانات في مدينة لوليا السويدية بتاريخ 2019 (ريدوكس/ فورين أفيرز)

يبدو أن جنون الذكاء الاصطناعي في الصين يؤتي ثماره. إذ تنتج الصين مهندسيين من الدرجة الأولى في الذكاء الاصطناعي، أكثر من أية دولة أخرى، وحوالى 45 في المئة أكثر من الولايات المتحدة، أقرب منافسة لها. كذلك تفوقت على الولايات المتحدة في نشر بحوث الذكاء الاصطناعي العالية الجودة، إذ حازت الصين نحو 30 في المئة من الاقتباسات في مجلات الذكاء الاصطناعي على مستوى العالم في 2021، مقارنة مع 15 في المئة للولايات المتحدة. وفي العام الحالي، من المتوقع أن تتفوق الصين على الولايات المتحدة بحصتها من الواحد في المئة من أوراق الذكاء الاصطناعي البحثية الأكثر اقتباساً عالمياً. كذلك حذرت "لجنة الأمن القومي الأميركي للذكاء الاصطناعي" من أن "الصين تمتلك القوة والموهبة والطموح التي تتيح لها تجاوز الولايات المتحدة كقائد عالمي في مجال الذكاء الاصطناعي خلال العقد المقبل، إذا لم تتغير الاتجاهات الحالية".

لطالما اعترى المنظرين قلق من أن منافسة الذكاء الاصطناعي قد تستدعي سباقاً نحو الحضيض في ما يتصل بالسلامة. ولكن في المنافسات بين القوى الكبرى، عادة ما تختلف بشدة مستويات العزوف عن المخاطرة بين الشركات الراسخة من جهة ونظيرتها المنافسة الطموحة من جهة أخرى، مع إظهار الأخيرة غالباً رغبة أكبر بأشواط في المخاطرة ضمن محاولتها لإعادة التوازن إلى تلك التفاوتات الملحوظة [أي التي تفصلها عن الشركات الراسخة].

ولا يشكل سباق الذكاء الاصطناعي اليوم المرة الأولى التي تستجلب فيها رغبة بكين في تسريع التقدم، كارثة إلى البلاد. شروع الزعيم الصيني ماو تسي تونغ في الزراعة الجماعية [إنتاج زراعي مشترك ينطوي على تشغيل مقتنيات كثير من المزارعين كمشروع مشترك]، وصهر الأدوات الزراعية بغية إمداد مشاريع تنمية الصناعية بالصلب، وزيادة إنتاج الصلب في ما يسمى بـ"الوثبة العظيمة إلى الأمام" Great Leap Forward، أغرق الصين في أسوأ مجاعة في تاريخ البشرية، بموت حوالى 30 مليون شخص جوعاً بين عامي 1959 و1961. في وقت لاحق، قادت محاولة الصين في كبح جماح النمو السكاني من طريق فرض "سياسة الطفل الواحد" في 1979، ثم تعديلها إلى سياسة الطفلين كحد أقصى في 2015، إلى تفشي الإجهاض القسري وقتل الأطفال الرضع، من ثم اختلال سكاني بلغ نحو 33 مليون ذكر أكثر من الإناث، وأزمة شيخوخة ديموغرافية حادة في مختلف أنحاء البلاد.

جهود التسريع الأقل شمولاً، من قبيل اندفاع الصين في تسعينيات القرن الـ20 إلى الاستفادة من صناعة إطلاق الأقمار الاصطناعية التجارية، أسهمت في حدوث المأساة حينما انفجر صاروخ على بلدة صينية في عام 1996، وقتل عدداً غير معروف من الضحايا. اليوم، وفق تقارير استقصائية صادرة عن صحيفة "وول ستريت جورنال"، فإن محطات الطاقة الكهرومائية، والمجمعات السكنية الاجتماعية، والمدارس المبنية حول العالم كجزء من المبادرة الصينية الطموحة "الحزام والطريق"، آخذة في التداعي فعلياً، مما يفرض تكاليف باهظة على البلدان الفقيرة أصلاً.

سجل المسار المأسوي

حتى الآن، لم تتولد أية أزمات عن رغبة الصين في التفوق على الولايات المتحدة في قدرات الذكاء الاصطناعي. ولكن التاريخ يشير إلى أنه إذا حدث ذلك، فسيكون رد بكين كارثياً. وفي العادة، تسيء الدول الاستبدادية إدارة حالات الطوارئ، وتحول الحوادث إلى مآس شاملة. عموماً، يتوقف تفادي أسوأ المآلات على إدراك أوجه الخلل في وقت مبكر، خصوصاً تلك التي تؤشر إلى أنباء مؤسفة. وفي المقابل، تواجه الأنظمة الاستبدادية صعوبات جمة في ذلك. ولا سبب يحملنا على توقع أي أمر مختلف في ما يتعلق بالمخاطر التي شرعت في التشكل بشأن الذكاء الاصطناعي.
حينما تطرأ تطورات مقلقة في الصين، يندفع مسؤولو "الحزب الشيوعي الصيني" إلى كبح المعلومات المثيرة للقلق بدلاً من المخاطرة بمناصبهم وإبلاغ رؤسائهم بالأخبار السيئة، مما يطلق حلقة مفرغة تسير بالأمور نحوس كارثة فعلية. وأعطت المجاعة التي سببتها "القفزة العظيمة إلى الأمام" التي أطلقها ماو تسي تونغ، مثل عن ذلك. إذا كانت الزراعة الجماعية المشتركة وصهر الأدوات الزراعية مهدا الطريق نحو الأزمة، فقد أدى التستر الرسمي على العلامات المبكرة للخطر، في نهاية المطاف، إلى مفاقمة فشل المحاصيل حتى وقعت المجاعة الجماعية.

في الحقيقة، يتكرر النمط عينه في الصين المعاصرة بوتيرة مثيرة للقلق. ومثلاً، لنلاحظ التعتيم الحكومي المتراكم الذي تسبب في إصابة مليون رجل وامرأة وطفل صيني في أقل تقدير بفيروس "نقص المناعة البشرية" من طريق بيع الدم أو الخضوع لعمليات نقل دم ملوث بالفيروس في تسعينيات القرن الـ20. على رغم صدور تقارير أولى منتظمة عن الكارثة الناشئة، تكتم المسؤولون المحليون على الأدلة بشدة على مدى سنوات حفاظاً على حياتهم المهنية. وحتى بعدما انكشف طمس الحقائق وظهرت آثاره، نال كثير منهم ترقية.

على نحو مماثل، في عام 2002، تسترت الحكومة الصينية على تفشي فيروس "سارس" [متلازمة الالتهاب التنفسي الحاد] الفتاك في الصين طوال أربعة أشهر تقريباً، حتى في وقت أصاب الفيروس المميت ما يربو على 8 آلاف شخص حول العالم وقتل 774 شخصاً. وعلى رغم استثمار 850 مليون دولار في آليات للصحة العامة مصممة خصيصاً لضمان عدم حدوث تستر آخر يشبه ما حدث مع "سارس"، اتبعت الحكومة مساراً مشابهاً في استجابتها لجائحة "كوفيد- 19". إذ فصلت أسابيع حاسمة بين تسجيل أول إصابة بفيروس كورونا في مقاطعة "ووهان" في ديسمبر (كانون الأول) 2019 وبين اعتراف الصين بخطر انتقال العدوى من إنسان إلى آخر في الـ20 من يناير (كانون الثاني) 2020. ومع حلول ذلك الوقت، كان 7 ملايين شخص سافروا بحرية من ووهان إلى مناطق أخرى، وأخذوا ينشرون الفيروس في مختلف أنحاء البلاد وخارجها.

في غمرة تفشي "كوفيد- 19" وبعده، ضايقت الحكومة الصينية واعتقلت أطباء وصحافيين حاولوا أن يكشفوا الستار عن معلومات منقذة للأرواح حول الفيروس. في الوقت نفسه، لم تكن الصين صادقة مع "منظمة الصحة العالمية". وفي النتيجة، قدمت الأخيرة معلومات مغلوطة إلى بقية العالم بشأن مخاطر "كوفيد" خلال الأسابيع الأولى من الجائحة. حتى يومنا هذا، ترفض الحكومة الصينية توخي الشفافية اللازمة في تحديد منشأ الفيروس الذي قد يكون نتيجة حادثة صينية أخرى في التكنولوجيا المتطورة.

نموذج عن تأثير الذكاء الاصطناعي في الأسلحة الحديثة تقدمه المسيرة المقاتلة المؤتمتة ام كيو 09 ريبر المعتمدة في سلاح الجو الأميركي، بتاريخ يوليو 2015  رويترز)

كن واعياً وتوخ الحذر

ربما يشير المشككون في مخاطر كارثة الذكاء الاصطناعي الصيني إلى  استعداد مماثل لدى الحكومة لوضع تشريعات بشأن ذلك الذكاء، أو حقيقة أن الصين لم تبلغ بعد مستوى الولايات المتحدة في تطوير أنظمة تحوز القدرات الأكثر تطوراً، بالتالي الأشد خطورة. ولكن، على غرار الحال مع القواعد والقوانين التي تتحكم بالإنترنت الصيني، ليس هدف تشريعات كثيرة تتعلق بالذكاء الاصطناعي في بكين إلا الحرص على أن تظل الشركات خاضعة للحكومة وقادرة على منافسة نظيراتها الغربية. كذلك تستهدف تلك القوانين قمع أية معلومات تتهدد النظام.

وعلى رغم أنه ربما يكون صحيحاً أن الولايات المتحدة تقود تكنولوجيا الذكاء الاصطناعي الأكثر تقدماً، يبدو جلياً أيضاً أن التلاعب الماهر بالأنظمة الذكية لدى الجهات الأخرى يبرز بعضاً من قدراتها الشديدة الخطورة وغير المتوقعة، على غرار الجمع بين نماذج ذكية في مجال تعزيز القدرات، ثم استخدامها في تخطيط التجارب الكيماوية وتنفيذها. ومن السهل جداً سرقة نماذج الذكاء الاصطناعي المتقدمة أو نسخها أو استنساخها وإدخال تعديلات عليها، من ثم تجريدها ربما من سمات الأمان والسلامة. وإذا كان قطاع التكنولوجيا في الصين بارعاً في مجال ما، فإن ذلك يتمثل بقدرته السريعة على تعديل ابتكارات الآخرين بغية الحصول على أقصى تأثير منها، علماً أن هذه الاستراتيجية كانت بمثابة المحرك لنمو البلاد طوال عقود من الزمن.

إن احتمال وقوع مأساة من صنيعة الذكاء الاصطناعي ليس أمراً تنفرد به الصين. وعلى غرار الحال مع أية تكنولوجيا جديدة قوية، قد تحل الكوارث في أي مكان، وبات شائعاً وقوع أحداث مؤسفة صغيرة النطاق نتيجة حوادث وأشكال من سوء الاستخدام في شتى أنحاء العالم. ويشمل ذلك ما نشهده من اصطدام السيارات الذاتية القيادة، وعمليات الاحتيال في استنساخ الصوت بواسطة الذكاء الاصطناعي، وتحديد وكالات إنفاذ القانون هوية الأشخاص بشكل خاطئ باستخدام تكنولوجيا التعرف إلى الوجه، وهذا غيض من فيض. نظراً إلى دورها القيادي في ريادة قدرات الذكاء الاصطناعي الجديدة، تواجه الولايات المتحدة خصوصاً ارتفاع مخاطر الإخفاقات المكلفة. سيكون من الحكمة للشركات الأميركية والحكومة تعزيز جهودهما المتصلة بالحؤول دون سوء استخدام الذكاء الاصطناعي. وأخذ مشروعون كثر في إدراك ذلك الآن.

تبدو الصين الدولة الأكثر تفاؤلاً في العالم في ما يتعلق بالذكاء الاصطناعي

في المقابل، من "كارثة تشيرنوبيل" إلى جائحة "كوفيد"، يثبت التاريخ أن المخاطر الأكثر حدة لوقوع كارثة تنشأ من الدول الاستبدادية، ذلك أنها أكثر عرضة لحدوث أخطاء منهجية تقود إلى تفاقم أي خطأ أو حادثة أوليين. إن موقف الصين الهش تجاه المخاطر التكنولوجية، وطموح الحكومة المتهور، وسوء إدارة بكين للأزمة، تسير كلها على طريق التصادم مع المخاطر المتصاعدة للذكاء الاصطناعي.

وبالتالي، إن الاستعانة بمجموعة متنوعة من الإجراءات الأميركية المتبعة [حيال تلك المخاطر] قد يساعد في تقليص هذه المخاطر.

مثلاً، تستطيع الحكومة وصناعة الذكاء الاصطناعي مضاعفة القيود على ما يتدفق إلى الصين من بحوث الذكاء الاصطناعي التي يسهل استخدامها كأسلحة، إدراكاً منهما للتهديد الخطر الذي تحمله تلك البحوث. ويشمل ذلك التقييد استخدام تكتيكات في نقل التكنولوجيا تعمل كعنصر ضبط في مواجهة المشاريع والاستثمارات المشتركة الصينية. كذلك في مقدور الدبلوماسية الأميركية أن تدعم وضع معايير سلام عالمية بشأن بالذكاء الاصطناعي. وفي استطاعة الولايات المتحدة، بالتنسيق مع المجتمع الدولي، أن تتولى أيضاً مراقبة المخاوف المحتملة بشأن السلامة في مختبرات الذكاء الاصطناعي المتطورة في مختلف أنحاء العالم، مع التركيز على وضع خطط لحالات الطوارئ في حال حدوث إخفاقات تحمل تأثيرات غير مباشرة. وسبق للولايات المتحدة اتخاذ إجراءات مماثلة. إذ تراقب الولايات المتحدة مخاطر الحوادث الناجمة عن ممارسات خطرة في مختبرات البحوث البيولوجية والمفاعلات النووية والعمليات الفضائية الصينية.

وفي المقابل، تتمثل الخطوة الصحيحة الأولى في تعريف الأولوية في تلك التهديدات. وعلى غرار الحال في "الحرب الباردة"، ربما تجذب سباقات التسلح والمنافسة التكنولوجية قدراً كبيراً من الاهتمام، بيد أن المخاطر التي تتهدد السلامة جديرة بالاهتمام أيضاً، لا سيما في الدول الاستبدادية. وكي نتفادى كارثة أخرى تشبه "كارثة تشيرنوبيل" النووية، لا بد من أن يحل التعامل مع مخاطر الصين من كارثة في مجال الذكاء الاصطناعي، على رأس في قائمة الأولويات.

*بيل دريكسل زميل مشارك في "مركز الأمن الأميركي الجديد" CNAS، وهو يواصل بحوثه في الذكاء الاصطناعي، والمنافسة التكنولوجية، والأمن القومي.

**هانا كيلي، باحثة مساعدة في "مركز الأمن الأميركي الجديد"، وهي تتابع دراستها في استراتيجية التكنولوجيا الأميركية والتعاون التكنولوجي الدولي.

مترجم من فورين أفيرز، يونيو (حزيران) 2023