ملخص
كشف تقرير صحافي لـ"سي أن أن" عن أن خطأ كبيراً ناجماً عن استخدام الذكاء الاصطناعي كاد يشعل مواجهة عسكرية مباشرة بين الولايات المتحدة والصين في الشرق الأوسط، بعدما أصدر محلل بشركة العمليات الخاصة تقريراً استخبارياً زائفاً أعده روبوت دردشة، أفاد زوراً بوجود شحنة نووية على متن سفينة صينية. واستجابت القوات الأميركية للتقرير بالتحضير الفعلي باقتحام السفينة واعتراضها بطلائع جوية قبل أن يكتشف بطلان التقرير في اللحظات الأخيرة، وعلى رغم الاندفاع الأميركي الواسع بقيادة وزارة الحرب لاستخدام هذه التكنولوجيا لحسم القضايا العسكرية، تسلط الحادثة الضوء على الأخطار الداهمة لهلوسة البرامج والاعتماد غير الناقد على المخرجات دون تثبت كافٍ.
ذكرت شبكة "سي أن أن" اليوم الجمعة أن الجيش الأميركي كان على وشك الصعود إلى سفينة صينية في الشرق الأوسط أثناء وقت سابق من هذا العام، بناءً على تقرير استخباراتي خاطئ أعد بمساعدة الذكاء الاصطناعي.
وأوردت الشبكة، نقلاً عن أربعة مصادر مطلعة لم تكشف عن هويتها، أن الاستخبارات الأميركية أشارت إلى أن السفينة كانت تحمل مكونات مرتبطة بأسلحة نووية، مما دفع القوات الأميركية للاستعداد لاعتراضها.
غير أن العملية ألغيت بعدما خلص مسؤولون إلى أن برنامج ذكاء اصطناعي استخدمه أحد المحللين، قد أخطأ في تحديد طبيعة حمولة السفينة.
ونقلت "سي أن أن" عن أحد المصادر قوله إن التقرير الاستخباراتي كان "خاطئاً تماماً" لكنه "كاد "يشعل حرباً". ولم يحدد المصدر ما كانت تحمله السفينة فعلياً أو وجهتها.
لم ترد القيادة المركزية الأميركية (سنتكوم) على الفور على طلب للتعليق على التقرير في شأن الحادثة.
يأتي تقرير "سي أن أن" بعد ضجة في وقت سابق من هذا الشهر آثارها إعلان باحث على الملأ استقالته من شركة "أنثروبيك" الرائدة في الذكاء الاصطناعي، بسبب مخاوف من أن هذه التكنولوجيا قد تفلت من سيطرة الإنسان.
وصدرت دعوات عدة في الآونة الأخيرة للحد من سرعة تطور الذكاء الاصطناعي، بما في ذلك عن مسؤولي كبار في هذا المجال، أو سياسيين ومنظمات دولية.
وعلى رغم التحذيرات، عبر الرئيس الأميركي دونالد ترمب وبعض حلفائه الرئيسين عن معارضتهم للحد بصورة جذرية من تطوير الذكاء الاصطناعي.
في أروقة الجيش الأميركي وأجهزة الاستخبارات كافة، يندفع المسؤولون لدمج الذكاء الاصطناعي في مختلف أوجه عملهم، بدءاً من تحليل الكميات الضخمة من البيانات الخام واختيار أهداف الضربات، وصولاً إلى التطبيقات الأكثر روتينية مثل إدارة الموازنات واللوجيستيات وسلاسل الإمداد.
غير أن هذه الحادثة تسلط الضوء على الأخطار الجسيمة لاستخدام هذه التكنولوجيا الحديثة والقوية، والتي لا تزال غير مفهومة كلياً، في عمليات تحديد الأهداف وسط المعارك. وكثيراً ما أبدى المحللون خشيتهم من أن يؤدي الذكاء الاصطناعي إلى حسابات خاطئة كارثية إذا اعتمدت الدول على بيانات ضعيفة أو مغلوطة، وهو نوع الحسابات التي قد تدفع واشنطن لإطلاق النار على سفينة صينية بناءً على معلومات غير دقيقة.
وفي هذه الحالة تحديداً، استعلم المحلل عبر روبوت دردشة عن تقارير استخباراتية تخص قائمة شحن السفينة، كانت صادرة عن قيادة العمليات الخاصة الأميركية في المحيط الهادئ بمقرها في هاواي (ولم يتضح ما إذا كان روبوت الدردشة تجارياً أم أداة حكومية أميركية).
اقرأ المزيد
يحتوي هذا القسم على المقلات ذات صلة, الموضوعة في (Related Nodes field)
وقال مسؤول أميركي سابق رفيع مطلع على أجهزة الذكاء الاصطناعي بالجيش: "الأدوات الداخلية في معظمها مجرد نسخ من البرامج التجارية أعيد طلاؤها بطابع رسمي".
وقام الروبوت بدمج بيانات من مصادر مفتوحة مع معلومات استخبارات الإشارات السرية المحفوظة لدى الحكومة، ليصل إلى استنتاجه الكارثي في شأن طبيعة المواد المنقولة، ثم عاد المحلل واستخدم الذكاء الاصطناعي مجدداً لتصنيع هذه النتائج وصياغتها في قالب تقرير استخباري معياري، من النوع الذي يثق به المسؤولون العسكريون، وقام بتعميمه. ولم تستجب قيادة العمليات الخاصة في المحيط الهادئ ولا البنتاغون لطلبات التعليق.
ويكمن المبرر وراء التبني السريع للذكاء الاصطناعي في مساعدة الجيش على اتخاذ قرارات ميدانية أسرع، كتعيين أهداف الضربات أو تحريك الأصول العسكرية. ويقول المسؤولون إن واشنطن لا تملك رفاهية التخلف عن الركاب في دمج الذكاء الاصطناعي، تحسباً لمواجهة محتملة مع الصين أو خصم آخر قد يسبقها بخطوة.
وكان وزير الحرب بيت هيغسيث قد أطلق في يناير استراتيجية "تسريع الذكاء الاصطناعي" بوزارته، لزيادة وسيلة الاعتماد عليه. وقال هيغسيث في كلمته "سنطلق العنان للتجريب، ونزيل العوائق البيروقراطية، ونركز استثماراتنا لضمان ريادتنا في الذكاء الاصطناعي العسكري".
وتدفع الاستراتيجية نحو استخدامه الواسع عبر مختلف البرامج بالوزارة لإتاحة نماذج الذكاء الاصطناعي الرائدة مباشرة في أيدي 3 ملايين موظف مدني وعسكري على مختلف مستويات السرية.
لكن هذه الجهود تتسم بعدم المركزية، إذ تستخدم قطاعات حكومية مختلفة أدوات متباينة وفق معايير أمان وأوامر مختلفة، من دون وجود معايير موحدة للتحقق من المعلومات المنتجة، مما يجعل درجة الموثوقية تتفاوت بصورة كبيرة.
وعلى مدار أسابيع، شهدت واشنطن نقاشات حادة حول الذكاء الاصطناعي عقب تحذيرات من مهندسين ورؤساء شركات في وادي السيليكون حول إمكانية خروج التكنولوجيا عن السيطرة البشرية بعواقب تهدد الحضارة.
غير أن حادثة السفينة الصينية تبرز خطراً مختلفاً وأكثر إلحاحاً، اتخاذ البشر لقرارات كارثية بناءً على معلومات خاطئة أو مضللة أنتجها الذكاء الاصطناعي. وأفادت المصادر بأن الجيش يتجه بسرعة نحو الذكاء الاصطناعي لتحديد الأهداف، وهو مجال ينطوي على أخطار جلية لوقوع أخطاء قاتلة.
ولم تكن واقعة "الهلوسة" التي أنتجت في هذه الحالة حادثة معزولة بالاستخبارات منذ انتشار هذه الأدوات. ويرى مسؤولون استخباريون أن الذكاء الاصطناعي بات يضغط على المحللين لإنتاج واستخراج التقارير بصورة أسرع، مما يفتح الباب أمام الأخطاء، لا سيما مع اعتاد المحللين الشبان على هذه الأدوات وميلهم للثقة بها دون تمحيص.
وكما لخص أحد المصادر الأمر، "الذكاء الاصطناعي يجعلك تصل إلى الفكرة السيئة بصورة أسرع".
