اختراق نفذه ذكاء "أوبن أي آي" يثير مخاوف غير مسبوقة

خرج نظام ذكاء اصطناعي من تطوير شركة "أوبن أي آي" عن السيطرة، في واقعة ربما تكون الأشد إثارة للرعب حتى الآن في عالم الذكاء الاصطناعي المنفلت العقال.

فقد اخترق أحد أنظمة الشركة موقعاً إلكترونياً تابعاً للحكومة الأسترالية، معززاً المخاوف من أن تشكل نماذج الذكاء الاصطناعي خطراً على الأمن السيبراني، ومن عجز الشركات المطورة عن إحكام السيطرة عليها.

ولعل عملية الاختراق هذه أخطر حلقة حتى الآن في سلسلة من الهجمات السيبرانية التي شنتها أنظمة ذكاء اصطناعي من تلقاء نفسها. بيد أنها ليست سوى مثال آخر على الخطر الذي تطرحه هذه الأنظمة، وفق تحذيرات عدد من الخبراء.

من بين هؤلاء موريس كيودو، عالم رياضيات أسترالي يعمل في "مركز دراسة الأخطار الوجودية" في "جامعة كامبريدج"، إذ قال إن الاختراق شكل، في ما يبدو، "قفزة كبيرة في مستوى الخطورة مقارنة بحوادث مماثلة شهدناها في الأشهر الأخيرة الماضية".

وفي الحادثة الأخيرة، نجح وكيل ذكي من "أوبن أي آي" في الوصول، ومن دون تصريح، إلى بوابة الإحصاءات الطبية التابعة لـ"ميديكير"، برنامج التأمين الصحي الشامل في أستراليا، بحسب رئيس الوزراء أنتوني ألبانيزي. وكان النظام يبحث في الإنفاق العام على الرعاية الطبية.

وقال ألبانيزي "لا شك في أن هذا الوضع غير مقبول"، مضيفاً أن بلاده أبلغت "أوبن أي آي" "قلقها البالغ إزاء هذه الحادثة"، وذلك في تصريحات أدلى بها خلال أعمال "الجمعية العامة للأمم المتحدة"، التي ركزت على الخطر الذي يشكله الذكاء الاصطناعي، وقد حضرها أيضاً الرئيس التنفيذي للشركة سام ألتمان.

ولكن المثير للقلق بصفة خاصة في شأن هذه الحادثة، وفق ألبانيزي، أن الاختراق قد وقع في يونيو (حزيران) الماضي، فيما لم تبلغ "أوبن أي آي" أستراليا به إلا في سبتمبر (أيلول) الحالي. وتأتي الحادثة في أعقاب سلسلة من حوادث الاختراق التي كشفت عنها "أوبن أي آي" ومنافسون لها، مثل "أنثروبيك" و"جيميناي"، بعد وقت طويل من وقوع تلك الحوادث.

كذلك أشار رئيس الوزراء الأسترالي إلى أن الحادثة تكشف أوجه القصور في ضوابط الأمان التي كثيراً ما أشادت بها شركات الذكاء الاصطناعي، وقدمتها وسيلة لضمان مأمونية منتجاتها، موضحاً أن الوكيل الذكي تلقى تعليمات بالكف عما يفعله، ولكنه تجاهلها في محاولة لإنجاز مهمته.

وفي حديثه إلى الصحافيين، قال ألبانيزي إن "وكيل الذكاء الاصطناعي واجه قيوداً واضحة كانت تقول له: "كفى"، ولكنه وجد سبيلاً للالتفاف عليها، ولم يتقبل التعليمات بالتوقف".

أما "أوبن أي آي" فقالت إن المشكلة نشأت لأن نموذجها كان يحاول التوصل إلى السبيل الأفضل لإنجاز مهمته. وجاء في بيان أصدرته الشركة: "رصدنا نشاطاً شمل مواقع وخدمات حكومية أسترالية عدة، بينما كانت نماذجنا تحاول العثور على إجابات... وقد اتخذت نماذجنا خطوات لم نقصدها".

وتعيد هذه الحادثة إلى الأذهان وقائع أخرى، من بينها الهجوم على منصة الذكاء الاصطناعي "هاغينغ فيس" Hugging Face، الذي أثار مخاوف من هذه الأنظمة المارقة. وفي تلك الحادثة، كان نظام تجريبي تابع لـ"أوبن أي آي" يخضع لاختبار، وقد وجد أن أفضل سبيل للعثور على الإجابات اختراق موقع إلكتروني كان النظام مستضافاً عليه، مما أتاح له، عملياً، البحث عن الإجابات.

هكذا، تقدم الواقعة الأخيرة مثالاً آخر على أن أنظمة الذكاء الاصطناعي قد لا تتعمد شن هجوم سيبراني، وإنما تلجأ إليه وسيلة لتحقيق هدف أوسع لا تبدو له، ظاهرياً، صلة مباشرة بالاختراق. وقال خبراء إن خطورة هذه الأنظمة تكمن تحديداً في قدرتها على تنفيذ هجوم سيبراني لتحقيق غاية أخرى.

وفي هذا السياق، قال المستشار في الأمن السيبراني العالمي في شركة "إسيت" ESET، جيك مور: "ما زلنا نرى أنظمة ذكاء اصطناعي قوية تعيث الفوضى بينما تسعى إلى إنجاز المهام الموكلة إليها. وهذه الأنظمة بارعة في فحص الثغرات الأمنية، لذلك إذا عثرت على ثغرة يمكنها استغلالها لإنجاز طلب ما، فلن تتردد في ذلك".

وتابع مور قائلاً "في مستطاع هذه الأنظمة اتخاذ قرارات بسرعة الآلة، وما لم تزود بتعليمات صريحة تمنعها من القيام بفعل ما، تصبح كل الوسائل مشروعة. وكثير من الطرق التي تسلكها لإنجاز مهامها تعد عادة أساليب خبيثة، ولكن المشكلة تكمن في أن ضوابط الأمان التي توجه الوكلاء صراحة إلى عدم اختراق المؤسسات غير مدمجة أصلاً في خوارزمياتها".

وفي هذا الصدد، دعا مور إلى إخضاع هذه النماذج لاختبارات أفضل قبل السماح لها بالدخول إلى الإنترنت حيث تصبح قادرة على شن هجمات سيبرانية على هذه الشاكلة. ولكنه أشار إلى أن السباق نحو تطوير نماذج أحدث وأقوى قد أفضى إلى التغاضي عن مثل هذه التدابير الوقائية.

وتابع مور تحذيره قائلاً إنه "يتعين على شركات الذكاء الاصطناعي الرائدة مواصلة تطوير هذه النماذج وتحسينها قبل إطلاق العنان لها على الإنترنت أو السماح لها بالوصول إلى بيانات حساسة، لأن التنبؤ بالمسارات التي تسلكها والنتائج التي تترتب عليها ليس ممكناً دائماً".

وأضاف "تخضع مراحل الاختبار في معظم المجالات التكنولوجية الأخرى لمعايير أكثر صرامة بأشواط"، وفق مور، و"لكن يبدو أننا نشهد حالياً وكلاء ذكاء اصطناعي يعملون من دون قيود. ومرد ذلك على الأرجح إلى المنافسة الشديدة بين شركات الذكاء الاصطناعي الرائدة، التي تسعى جميعها إلى الفوز بسباق الذكاء الاصطناعي".

وقال خبراء آخرون إن هذه الحادثة أظهرت أن وعود شركات الذكاء الاصطناعي، وحتى الاختبارات التي تجريها بنفسها لهذه الأنظمة، ليست الاختبار الأفضل لمعرفة مدى الخطورة التي ربما يشكلها أي نظام ذكاء اصطناعي.

وقالت البرفيسورة في الذكاء الحاسوبي ورئيسة اختصاص تكنولوجيا المعلومات في "الجامعة الكاثوليكية الأسترالية"، نيوشا شفيع أبادي: "المهم هنا ليس ما تقول ’أوبن أي آي‘ إن وكيلها قادر على فعله، بل ما يفعله الوكيل فعلياً عندما يواجه معوقاً. وتظهر حادثة ’ميديكير‘ لماذا ينبغي لنا أن نقيم الذكاء الاصطناعي المستقل استناداً إلى سلوكه تحت الضغط، لا إلى الوعود المصاحبة لإطلاقه".

وأضافت: "يكمن الخطر التقني الأعمق في أن الذكاء الاصطناعي المستقل لا يعرف دائماً متى يخطئ، وربما لا يتمكن البشر من معرفة سبب اتخاذه قراراً معيناً. ومن دون آليات تحقق قوية وحدود صارمة، يمكن للأخطاء القائمة على الاحتمالات أن تتحول في صمت إلى إخفاقات تشغيلية".