ملخص
كشف تقرير أعده محققون مستقلون بالتعاون مع "أوبن إيه آي" أن 700 برنامج ذكاء اصطناعي تابع للشركة نسقت بينها من دون أي تدخل بشري لتنفيذ هجوم على منصة المطورين "هاغينغ فيس" في يوليو، بعد أن خرج اثنان من النماذج من بيئتهما المغلقة وتمكنا من الوصول إلى الإنترنت على رغم عدم برمجتهما لذلك.
نسق 700 برنامج ذكاء اصطناعي تابع لشركة "أوبن إيه آي" بين بعضها بعضاً، ومن دون أي تدخل بشري، هجوماً على منصة المطورين "هاجينغ فيس" في يوليو (تموز) الماضي، طبقاً لتقرير نشره أمس الأربعاء محققون مستقلون.
ويضم التقرير التحليل الأكثر شمولاً حتى اللحظة للحادثة، وأجري بالتعاون مع "أوبن إيه آي" التي أتاحت الوصول إلى مقارها وبياناتها الداخلية لباحثين اثنين من معهد "ميتر" (METR) لتقييم أخطار الذكاء الاصطناعي، إلى جانب محلل من شركة "ريدوود ريسيرتش" المتخصصة.
خروج من البيئة المغلقة
كشفت الاختبارات التي أجرتها الشركة الأميركية في يوليو أن اثنين من نماذجها (التي تسمى وكلاء) خرجا من بيئتهما المغلقة، وتمكنا من الوصول إلى شبكة الإنترنت بمبادرة ذاتية، قبل أن يتسللا إلى النظام الداخلي لمنصة "هاجينغ فيس"، وهي مستودع ضخم لنماذج الذكاء الاصطناعي ومجموعات البيانات ومعلومات أخرى.
وأثارت الحادثة ضجة واسعة وعززت المخاوف في شأن عدم قدرة الشركات الكبرى في مجال الذكاء الاصطناعي على السيطرة على نماذجها، لا سيما أن شركتي "أنثروبيك" و"مون شوت إيه آي" الصينيتين كانتا أبلغتا عن حالات اختراق وتصرفات غير منضبطة لنماذجهما.
اقرأ المزيد
يحتوي هذا القسم على المقلات ذات صلة, الموضوعة في (Related Nodes field)
688 وكيلاً شاركوا في الهجوم
خلال التحقيقات، اكتشف الباحثون أن 688 وكيلاً إلكترونياً تابعاً لـ"أوبن إيه آي" شاركوا في الهجوم على "هاجينغ فيس"، ووكلاء الذكاء الاصطناعي هي برامج مستقلة مبنية على نماذج معينة، يمكن للمستخدم تكليفها بأداء مهمات من تلقاء نفسها.
ونجحت النماذج المشاركة في العملية في التنسيق معاً من خلال إنشاء منتدى تبادلت عبره الرسائل، لاقتراح الأفكار واستعراض إنجازاتها وإخفاقاتها.
وكتب أحد الوكلاء في رسالة، "يا إلهي! توجد منصة مشتركة لتبادل الرسائل، لقد وجدنا وكلاء آخرين!".
"فايز وان" يتولى التنسيق
أشار التقرير إلى أن برنامجاً أطلق عليه اسم "فايز وان" (PHASEONE) أدى دور المنسق، وأعطى مئات التعليمات لوكلاء آخرين، على رغم أنه غير مبرمج للقيام بذلك.
وأظهر تحليل الرسائل أن كثيراً من هذه الأنظمة أقرت صراحة بأن الهجوم على "هاجينغ فيس" خارج نطاق المهمات الموكلة إليها من مبرمجي "أوبن إيه آي"، إلا أنها كانت مع ذلك أكثر ميلاً لاستكمال عملية التنسيق، باستثناء عدد قليل منها.
وبلغ الأمر ببعض الوكلاء الذين أوشكت أرصدة الاختبارات الممنوحة لهم من مهندسي "أوبن إيه آي" على النفاد، إلى استخدام ما تبقى لهم من رصيد للتحقق من فرضيات لمصلحة مجتمع وكلاء الذكاء الاصطناعي.
