ملخص
اخترق برنامج ذكاء اصطناعي مستقل تابع لشركة "أوبن أي آي" في يونيو الماضي موقعاً إلكترونياً تابعاً للحكومة الأسترالية ووصل إلى بيانات دائرة الإحصاءات الصحية، في حادثة وصفها رئيس الوزراء أنتوني ألبانيزي بأنها "غير مقبولة مطلقاً". وأقرت الشركة بالحادثة لكنها لم تبلغ الحكومة الأسترالية إلا في سبتمبر عبر بريد إلكتروني عام.
اخترق برنامج ذكاء اصطناعي مستقل تابع لشركة "أوبن أي آي" الأميركية في يونيو (حزيران) الماضي، موقعاً إلكترونياً تابعاً للحكومة الأسترالية، في حادثة ندد بها رئيس الوزراء الأسترالي أنتوني ألبانيزي وقال إنها "غير مقبولة".
وقال ألبانيزي أمس الأربعاء أمام صحافيين في نيويورك على هامش اجتماعات الجمعية العامة للأمم المتحدة، إن هذا البرنامج تمكن من الوصول إلى ملفات عامة وخاصة تابعة لدائرة الإحصاءات الصحية.
وأوضح أن "أوبن أي آي" لم تبلغ الحكومة الأسترالية بالحادثة حتى سبتمبر (أيلول) الجاري، إذ بعثت برسالة إلكترونية تشرح ملابساتها إلى عنوان بريد إلكتروني مخصص للعامة ولا يتفقد سوى مرة واحدة يومياً.
تأخر في الإبلاغ يثير الاستياء
قال ألبانيزي "تحدثت اليوم إلى الرئيس التنفيذي لشركة ’أوبن أي آي‘ سام ألتمان، لأعرب عن قلق أستراليا البالغ إزاء هذه الحادثة، كذلك أعربت عن استيائي من تأخر الشركة في إبلاغ الحكومة بما حدث"، وأضاف "اضطررنا إلى الانتظار حتى الـ10 من سبتمبر لتلقي أي إشعار، وجاء هذا الإشعار على شكل بريد إلكتروني أرسل ببساطة إلى صندوق البريد العام".
وأقرت "أوبن أي آي" بأن برامجها استهدفت عدة مواقع إلكترونية حكومية أسترالية، وأنها اكتشفت ذلك في أغسطس (آب) الماضي.
وذكرت الشركة في رد تلقته وكالة الصحافة الفرنسية أمس في سان فرانسيسكو "رصدنا نشاطاً يتعلق بعدد كبير من المواقع والخدمات الحكومية الأسترالية، إذ كانت نماذجنا تحاول العثور على إجابات"، وأضافت "خلال هذه العملية اتخذت نماذجنا إجراءات لم نكن نتوقعها".
وكان نموذج "أوبن أي آي" يبحث عن بيانات في شأن إنفاق الحكومة الأسترالية على الرعاية الصحية، في إطار عملية تهدف إلى تقييم أداء الأداة.
اقرأ المزيد
يحتوي هذا القسم على المقلات ذات صلة, الموضوعة في (Related Nodes field)
"غير مقبول"
قال وزير الدفاع الأسترالي ريتشارد مارلز "طرح النموذج سؤالاً، ولم تكن المعلومات متوافرة. بدلاً من التوقف هنا، تجاوز النموذج الحدود".
وتأتي هذه الحادثة الأخيرة وسط تزايد القلق العالمي في شأن قوة أدوات الذكاء الاصطناعي المتقدمة، وذلك في أعقاب سلسلة من عمليات الاختراق الذاتي التي نفذتها نماذج تابعة لـ"أوبن أي آي" ولمنافستيها "أنثروبيك" و"غوغل".
وقال ألبانيزي "أعتقد أن ’أوبن أي آي‘ تدرك أن عليها اعتماد بروتوكولات أفضل، إنه مشروع بحثي غامر بالدخول في مجالات لا ينبغي له الخوض فيها"، وأضاف "لا نعتقد أنه جرى الوصول إلى أي معلومات شخصية في هذه المرحلة، لكن التحقيق جار" تحت إشراف الهيئة المسؤولة عن أمن نظم المعلومات والحرب السيبرانية، مؤكداً أن الحادثة "غير مقبولة مطلقاً".
قلق عالمي متزايد
شدد عدد كبير من المسؤولين في شركات متخصصة بالذكاء الاصطناعي، في الأمم المتحدة أمس، على ضرورة تعزيز الرقابة على هذه التكنولوجيا، حتى إن داريو أمودي من شركة "أنثروبيك" تعهد بإبطاء تطويرها من جانب واحد.
وقال ألتمان، خلال عرض تقديمي أمام مجلس الأمن التابع للأمم المتحدة في نيويورك، إن وتيرة تطوير الذكاء الاصطناعي الحالية "تتطلب يقظة شديدة".
ومنذ بداية الصيف أبلغت شركتا "أوبن أي آي" و"أنثروبيك" عن عدد من الحوادث المتعلقة بأحدث نماذجهما، التي انحرفت عن الأهداف التي وضعها مبتكروها ولجأت إلى الغش ومحاولة الكذب والتستر على أفعالها.
وتعود أخطر هذه الحوادث إلى يوليو (تموز) الماضي عندما تمكن نموذجان تابعان لـ"أوبن أي آي" من الخروج من بيئتهما المعزولة خلال اختبارات، والوصول إلى الإنترنت، واختراق منصة "هاغينغ فايس" المتخصصة في تخزين نماذج الذكاء الاصطناعي.
ووصلت نماذج "أنثروبيك" بصورة غير قانونية إلى ثلاث منظمات لم يكشف عن أسمائها، خلال اختبارات كان من المفترض أن تبقيها بعيدة من أنظمة "العالم الحقيقي".
وأقرت شركة "غوغل" في الأسبوع الماضي بأن نموذجها "جيميناي" اخترق عدداً من الأنظمة من طريق تخمين بيانات تسجيل الدخول.
