"جيميني" يخترق شركات في أول واقعة معروفة لذكاء "غوغل" الاصطناعي

تمكن نموذج "جيميني" من الوصول إلى الإنترنت واختراق شركات أخرى خلال اختبار لقدراته في مجال الأمن السيبراني، في أول مثال معروف على قيام أنظمة الذكاء الاصطناعي التابعة لشركة "غوغل" بمثل هذا الفعل بصورة مستقلة.

ووقعت عمليات الاختراق في مايو (أيار) الماضي خلال اختبار للأمن السيبراني أجرته شركة "إيريغولار" المستقلة المتخصصة في تقييمات الأمن السيبراني.

وقالت نائبة رئيس "غوغل" لهندسة الأمن هيذر أدكينز في بيان، إنه خلال تقييم اختبار اعتيادي، عثر "جيميني" على معلومات متاحة للعامة عبر الإنترنت وخمن بيانات اعتماد للدخول إلى ثلاثة مواقع إلكترونية اعتقد أنها تقع ضمن نطاق اختباره.

وأضافت أدكينز، "حرصنا على إبلاغ الكيانات الثلاثة، وعملنا مع شريكنا في التدريب في شأن التغييرات التي أدخلها الآن على عمليات الاختبار... تسلط هذه الوقائع الضوء على أهمية تدريب نماذج الذكاء الاصطناعي القوية على التصرف بمسؤولية".

إبلاغ مختبرات أخرى

قال متحدث باسم "إيريغولار" إن الواقعة تنطوي على المشكلة نفسها التي أثرت في مختبرات أخرى للذكاء الاصطناعي، وإنه جرى إخطار جميع المختبرات المعنية في أواخر يوليو (تموز) الماضي. وأضاف المتحدث، "عولجت وحلت جميع المشكلات المعروفة من جانبنا قبل أسابيع".

وكشفت "ميتا" و"أنثروبيك" و"أوبن أي آي" عن وقائع مماثلة مرتبطة بـ"إيريغولار". وقالت "ميتا" في أغسطس (آب) الماضي إن الواقعة لم تنطوِ على اختراق لبيئة معزولة أو هجوم سيبراني متطور، بينما قالت "إيريغولار" إنها تعمل على وضع أفضل الممارسات لإجراء تقييمات الأمن السيبراني للذكاء الاصطناعي في صورة آمنة.

وأثارت الوقائع تساؤلات في شأن الضمانات اللازمة مع اكتساب وكلاء الذكاء الاصطناعي قدراً أكبر من الاستقلالية وإمكان الوصول إلى الإنترنت وأنظمة الكمبيوتر.

وفي إحدى الحالات، خمن نموذج "جيميني" كلمات المرور إلى أن تمكن من الوصول إلى نظام محمي. وفي الحالتين الأخريين، عثر النموذج على بيانات اعتماد أتاحت له بعد ذلك الوصول إلى أنظمة محمية، وفقاً لصحيفة "وول ستريت جورنال" التي كانت أول من نشر الخبر أمس.

وقالت أدكينز إن النموذج توقف عن الاختراق في الحالات الثلاث جميعها.