رئيس "ديب مايند" يحذر من حوادث كبرى للذكاء الاصطناعي

حذّر رئيس مجلس إدارة شركة "ديب مايند" التابعة لـ "غوغل"، ديميس هاسابيس، اليوم الأربعاء من أن أنظمة الذكاء الاصطناعي قد تتسبب في حوادث أمنية كبرى خلال العامين المقبلين، ما لم تُتخذ إجراءات كافية لضمان سلامتها، مع استمرار تطور قدراتها.

وخلال حديثه في مؤتمر حول الذكاء الاصطناعي في دبلن، وصف هاسابيس الحوادث الأخيرة بأنها "طلقات تحذيرية باكرة، صادرة عن أنظمة ليست قوية إلى هذا الحد بعد".

وقال "لذا فإن هذه الحوادث ليست كبيرة إلى هذا الحد"، محذّراً من أنها "قد تصبح كذلك خلال العام المقبل أو العامين المقبلين، إذا لم نبذل مزيداً من الجهود، سواء على مستوى القطاع ككل أو على مستوى الشركات والحكومات كل على حدة، لضمان أمن هذه الأنظمة".

وأثارت المخاوف في شأن سلامة الذكاء الاصطناعي قلقاً متزايداً بعدما تورطت نماذج طورتها شركتا "أوبن أيه آي" و"أنثروبيك" في حوادث أمنية خلال مراحل الاختبار، وهو ما زاد الضغوط الداعية إلى تنظيم هذه التكنولوجيا.

وقال هاسابيس إنه قد يكون من الضروري اختبار نماذج الذكاء الاصطناعي الجديدة أولاً داخل "بيئات معزولة "(sandboxes) غير متصلة بالشبكات، وذلك بعدما تمكنت نماذج طورتها شركات أخرى من الخروج من البيئات المغلقة التي كانت تُستخدم لتقييم قدراتها.

وقالت المسؤولة عن شؤون التكنولوجيا في الاتحاد الأوروبي، هينا فيركونين، إن شركات الذكاء الاصطناعي بحاجة إلى تخصيص مزيد من الوقت لاختبار أنظمتها، لضمان الحفاظ على السيطرة عليها.

وقالت فيركونين لصحافيين لدى وصولها إلى قمة دبلن، إن "المنافسة شديدة للغاية على المستوى العالمي، ويبدو أن جميع الشركات لا تخصص ما يكفي من الوقت والموارد لاختبار نماذجها بصورة فعلية"، مضيفة "يجب أن تكون الشركات قادرة على السيطرة على هذه الأنظمة"، مشيرة إلى أن الاتحاد الأوروبي وجّه طلبات للحصول على معلومات إلى كل الشركات الكبرى العاملة في مجال الذكاء الاصطناعي، للاستفسار عن تدابير السلامة والأمن التي تطبقها.

واكتسبت المفوضية الأوروبية في أغسطس (آب) الماضي صلاحيات تنظيمية جديدة بموجب قانون الذكاء الاصطناعي، الذي يُعد الإطار التنظيمي الأكثر شمولاً في العالم، للحد من الاستخدامات التي قد تنطوي على أخطار لهذه التكنولوجيا.