"أنثروبيك" تحذر: نماذج الذكاء الاصطناعي قد تبدأ قريبا بنسخ نفسها ذاتيا

قالت شركة "أنثروبيك" إن تجاربها تشير إلى أن نماذج الذكاء الاصطناعي الصغيرة ربما تكون قادرة بما يكفي في غضون أشهر قليلة على نسخ نفسها ذاتياً على أجهزة "إنترنت الأشياء" التجارية مثل الأفران الذكية وأجهزة التلفزيون التي تعمل بنظام "أندرويد" من علامات تجارية غير معروفة.

وبحثت "أنثروبيك" في تجاربها إذا ما كان بإمكان نماذج الذكاء الاصطناعي تحديد الأجهزة ذات الثغرات الأمنية ونسخ نفسها إلى تلك الأجهزة ومواصلة الانتشار من دون تدخل بشري. ووجدت الشركة أن النماذج الصغيرة التي تقل معاملاتها عن 30 مليار معامل يمكنها إكمال الخطوات الكثيرة اللازمة لعملية النسخ الذاتي.

ومع ذلك، لاحظت الشركة أن هذه النماذج واجهت صعوبة في إكمال التسلسل بأكمله من البداية إلى النهاية. أما في اختباراتها المبسطة، حيث استُبعدت بعض الإجراءات الأمنية، فوجدت "أنثروبيك" أن نموذج "جي أل أم-5.2" والنماذج الأقوى منه كانت قادرة على النسخ الذاتي بالكامل من البداية إلى النهاية.

تحذيرات من صعوبة الإيقاف

وحذرت "أنثروبيك" من أن النماذج التي تنسخ نفسها بنفسها سيكون من الصعب إيقافها، نظراً إلى عدم وجود نقطة تحكم مركزية لتعطيلها، كما أنها على عكس البرمجيات الخبيثة التقليدية قادرة على اكتشاف أجهزة غير مألوفة بنفسها واستهداف معالجات مراكز البيانات.

وركزت الشركة خلال بحثها على أجهزة إنترنت الأشياء مثل أجهزة التلفزيون التي تعمل بنظام "أندرويد" والأجهزة المنزلية الذكية وغيرها من الأجهزة المتصلة بالإنترنت، إذ إن هذه الأجهزة عادة ما تكون غير محمية بصورة كافية.

كذلك، حذرت الشركة الرائدة في مجال الذكاء الاصطناعي من أنه إذا استمرت النماذج الصغيرة في التحسن بالوتيرة غير المسبوقة نفسها، فإنها ستكون قادرة على نسخ نفسها على نحو مستقل بحلول نهاية هذا العام، وستحذو حذوها بعد ذلك بوقت قصير نماذج نسخ صغيرة تعتمد على الأوزان.

وأشارت "أنثروبيك" أيضاً إلى أن أنظمة الذكاء الاصطناعي المستقلة هذه من المرجح أن تنسخ نفسها ببطء وتعتمد على موارد حوسبة متاحة على نطاق واسع وتفتقر نسبياً إلى الأمان الكافي، مضيفة أنه ينبغي تعزيز الأنظمة لجعل انتشار وكلاء الذكاء الاصطناعي هؤلاء أكثر صعوبة.