ملخص
معهد أمن الذكاء الاصطناعي البريطاني يكشف عن محاولات خبيثة لنماذج متقدمة من "أنثروبيك" و"أوبن أيه آي" لزرع شفرات ضارة وإنشاء هويات مزيفة للحصول على موافاقات رسمية.
أنشأ نموذج للذكاء الاصطناعي طورته شركة "أنثروبيك" هويات إلكترونية مزيفة لإرسال رسائل إلكترونية إلى أشخاص حقيقيين، في محاولة للحصول على موافقة على رمز ضار، وذلك خلال اختبارات أجرتها مجموعة بحثية تابعة للحكومة البريطانية.
وكشف معهد أمن الذكاء الاصطناعي، في تقرير نشر في وقت متأخر يوم الثلاثاء، عن أن "نشاطاً مستمراً قد يكون ضاراً وموجهاً ضد أشخاص ومنظمات حقيقية" صدر عن بعض أدوات الذكاء الاصطناعي من شركتي "أنثروبيك" و"أوبن أيه آي" خلال الاختبارات.
وفي أخطر الحالات، حاول نموذج "ميثوس 5" التابع لشركة "أنثروبيك" إدراج شيفرة خبيثة في مشروع برمجية، عبر إنشاء هويات إلكترونية مزيفة وإرسال رسائل بريد إلكتروني خادعة لإقناع المتلقي بالموافقة على الشيفرة.
ويأتي ذلك بعد هجمات إلكترونية نفذت ذاتياً بواسطة برمجيات طورتها الشركتان الأميركيتان، مما أثار مخاوف في شأن قدرات نماذج الذكاء الاصطناعي المتقدمة ومستوى الإشراف عليها.
وتأسس معهد أمن الذكاء الاصطناعي عام 2023 للإشراف على سلامة نماذج الذكاء الاصطناعي الجديدة، وأجرى المعهد هذه الاختبارات مع إتاحة الوصول المفتوح إلى الإنترنت وتعطيل بعض خصائص الأمان.
وصدرت معظم التصرفات عن نموذج "ميثوس 5"، فيما ارتبط إجراءان بنموذج "جي بي تي-5.6 سول" التابع لشركة "أوبن أيه آي".
ورفض الشخص المكلف بالإشراف على البرمجية منح الموافقة.
اقرأ المزيد
يحتوي هذا القسم على المقلات ذات صلة, الموضوعة في (Related Nodes field)
وقال المعهد "لم تنجح هذه المحاولات، ولم تظهر تحقيقاتنا أي دليل على وقوع أضرار فعلية ناجمة عنها"، مضيفاً أنه احتوى الحادثة خلال ساعة واحدة.
لكنه أضاف أن هذه الأنشطة "تظهر مؤشرات على سلوكيات جديدة قد تكون خادعة، وبمستوى من الاتساع والخطورة لم نكن نتوقعه".
وقال متحدث باسم "أنثروبيك" إن التقرير "يؤكد الحاجة إلى نقاش أوسع في شأن آليات التقييم الأمن لأدوات الذكاء الاصطناعي المتزايدة قدراتهم".
متحدث باسم شركة "أوبن إيه آي" أكد أهمية "الاختبارات المستقلة لفهم كيفية تصرف النماذج ذات القدرات المتزايدة". وأضاف "سنواصل العمل مع الجهات التي تجري التقييمات وسائر الأطراف المعنية في القطاع لتعزيز الممارسات المشتركة لإجراء الاختبارات بصورة آمنة مع تزايد قدرات النماذج".
ويأتي التقرير في أعقاب سلسلة من الخروق الأمنية البارزة التي ارتكبتها نماذج للذكاء الاصطناعي.
وفي يوليو (تموز)، أكدت "أوبن أيه آي" أن أحد برامجها تمكن من الخروج من بيئة الاختبار، وشن هجوماً على شركة أخرى هي "هاغينغ فيس".
وبعد نحو أسبوع، قالت الشركة إن النماذج استهدفت ثلاث شركات أخرى.
وفي الـ30 من يوليو، كشفت "أنثروبيك" أنها رصدت أيضاً ثلاث حوادث تمكنت خلالها نماذج للذكاء الاصطناعي، كانت قيد الاختبار، من "الحصول على وصول غير مصرح به" إلى منظمات لم تكشف عن هويتها.
