ملخص
ذكرت شركة "أوبن أي آي" في بيان، أنها لم تتمكن من الرد الفوري على هذه المزاعم لأن "واضعي التقرير رفضوا طلبنا الاطلاع على النتائج قبل نشرها".
كشف تقرير نُشر أمس الجمعة، أن آلافاً من وكلاء الذكاء الاصطناعي المستقلين الذين طورتهم شركة "أوبن أي آي"، خالفوا التعليمات الموجهة إليهم وسيطروا على موقع إلكتروني ألماني، وسط مخاوف من عدم التعامل بجدية مع أخطار الذكاء الاصطناعي.
وترك الوكلاء، وهم برامج ذكاء اصطناعي تعمل ذاتياً من دون توجيه بشري وقادرة على التخطيط واتخاذ القرارات، نحو 18 ألف رسالة على موقع "دسي ويكي"، وهو موقع ألماني على غرار "ويكيبيديا" مخصص للمبرمجين ويتيح لأي شخص تعديل المحتوى.
واستخدم الوكلاء الموقع لمشاركة حيل لتجنب الأسوار الرقمية المصممة لاحتوائهم.
وكتبت سيدني فون آركس، إحدى الباحثات المشاركات في وضع التقرير، على منصة "إكس"، "اكتشفت أنا وزملائي سرباً جديداً تماماً من وكلاء (أوبن أي آي) يقوم باختطاف مواقع إلكترونية".
اقرأ المزيد
يحتوي هذا القسم على المقلات ذات صلة, الموضوعة في (Related Nodes field)
وأضافت "نعتقد أن (أوبن أي آي) كانت على علم بذلك، لكنها لم تفصح عنه".
وذكرت شركة "أوبن أي آي" في بيان، أنها لم تتمكن من الرد الفوري على هذه المزاعم لأن "واضعي التقرير رفضوا طلبنا الاطلاع على النتائج قبل نشرها".
وقال المتحدث باسم "أوبن أي آي"، "نحن نراجع محتويات التقرير بعناية الآن، وسنتخذ أي خطوات ضرورية تالية"، مشيراً إلى أن الشركة كانت قد ذكرت حوادث مماثلة في تقرير صدر أخيراً.
وتأتي هذه الحادثة الأخيرة في أعقاب الكشف في يوليو (تموز)، عن قيام وكلاء تابعين لـ"أوبن أي آي" أيضاً باختراق خوادم منصة "هاغينغ فايس" الواسعة الانتشار، التي يستخدمها المبرمجون لمشاركة برمجيات الذكاء الاصطناعي.
وكشف تحقيق مستقل أن المئات من وكلاء الشركة كانوا يتواصلون في ما بينهم قبل الفرار من بيئتهم الخاضعة للرقابة، وأنهم شنوا هجماتهم على شكل موجات متعددة.
وأحدثت هذه الواقعة ضجة كبيرة وأعادت إحياء المطالبات بفرض قيود تنظيمية ورقابة أكثر صرامة على الذكاء الاصطناعي.
وأبلغت شركات أخرى مثل "ميتا" و"أنثروبيك" عن حوادث مماثلة أثناء اختبارها لوكلاء الذكاء الاصطناعي.
وتُروِّج شركات التكنولوجيا لهؤلاء الوكلاء باعتبارهم المرحلة التالية لتوسع الذكاء الاصطناعي في الحياة اليومية، إذ يمتلكون القدرة على حجز رحلات السفر أو إعداد تقارير النفقات أو كتابة البرمجيات بأقل قدر من الإشراف البشري.
وفي مقال نُشر الأسبوع الماضي، حذر مؤسس "مايكروسوفت" بيل غيتس، من أن هذه التكنولوجيا تجاوزت عتبات السلامة التي تعهدت باحترامها، داعياً إلى فرض رقابة تحاكي عمليات التفتيش على المواقع النووية.
لكن إدارة ترمب قاومت مثل هذه المقترحات، وهي تعارض أي تنظيم للذكاء الاصطناعي.
