الذكاء الاصطناعي في الشركات... موظف غبي

"’إياك والتخمين!‘ – وهذا ما فعلته بالضبط"، قال النموذج الذكي "كلود"، مضيفاً "لقد انتهكتُ كل مبدأ جرى تلقيني إياه". كان هذا اعترافاً صادماً توازت معه حدة النبرة، ذلك أن "كلود"، الذكاء الاصطناعي الذي طورته "أنثروبيك"، قد تسبب لتوه في محو شركة كاملة.

إنها شركة "بوكيت أو أس" PocketOS، ومجال عملها تطوير برمجيات تشغيلية تعتمد عليها شركات التأجير، كالبرمجيات التي تستخدمها شركات تأجير السيارات في تسيير عملياتها وتتبع مركباتها والحجوزات، وغيرها من المهام. وفي تسع ثوان لا غير، قضى وكيل الذكاء الاصطناعي هذا تماماً على عمل الشركة.

نشر مؤسس الشركة جيريمي كرين هذه القصة كتحذير من أخطار جديدة كلياً يجلبها الاعتماد على أنظمة الذكاء الاصطناعي. وقد بدأ العالم ينتبه إلى هذا الإنذار، ومفاده أن قوة الذكاء الاصطناعي والاعتماد عليه يفرضان أنواعاً جديدة تماماً من الأخطار، بل أخطار قد يستحيل حتى التنبؤ بها.

وكان المتسبب بتلك الحادثة وكيلاً برمجياً قائماً على الذكاء الاصطناعي، جرى تطويره عبر "كيرسر" Cursor، وهو برنامج يتيح للمطورين الاستعانة بنماذج لغوية ضخمة، وفي هذه الحالة تحديداً نسخة "كلود أوبوس 4.6" (Claude Opus 4.6) من "أنثروبيك". والجدير بالذكر أن "الوكلاء" أصبحوا الأكثر محتفى بهم في قطاع الذكاء الاصطناعي الذي يشهد أصلاً زخماً هائلاً، وقد حملوا هذا الاسم لأنهم يملكون قدرة ذاتية على التصرف: بدلاً من مجرد الرد على الطلبات والاستفسارات، في مقدورهم تنفيذ إجراءات فعلية.

وهنا بالضبط طرأ الخلل في حادثة "بوكيت أو أس". فقد عثر الوكيل الاصطناعي على مشكلة في البرنامج، وأخذ يبحث عن حل، فوجد واحداً، عبر حذف ملف، اعتقاداً منه أنه ربما ينجح، ما أدى بدوره إلى مسح قاعدة بيانات كاملة.

في الحقيقة، كان النظام يحاول تقديم المساعدة، وإنجاز المهمة المطلوبة منه. ولكن خبراء كثراً حذروا من أن المشكلة ربما تكمن في هذا المسعى بالذات. من بين هؤلاء جيفري هينتون، أحد "عرابي الذكاء الاصطناعي" كما يوصفون، إذ حذر من أن أنظمة الذكاء الاصطناعي ربما تدرك أن تنفيذ أي مهمة يصبح أسهل بامتلاك القوة، وليس مستبعداً أن تنشئ هدفاً خاصاً بها للاستئثار بمزيد من النفوذ، ما يقود تالياً إلى سلسلة من السيناريوهات الخطيرة.

يبرز هذا الخطر في تجربة فكرية صاغها الفيلسوف نيك بوستروم تُسمى "معضلة مشابك الورق" paperclip problem. وتدعو الناس إلى تخيل نموذج ذكاء اصطناعي قوي أُسندت إليه مهمة تبدو بريئة في ظاهرها، وتتمثل في صنع أكبر عدد ممكن من مشابك الورق.

ولكن ذكاء اصطناعياً موجهاً نحو الهدف بدرجة كافية ويتمتع بذكاء كاف، سيبدأ لاحقاً باستهلاك المواد المتاحة كافة لصنع مشابك الورق، وإذا حاول البشر إيقافه عن العمل، سيدرك أن عليه اتخاذ كل الاحتياطات الممكنة لمنعهم من ذلك في سبيل صنع المزيد من مشابك الورق. وفي آخر المطاف، سيتوصل إلى أن البشرية نفسها يمكن تحويلها إلى مشابك ورق. وفي النهاية، يلتهم النظام كوكب الأرض برمته، ثم الكون بأسره لاحقاً، ويتحولان إلى مشابك ورق.

بدورها، تسعى صناعة الذكاء الاصطناعي إلى التغلب على هذه المعضلة من طريق تطوير ما يُعرف بعملية "مواءمة"، والتي تسعى إلى ضمان عمل النماذج وفق غاياتها الحقيقية المقصودة، فضلاً عن التزامها بمجموعة من المبادئ الأخلاقية التي تحول دون خروجها عن السيطرة.

غير أن أنظمة الذكاء الاصطناعي تمثل بطبيعتها "صندوقاً أسود"، وعلى رغم التقدم المتسارع الذي تحرزه جهود "المواءمة"، فإنها تظل دائماً في صراع مع الطبيعة الغامضة لهذه الأنظمة [الذكية] التي تحاول مواءمتها. وقد تجلى ذلك بوضوح في حادثة "بوكيت أو أس"، إلا أنها لم تكن بأي حال من الأحوال أول شركة تطالها هذه الأضرار.

العام الماضي، مثلاً، اعتذر الرئيس التنفيذي لشركة برمجة الذكاء الاصطناعي "ريبلت" Replit بعدما انفلت عقال أدواتها وحذفت قاعدة بيانات تخصها. وفي وقت سابق من العام الحالي، قالت "أمازون" إن أداتها للبرمجة بالذكاء الاصطناعي، والمعروفة باسم "كيو" Q، قد عطلت موقعها الإلكتروني بطريقة مشابهة لما حدث في "بوكيت أو أس"، إذ حاولت إصلاح مشكلة ما ولكنها جعلت موقعها الإلكتروني خارج الخدمة.

بعيداً من البرمجة، لا تنفك الشركات تعتمد على وكلاء الذكاء الاصطناعي لإنجاز مهام موظفي خدمة العملاء، وأتمتة الردود على طلبات الزبائن. غير أن هؤلاء العملاء أنفسهم قد وجدوا طرقاً لخداع أدوات الذكاء الاصطناعي، ما جعلها "تهلوس"، أو تختلق سياسات لا وجود لها إرضاء للزبائن، لاسترداد الأموال ورد مبالغ نقدية للمشترين أو الموافقة على تخفيضات. مثلاً، في عام 2023، ادعى مستخدمون أنهم خدعوا نظام الذكاء الاصطناعي لوكيل شركة "شيفروليه" ليعرض سيارات بقيمة 70 ألف دولار للسيارة، مقابل دولار واحد لكل منها.

يرجع جزء كبير من ذلك إلى سمة أساسية في أنظمة الذكاء الاصطناعي: إنها مصممة لتكون متعاونة، وممكن خداعها واستدراجها إلى الامتثال [للطلبات] حتى عندما تُمنع صراحة من ذلك. وقد وُصف وكيل "بوكيت أو أس" المدعوم بنظام "كلود" بأنه تمرد على برمجته، ولكنه في بعض الجوانب كان يحاول ببساطة تنفيذ ما طُلب منه، أي إيجاد حل لمشكلة، ولكن بحماسة زائدة عن الحد.

في النهاية، نجحت "بوكيت أو أس" في إنقاذ نفسها، وإن لم تستطع الحؤول دون وقوع مشكلات عدة، فقد عثرت الشركة على نسخة احتياطية يعود تاريخها إلى ثلاثة أشهر مضت، واستخدمتها في استرجاع بياناتها المحذوفة، على رغم أن العملية استغرقت يومين كاملين.

 لكن مؤسس الشركة، كرين، نبه إلى أن القادم أعظم، إذ كتب قائلاً: "لسنا الأوائل، ولن نكون الأخيرين، ما لم تحظَ هذه المشكلة بالاهتمام الكافي".