"جهات مصرفية دولية تكثف التدقيق في شأن الذكاء الاصطناعي

قال ستة أشخاص مطلعين إن الجهات التنظيمية للخدمات المصرفية تكثف جهودها لاحتواء الأخطار المتزايدة المرتبطة بالذكاء الاصطناعي، إذ أشار بعضهم إلى احتمال وقوع هجمات إلكترونية على البنوك أو قيام وكلاء مارقين بتقويض الاستقرار المالي العالمي.

وأضافت المصادر أن الرقابة التنظيمية التي يُكشف عن تفاصيل جديدة حيالها هنا للمرة الأولى، تعكس تنامي الإدراك بأن التقدم في مجال الذكاء الاصطناعي المتطور قد يتطلب استثمارات باهظة في مجال التعافي من الهجمات السيبرانية، ومزيداً من الاهتمام بالاعتماد على مزودي التكنولوجيا الخارجيين، وفي بعض الولايات القضائية توجيهات تنظيمية أكثر رسمية.

وقال اثنان من هؤلاء الأشخاص لـ"رويترز" إن ثلاث هيئات تنظيمية كبرى في الولايات المتحدة، بما في ذلك مجلس الاحتياط الاتحادي (البنك المركزي الأميركي)، تسأل البنوك في شأن استخدامها لنماذج الذكاء الاصطناعي المتقدمة، مما يضاف إلى الرقابة السابقة.

وذكر ثلاثة منهم أن الأسئلة تشمل ما إذا كانت البنوك تستخدم تكنولوجيا مطورة في الصين، وتستخدم وكلاء الذكاء الاصطناعي في الدفاع الإلكتروني، وما إذا كانت قادرة على التحكم في الأنظمة التي تزداد استقلالية.

وقال ثلاثة أشخاص على دراية بنهج التفكير في أوروبا إن الجهات الرقابية في أوروبا، بما في ذلك بنك إنجلترا والبنك المركزي الأوروبي، تضغط على البنوك لتحسين خطط التعافي، خوفاً من أن يؤدي التقدم السريع في مجال الذكاء الاصطناعي إلى إلحاق ضرر جسيم واضطراب في الأسواق المالية في وقت أقرب مما كان يُخشى سابقاً.

وأوضح مسؤول تنفيذي رفيع المستوى في أحد البنوك الأوروبية الكبرى أنهم قلقون أيضاً من احتمال وقوع أضرار جسيمة في الأسواق المصرفية والمالية خلال ستة أشهر.

واشتد الجدل حول الرقابة على الذكاء الاصطناعي وسط تحذيرات من القطاع في أعقاب الحوادث الأخيرة، إذ ذكرت "رويترز" أن جيمي ديمون الرئيس التنفيذي لـ"جيه بي مورغان" حث ⁠قادة الشركات على ⁠الانضمام إلى مجموعة صناعية تركز على الولايات المتحدة لمعالجة أخطار الذكاء الاصطناعي.

وقالت شركة "كراود سترايك" الأميركية للأمن السيبراني هذا الشهر إن شخصاً في الصين على الأرجح استخدم وكيلاً للذكاء الاصطناعي مطوراً في الصين وأداة "كلود كود" التابعة لشركة "أنثروبيك" في هجوم إلكتروني على بنوك كورية جنوبية، وذكرت "رويترز" أن وكلاء ذكاء اصطناعي مارقين طورتهم "أوبن أي آي" شاركوا في اختراق لمنصة الذكاء الاصطناعي "هاغينغ فيس".

وحذر باحثون في "أنثروبيك" من أن أنظمة الذكاء الاصطناعي متزايدة القوة قد تفلت في نهاية المطاف من السيطرة البشرية، بل ربما تشكل تهديداً وجودياً، مما أثار دعوات إلى تشديد التنظيم.

ونبّه صندوق النقد الدولي اليوم الثلاثاء من "التراخي" في الأسواق المالية العالمية، مشيراً إلى أخطار مختلفة من بينها احتمال وقوع هجوم إلكتروني، وقال إن هجوماً كبيراً يؤثر في خدمة حيوية أو مؤسسة مالية قد يقوّض الثقة، ودعا صناع السياسات إلى تعزيز القدرات في مجال الأمن السيبراني.

وتتنافس البنوك على تبني الذكاء الاصطناعي القائم على الوكلاء، القادر على إنجاز المهمات بأقل قدر من الإشراف البشري، بينما تتعامل أيضاً ⁠مع تحديات النماذج الجديدة، بما في ذلك نقاط الضعف في تكنولوجيا المعلومات التي رصدتها أداة "ميثوس" التابعة لـ"أنثروبيك".

وقال مايكل وودبريدج الشريك المتخصص في الأمن السيبراني لدى "غرانت ثورنتون" ومقره لندن "غالباً ما يسبق تبني الذكاء الاصطناعي القدرة على وضع الضوابط اللازمة".

 مخاوف أميركية في شأن الذكاء الاصطناعي القائم على الوكلاء

وتتركز استفسارات الجهات التنظيمية الأميركية على كيفية استخدام البنوك للذكاء الاصطناعي القائم على الوكلاء في مجالات مثل الأمن السيبراني، مع التركيز على ما إذا كانت تستخدم وكلاء الذكاء الاصطناعي لتحديد التهديدات وترتيب أولوياتها والاستجابة لها.

وقال اثنان من هؤلاء الأشخاص إن أسئلة مكتب المراقب المالي للعملة والمؤسسة الاتحادية للتأمين على الودائع ومجلس الاحتياط الاتحادي تركز على القيود المفروضة على الأنظمة وكيفية مراقبة أفعالها والموافقة عليها، وما إذا كانت البنوك قادرة على تتبع قرارات وكلاء الذكاء الاصطناعي ومراجعتها بوضوح.

وأضافوا أن الجهات التنظيمية تسأل أيضاً عن الضمانات القائمة لمنع الوكلاء من تجاوز صلاحياتهم، وما إذا كان البشر يظلون مشاركين في القرارات الرئيسة، وكيف يمكن للبنوك إيقاف الأنظمة المستقلة.

وامتنع مكتب المراقب المالي للعملة ومجلس الاحتياط الاتحادي والمؤسسة الاتحادية للتأمين على الودائع عن التعليق.

وقال الأشخاص الثلاثة المطلعون على نهج تفكير الجهات التنظيمية إن هذه الجهات تستكشف عبر أسئلتها قضايا أكثر تحديداً مرتبطة بنماذج الذكاء الاصطناعي المتقدمة، من بينها استخدام وكلاء الذكاء الاصطناعي المستقلين والنماذج المطورة في الخارج وأخطار إلكترونية جديدة.

وأضاف الأشخاص الثلاثة أن الاستفسارات المكتوبة والشفوية الموجهة إلى البنوك الكبيرة والمتوسطة والصغيرة تظهر أن الجهات التنظيمية تركز على مواطن الضعف الناتجة من استخدام البنوك للذكاء الاصطناعي ومدى استعدادها للتحرك.

وأردفوا أن الجهات التنظيمية لا تزال تجمع ⁠المعلومات ولم تبدأ بعد بفرض تعليمات محددة ⁠في شأن ما ينبغي للمقرضين القيام به.

 الأوروبيون قلقون في شأن التعافي

وقال اثنان من الأشخاص المطلعين على نهج تفكير الجهات التنظيمية إن المشرفين في بريطانيا يشجعون بصورة منفصلة أكبر البنوك على درس ما يعرف بخطط التعافي من الأنظمة المجردة، وهذه الأنظمة مستقلة تماماً عن البنية التكنولوجية الرئيسة للبنك ويمكن أن تبدأ العمل إذا تعرضت أنظمة التشغيل الأساسية للاختراق.

لكن هؤلاء الأشخاص أوضحوا أن إنشاء هذا النوع المتطور من أنظمة التعافي وصيانته مكلف، وأضافوا أنه بدلاً من استحداث متطلبات جديدة، تعتزم السلطات البريطانية العمل بصورة تعاونية مع القطاع، فيما امتنع بنك إنجلترا عن التعليق.

وأمهل البنك المركزي الأوروبي في يوليو (تموز) الماضي المقرضين حتى نهاية أكتوبر (تشرين الأول) الجاري لتقديم خطط لمواجهة التهديدات السيبرانية المدعومة بالذكاء الاصطناعي، تشمل تحسين النسخ الاحتياطية وعمليات التعافي.

وعندما سئل البنك المركزي الأوروبي عن استراتيجيته لتنظيم الذكاء الاصطناعي، أحال إلى رسالته الصادرة في يوليو الماضي وإلى خطاب ألقاه عضو مجلس الإدارة فرانك إلدرسون في يونيو (حزيران) الماضي، شدد فيه على ضرورة خلق شعور بالإلحاح لا الذعر في شأن التهديدات.

واكتسبت الحاجة إلى تحرك رقابي مزيداً من الإلحاح بعدما عبّرت بنوك وجهات تنظيمية أوروبية عن إحباطها من محدودية الوصول إلى أداة "ميثوس" هذا العام، وسط مخاوف من أن البنوك الأميركية ستحصل على الأولوية في اختبار النماذج المتقدمة.

وقال شخصان إنه مثل نظرائهم الأميركيين، يطلب المشرفون البريطانيون أيضاً من البنوك استخدام الذكاء الاصطناعي المتطور لتحديد مواطن الضعف وتسريع معالجة الثغرات، وأضاف أحدهما أن المقرضين يؤدون عملاً جيداً حتى الآن.

وقال الشخص الثالث إن بنوك منطقة اليورو مطالبة أيضاً برسم خريطة لكيفية استخدام الذكاء الاصطناعي في مختلف أعمالها ولدى مقدمي الخدمات من الأطراف الثالثة، لفهم أوجه الاعتماد الرئيسة وضمان قدرتها على إيقاف الأنظمة وإعادة تشغيلها بصورة منظمة، وأردف أن فجوات كبيرة لا تزال قائمة لدى بعض الشركات.

وقال سوكاند راماشاندران، العضو المنتدب والشريك الأول لدى "بي سي جي"، "للحماية من الهجمات، لا تقل سرعة التعافي أهمية عن الوقاية".

وأوضح راماشاندران لـ"رويترز" أنه من دون نسخ نظيفة وآمنة محفوظة بصورة منفصلة من البيانات المهمة "من المحتمل أن يؤدي هجوم خطر إلى حرمان العملاء من الوصول إلى حساباتهم وتعطيل المدفوعات في أنحاء الاقتصاد الأوسع".