ملخص
"التزييف العميق" هو محتوى عبارة عن صورة، فيديو، صوت، أو نص يبدو أصلياً، ولكنه في الواقع مصنع أو معدل باستخدام نماذج الذكاء الاصطناعي التوليدية. ومن الأساليب الشائعة في الصوت المزيف استنساخ الصوت، الذي يتضمن استخدام عينات صوتية لأشخاص حقيقيين لا تتجاوز مدتها دقيقة واحدة.
تتطور الجرائم المالية بوتيرة يصعب على الجهات التنظيمية وفرق الامتثال القانونية مواكبتها، فبينما استثمرت معظم المؤسسات المالية بكثافة في مكافحة الاحتيال، يتسلل تهديد جديد وخبيث عبر الثغرات الأمنية، ألا وهو الهويات الاصطناعية المولدة بتقنية "التزييف العميق".
يتمتع الجيل الجديد من الذكاء الاصطناعي القادر على توليد أو تعديل المحتوى بطريقة متطورة، بالقدرة على توليد محتوى واقعي للغاية يحاكي الأشخاص والأماكن والأصوات الحقيقية. يشار إلى هذا النوع من الوسائط غالباً باسم "التزييف العميق"، ويمكن أن يتخذ أشكالاً عدة، مثل الصور والفيديوهات والتسجيلات الصوتية التي تحاكي أصوات أشخاص حقيقيين.
ولأن التزييف العميق يصعب تمييزه عن المحتوى الحقيقي، فإنه يمكن أن يصبح سلاحاً يستخدمه المحتالون لتزوير الوثائق أو انتحال شخصيات الآخرين، وقد تواجه المؤسسات المالية التي لا تتكيف خسائر مالية فادحة، وتدقيقاً تنظيمياً، وتشويهاً للسمعة، وتآكلاً لثقة العملاء.
ما "التزييف العميق"؟
"التزييف العميق" هو محتوى عبارة عن صورة، فيديو، صوت، أو نص يبدو أصلياً، ولكنه في الواقع مصنع أو معدل باستخدام نماذج الذكاء الاصطناعي التوليدية. ومن الأساليب الشائعة في الصوت المزيف استنساخ الصوت، الذي يتضمن استخدام عينات صوتية لأشخاص حقيقيين لا تتجاوز مدتها دقيقة واحدة. ويعد استنساخ الصوت مصدر قلق خاصاً في القطاعات التي تستخدم التحقق الصوتي البيومتري للوصول إلى حسابات العملاء.
ويتضمن إنشاء فيديو مزيف عادة تدريب شبكة عصبية عميقة على مجموعة بيانات ضخمة من الفيديوهات والصور التي تظهر الشخص المستهدف. يتعلم النموذج ملامح الوجه وتعبيراته وحركاته، مما يمكنه من إنشاء محتوى فيديو جديد يبدو أصلياً. ويستخدم مجرمو الإنترنت فيديوهات "التزييف العميق" لانتحال شخصيات المديرين التنفيذيين، وتجاوز التحقق البيومتري، وإنشاء إعلانات مضللة، إضافة إلى عديد من الاستخدامات الأخرى.
أما النصوص المزيفة بتقنية "التزييف العميق"، فهي عبارة عن محتوى مولد اصطناعياً يحاكي أسلوب الكتابة البشرية وبنيتها ونبرتها. تدرب هذه النماذج على مجموعات بيانات نصية ضخمة لتعلم الأنماط والعلاقات بين الكلمات، وهذا ما يعلمها توليد جمل تبدو متماسكة وذات صلة بالسياق. تساعد هذه النصوص المزيفة مجرمي الإنترنت في هجمات الهندسة الاجتماعية والتصيد الاحتيالي واسعة النطاق من خلال إنتاج كميات هائلة من النصوص المقنعة، وهي مفيدة بالقدر نفسه في تزوير المستندات.
مشكلة جوهرية للمؤسسات المالية
لم يعد المحتالون اليوم في حاجة إلى وثائق مسروقة أو بيانات اعتماد مخترقة، إذ بات بإمكانهم بفضل تقنية "التزييف العميق" تزييف شخصيات واقعية تماماً تجتاز المصادقة البيومترية، وفحوص "اعرف عميلك" (العملية التي تتحقق من خلالها الشركات من هوية عملائها)، والحصول على وصول كامل إلى الأنظمة المالية.
اقرأ المزيد
يحتوي هذا القسم على المقلات ذات صلة, الموضوعة في (Related Nodes field)
وبات هذا الأمر للأسف يحدث على نطاق واسع. ففي عام 2023 وحده، زادت محاولات الاحتيال المرتبطة بـ"التزييف العميق" بنسبة 700 في المئة في قطاع التكنولوجيا المالية، فيما يشير تقرير صدر عن البنك الدولي العام الماضي إلى أن عمليات الاحتيال باستخدام "التزييف العميق" قد ارتفعت بنسبة 900 في المئة في الأعوام الأخيرة، وهو مؤشر مذهل على كيفية استغلال المجرمين للخداع المدعوم بالذكاء الاصطناعي كسلاح.
وعلى عكس الاحتيال التقليدي، يشكل "التزييف العميق" مشكلة جوهرية في مجال أخطار الهوية بالنسبة إلى المؤسسات المالية. فاليوم، يمكن لصورة سيلفي مولدة بتقنية "التزييف العميق" أن تجتاز اختبارات كشف حيوية الهوية، ويمكن لفيديو معدل أن يخدع تقنية التعرف على الوجه، ويمكن لصوت اصطناعي أن ينتحل شخصية رئيس تنفيذي أو مسؤول امتثال. والنتيجة ستكون مزيداً من الحسابات غير المصرح بها، والمعاملات الاحتيالية، ونقاط الضعف النظامية التي لم يصمم أطر للتعامل معها.
كيف تستخدم الهويات المزيفة في غسل الأموال؟
بمجرد أن ينشئ المحتالون حساباً مزيفاً، تبدأ الجريمة المالية الحقيقية، إذ تستغل عمليات غسل الأموال بصورة متزايدة الهويات المصطنعة لإخفاء التدفقات المالية غير المشروعة.
عادة ما ينشئ المحتالون هوية مزيفة غالباً ما تكون مزيجاً من البيانات البيومترية الحقيقية والمزيفة لتجاوز إجراءات التحقق من الهوية في البنوك وشركات التكنولوجيا المالية ومنصات تداول العملات الرقمية. وتمارس هذه الحسابات المصطنعة أنشطة تبدو مشروعة كفتح خطوط ائتمان، وإجراء معاملات متكررة، وتوجيه الأموال عبر مؤسسات مالية متعددة لإخفاء آثارها.
تسحب الأموال المغسولة في نهاية المطاف من خلال تحويل العملات الرقمية إلى عملات ورقية، أو تحويلات خارجية، أو عمليات سحب من أجهزة الصراف الآلي باستخدام بطاقات دفع مرتبطة بهويات مزيفة. وتبيع أسواق الإنترنت المظلم حالياً هويات مزيفة جاهزة، مما يتيح حتى للمجرمين ذوي المستوى المحدود الوصول إلى أساليب غسل الأموال المتقدمة.
وبينما اعتمدت الجهات التنظيمية على مراقبة المعاملات والتحقق من الهوية كركائز أساسية للامتثال لقوانين مكافحة غسل الأموال، يتغير المشهد عندما تبدو الهويات المزيفة حقيقية، وتنهار هذه الأساليب التقليدية.
معضلة تسبب خسائر فادحة
تكبد القطاع المالي خسائر بمليارات الدولارات بالفعل نتيجة الاحتيال المدعوم بالذكاء الاصطناعي، إذ لم تعد عمليات الاحتيال بتقنية "التزييف العميق " خطراً مستقبلياً، بل هي واقع نعيشه الآن وتشير الدراسات إلى أنه من المتوقع أن تخسر المؤسسات المالية ما يقدر بـ40 مليار دولار بسبب الاحتيال المدعوم بالذكاء الاصطناعي بحلول عام 2027، مقارنة بـ12.3 مليار دولار في 2023.
ووفقاً لاستطلاع أجرته شركة "ديلويت" العالمية التي تقدم خدمات التدقيق والاستشارات المالية، أفاد 25.9 في المئة من المديرين التنفيذيين في القطاع المالي بتعرضهم لحادثة احتيال واحدة في الأقل مرتبطة بتقنية "التزييف العميق" خلال العام الماضي، فيما يتوقع ما يقارب من 52 في المئة من المديرين التنفيذيين في القطاع المالي ازدياد عمليات الاحتيال باستخدام تقنية "التزييف العميق" خلال الأشهر الـ12 المقبلة، مما يبرز الحاجة الملحة لاتخاذ إجراءات عاجلة.
وتعد تقنية التزييف العميق للصوت من أكبر عوامل الخطر التي تواجه الشركات الحديثة، لا سيما المؤسسات المالية. فمراكز الاتصال المصرفية تتعرض باستمرار لسيل من المكالمات الصوتية المزيفة التي تحاول الوصول إلى حسابات العملاء، كما أصبح الاحتيال المدعوم بالذكاء الاصطناعي الشغل الشاغل لمعظم البنوك، حيث يقدم المحتالون وثائق معدلة باستخدام الذكاء الاصطناعي لفتح حسابات وهمية، فضلاً أنه يتم التلاعب بالعاملين في القطاع المالي لتحويل عشرات الملايين من الدولارات عبر اجتماعات مزيفة تقلد صوت الرئيس التنفيذي وصورته.
لكن الضرر الناجم عن جرائم "التزييف العميق" الإلكترونية يتجاوز بكثير مجرد تقليد الأصوات، إذ يمكن أن يؤثر في أي قطاع. فشركات التأمين تعاني خسائر فادحة نتيجة استخدام المحتالين أدلة مزيفة لتقديم مطالبات غير مشروعة. كما يمكن للمنافسين إنشاء شهادات عملاء مزيفة أو مقاطع فيديو وصور مزيفة لمنتج يزعم أنه معيب، بهدف الإضرار بالعلامة التجارية.
لذلك تشكل هذه التقنية تهديداً للأسواق والاقتصاد ككل، بخاصة أنه سابقاً تسبب فيديو مزيف لانفجار مبنى وزارة الدفاع الأميركية في حالة من الذعر في سوق الأسهم قبل أن يتمكن المسؤولون من نفيه. ويمكن لهجوم أكثر تطوراً أن يؤدي بسهولة إلى خسائر فادحة في قيمة الشركات وإلحاق ضرر بالاقتصادات العالمية.
ضرورة التحرك
انطلاقاً مما سبق، نستطيع القول إنه لم يعد بإمكان المؤسسات المالية تجاهل خطر "التزييف العميق"، فالمحتالون يستخدمون بالفعل هويات مزيفة على نطاق واسع، والأطر التنظيمية متأخرة سنوات في معالجة هذا الخطر.
وللحفاظ على الثقة والامتثال والأمن، يجب على البنوك وشركات التكنولوجيا المالية دمج أنظمة كشف "التزييف العميق" في إجراءات "اعرف عميلك" ومنع الاحتيال، وذلك لاستباق عمليات الاحتيال باستخدام الهويات المزيفة قبل الموافقة على الحسابات.
ويجب إجراء عمليات تدقيق لـ"لتزييف العميق" كجزء من مراجعات الامتثال لمكافحة غسل الأموال، لتقييم نقاط الضعف في عمليات التسجيل والتحقق من الهوية ومراقبة المعاملات، والاستفادة من حلول الذكاء الاصطناعي القادرة على التكيف مع تهديدات "التزييف العميق" المتطورة.