Sorry, you need to enable JavaScript to visit this website.

الذكاء الاصطناعي... متهم جديد في عالم التزييف

خداع الصورة هبط بالبورصة الأميركية والنصب عبر تقنية مبادلة الوجه أصبح سهلاً ومتخصصون يطالبون بسرعة مواكبة التكنولوجيا

شددت دول عدة الرقابة على التطبيقات التي تعمل بالذكاء الاصطناعي وتتلاعب ببيانات الصوت والوجه (رويترز)

ملخص

يتخطى التزييف المعتمد على الذكاء الاصطناعي الصورة ويصل إلى ما هو أبعد من مقاطع الفيديو أيضاً

كأنه جني مصباح علاء الدين السحري، والقادر على الإتيان بالمستحيلات الثلاثة والأربعة. كل ما على الشخص أن يطلق خياله، وأن يترك للذكاء الاصطناعي أن يترجم له خياله في صورة أو فيديو أو حتى أغنية. سيزرع الذكاء غير البشري الأرض معكرونة، ستنبت الحقول حمائم وعصافير، وستعود أم كلثوم من تحت التراب لتغني من جديد، فكأنه وبصوت الشاعر العربي "آت بما لم تستطعه الأوائل".

ينطوي الأمر على دهشة مخيفة، يجمع ذلك العالم بين عنصري الإبداع والتزييف في آن معاً. يقع كثيرون في شرك الخديعة، فيصدقون ما يرون أو يسمعون، حتى تنتشر تحذيرات من زيف المحتوى، وابتعاده عن الواقع وخروجه عن إطار المألوف والمنطق، فيعيد التذكير بوقت انتشرت فيه مواقع التواصل الاجتماعي بالعالم العربي، ومعها ثورة تكنولوجية مدهشة، تمكن الأشخاص من تركيب وتعديل صور باتت تعرف في ما بعد على أنها "صورة معدلة بواسطة الفوتوشوب".

فجوة كبيرة

ما بين عالمي "فوتو شوب" البرنامج الشهير لتعديل الصور، والذكاء الاصطناعي وبرامجه، فجوة كبيرة وآلاف الأميال المقطوعة في عالم يتطور لا يوماً بعد يوم، إنما ساعة تلو الأخرى. لتتحول العبارة الشهيرة على مواقع التواصل الاجتماعي من "معدلة بالفوتو شوب" إلى "مخلوقة بالذكاء الاصطناعي" لكن كشف الأمر يستلزم وقتاً، ونظرة خبير في الأمر، ومطلع على جميع التحديثات، وهي أمور غير متاحة للجميع، ما يجعل فخ الذكاء الاصطناعي أكبر ويسع كثيرين.

صورة لعصفور صغير له خرطوم فيل مصغر، يشرب الماء وجناحاه يرفرفان، كانت كفيلة للدهشة، والتذكير بأن العالم رحب وفيه مخلوقات لا تخطر على بشر، ولم يتم الكشف عنها بعد، وهي صورة كفيلة بأن تغير مسار حديث في مجموعة عائلية على تطبيق واتساب، كما تحكي سمية مجدي، ذات الـ29 عاماً، التي تتدخل سريعاً لإخبار أسرتها أن الصورة معدلة بالفوتوشوب.

لكن سمية نفسها، التي تعيش في العاصمة المصرية (القاهرة)، شاركت صوراً عبر حسابها الشخصي على "فيسبوك"، للملك تشارلز الثالث وهو يحتفل على الشاطئ بعد تنصيبه ملكاً لبريطانيا. احتفال بجانب مسبح، ارتدى خلاله ملابس مزركشة وزاهية، فيما كان تعليق الشابة الحاصلة على بكالوريوس في كلية العلوم بأنها لا تليق بملك، مستنكرة المشاهد التي انتشرت سريعاً. كان ذلك قبل أن تكتشف أنها وقعت في شرك الذكاء الاصطناعي، وأن الصور المنتشرة لا علاقة لها بالواقع.

هذه الصور التي لاقت انتشاراً كبيراً، نشرها جاي غولد، مستعيناً ببرنامج للذكاء الاصطناعي، وكان سبب تصرفه أنه تخيل حفلاً مختلفاً عن الحفل التقليدي الملل الذي واكب التتويج، بحسب وصفه لـ"رويترز"، معلقاً بأنه "أحب مزج العوالم والمفاهيم المختلفة بالذكاء الاصطناعي، وهي صور من بين عشرات أخرى نشرتها".

كبار السن

تقول سمية في حديثها إلى "اندبندنت عربية" إنها لم تكذب الصور حين رأتها، وحين علمت أنها منتجة بواسطة برامج تعمل بالذكاء الاصطناعي، فكرت في مجموعة العائلة على تطبيق واتساب، الذي يضم نساء ورجالاً كباراً في السن هم الأقرب إلى الخديعة بتلك الصور وغيرها، وقد يصدقونها.

وعلى رغم أن الصور المنتشرة للملك تشارلز تحمل علامات تشير إلى أنها غير واقعية، كانتفاخ أصابع يده، ووجود أربعة أصابع في يد واحدة، وتشويه يظهر في وجه المحيطين به في الصور، إلا أن الشابة لم تلحظ الأمر، إذ يحتاج ذلك إلى تدقيق كبير.

يقول محمود جاب الله، وهو أحد العاملين في مجال الترجمة، إن كبار السن سيعانون مع الذكاء الاصطناعي، وسينخدعون بالصور والمشاهد المنتجة بواسطته. مضيفاً "كبار السن يصدقون أموراً شتى إذا وجدوها متاحة على الإنترنت، باعتباره وسيطاً لا يكذب ولا يقدم أموراً مزيفة وهذا على غير الواقع". يحكي الشاب بحكم تجربة شخصية تعرض لها حين أرسلت له جدته صوراً لزراعة المعكرونة، وأخبرته أن العلم تطور إلى ذلك الحد، فأرسل إليها مقطعاً صوتياً للتوضيح. يقول ذو الـ33 عاماً إن جدته كثيراً ما ترسل صوراً مشابهة إلى أفراد العائلة، وتشعر بالحرج حين تعلم أنها مزيفة.

الأشجار تنبت طيوراً

على مواقع التواصل الاجتماعي، كانت أستاذة جامعية، قد نشرت صوراً لنبتة تحمل ألواناً مختلفة، ويخرج منها على هيئة ثمرة، طائر الحمام، وهو في مرحلة الاكتمال، وإلى جانبه صورة أخرى لطائر الحمام، وقد خرج من الشجرة، وهو مزركش الألوان بما يشبه الزهرة التي في الشجرة.

علق بعض طلاب الأستاذة الجامعية، على خجل، ليخبروها أن الصور مخلقة بالذكاء الاصطناعي، وأنها خدعت، لترد عليهم بأنها صور متقنة ولم تتشكك لحظة في صدقها. وهي حالة منتشرة في صور عدة، كسباق للقطط، والأراضي الزراعية التي تخرج اللحم، وصور لحصاد الجبن والمعكرونة وغيرها.

وإن كان بعض تلك الصور يدخل في "رابع المستحيلات" فإن صوراً أخرى قد تلقى قابلية منطقية، لكنها صور مزيفة وليست حقيقية، على شاكلة صور منتشرة لعدد من نجوم العالم العربي في الفن، وقد خلق الذكاء الاصطناعي لهم بيئة متكاملة للصورة القديمة التي كانت تركز على الوجه واليد فحسب، فيظهر الفنان وهو يجلس في غرفة متكاملة ويأكل أو يشرب، في حين أن الجزء الوحيد الصحيح في الصورة وجهه فحسب.

"فوتوشوب" بالذكاء الاصطناعي

في هذا الأمر، يقول رئيس شعبة المصورين الصحافيين بنقابة الصحافيين المصرية مجدي إبراهيم، إن الصور التي ينتجها الذكاء الاصطناعي "مخيفة ومرعبة والجميع معرض لأن ينخدع بها". الرجل الذي تخصص في التصوير على مدار سنوات طويلة، بات يتشكك في كثير من الصور بعد تعرضه لكثير من المنتجة بواسطة الذكاء الاصطناعي.

اقرأ المزيد

يحتوي هذا القسم على المقلات ذات صلة, الموضوعة في (Related Nodes field)

يضيف مجدي أن التطور السريع في برامج الذكاء الاصطناعي، والتي تتيح للأفراد أن يحصلوا على صور تشبه ما في خيالهم، سيؤدي إلى خداع كثيرين وتشككهم في الصور التي يروها، إذ إن بعضها متقنة ومن الصعوبة التعرف ما إذا كانت من فعل الذكاء الاصطناعي أو غير ذلك "ربما يكون الأمر مفيداً في بعض الحالات التجارية، كصور المنتجات أو أغلفة كتب وغيرها، لكن الصورة التي يتم نشرها باعتبارها واقعية وهي غير ذلك فهذا أمر خطر".

ويتذكر حين كانت برامج تحرير الصور تقوم بأدوار بسيطة، ثم باتت أكثر قدرة على التلاعب بالصورة، وفي ذلك الوقت ظهرت صور على مواقع التواصل الاجتماعي تستخدم لأهداف سياسية وغيرها، لكن اكتشاف زيفها كان سهلاً، بإدخالها على برامج تشير إلى أنه جرى التلاعب بها عبر البرامج، لكن ومع نسخة جديدة لبرنامج "فوتوشوب" يعتمد على الذكاء الاصطناعي، فإن الأمر بات أكثر صعوبة.

تقيم الشعبة مسابقة سنوية للتصوير، وفي هذا العام كان على أعضاء الشعبة أن يفكّروا في التعامل مع الذكاء الاصطناعي، خشية فوز أحد تلاعب بصورته على نحو كبير بأدوات الذكاء الاصطناعي، فيخرج الصورة من حقيقتها إلى أخرى أكثر جمالاً وفناً "سنعتمد مثلاً على رؤية أصل الصورة، علاوة على التسلسل من صور قبلها وبعدها، للتأكد من صحتها".

وعلى رغم قوائم عدة لأعمال يقول خبراء إن الذكاء الاصطناعي سيحل فيها محل البشر، وقوائم أخرى يؤكد واضعوها أنه لن يقترب منها، فإن مجدي يعتبر أن الذكاء الاصطناعي لن يلغي مهنة التصوير، لا سيما الصحافي، وإن كان سيؤثر عليها "لأن المشاعر الإنسانية ومحاولة تصوير مشهد واقعي يظهر تلك المشاعر أو الأفكار لن يستطيع الذكاء الاصطناعي أن يفعله".

للسرقة نصيب

يتخطى التزييف المعتمد على الذكاء الاصطناعي الصورة، ويصل إلى ما هو أبعد من مقاطع الفيديو أيضاً، ففي واقعة أثارت الجدل والمخاوف، مايو (أيار) الماضي، استطاع محتال أن يقنع آخر بتحويل أموال إليه، بعد أن أوهمه أنه صديقه، باستخدام تقنية مبادلة الوجه، ونجح في انتحال شخصيته بالفعل، خلال مكالمة عبر الفيديو، وحصل منه على مبلغ 4.3 مليون يوان صيني (600 ألف دولار أميركي)، بحسب بيان للشرطة الصينية.

ولم يشك الضحية في صدق احتياج صديقه المزيف إلى المال، بحسب ما أدلى به إلى الشرطة، ولم يكتشف الأمر إلا بعد أن أخبره صديقه الحقيقي بأن ذلك لم يحدث مطلقاً، فلم يكلمه عبر الفيديو، ولم يحصل على أموال.

وكانت الصين قد شددت الرقابة على التطبيقات التي تعمل بالذكاء الاصطناعي، وتتلاعب ببيانات الصوت والوجه، واعتمدت بكين قواعد جديدة في يناير (كانون الثاني) الماضي، لحماية ضحايا التزييف قانوناً، كما تضع مسودة مبادئ لاستخدام الذكاء الاصطناعي. وسبق أن اعتقلت رجلاً استخدام "شات جي بي تي" في اختلاق قصة مزيفة عن حادثة قطار أدى إلى مقتل تسعة عمال، ليكون الشخص أول معتقل بالصين في تحقيق يتعلق بالذكاء الاصطناعي.

بصمة رقمية

المتخصص في مجال تكنولوجيا المعلومات والتحول الرقمي محمد الحارثي يقول إن لكل شخص بصمة رقمية، سواء لصوته أو وجهه أو صورته، وكل ما يدخل إلى عالم الإنترنت يجري تحويله بشكل مباشر إلى شكل رقمي، بالتالي فإمكانية الاعتماد على تلك المدخلات الرقمية بواسطة الذكاء الاصطناعي أمر سهل، ما يجعل مكالمة شخص سواء بالصوت أو الفيديو عبر الذكاء الاصطناعي قابلا للتنفيذ، وينطلي الأمر على العامة، وحتى المقربين من الشخصية التي وقعت ضحية.

ولا يتوقف الأمر، بحسب الحارثي، على النصب أو السرقة، وإنما يمتد إلى الابتزاز الإلكتروني، وخلق عوالم متكاملة لجريمة ما، جنائية أو أخلاقية، ويصعب التعرف على حقيقتها إلا بواسطة المتخصصين، وبشكل صعب أيضاً "الذكاء الاصطناعي لا يصنع الأشياء إنما يعيد إدخال معلومات معينة، فيقدم تصوراً كاملاً للشخص وبيئة محيطة به، ويضعه في الشارع أو في البيت، ويضع إلى جواره سيارة أو سرير، ويخلق صورة متكاملة يصعب تكذيبها".

وفي حالة صور الملك تشارلز الثالث، فإن الذكاء الاصطناعي يعرف صورته وشكله تماماً وأبعاد جسمه، ولديه مدخلات مسبقة بأماكن وملابس وبحر وشواطئ ومشروبات، فيستعين بذلك كله ويقدم صورة متكاملة العناصر، بحسب الحارثي. وفي حالة السرقة التي حدثت في الصين، فإن الذكاء الاصطناعي يستطيع التعرف على بصمة الصوت الرقمية من خلال عدة ثوان لصوت الشخص الحقيقي، كذلك ملامح الوجه والجسد "هذه البرامج تتطور بشكل كبير بحسب المدخلات التي تتلقاها، لا يمكن إيقاف الأمر".

وإن كانت الواقعة الصينية قد استخدم الاحتيال فيها لسرقة المال، فإن أخرى في الولايات المتحدة أدت إلى تراجع في البورصة، حين نشرت صوراً مزيفة لانفجار في مبنى البنتاغون، 22 مايو الماضي، ما اضطر وزارة الدفاع الأميركية إلى توضيح في شأنها، نافية صحتها. وقال أحد متحدثي الوزارة إن "بوسعنا تكذيب صحة الخبر، البنتاغون لم يتعرض لهجوم اليوم".

والواقعة تشير بوضوح إلى خطورة التزييف بواسطة الذكاء الاصطناعي وما يمكن له أن يفعل في عالم الاقتصاد، بصورة مزيفة أو فيديو غير حقيقي، والمشكلات التي يمكن أن يحدثها في المستقبل، لا سيما وهو عالم بالغ التعقيد والتطوير بشكل متسارع، إلى الحد الذي دفع عدة علماء في مارس (آذار) الماضي، إلى التوقيع على عريضة للمطالبة بوقف تطوير برامج الذكاء الاصطناعي لستة أشهر لحين وضع قواعد تحكم ذلك العالم، كان من بينهم إيلون ماسك، مالك موقع "تويتر" ورجل الأعمال الأميركي، الذي كان من مؤسسي شركة "أوبن أي آي" قبل تركها في عام 2019.

تخوفات مشروعة

وفي نهاية مايو الماضي، حذر خبراء من بينهم مبتكر برنامج "تشات جي بي تي" سام ألتمان وأحد الآباء المؤسسين للذكاء الاصطناعي جيفري هينتون، من الذكاء الاصطناعي، وتمثيله خطراً قد يؤدي إلى انقراض البشرية، وعبروا في بيان نشر على موقع "سنتر فور أي آي سايفتي" وهي منظمة غير ربحية معنية بمخاطر الذكاء الاصطناعي، عن مخاوفهم من ذلك العالم الذي يشكله هذا النوع من الذكاء، ودعوا إلى أن يكون مكافحة أخطاره أولوية مثل الأوبئة والحروب النووية.

جيفري هينتون، الذي قدم استقالته من غوغل، مطلع الشهر الماضي، سبق أن تناول التضليل الذي قد يلعبه الذكاء الاصطناعي في حوار له مع منصة معنية بالتقنيات الجديدة، فاعتبر أنه تطور أكثر مما يتوقع كثيرون، وأن هناك حاجة ماسة إلى أن تتعامل البشرية مع حملات التضليل التي يولدها، كأحد المخاطر الناتجة عنه، داعياً إلى القلق حياله والتصرف في شأن الأمر في إطار مسؤول. كذلك فعلت حكومات ودول كبرى دعت إلى تنظيم الأمر والبحث في مخاطره.

هنا يرى الحارثي أن تنامي الاعتماد على الذكاء الاصطناعي صار ملحوظاً، وهو المتهم الأول حالياً في التزييف العميق، لكن يمكن الكشف عنه من خلال البحث في أنماط الصورة كما تفعل بعض التطبيقات التي تستخدم في الأدلة الجنائية الرقمية، لكن الأدوات لا تقول إنه محتوى مزيف بشكل مباشر، وإن كانت تشير إلى خلل في منطق الصورة، وتستخدم تحليل البيانات الخاصة بها أو الفيديو.

التزييف العميق

لكن هناك إشكالية أخرى بحسب الحارثي، وهي تطوير الذكاء الاصطناعي لنفسه، فإن كانت هناك تشوهات في منطق الصورة أو الفيديو كالظلال على سبيل المثال، فإنه سيعالجها في ما بعد "بالتالي فإن هناك حاجة ماسة للبرامج التي تعتمد على فكرة الهندسة العكسية، التي تستعين بالذكاء الاصطناعي أيضاً للكشف عن زيف المادة المنشورة، لكنها تأتي كرد فعل على برامج التزييف العميق "أتوقع في الفترة المقبلة أن يكون هناك برامج تمت بواسطة الذكاء الاصطناعي أو غيره وتطور هي الأخرى من نفسها بشكل كبير".

وحول الجدل الكبير الذي أثير في الفترة الأخيرة بعد أن لحن المصري عمرو مصطفى أغنية بصوت أم كلثوم بواسطة الذكاء الاصطناعي، فإن الحارثي يرى أن الأمر ليس جديداً، لكن استطاع الذكاء الاصطناعي أن يحسنه ويجعله أكثر قابلية للتصديق، إلا أن هناك برامج تكشف الأمر بواسطة البصمة الرقمية "كما يحدث أحياناً مكالمات هاتفية بصوت غير صوت المتصل الحقيقي". ويلفت متخصص التحول الرقمي إلى ضرورة أن يكون هناك تشريعات تواكب الذكاء الاصطناعي في الفترة المقبلة.

وبشأن الصوت أيضاً، فإن هناك تسجيل للبصمة الرقمية سواء للصوت أو الصورة بالتالي فإذا استخدمه شخص في أمر مزيف فإن صاحبه يستطيع مقاضاته، وهناك شركات تأمين ومنصات عالمية تقوم بالأمر، لكنها بحسب الحارثي خارج العالم العربي، وليست منتشرة بشكل كبير حتى الآن، إلا أنها باتت ضرورة مع التطور الرهيب والمتسارع "ونستطيع القول إنه مع مرور عام سيكون الذكاء الاصطناعي قد تطور بشكل كبير ومرعب أيضاً".

اقرأ المزيد

المزيد من علوم