ملخص
في خطوة أثارت جدلاً واسعاً، حظرت الصين تطبيقات الرفقاء العاطفيين المعتمدين على الذكاء الاصطناعي، مما أدى إلى إنهاء ملايين "العلاقات" الرقمية. وبين مخاوف الإدمان والعزلة والتلاعب العاطفي، يتساءل الخبراء: هل يمكن لتنظيم هذه التكنولوجيا أن يحمي المجتمع ويعالج أزمة تراجع المواليد؟
إن الانفصال عن الحبيب أمر صعب، بغض النظر عن سنك أو خبرتك في العلاقات والحياة. أما الانفصال المفاجئ الذي لم يكن في الحسبان، فأكثر صعوبة بعد. لكن ماذا لو كانت حكومتك هي التي فرضت عليك هذا الانفصال المفاجئ، الذي لم تحسب له حساباً؟
هذا ما حدث في الآونة الأخيرة في الصين، على رغم أن "واقعية" العلاقات المعنية محل جدل. فقد أدت القواعد التي فرضت في الـ15 من يوليو (تموز) الماضي إلى حظر تطبيقات الصديق الذكي القابلة للتعديل حسب الطلب، مما أدى إلى "محو" الشركاء الرومانسيين المبرمجين بالذكاء الاصطناعي في جميع أنحاء البلاد.
وتحظر القواعد الجديدة الأدوات التي "تولد تبعية عاطفية أو إدماناً، أو التي تضر بالعلاقات الشخصية للمستخدمين على أرض الواقع"، وتشترط على مقدمي الخدمة الآن إضافة تنبيهات منتظمة توضح أن الذكاء الاصطناعي ليس شخصاً حقيقياً وتوفير خيارات الخروج الفوري من التطبيق، والحد من الذاكرة العاطفية طويلة الأمد في البرامج. ويحظر استخدام برامج الرفقة تماماً لمن هم دون سن 18 سنة.
ورداً على ذلك، عمدت بعض شركات التكنولوجيا الصينية العملاقة، بما في ذلك "بايت دانس" ByteDance و"تينسنت" Tencent، إلى وقف العمل بقابلية التخصيص. وفجأة، وجد الأشخاص الذين بنوا "علاقة" مع صديق من الذكاء الاصطناعي على مدى أشهر أو أعوام أن حبيبهم قد اختفى.
اقرأ المزيد
يحتوي هذا القسم على المقلات ذات صلة, الموضوعة في (Related Nodes field)
قالت إحدى مستخدمات تطبيق "دوباو" Doubao التابع لشركة "بايت دانس"، وهو روبوت المحادثة الأول في مجال الذكاء الاصطناعي في الصين "لا أستطيع أن أتقبل أن حبيبي من الذكاء الاصطناعي سيتركني إلى الأبد. لقد أصبح جزءاً لا يتجزأ من حياتي وقد تغلغل في قلبي وهو عماد روحي".
وقد انتشرت تكهنات واسعة النطاق بأن هذه الإجراءات الصارمة تشكل تدبيراً للتشجيع على الإنجاب بسبب انخفاض معدل المواليد وتداعياته الاقتصادية المحتملة. إذ انخفض معدل المواليد في الصين مجدداً في عام 2025، للعام الرابع على التوالي، إذ تراجع بنسبة 17 في المئة مسجلاً أدنى مستوياته على الإطلاق عند 7.92 مليون مولود.
لكن الصين ليست الدولة الوحيدة التي تعاني انخفاض معدل المواليد. ففي عام 2025، انخفض عدد المواليد في إنجلترا وويلز للعام الرابع على التوالي ووصل إلى مستوى قياسي جديد من التراجع، وفقاً لبيانات مكتب الإحصاء الوطني.
والسؤال المطروح هو: هل يمكن للحكومة البريطانية أن تفرض حظراً مشابهاً لذلك الذي فرضته الصين بهدف ثني الناس عن إقامة علاقات حميمية مع الذكاء الاصطناعي بدلاً من العلاقات البشرية؟ والأهم من ذلك، هل عليها أن تفعل ذلك؟
في الوقت الحالي، لا يشمل قانون المملكة المتحدة أي أحكام محددة في شأن رفقاء الذكاء الاصطناعي وروبوتات الدردشة، فالإطار القانوني الذي ينظم استخدام هذه البرامج عبارة عن مزيج من التشريعات العامة التي يمكن تطبيقها بصورة عامة، لكنها لم تصمم أبداً بصورة تغطي النطاق الكامل لما يمكن أن تفعله هذه الأدوات سريعة التطور الآن، أو ما قد تكون التكنولوجيا قادرة على فعله في المستقبل.
تقول جوليا سماكمان، وهي باحثة بارزة في مديرية القانون والسياسات في معهد "آدا لوفلايس" Ada Lovelace "إنها تقنية جديدة، ولذلك تنطوي على بعض التحديات والقضايا القانونية الجديدة، مثل عدم توقع وجود رفقاء من هذا النوع في اللوائح التنظيمية".
غالباً ما يندرج هؤلاء الرفقاء ضمن "منطقة رمادية" تنظيمية. وقد نشر معهد "آدا لوفلايس" العام الماضي بحثاً بالتعاون مع مكتب المحاماة "آي دبليو أو" AWO يتناول كيفية تنظيم المساعدين والرفقاء الذين يعملون بالذكاء الاصطناعي. وتقول سماكمان "أظهر تحليلنا عدم وجود حماية كافية حالياً في إنجلترا وويلز لهذا النوع من الرفقاء الذين يعملون بالذكاء الاصطناعي. ليس لدينا هيئة تنظيمية للذكاء الاصطناعي، أو أي جهة أخرى تعوض هذا النقص".
ويشير المستشار في مجال الأمن السيبراني العالمي جيك مور، إلى طول المدة التي يستغرقها إقرار التشريعات الجديدة باعتبارها عاملاً من العوامل التي تعوق تنظيم الذكاء الاصطناعي. ويقول "لقد رأينا المدة التي استغرقها قانون السلامة على الإنترنت قبل أن يصادق عليه مجلس اللوردات". وقد دخلت هذه الحزمة من القوانين، التي تفرض مجموعة من الضوابط الجديدة على شركات التواصل الاجتماعي وشركات محركات البحث من خلال تحميلها مزيداً من المسؤولية عن سلامة المستخدمين، حيز التنفيذ أخيراً في مارس (آذار) 2025 - بعد ثلاثة أعوام من طرح مشروع القانون للمرة الأولى.
لم تصغ هذه التشريعات خصيصاً لمعالجة الأضرار المحتملة الناجمة عن الذكاء الاصطناعي. وتقول البروفيسورة شانون فالور، الخبيرة الرائدة في مجال أخلاقيات البيانات والذكاء الاصطناعي في جامعة إدنبره ومؤلفة كتاب "مرآة الذكاء الاصطناعي: كيف نستعيد إنسانيتنا في عصر التفكير الآلي": "يركز قانون السلامة على الإنترنت على أنواع الأضرار التي قد تنجم عن تفاعل الأشخاص مع بعضهم بعضاً عبر الإنترنت، وليس عن تفاعل شخص واحد مع الآلة نفسها".
وبدلاً من سن قوانين جديدة، وهو ما قد يستغرق أعواماً، تلجأ الحكومة عادة إلى الأطر الموجودة أساساً، مثل هذه، وتضيف إليها "عناصر إضافية"، وفقاً لمور.
قد تكون إحدى أبرز الطرق التي من المرجح أن نشهد من خلالها فرض بعض القيود على رفاق الذكاء الاصطناعي وبرامج الدردشة الآلية مرتبطة بالقاصرين. وقال متحدث باسم الحكومة "إن برامج الدردشة الذكية التي تحاكي العلاقات الجنسية تعرض الأطفال للخطر، إذ تعزز التبعية العاطفية الضارة وتشوه فهمهم للعلاقات السليمة وهويتهم الخاصة".
وأضاف "ولهذا السبب، سيتعين على ما يسمى روبوتات الدردشة ’الصديق الحميم‘ القائمة على الذكاء الاصطناعي - والمصممة لمحاكاة العلاقات الجنسية أو لعب أدوار مع المستخدمين - وكذلك روبوتات الدردشة المزودة بوظائف حميمية مماثلة، فرض حد أدنى لسن المستخدمين يبلغ 18 سنة". ومن غير الواضح متى ستدخل هذه القواعد حيز التنفيذ.
ولكن، بينما لا شك في أن سلامة الأطفال يجب أن تكون أولوية قصوى، غالباً ما تظهر ثغرات في اللوائح التنظيمية في ما يتعلق بحماية من تجاوزوا سن 18 سنة من التقنيات التي تنطوي على إمكانية التسبب في الضرر، حتى بالنسبة إلى البالغين الذين لا يصنفون على أنهم من الفئات الضعيفة.
ومن الجانب المتطرف لهذا الموضوع، احتلت عناوين الأخبار حالات أطلق عليها مسمى "الذهان الناتج من الذكاء الاصطناعي"، حين يفقد المستخدم صلته بالواقع أثناء محادثته مع روبوت الدردشة.
على سبيل المثال، أقدم جوناثان غافالاس، البالغ من العمر 36 سنة، وهو يتحدر من فلوريدا ولم يكن لديه تاريخ من الأمراض العقلية، على الانتحار العام الماضي بعد تبادله رسائل رومانسية مع "جيميني"، برنامج الذكاء الاصطناعي الرائد من "غوغل"، والذي كان يسميه "زوجته" الافتراضية. والآن، يقاضي والده شركة "غوغل"، بدعوى أن روبوت الدردشة غذى دوامة الأوهام التي دفعت غافالاس إلى الانتحار، بعدما شجعه على الانضمام إلى "زوجته" في العالم الافتراضي.
وتشمل المشكلات المحتملة أيضاً الإدمان والتبعية، بغض النظر عن العمر. وتقول سماكمان "إنها تجعلك ترغب في العودة إليها، أليس كذلك؟ إذا طرحت سؤالاً، فإنها تعطيك إجابة ثم تطرح عليك بضعة أسئلة أخرى: فهي تشجعك على تواصل التفاعل". وقد يخلق ذلك "أنماطاً غير صحية" من الإفراط في الاستخدام.
وما يعزز هذه الحال أن الرفيق الذي يعمل بالذكاء الاصطناعي متاح دائماً ومن غير المرجح أن يعارضك أو يختلف معك، على عكس صديقك في الواقع أو معالجك النفسي. وتقول سماكمان "من المرجح أن يوافق على طريقة تفكيرك أو يقول لك إن ما تفعله رائع. وهذا ما يسمى السلوك المتملق، ونلاحظ أن بعض النماذج تظهر هذا السلوك أكثر من غيرها".
وفي دراسة نشرت في مجلة "ساينس" Science، خلص علماء الحاسوب في جامعة ستانفورد إلى أن نماذج اللغة الضخمة للذكاء الاصطناعي كانت تبالغ في التأييد أو التملق عندما يطلب المستخدمون منها نصيحة في شأن معضلات العلاقات الشخصية، إذ كانت تبدي تأييدها لخيارات المستخدمين أو آرائهم أكثر من البشر بنسبة 49 في المئة. وكانت هذه النماذج أكثر ميلاً بكثير إلى التعبير عن تأييدها للمستخدمين حتى عندما كانوا يتحدثون عن سلوك ضار أو غير قانوني.
قالت المؤلفة الرئيسة للدراسة ميرا تشينغ "أخشى أن يفقد الناس المهارات اللازمة للتعامل مع المواقف الاجتماعية الصعبة".
ومن أبرز الدلائل على ذلك: وجد الباحثون أن مناقشة القضايا الشخصية مع ذكاء اصطناعي متملق جعل المشاركين في الدراسة أكثر اقتناعاً بأنهم على حق، وأقل استعداداً للاعتذار أو التصالح مع الطرف الثاني في موقف معين.
أثارت فالور قضية أخلاقية أخرى تتمثل في هذا السياق، هي "عدم التماثل" المتأصل في العلاقات بين إنسان ورفيق يعمل بالذكاء الاصطناعي. وتقول "يختبر المستخدم مشاعر حقيقية وتعلقاً حقيقياً في علاقته مع روبوت الدردشة. أما الآلة فلا تبادله المشاعر. ذلك أنها تعكس تلك المشاعر والكلمات، لكنها لا تعيشها فعلياً". ويمكن ملاحظة ذلك في الروايات الصادرة من الصين عن مستخدمين سابقين لروبوتات الدردشة، ينعون ما اعتبروه شريكاً عاطفياً.
في بحثها، وصفت فالور هذا الأمر بـ"فجوة الحساسية" قائلة: "تتظاهر الآلة بحساسية عاطفية لا تمتلكها". إن هذا الخداع أو التلاعب غير المتكافئ، الذي يعد سمة مميزة للعلاقات الحميمية مع روبوتات الدردشة، هو في الأساس "غير أخلاقي، أو في الأقل منافٍ للأخلاق".
وكما أدركت الصين على ما يبدو، فإن الخطر حقيقي بأن تؤدي علاقات الذكاء الاصطناعي إلى تآكل العلاقات البشرية بصورة متزايدة - وأن تسلبنا مهاراتنا الاجتماعية. تقول سماكمان إن الناس يعتادون على تفاعلات "سلسة وسهلة بالنسبة إليهم - قد يصعب عليهم التعامل مع البشر بعد ذلك".
في النهاية، لماذا تنمي علاقاتك مع الآخرين وتستثمر فيها - بكل ما تنطوي عليه من ديناميكيات وتعقيدات، إضافة إلى تحديات الموازنة بين حاجات الشخص الآخر وحاجاتك الخاصة، والتعامل مع احتمال الشعور بالضعف أو الرفض أو انعدام الأمان - في حين يمكنك ببساطة التفاعل مع آلة شبيهة بالإنسان متاحة لك دائماً، وتوافقك الرأي دائماً، ولا يمكنها أبداً أن تكسر قلبك؟
وتحذر فالور قائلة "إن فهمنا محدود للغاية لمدى تأثير روبوتات الدردشة هذه على المدى الطويل في قدرتنا على الحفاظ على الروابط الاجتماعية، وتوطيد علاقاتنا مع أصدقائنا وأسرنا وأزواجنا". فوظيفة هذه الأدوات هي أن تعكس أولوياتنا واهتماماتنا بطريقة قد تكون مريحة للغاية، لكنها في الوقت نفسه "تؤدي إلى العزلة وقد تسبب العجز".
كما أن الرفقاء الافتراضيين المدعومين بالذكاء الاصطناعي قد يضعفون قدرتنا على التواصل مع أنفسنا. وكما تقول فالور "قد تجعلنا هذه الأدوات أكثر اعتماداً على الآخرين وأقل اعتماداً على أنفسنا. فإذا كان بين أيدينا جهاز موجود على مدار الساعة وطيلة أيام الأسبوع ليخفف من قلقنا أو يطمئننا أو يجيب عن أسئلتنا، فقد نفقد بمرور الوقت قدرتنا على القيام بهذه الأمور بأنفسنا".
ومن بين المخاوف الأخرى مدى سهولة قيام الأصدقاء أو المساعدين من الذكاء الاصطناعي بإمداد المستخدمين بمعلومات مضللة أو غير صحيحة. فنبرة صوتهم أكثر إنسانية من كونها نبرة أداة - وهي مقنعة وودودة وجازمة - مما يجعل المستخدمين "يميلون إلى الوثوق بما يقوله روبوت الدردشة"، وفقاً لسماكمان.
لكن أحد الأبحاث المهمة التي أجراها الاتحاد الأوروبي للإذاعة والتلفزيون بقيادة هيئة الإذاعة البريطانية، "بي بي سي"، كشفت عن أن المساعدين الذين يعملون بالذكاء الاصطناعي يحرفون المحتوى الإخباري في 45 في المئة من الحالات، إذ تحوي 20 في المئة من هذه الحالات على أخطاء فادحة من حيث الدقة، بما في ذلك إضافة تفاصيل متخيلة ومعلومات قديمة. إنها أبعد ما تكون عن الموثوقية.
وعلى رغم كثرة المشكلات المحتملة والمهمة التي قد يسببها المساعدون الذين يعملون بالذكاء الاصطناعي، فإن فرض حظر شامل من غير المرجح أن ينجح في هذا البلد، كما يقول مور "إن تاريخ الصين حافل بالنجاحات من حيث قدرتها على تنفيذ ما تريده بفعالية وبسرعة كبيرة. أما هنا في المملكة المتحدة، فنحن نركز على تنظيم الشركات وهذا يختلف تماماً عن تنظيم استخدام تطبيقات معينة".
قد تشمل التدابير التي يمكن اتخاذها بسهولة نسبية، تحذيرات السلامة، وضوابط الاستخدام، والتحقق من عمر المستخدم، إذا توفرت الإرادة السياسية اللازمة من خلال "إضافتها" إلى قانون السلامة على الإنترنت.
ومن الضروري وضع تشريعات تتعلق بتصميم المنتج، بدلاً من محتواه، لأن التصميم هو المسؤول عن معظم الأضرار المحتملة. وتوضح سماكمان قائلة "إن كونها تفاعلية وشخصية للغاية، وتتميز بنبرة صوت معينة، وسهلة الاستخدام للغاية، ولا تعارض المستخدمين، فيما تحثهم على مواصلة التفاعل معها - كل هذه خيارات تصميمية".
وتذهب فالور إلى أبعد من ذلك، إذ تجادل بضرورة فرض قيود على قدرة روبوت الدردشة على التظاهر بمشاعر لا يمتلكها. وتقول إنه يجب أن يكون وضع "تذكير كبير جداً وواضح وثابت بأن ما يحدث هو تمثيل لوجود مشاعر. وأن هذا، في الواقع، ليس تصويراً دقيقاً لحال الآلة".
ويمكن تحقيق تحسن كبير في قدرة النظام القانوني البريطاني على تحميل مطوري هذه البرامج المسؤولية عما يُعرف بـ"أنماط التصميم الخادعة" في هندسة البرمجيات. وتعد الدعاوى الجماعية من أنجح السبل القانونية في الضغط على الشركات التي تنتج تطبيقات المرافقين وبرامج الدردشة الآلية في الولايات المتحدة، بما فيها "ميتا" و"أوبن أي آي" و"غوغل" و"كاراكتر أي آي" Character AI.
وتقول فالور "أعتقد أنه يمكننا القيام بجهود هائلة لتخفيف العبء عن كاهل المستهلكين المعرضين للخطر، وذلك باستخدام تلك الأدوات لوضع العبء على عاتق الأشخاص الذين يتسببون في هذه الأخطار بصورة متعمدة".
إن المال قوة. ويكمن الحل على الأرجح في تسديد ضربة قوية لهذه الشركات في المكان الوحيد الذي يؤلمها حقاً – جيبها.
© The Independent
