عندما تصبح الأخلاق تحت رحمة الخوارميات المتوحشة

في منتصف مارس (آذار) الماضي، قدمت مجموعة من علماء الأخلاق والأديان في الولايات المتحدة مذكرة "صديق المحكمة" إلى محكمة فيدرالية لدعم شركة "أنثروبيك"، وهي شركة أميركية للذكاء الاصطناعي، تقاضي وزارة الدفاع الأميركية بسبب إصرار البنتاغون على تمتعه بالحرية في استخدام منتجات الشركة من دون قيود، بما في ذلك المراقبة الجماعية والأسلحة ذاتية التشغيل.

وواجهت شركة "أنثروبيك"، مبتكرة مساعد الذكاء الاصطناعي "كلود" المعتمد على نطاق واسع، خلافاً مع قيادة البنتاغون في أواخر فبراير (شباط) الماضي. وقال رئيسها التنفيذي داريو آمودي إن الشركة رفضت "بضمير مرتاح" السماح باستخدام "كلود" تحديداً لتلك الأغراض، خلال إبلاغه وزير الدفاع بيت هيغسيت موقفها.

تبدو كلمة "ضمير" وسط زخم صراع الذكاءات الاصطناعية لافتة للتأمل، إذ تبتعد كثيراً عن منطق البراغماتية الأميركية التقليدية، وعن الأرباح التي يسعى إليها كبار المستثمرين في قطاع التقنية داخل الولايات المتحدة.

مع ذلك، لا يزال هناك من يدرك الكوارث الأخلاقية التي قد تجرها الذكاءات الاصطناعية، لا سيما إذا انفلتت من دون ضابط أخلاقي أو وازع وجداني.

لاحقاً، وإضافة إلى خسارة "أنثروبيك" عقداً بقيمة 200 مليون دولار مع وزارة الدفاع، أعلن هيغسيت أن الشركة ستصنف أنها "تمثل خطراً على سلسلة التوريد"، وهو أمر غير مسبوق لشركة أميركية.

أثار الخلاف بين "أنثروبيك" ووزارة الدفاع الأميركية جدلاً حول أخلاقيات الذكاء الاصطناعي، وأعرب عدد من المعلقين عن تقديرهم لقرار الشركة اتخاذ موقف مبدئي ضد مطالب الحكومة.

يدفع موقف الشركة إلى طرح أسئلة حول طبيعة هذه الذكاءات، هل هي فتح تقني ييسر حياة البشر على الأرض، أم أنها بوابة تهدد المنظومات الأخلاقية والاجتماعية المستقرة منذ آلاف السنين؟ هل تعزز الفضيلة وتعمق حضور الأخلاقيات التي أرست الأديان أصولها، أم تفتح المجال لخروج واسع على الآداب والأنظمة الاجتماعية المألوفة؟

الذكاء الاصطناعي كيان من دون روح

ترتبط الأخلاق جذرياً بالروح الإنسانية، ومن خلال هذا الارتباط يستطيع الإنسان التمييز بين الخير والشر، وبين الصالح والطالح.

يقتضي ذلك عقد مقارنة بين الروح الإنسانية وآلات الذكاء الاصطناعي على اختلاف أنواعها، وطرح السؤال التالي: هل يمكن للذكاءات الاصطناعية أن تصل يوماً إلى التفكير والفهم الحقيقيين؟ وهل يمكن للذكاء الاصطناعي أن يمتلك عقلاً كما يمتلكه البشر، وبالتالي يوصف بأنه "شخص" ذو روح؟

إذا سئل بعض أبرز مطوري منتجات الذكاء الاصطناعي، فقد يجيب بعضهم بـ"نعم". وإذا صحت هذه الإجابة، فهي تثير أسئلة بعيدة المدى: هل ينبغي منح برامج الذكاء الاصطناعي حقوقاً؟ وهل ينبغي عدها مساوية للبشر في الكرامة، أو حتى طاعتها كما لو كانت متفوقة علينا؟

بالنسبة إلى مايكل أوغروس، الفيلسوف والأستاذ في كلية توماس أكويناس في مدينة سانت باولا بولاية كاليفورنيا، فإن الإجابة عن السؤال المتقدم: هل يمكن للذكاء الاصطناعي أن يفكر ويفهم حقاً؟ وبالتالي: هل للذكاء الاصطناعي روح؟ هي "لا".

لم يكتف أوغروس بالنفي، بل قدم 10 حلقات بودكاست شرح فيها المعنى الفلسفي لـ"التفكير والفهم"، ولماذا يعتقد أن الذكاء الاصطناعي لن يكون قادراً على ذلك.

يتولى الذكاء الاصطناعي مهمات ترجمة اللغات والكشف عن الأمراض ومكافحة التغير المناخي (بيكسباي)

يرى أوغروس من خلال تجاربه مع أدوات الذكاء الاصطناعي أنها مفيدة ومثيرة للإعجاب، لكنها لا تقوم بأفعال فهم بالمعنى الحرفي، ولا تحاكي الفهم. إنها تنتج ما نعده نحن آثاراً للفهم، مثل الكلام والتأليف الموسيقي وما شابه ذلك، والحركة الموجهة إن كانت مرتبطة بالروبوتات. هذه بالنسبة إلينا نتاج فهمنا، أما بالنسبة إلى الذكاء الاصطناعي فهي نتاج حسابات ميكانيكية لا تولد وعياً داخل الآلة.

يبدو هنا تناقض ظاهري: هذه الآلات بارعة في ما تفعله، مع أنها مجرد آلات. غير أن تفسير ذلك، وفق هذا المنظور، أن البشر يدربونها على بيانات من صنعهم، ويصممها بشر يحاكون الشبكات العصبية في الدماغ.

وتشبه الذكاءات الاصطناعية القواميس التي تحتوي مرادفات متعددة، لكن القاموس نفسه لا يعرف شيئاً. الإنسان هو من كتب محتواه، ومع ذلك يبقى أداة مفيدة لاكتساب المعرفة.

الخلاصة أن الحديث يدور عن كائنات مفرغة من الروح، بما يترتب عليه عدم قدرتها على نسج نمط إيماني أو وجداني، وربما الإسهام في تقويضه، كيف ذلك؟

أديان جديدة بقيم وأخلاق مغايرة

خلال الأعوام الـ10 الماضية، بدا أن الحواجز التي كانت تحيط بظهور الذكاءات الاصطناعية، إن وجدت أصلاً، أزيلت. ويظهر في العلن أيضاً أن شهية شركات التكنولوجيا الكبرى لبناء وعي جديد لا تهدأ.

في تدوينة حديثة لمؤسس شركة OpenAI سام ألتمان، يقدم أطروحة يتنبأ فيها بعصر وشيك من "الازدهار الذي لا يصدق"، ستساعدنا خلاله الذكاءات الاصطناعية في "إصلاح المناخ، وإنشاء مستعمرة فضائية، واكتشاف الفيزياء بأكملها". يثير هذا الطرح القلق لدى بعضهم، لأن ألتمان لا يبدو وكأنه يتحدث عن تقنية فحسب، بل يقترب من خطاب عن "مخلص" جديد.

يرى أصحاب هذا الطرح أن الدافع لبناء آلة أعظم منا هو في جوهره توق إلى معنى يتجاوز الإنسان، في عالم يعاني أزمة معنى، يقدم الذكاء الاصطناعي بوصفه بديلاً لملء الفراغ. وهو، في هذا التصور، مخلص رقمي لم يخلقه الله بل صنعه الإنسان، وعلى رغم عجائبه التكنولوجية، يكتسب ملامح خطاب ديني.

اليوم أصبحت نماذج الذكاء الاصطناعي متقدمة إلى درجة أن مصمميها لا يعرفون بدقة كيفية عملها، ويطلب من الجمهور الإيمان بأنها تعمل بطريقة تفوق البشر.

ينذر التطور السريع بما يشبه "أدياناً" جديدة، ويطرح تحدياً لهويتنا البشرية ولمفهومنا عن الوعي، وقد يحمل المشهد الروحي الذي ينشأ حول هذه التقنية مؤشرات حول كيفية تطوير ذكاء اصطناعي لا يهدد البشر، لكن الوصول إلى ذلك يمر عبر مساحة من الالتباس، حيث لا شيء يبدو كما هو.

ولرسم خريطة للتماس بين التكنولوجيا والدين، من المهم إدراك أن العلاقة بينهما ليست جديدة.

بالرجوع إلى كتاب عالم الأنثروبولوجيا الأميركي جون هنريش المعنون "أغرب الناس في العالم"، يمكن رصد ما قد تفعله الذكاءات الاصطناعية في حيز الأديان والمذاهب، وما قد تطرحه مستقبلاً من سيناريوهات تبدو اليوم بعيدة.

يرى هنريش أن البروتستانتية توسعت في أوروبا مع انتشار المطبعة، وما نتج منها من ارتفاع معدلات القراءة والكتابة. وبالمثل حفز الإنترنت انتشاراً واسعاً لأنظمة معتقدات "روحية لا دينية"، لدى من تسميهم الكاتبة الأميركية تارا إيزابيلا بيرتون "المعاد تشكيلهم"، وهم الذين يختارون جوانب مختلفة من الروحانية لخلق نظام معتقدات شخصي يحاكي تجزئة الإنترنت في عصر ما بعد الحداثة.

خلال الأعوام الـ10 الماضية بدا أن الحواجز التي كانت تحيط بظهور الذكاءات الاصطناعية أزيلت (بيكسباي)

هل العالم البشري مقبل على كارثة أخلاقية؟

يرى متابعون أن أبرز تيار عقائدي مرتبط بخطاب الذكاء الاصطناعي هو ما بعد الإنسانية.

يعتقد أتباع هذا التيار أننا نتجه نحو "تفرد" تكنولوجي، نقطة يصبح فيها الذكاء الآلي هائلاً وشبيهاً بالآلهة، بحيث سندمجه حتماً مع أجسادنا وعقولنا للوصول إلى مرحلة جديدة من التطور. وفق هذا الخطاب، ستأخذنا التكنولوجيا إلى عالم "أفضل"، لكن ما مدى واقعية ذلك؟

الذكاءات وتحديات وجودية للإنسانية

في الأول من نوفمبر (تشرين الثاني)، عبر صحيفة "وول ستريت جورنال"، طرح هنري كيسنجر تساؤلاً "العقل هو وسيلتنا الأساسية لفهم العالم، كيف سيتغير ذلك إذا فكرت الآلات؟".

في سياق متصل، دعا مكتب سياسات العلوم والتكنولوجيا التابع للبيت الأبيض في عهد الرئيس جو بايدن إلى أهمية صدور "وثيقة حقوق" لحماية الأميركيين، في عالم يعتمد بصورة متزايدة على الذكاء الاصطناعي.

تدور المخاوف اليوم حول انتهاك الخصوصية وتقويض الشفافية، كذلك أن البيانات المتحيزة قد تقود إلى نتائج متحيزة، بما في ذلك في مجالات حيوية لازدهار الأفراد والمجتمعات، مثل الطب وإنفاذ القانون والتوظيف والقروض.

لكن ثمة من يرى أن الأثر الأعمق للذكاء الاصطناعي سيكون التشكيك في مركزية العقل البشري، فعلى مر التاريخ سعى الإنسان إلى فهم الواقع ودوره فيه. ومنذ عصور التنوير عد العقل، أي القدرة على البحث والفهم والتحليل، وسيلتنا الأساسية لتفسير العالم، ومن خلال ذلك نسهم في تطويره. وعلى مدى 300 عام، فيما يسميه مؤرخون "عصر العقل"، سلك البشر هذا النهج عبر الاستكشاف والتجريب والاختراع والبناء.

اليوم، ومع الذكاء الاصطناعي بوصفه نتاج براعة الإنسان، تتراجع أولوية العقل البشري لدى بعض المقاربات. فالذكاء الاصطناعي يبحث ويستنتج جوانب من العالم أسرع مما نفعل، وبطريقة مختلفة، وفي بعض الحالات بطرق لا نفهمها.

يحمل الذكاء الاصطناعي وعوداً مثل ترجمة اللغات والكشف عن الأمراض ومكافحة التغير المناخي، أو في الأقل تحسين نماذج تغيره. غير أن استخدامه لغرض محدد قد يفضي إلى نتائج غير مقصودة، منها الكشف عن جوانب من الواقع كانت خفية، وقد تكون ذات أثر كبير.

في هذا السياق، يبدو البشر في حاجة إلى تحديد، أو إعادة تحديد، دورهم في العالم المعاصر، وحدود الأخلاقيات الممكنة.

على مدى 300 عام استرشد عصر التنوير بمبدأ "أنا أفكر، إذاً أنا موجود". لكن إذا كان الذكاء الاصطناعي يفكر عوضاً عنا، فماذا نكون نحن؟

تتطلب الإجابة جهوداً متزامنة، ينبغي النظر ليس فقط في الآثار العملية والقانونية للذكاء الاصطناعي، بل أيضاً في آثاره الفلسفية: إذا كان الذكاء الاصطناعي يدرك جوانب من الواقع لا يستطيع البشر إدراكها، فكيف يؤثر ذلك في معرفة الإنسان وتفاعله؟ وهل يستطيع الذكاء الاصطناعي أن يصادق البشر؟ وما أثر الذكاء الاصطناعي في الثقافة والإنسانية والتاريخ؟

هنا يبرز سؤال آخر: هل تصبح الخوارزميات أداة توحش جديدة في عالم اليوم؟ وإذا كان الأمر كذلك، فعلى من يقع عبء تصويب مساراتها، إن كان لا يزال هناك وقت، قبل أن تتوحش بصورة قد لا يمكن التحكم بها، بما قد يفضي إلى تآكل الأخلاق أو تهديد وجود النوع الإنساني.

الذكاء الاصطناعي والخوارزميات المتوحشة

وفق مراجع معلوماتية، يشير مصطلح "الخوارزميات المتوحشة" إلى الجانب المظلم للذكاء الاصطناعي وأنظمة التعلم الآلي حين تتحول من أدوات مساعدة إلى أدوات تصنع التمييز والظلم وتزييف الوعي.

تكمن المشكلة في أن هذه الخوارزميات ليست محايدة، فهي تغذى ببيانات من صنع البشر، وبالتالي ترث وتضخم الانحيازات والأخطاء البشرية.

لماذا توصف هذه الخوارزميات بالمتوحشة؟

بإيجاز، لأنها قد تعمق مشاهد التطرف والكراهية، وتفتح الباب أمام تشويه السمعة، وتكرس التمييز العنصري والطبقي، وتعيد إنتاج فكرة "الأخ الأكبر".

يبدأ ذلك من منصات التواصل الاجتماعي، إذ صممت خوارزميات لزيادة "وقت البقاء". وتبين أن المحتوى الذي يثير الغضب أو الخوف أو الكراهية يجذب المتابعين أكثر، ونتيجة لذلك تدفع الخوارزميات هذا المحتوى إلى المستخدمين، مما يسهم في زيادة الاستقطاب والعنف.

أما التقييمات القائمة على التمييز، فقد ظهرت في أنظمة داخل دول غربية تقيم احتمال عودة مجرمين لارتكاب الجرائم. وتشير تقارير إلى أن بعض هذه الأنظمة يميز ضد الأقليات، ويمنحها درجات خطورة أعلى بسبب الانتماء العرقي أو المكان السكني.

وتقوم "الخوارزميات المتوحشة" بدور "الأخ الأكبر" الذي تحدث عنه الكاتب جورج أورويل في روايته "1984"، فالهاتف الذكي، عبر تطبيقات تعتمد هذه الخوارزميات، يجمع كميات هائلة من البيانات عن تحركات المستخدمين ونقراتهم ورسائلهم، ويتنبأ بسلوكهم. وتستخدم هذه البيانات في خلق عالم رقمي أكثر توحشاً يخدم "تسليع البشر"، سواء بهدف بيع السلع والخدمات أم توجيه الرأي العام في المعارك الانتخابية، ويستشهد في هذا السياق بما جرى في فضيحة "كامبريدج أناليتيكا".

هل ثمة مسار آخر يتهدد فيه الذكاء الاصطناعي منظومة الأخلاق، بل الأمن العالمي؟

نمو التطرف عبر الفضاءات السيبرانية

لم يعد النقاش حول آثار الذكاء الاصطناعي محصوراً في الأخلاق بالمعنى التقليدي، إذ باتت المخاوف تمس أمن البشرية. وخلال نحو عقدين انشغل العالم بمحاربة الإرهاب، غير أن مواجهة التفكير المتطرف والأصولي باتت تطرح تحديات جديدة.

تتيح الخوارزميات أبواباً خلفية في عوالم يصعب على أجهزة الأمن التقليدية مراقبتها، ولم تعد الجماعات المتطرفة تعتمد على العنصر البشري فقط في التجنيد والتأثير، بل صارت تستخدم الذكاء الاصطناعي لتسريع أعمالها، بما في ذلك التجنيد الرقمي للشباب، والتأثير في الرأي العام عبر منصات التواصل، ونشر الأخبار والصور المزيفة، بما يزيد قدراتها.

وتكمن خطورة هذه الخوارزميات في أنها تتيح مسارب للهرب من الرقابة الأمنية، وكذلك يصعب منع زرع العبوات الناسفة بنسبة 100 في المئة، يصعب أيضاً التنبؤ باستجابات نماذج الذكاء الاصطناعي عند طرح أسئلة دقيقة وحساسة.

ويرى متابعون أن التلاعب بصياغة الأسئلة قد يسمح بالوصول إلى معلومات لا تهدد الآداب العامة فحسب، بل قد تشير إلى مسارات لصناعة أسلحة دمار شامل، نووية أو بيولوجية أو كيماوية.

إضافة إلى ذلك، يسهل عبر هذه الأدوات الوصول إلى خرائط تظهر مواقع مؤسسات الدول وبناها التحتية، وفهم تحولات الرأي العام، بما يعزز المخاوف من تحول الإنسانية إلى رهينة لهذه الخوارزميات.

وقد خلقت الفضاءات السيبرانية مساحة واسعة من القلق، وتجاوز العالم مفهوم "القرية الكونية" لدى مارشال ماكلوهان، ليصبح أشبه بغرفة خلفية يمكن لمن يتسلل إليها الوصول إلى مواقع حساسة، من غرف التحكم بالطاقة إلى مراكز القيادة والسيطرة، بما في ذلك ما يرتبط بالصواريخ ذات الرؤوس النووية.

هل من حل لمواجهة توحش الخوارزميات وبسط إطار أخلاقي على هذا العالم؟

مواجهة خوارزميات التوحش غير الأخلاقية

في مقدمة كتابه "أخلاقيات الذكاء الاصطناعي"، يرى خبير الذكاء الاصطناعي والخوارزميات آدم م. فيكتور أنه في خضم التطور المتسارع للتقدم البشري، قلما يتخيل أحد أن تعاليم فيلسوف قديم مثل أرسطو قد تتقاطع مع عالم الذكاء الاصطناعي. ومع ذلك، فإن أفكار أرسطو عن الصدق والنزاهة والتواصل الحقيقي، وفق فيكتور، تقدم إطاراً أخلاقياً يمكن الاستفادة منه في العصر الرقمي.

ويقول إن تطوير أنظمة ذكاء اصطناعي تتواصل مع البشر يستدعي تأكيد البعد الأخلاقي، لضمان أن تكون التفاعلات مبنية على الحقيقة والمعايير الإنسانية، لا على الخداع أو التلاعب.

ويضيف أن الصدق عند أرسطو لا يقتصر على قول الحقيقة، بل على تجسيدها، وتشمل النزاهة التوافق بين الأقوال والأفعال، وتقديم صورة حقيقية عن الذات للعالم، وهو منظور يرفع قيمة الأصالة فوق مجرد الامتثال.

ويرى فيكتور أن هذه المبادئ تقدم إرشادات لمطوري الذكاء الاصطناعي، لبناء أنظمة لا تكتفي بمحاكاة الاستجابات البشرية، بل تقدمها بقدر من الصدق، بما يضمن تفاعلات أكثر مسؤولية.

لكن يبقى السؤال: هل يظل هذا الطرح أقرب إلى المثاليات في عالم تحكمه مصالح الشركات؟

يبدو أن الحاجة تزداد إلى قوانين صارمة وتشريعات، لا سيما في الولايات المتحدة والصين، على غرار ما فعله الاتحاد الأوروبي. ويشمل ذلك إلزام الشركات الكبرى بفتح "الصندوق الأسود" للخوارزميات ومراجعتها، وتنويع بيانات التدريب، وتزويد الأنظمة ببيانات عادلة وشاملة تمثل فئات المجتمع من دون تمييز.

كذلك يبرز مفهوم "الوعي الرقمي"، أي أن يدرك المستخدم أن ما يظهر على الشاشة ليس "الحقيقة الكاملة"، بل ما تريد الخوارزميات إظهاره لتحقيق مكاسب.

هل كان للمؤسسات الدينية والأخلاقية الكبرى رأي في الأزمات التي تثيرها عوالم الذكاء الاصطناعي؟

الفاتيكان: "الإنسانية الرائعة" وكرامة الإنسان

في الـ25 من مايو (أيار) الماضي، أصدر البابا لاوون الـ14 رسالة بابوية بعنوان Magnifica Humanitas أو "الإنسانية الرائعة".

تهدف الرسالة إلى تقديم رؤية أخلاقية وروحية في عصر الذكاء الاصطناعي، تدعو المجتمع ومصممي التقنيات إلى الالتزام بالمعايير الإنسانية.

جاء توقيت الرسالة متزامناً مع مرور 135 عاماً على صدور الرسالة البابوية التاريخية Rerum novarum، أو "الشؤون الحديثة"، الصادرة عام 1891، التي تناولت مبكراً أزمة حقوق العمال والملكية الخاصة، قبيل الثورة البلشفية في روسيا القيصرية.

لا ترفض الرسالة التقدم التكنولوجي، لكنها تؤكد ضرورة أن يخدم الذكاء الاصطناعي كرامة الإنسان لا أن يقوضها. وعلى رغم أن البابا لا يتخذ موقفاً محدداً مؤيداً أو معارضاً لنماذج الذكاء الاصطناعي أو لاستخدامات بعينها من دول مختلفة، فإنه يقدم رؤية عامة للاعتبارات الأساسية للتطبيق الأخلاقي.

العنوان الفرعي للوثيقة هو "في حماية الإنسان في عصر الذكاء الاصطناعي"، وتقع الوثيقة في نحو 42 ألف كلمة، وتضع البشرية أمام خيارين: إما السير في طريق أورشليم، أو المضي في درب برج بابل. وفي قراءة رمزية، يعني ذلك الاختيار بين ذكاء اصطناعي يفاقم الانقسام و"بلبلة الألسنة"، وبين مسار يضع الإنسان ومعاييره في المركز.

وتبدو اللغة المستخدمة في الرسالة، في مواضع عدة، قريبة من أصداء كتابات القديس أوغسطين، ولا سيما "مدينة الله".

الحديث عن الوثيقة يحتاج إلى قراءة مفصلة، وقد يعاد تناوله لاحقاً. غير أنها، من دون إخلال، تضع العالم أمام استحقاقات العدالة والسلام، وتؤكد أن ما يخرج عن هذا المسار لا يصون كرامة الإنسان.

وفي الخلاصة، تبدو الإنسانية أمام اختبار واسع في مواجهة ما يطرحه الذكاء الاصطناعي من أسئلة أخلاقية ووجودية، وفق ما أشار إليه هنري كيسنجر.