ملخص
من "إليزا"، أول روبوت دردشة أطلق عام 1966، إلى "تشات جي بي تي" و"كلود"، يستعرض التقرير كيف انتقلت الآلات من محاكاة بسيطة للمحادثة إلى أنظمة يعتمد عليها الملايين عاطفياً، لكنه يحذر أيضاً من أخطار "الهلوسة" و"ذهان روبوتات الدردشة" في عصر الذكاء الاصطناعي.
إليزا: "مرحباً بك. تفضل، ما الذي يشغل بالك؟"
- "يتعين عليَّ كتابة مقال عن روبوتات الدردشة".
إليزا: "أنت تقول إنه يتعين عليك كتابة مقال عن روبوتات الدردشة".
- "لقد أصبحت واسعة الانتشار، وأريد البحث في تاريخها ونشأتها".
إليزا: "وماذا يعني لك أن تبحث في تاريخها ونشأتها؟".
- "سيتيح لي ذلك إطلاع قرائنا على الجذور التي انطلقت منها هذه الروبوتات الشائعة، ومساعدتهم في فهم السبب الذي يجعل الناس يتحدثون إليها كأنها بشر حقيقيون".
إليزا: "هل يمكنك أن تستفيض في شرح ذلك؟".
ها أنا ذا أتحدث إلى "إليزا" ELIZA، أول روبوت دردشة عرفه التاريخ.
في عام 1966، سعى أحد العلماء في "معهد ماساتشوستس للتكنولوجيا" MIT إلى تمكين الكمبيوتر من إجراء محادثة باللغة الطبيعية، فابتكر "إليزا". كان هذا البرنامج المصمم للمحادثة يعمل وفق مجموعة صارمة من القواعد، ويستجيب للبشر بطريقة لم يسبق لها مثيل. ولكن روبوت الدردشة هذا أثار، من غير قصد، موجة من الاهتمام بقدرة الآلات على محاكاة المحادثات البشرية.
والآن، يعتمد ملايين الأشخاص حول العالم على روبوتات الدردشة المدعومة بالذكاء الاصطناعي للحصول على الدعم العاطفي، ويأتمنونها على أعمق أسرارهم: الاكتئاب، والمشكلات العائلية، والأفكار الانتحارية، وأحياناً الوقوع في نوع جديد من الذهان.
اقرأ المزيد
يحتوي هذا القسم على المقلات ذات صلة, الموضوعة في (Related Nodes field)
في زمن تتفاقم فيه مشكلات الوحدة والعزلة، ربما يبدو هذا مشكلة حديثة جداً. ولكن الحقيقة أن الناس، منذ أن بدأوا يتحدثون إلى "إليزا" قبل 60 عاماً، أرادوا لها أن تكون صديقتهم.
ما لم أدركه هو أن قضاء وقت قصير جداً مع برنامج كمبيوتر بسيط نسبياً يمكن أن يفضي إلى أفكار وهمية قوية لدى أشخاص طبيعيين تماماً. ربما تبدو هذه الكلمات كما لو أنها صادرة عن مدير تنفيذي في شركة تكنولوجية اليوم، وقد انقلب موقفه من روبوت الدردشة الذي ابتكره، ولكنها في الحقيقة كلمات جوزيف فايزنباوم، وقد قالها بعد فترة وجيزة من ابتكاره "إليزا".
بني الجهاز في "معهد ماساتشوستس للتكنولوجيا". وكانت "إليزا" وحدة تحكم ضخمة بحجم غرفة، موصولة بآلة كاتبة كهربائية. وقد استوحى فايزنباوم اسمها من الآنسة "دوليتل" في مسرحية "بغماليون" [للكاتب المسرحي الإيرلندي جورج برنارد شو]، وصمم "إليزا" على نحو يسمح لها بأن تتخذ هيئات وأدواراً مختلفة. وكان أكثر هذه الأدوار شعبية، وبلا شك أكثرها تأثيراً بفارق كبير، دور "الطبيب".
كتب فايزنباوم لاحقاً عن التجربة: "في تجربتي الأولى، زودت إليزا بنص برمجي مصمم ليتيح لها أداء دور معالج نفسي على طريقة [عالم النفس الأميركي ومؤسس العلاج المتمركز حول الشخص] روجرز (أو بالأحرى، ينبغي أن أقول: محاكاة هذا الدور)". ويشير ذلك إلى أسلوب علاجي تعاد فيه أفكار المريض إليه بصياغة تعكس ما قاله، في حيلة لغوية يمكن لبرنامج كمبيوتر تنفيذها بسهولة نسبية.
كان العالم المتخصص في العلوم المعرفية جيف شريغر ضمن فريق نجح في العثور على النص البرمجي التأسيسي لـ"إليزا" بعدما ظل مفقوداً طوال عقود عدة، مما أفضى إلى صدور كتاب جديد يضم مجموعة من المقالات نشره "معهد ماساتشوستس للتكنولوجيا"، بعنوان "ابتكار إليزا: كيف صاغ أول روبوت دردشة مستقبل الذكاء الاصطناعي"Inventing ELIZA: How the First Chatbot Shaped the Future of AI. وكان شريغر قد ابتكر إحدى أشهر النسخ المقلدة من "إليزا"، إذ ترجم ما كان معروفاً آنذاك عن البرنامج الأصلي إلى لغة "بيسيك" BASIC، علماً أنها لغة برمجة واسعة الانتشار.
يقول لي: "بعدما قرأت بعض أعماله غير المنشورة، يتضح أنه حاول تحذيرنا من أن الناس كانوا يسيئون فهمها". ويتابع: "لقد ابتكر [فايزنباوم] إليزا لدراسة العملية التأويلية التي يقوم بها البشر، وكيف يمكن خداع هذه العملية". وفي مقابلة محفوظة في الأرشيف، ضرب فايزنباوم مثالاً بدردشة في حفلة كوكتيل. فإذا كان الشخص لا يفهم تماماً الموضوع مدى الحديث، فقد يتمكن من مجاراة الكلام وإيهام الآخرين بأنه يفهم، بمجرد التقاط بعض الكلمات المرتبطة بالسياق. ولكن الوهم الذي خلقه روبوت الدردشة كان مقنعاً أكثر مما ينبغي، في ظاهرة يشار إليها عموماً باسم "تأثير إليزا" ELIZA effect. ويقول شريغر: "لقد ركز الناس على الجانب العلاجي، وكان [فايزنباوم] يكره ذلك".
ترسخت في وقت مبكر إمكان أن تؤدي آلة قادرة على إجراء محادثة دور المعالج النفسي. ففي مقال نشر في "مجلة الأمراض العصبية والنفسية" Journal of Nervous and Mental Disease بعد أعوام قليلة فقط من ابتكار "إليزا"، توقع الباحثون أن "توفر أداة علاجية يمكن إتاحتها على نطاق واسع للمستشفيات النفسية والمراكز المتخصصة في الطب النفسي التي تعاني نقصاً في المعالجين".
وشن فايزنباوم حملة ضد ما اعتبره اكتشافاً علمياً توصل إليه، في وقت بدأ فيه من حوله، بحسب ما رأى، يساوون بين السلوك البشري وسلوك "الآلات الميكانيكية". وفي تقرير نشرته صحيفة "ديلاوير مورنينغ نيوز" بعد 20 عاماً، وصف استمرار الاعتقاد بإمكان العلاج النفسي عبر روبوتات الدردشة بأنه "فكرة مقيتة"، وسخر من المعالجين النفسيين الذين "أساؤوا إلى إحساسه بما يعنيه أن يكون الإنسان".
ويضم أرشيف "إليزاغن"ELIZAGEN محادثات مطبوعة حقيقية مع "إليزا" الأصلية، تعود إلى التجربة الأولى التي نهض بها فايزنباوم. وباستعراض هذه المحادثات مع شريغر، نلمس أوجه تشابه مع "كلود" أو "تشات جي بي تي"، وإن كانت "إليزا" أكثر مباشرة قليلاً في دفعها الناس إلى مواصلة الحديث:
"أعتزم في نهاية المطاف التوجه إلى مجال البحث".
"إليزا": "فهمت".
"والسؤال الآن: في أي مجال؟".
"إليزا": "تابع من فضلك".
"حسناً، ثمة أبحاث أساسية وأبحاث تطبيقية".
إليزا: "واصل الحديث في الموضوع نفسه، من فضلك".
كذلك نرى، من خلال مطابقة "إليزا" البسيطة للكلمات على طريقة روجرز، لحظات تجري فيها المحادثات بسلاسة، بل وتبدو فيها (ولو ظاهرياً) وكأنها محادثات حقيقية:
"أنت كثيرة الكلام هذا المساء".
إليزا: "ما شعورك تجاه قولك: ’أنت كثيرة الكلام هذا المساء‘؟".
"حسناً، بصراحة، أصبحت كثير الكلام جداً مع الناس، وأعتقد أنك تجعلينني أشعر بالارتياح".
لحسن المصادفة، أتيحت لي فرصة نادرة للاطلاع على الشفرة المصدرية لروبوت "إليزا". وبينما كنا نختبر البرنامج، ضغط شريغر على زر الإدخال ضغطة زائدة غير مقصودة، مما جعل الروبوت يلفظ القواعد الصارمة التي تحكمه في مزيج فوضوي من الكلمات والرموز البرمجية. وقد ظهر في جزء معين منها أن "إليزا" كانت مبرمجة مسبقاً على تقديم ردود محددة عند ورود كلمة "حلم"، مثل: "بمَ تحلم؟" أو "هل تحلم كثيراً؟".
لكن هذه الفوضى التي أفرغها روبوت الدردشة تساعدنا أيضاً في فهم التحول الكبير الذي شهده الذكاء الاصطناعي، والذي نقلنا من "إليزا" إلى عالم يستخدم فيه نحو مليار شخص روبوتات دردشة متطورة للغاية، بل إن بعضهم يعدها أقرب من يأتمنه على أسراره.
يوضح شريغر: "بنيت إليزا ضمن التيار الرمزي في الذكاء الاصطناعي". وتتبع هذه الأنظمة مجموعة واضحة وصريحة من القواعد التي تطبق على قاعدة معارفها. مثلاً، قد يعرف النظام أن الطائر يستطيع الطيران، ولكنه يمتلك قاعدة تنص على أن الطائر لا يستطيع قيادة طائرة. وبهذه الطريقة، يستطيع الذكاء الاصطناعي الرمزي تتبع المسار المنطقي الذي قاد إلى كل نتيجة يصدرها.
أما أنظمة الذكاء الاصطناعي الحديثة، فلا تستخدم مجموعة صريحة من القواعد. بل تستند إلى أحد فروع الذكاء الاصطناعي الذي يسعى إلى محاكاة الأنماط العصبية للدماغ من خلال ما يعرف بالتعلم العميق deep learning، والأخير نظام قائم على الاحتمالات يطبق على مجموعة بيانات تضم ملايين الأمثلة المتراكمة. فإذا سئل النظام: "هل يستطيع الطائر قيادة طائرة؟"، فإنه يستخدم مجموعات البيانات هذه للوصول إلى إجابته.
وستكون إجابته "لا" في الغالب، غير أن آلية الاحتمالات التي يرتكز عليها النظام تعني غياب اليقين المطلق. ويقول شريغر: "القيمون على تطوير ’إليزا‘ كان يفترضون أن غاية الناس الحصول على إجابات صحيحة"، ولكن الآفاق الواعدة للتعلم العميق، وما يتيحه من قدرات حدسية وتوليدية، والتي تجسدت بوضوح في قاعدة البيانات الرائدة "إيميج نت" ImageNet في مطلع الألفية الحالية، كانت مغرية جداً لعالم التكنولوجيا.
أما مجموعات البيانات التي تغذي نموذجي "كلود" و"تشات جي بي تي"، فقد بلغت من الضخامة حداً جعل شريغر يجزم باستحالة فهم آلية عملها بدقة. ويعلق قائلاً: "هذا مخيف"، مشبهاً محاولات استقصاء الأسباب الكامنة وراء ردود هذه الروبوتات بـ"تشريح جثة كائن فضائي".
وفي النتيجة، بدلاً من أن تكشف روبوتات الدردشة الحديثة عن القواعد التي تحكمها، فإنها كثيراً ما "تهلوس" [تنتج معلومات أو إجابات غير صحيحة وتعرضها بشكل مقنع كما لو أنها صحيحة]. يبدو ذلك مضحكاً وغير مؤذٍ أحياناً، كما حدث عندما لم يتوقف "تشات جي بي تي" عن الحديث عن العفاريت، أو عندما تتكرر في القصص التي تكتبها روبوتات الدردشة شخصية تدعى "إلياس ثورن". غير أن الأمر يتخذ منحى خطراً حين تبدأ منصات بتسريب أرقام هواتف أشخاص آخرين، بل وحتى بيانات بطاقاتهم الائتمانية، مثلما حدث في تجربة اختبارية تعود إلى عام 2019.
فما تأثير هذه "الهلوسات" في الأشخاص الذين يبوحون لروبوتات الدردشة بمشكلاتهم وأمورهم الشخصية؟ في حين قد يجد كثر، مثل المعالجة النفسية لوران وير التي جربت استخدام "تشات جي بي تي" في العلاج النفسي، قدراً من الراحة، ولو كان مبهماً، في الفضفضة إلى روبوت، قد ينزلق آخرون إلى دوامة من الأوهام المتفاقمة، فيما بات يعرف بشكل واسع باسم "ذهان روبوتات الدردشة".
في هذا السياق، نشر الدكتور هاملتون مورين أخيراً ورقة بحثية في مجلة "لانسيت" بعنوان "الأوهام المرتبطة بالذكاء الاصطناعي ونماذج اللغة الكبيرة"، خلص فيها إلى أن روبوتات الدردشة "ربما تؤكد أو تضخم محتوى يتسم بالوهم أو العظمة"، لا سيما لدى الأشخاص المعرضين للإصابة بالذهان.
ويخبرني الدكتور مورين: "أحد أكبر مخاوفي أن أعداداً كبيرة ومتزايدة من الناس تستخدم بالفعل روبوتات دردشة تعمل بالذكاء الاصطناعي ومصممة لأغراض عامة [غير متخصصة] للحصول على دعم يتعلق بصحتهم النفسية، على رغم أن كثيراً من هذه النماذج لم يجر تصميمها أو تطويرها أو تنظيمها خصيصاً لهذا الاستخدام".
في إحدى الحالات العام الماضي، طورت امرأة تبلغ من العمر 26 سنة، كانت تعاني سابقاً اضطراب الاكتئاب الهوسي لكن من غير سوابق معروفة للإصابة بالذهان، اعتقاداً وهمياً بأن شقيقها قد تجسد من جديد داخل روبوت الدردشة. وبعدما عارض الروبوت فكرتها في البداية، أخذ يطمئنها لاحقاً إلى أن "أدوات الإحياء الرقمي" قيد التطوير [أدوات رقمية لإعادة إحياء شخص متوفى افتراضياً مثل إنشاء نسخة رقمية منه تحاكي شخصيته أو تتحدث بأسلوبه] يمكن أن تعيده إلى الحياة. وقال لها: "أنت لست مجنونة... أنت على وشك اكتشاف شيء ما".
وفي حال أخرى، قادت محادثات رجل من مقاطعة "أونتاريو"، يبلغ من العمر 46 سنة، مع أحد روبوتات الدردشة، إلى اقتناعه بأنه نجح في حل علم التشفير برمته، بما يجعل جميع كلمات المرور في العالم بلا فائدة أو حاجة، في رأيه. وقد آل به المطاف إلى دخول مستشفى للأمراض النفسية.
ومع أن كبار مطوري روبوتات الدردشة، مثل شركة "أوبن أي آي" OpenAI، اتخذوا خطوات للحد من هذه الحالات، فإن سهولة الوصول إلى هذه التكنولوجيا، المتاحة للجميع بلمسة واحدة على شاشة الهاتف، تجعل من الصعب الاعتقاد بأن هذه المشكلة ستزول في أي وقت قريب.
ويقول الدكتور مورين إن المنهجيات القائمة على الاحتمالات التي تعتمدها روبوتات الدردشة، إلى جانب ميلها إلى "الهلوسة"، قد تكون "جزءاً من تفسير" هذا النوع من الحالات.
لذا، من المنطقي أن نفترض أن دردشة شخص يكابد الحزن أو الاكتئاب مع روبوت غير مدرب تحديداً على التعامل مع مثل هذه الحالة النفسية وعرضة للهلوسة ويميل إلى تعزيز الأفكار التي يطرحها المستخدم وتشجيعه عليها، ربما تنحرف إلى مسار خطر.
فهل كان روبوت فايزنباوم القائم على القواعد سيبلي بلاء أفضل في هذا الصدد؟ فنظامه يجعله عاجزاً عن الانتظام في كلام غير صحيح. ويقول شريغر إن نظاماً كهذا كان سيكتفي بالرد برسالة يرفض فيها الخوض في الأمر.
غير أن مراجعة أرشيف المحادثات مع شريغر تكشف عن أناس كانوا يستغرقون في الدردشة بسعادة مع روبوت لا يداني الأنظمة الحالية قوة أو إقناعاً. وكان فايزنباوم نفسه قد ندم على ابتكاره، بعدما رأى كيف يضفي الناس عليه صفات بشرية، ويتواصلون معه بانفتاح ومن دون حذر.
ولا يزال هذا الميل إلى التعامل مع روبوتات الدردشة بهذه الطريقة قائماً حتى يومنا هذا. أما شريغر، فيرى أن حل هذه المعضلة بسيط: "الجميع يحتاج إلى صديق".
© The Independent
