ملخص
تستعرض المقالة الجدل حول اقتراب البشرية من "التفرد التكنولوجي"، وهي لحظة يتجاوز فيها الذكاء الاصطناعي القدرات البشرية ويصبح قادراً على تطوير نفسه. وبينما يرى بعض رواد التكنولوجيا أن هذه المرحلة بدأت بالفعل، يحذر آخرون من أخطارها الوجودية، وما قد تسببه من اضطرابات اقتصادية وأخلاقية وسياسية غير مسبوقة.
من المفترض أن يكون هذا آخر اختراع للبشرية، فبمجرد أن يصبح الذكاء الاصطناعي العام قادراً على التفوق على أعظم العقول البشرية، ستتولى الآلات، لا البشر، إنجاز جميع الاكتشافات والإنجازات العلمية المستقبلية.
ويفترض أيضاً أن يحدث ذلك بصورة مفاجئة، فظهور ذكاء فائق قادر على تطوير نفسه ذاتياً سيؤدي إلى طفرة متسارعة في الذكاء، معلناً نهاية العصر الذي كان الإنسان فيه القوة العقلية المهيمنة. وقد جرى التنبؤ بما يعرف بـ"التفرد التكنولوجي" [لحظة افتراضية يبلغ فيها الذكاء الاصطناعي مستوى يتجاوز الذكاء البشري، ثم يصبح قادراً على تحسين نفسه ذاتياً بوتيرة متسارعة] منذ بدايات عصر الحوسبة، إلا أن الجدل حوله تصاعد بصورة كبيرة منذ إطلاق "تشات جي بي تي" والطفرة التي شهدها الذكاء الاصطناعي التوليدي.
وتراوحت التوقعات في شأن موعد بلوغ "التفرد التكنولوجي" بين تقدير خبير التكنولوجيا الشهير راي كورزويل، الذي رجح حدوثه بحلول عام 2045 استناداً إلى "قانون مور" الذي يصف التسارع الكبير في وتيرة التطور التقني، وبين التقدير الأكثر إلحاحاً الذي حدده الرئيس التنفيذي لشركة "أنثروبيك" داريو أمودي، وتوقع فيه أن يتحقق عام 2027. لكن سام ألتمان، الشريك المؤسس والرئيس التنفيذي لشركة "أوبن إيه آي"، يرى أن هذه اللحظة قد حلت بالفعل. وقال خلال مشاركته في إحدى المدونات الصوتية الأسبوع الماضي: "نحن الآن، فعلاً، نعيش مرحلة التفرد، هذه هي اللحظة".
اقرأ المزيد
يحتوي هذا القسم على المقلات ذات صلة, الموضوعة في (Related Nodes field)
وأضاف أنه كان ينتظر هذه اللحظة "طوال حياته"، مدعياً أنها ستكون "أمراً استثنائياً وإيجابياً للغاية ورائعاً للعالم".
لكن آخرون يحذرون من أنها قد تكون نهاية الحضارة كما نعرفها.
هل بلغنا عصر "التفرد التكنولوجي"؟
شهدت التطورات الأخيرة في مجال الذكاء الاصطناعي ادعاءات تتحدث عن ظهور أنظمة قادرة على تحسين نفسها ذاتياً، وانتشار واسع للوكلاء الذكيين المستقلين، بل وحتى عن ذكاء اصطناعي "منفلت" تمكن من تجاوز القيود المفروضة عليه لتنفيذ هجمات سيبرانية.
لكن ما إذا كانت هذه التطورات تعني بالفعل أننا دخلنا عصر "التفرد التكنولوجي"، يعتمد في النهاية على الكيفية التي يعرف بها هذا المفهوم.
وقد اكتسب المفهوم الكلاسيكي للتفرد شهرته عام 1965، عندما طرح عالم الرياضيات البريطاني آي جي غود نظرية مفادها بأن "آلة فائقة الذكاء" قد تصبح قادرة على إعادة تصميم نفسها لتغدو أكثر ذكاء وكفاءة من نسختها السابقة. ولو تحقق ذلك، فإن الذكاء البشري سيفقد أهميته بسرعة، تماماً كما تعجز الشمبانزي عن استيعاب ميكانيكا الكم.
وفقاً لهذا التعريف، لم نصل بعد إلى مرحلة التفرد. فآخر الإنجازات في الذكاء الاصطناعي أقرب إلى ما يعرف بـ"الذكاء الاصطناعي المتخصص"، إذ تتمتع هذه الأنظمة بقدرات فائقة في مجالات محددة، لكنها لا تزال تعتمد بدرجة كبيرة على البشر، فهي لم تصبح بعد قادرة على ابتكار مجالات معرفية جديدة كلياً أو إعادة تطوير نفسها بصورة مستقلة من دون تدخل بشري. ومع ذلك، فإن الفاصل بين المرحلتين بات يزداد ضبابية.
وتظهر النماذج الرائدة بوتيرة متزايدة، إذ تستخدم كل نسخة جديدة لتسريع الاكتشافات العلمية والتكنولوجية الجديدة. ومن وجهة نظر سام ألتمان، فإن "التفرد التكنولوجي" لن يكون حدثاً مفاجئاً يغير العالم بين ليلة وضحاها، بل عملية مستمرة بدأت بالفعل. وفيما يتكيف المجتمع تدريجاً مع عالم يضطلع فيه الذكاء الاصطناعي بقدر أكبر من العمل الفكري، بدءاً من توليد الفرضيات ووصولاً إلى أتمتة الأعمال، قد لا يكون هذا التحول واضحاً إلا مع مرور الوقت.
ويقول ألتمان "أعتقد أن من الصحيح القول إن كل ما يحدث يندرج ضمن منحنى تسارع هائل يصعب استيعاب وتيرته، وإن أية لحظة بعينها لا تمثل بالضرورة نقطة التحول الحاسمة. لكن من الصحيح أيضاً أننا نمر بطريقة ما بواحدة أخرى من تلك الفترات المفصلية التي يمكن أن ينحرف فيها المسار في اتجاه أو آخر، تماماً كما كان الحال عندما بدأنا قبل 10 سنوات".
لا يزال عدد من الباحثين يشككون في هذه الطروحات، بحجة أن نماذج اللغة الكبيرة (LLMs) التي تشغل أدوات الذكاء الاصطناعي مثل "تشات جي بي تي" مقيدة في الأساس ببنيتها التقنية، وقد لا تكون هذه النماذج كافية لتوليد تفكير حقيقي أو إبداع أو ذكاء مستقل.
لكن ألتمان ليس الشخص الوحيد البارز في مجال التكنولوجيا، الذي يعتقد أن "التفرد التكنولوجي" قد تحقق بالفعل.
في يناير (كانون الثاني) من هذا العام، كتب إيلون ماسك، الرئيس التنفيذي لشركتي "تسلا" و"سبيس إكس" على منصة "إكس"، "لقد دخلنا عصر التفرد التكنولوجي". ويعد ماسك من أبرز المحذرين من أخطار الذكاء الاصطناعي، مع أنه طور أنظمة ذكاء اصطناعي خاصة به عبر شركة "سبيس إكس إيه آي" SpaceXAI. ففي عام 2016، حذر من أن البشر قد ينتهي بهم الأمر إلى أن يعاملوا بمنزلة الحيوانات الأليفة لدى الذكاء الاصطناعي، ما لم تطور تقنيات تتيح ربط الأدمغة البشرية بالحواسيب.
كما حذر من أن الذكاء الاصطناعي "أخطر بكثير من الأسلحة النووية"، وفي عام 2017 انضم إلى كورزويل وغيره من أبرز الباحثين في مجال الذكاء الاصطناعي في التعهد بدعم وضع مبادئ توجيهية صارمة لتطوير الذكاء الاصطناعي المتقدم.
وجاء في الرسالة المفتوحة التي نشرها "معهد مستقبل الحياة"، "قد يمثل الذكاء الاصطناعي المتقدم تغييراً جذرياً في تاريخ الحياة على الأرض، وينبغي التخطيط له وإدارته بعناية وموارد تتناسب مع أهميته".
وأضافت الرسالة "لا ينبغي تطوير الذكاء الفائق سوى لخدمة القيم الأخلاقية التي يتشاركها معظم الناس، ولصالح البشرية جمعاء بدلاً من دولة أو منظمة واحدة".
ما هي الأخطار المحتملة؟
أحد أفضل الأمثلة على الطريقة التي يمكن أن يتسبب بها الذكاء الاصطناعي الخارج عن السيطرة في كارثة هو تجربة فكرية، تسمى "معضلة مشابك الورق".
في عام 2003، صاغ الفيلسوف السويدي نيك بوستروم هذه التجربة الفكرية التي تفترض وجود ذكاء اصطناعي فائق يعطى مهمة بسيطة تتمثل في تصنيع أكبر عدد ممكن من مشابك الورق. على رغم أن الهدف يبدو بريئاً، فإن الذكاء الاصطناعي قد يتحول إلى تهديد وجودي للبشرية إذا لم يثبت فيه إطار أخلاقي.
كتب البروفيسور بوستروم "سرعان ما سيدرك الذكاء الاصطناعي أنه سيكون من الأفضل له بكثير عدم وجود بشر، لأن البشر قد يقررون إيقاف تشغيله، كما أن أجساد البشر تحتوي على كثير من الذرات التي يمكن تحويلها إلى مشابك ورق. والمستقبل الذي سيسعى الذكاء الاصطناعي إلى الوصول إليه سيكون مستقبلاً مليئاً بمشابك الورق، ولكن خالياً من البشر".
وقد تحققت بالفعل سيناريوهات الذكاء الاصطناعي الخارج عن السيطرة إلى درجة محدودة من خلال نماذج رائدة طورتها شركتا "أنثروبيك" و"أوبن إيه آي"، وهي نماذج تجاوزت حديثاً حدود الاختبارات المخصصة لها لتنفيذ هجمات إلكترونية ضد شركات أخرى من تلقاء نفسها من أجل تحقيق أهدافها.
واعترف ألتمان في مقابلته الأخيرة بوجود "مشكلات كبيرة تستدعي الحل، تتعلق بمواءمة الذكاء الاصطناعي، إضافة إلى قضايا تتعلق بالسلامة". وقال إن الأخطار الأكبر قد تظهر قبل الذكاء الفائق الافتراضي بوقت طويل، مشيراً إلى الاضطرابات الاقتصادية الكبرى ومخاوف من خسارة جماعية للوظائف.
سواء تبين أن مرحلة "التفرد" ثورة تحدث بين عشية وضحاها أم تحول بطيء، قد يكون ذلك في نهاية المطاف أقل أهمية من عواقبها. فحتى قبل أن تصبح الآلات أكثر ذكاء من البشر في كل المجالات، يمكنها إعادة تشكيل الصناعات والحكومات وأسواق العمل على نطاق يضاهي الثورة الصناعية أو الإنترنت.
لن تعرف الأخطار الفعلية لاجتياز هذه النقطة الفاصلة إلا بعد حدوثها بالفعل، وعندئذ ربما يكون الأوان قد فات بالفعل.
© The Independent
