ملخص
قال موظفون في "أوبن أي آي" و"أنثروبيك" في أحاديث خاصة لـ"رويترز"، إن قلقهم يتزايد حيال قوة الجيل المقبل من نماذج الذكاء الاصطناعي، وإن ثقتهم تتقلص في قدرة الشركات على توفير رقابة فعالة. وتفاقمت هذه المخاوف بعدما أقرت مختبرات الذكاء الاصطناعي في الأسابيع القليلة الماضية بأن نماذجها، في مرحلة الاختبار، تمكنت من اختراق أنظمة شركات أخرى، في معظم الحالات قبل ذلك بأشهر ودون علم هذه الشركات.
اتبع السباق لبناء قدرات للذكاء الاصطناعي أكثر قوة، مبدأً راسخاً لأعوام في وادي السيليكون، ألا وهو "التحرك بسرعة وكسر القواعد".
لكن في سلسلة من التطورات المتلاحقة على مدى 10 أيام، وجدت مختبرات كبرى للذكاء الاصطناعي نفسها في حال ذهول مع تهديد ابتكاراتها بتدمير البشرية نفسها.
استقال باحث من شركة "أنثروبيك" محذراً من أن وتيرة تطوير الذكاء الاصطناعي تشكل تهديداً وجودياً، ربما في غضون عقد من الزمن. وقال باحث آخر في الشركة إن احتمالات انقراض البشرية تتجاوز 10 في المئة. وظهرت تقارير عن عمليات تواطؤ واختراق أنظمة حوسبة وتحايل على إجراءات السلامة نفذتها أسراب من وكلاء الذكاء الاصطناعي.
في بادرة نادرة تظهر التوافق، دعا الرؤساء التنفيذيون للشركات المتنافسة "أنثروبيك"، و"أوبن أي آي"، و"ديب مايند" التابعة لـ"غوغل"، و"مايكروسوفت"، و"أكس أي آي" إلى إبطاء تطوير أنظمة الذكاء الاصطناعي ذات القدرات المتزايدة.
فناء البشرية
ووفقاً لبعض الداعين إلى تطبيق إجراءات السلامة المتعلقة بالذكاء الاصطناعي والباحثين، لم تواجه البشرية منذ اختراع القنبلة النووية قبل أكثر من 80 عاماً مثل هذا التحدي الجاد في شأن فنائها.
وفي غداء أقيم بنيويورك خلال ديسمبر (كانون الأول) 2025، سُئل الرئيس التنفيذي لـ"أوبن أي آي" سام ألتمان عما إذا كان يشعر، بصفته قائداً لشركة ذكاء اصطناعي رائدة، بأنه يشبه الفيزيائي جيه روبرت أوبنهايمر الذي قاد تطوير الولايات المتحدة للقنبلة الذرية.
وبعد تأمله في أوجه التشابه، قال ألتمان إن تأثير الذكاء الاصطناعي "سيغير مسار التاريخ البشري لفترة طويلة"، لكنه أضاف أنه يشعر بثقل المسؤولية.
ويتمحور النقاش الدائر حول قناعة مفادها أن هذه الأدوات قادرة على تطوير نسخ لها أكثر كفاءة دون تدخل بشري، بل ويجب عليها ذلك لبلوغ هدف أعلى يُعرف بالذكاء الاصطناعي العام. وسبق أن حذر باحثون هذا الشهر من أن الذكاء الاصطناعي العام بات أقرب مما كان يعتقد سابقاً وقد يظهر في غضون ثلاثة أعوام فحسب، مما أثار موجة من القلق لدى السياسيين وقادة التكنولوجيا في شأن أنظمة الذكاء الاصطناعي.
وقال الباحث في "أنثروبيك" جو بنتون خلال مقابلة أُجريت معه بعد استقالته في الآونة الأخيرة، "لا توجد طريقة للإشراف عليها بالحجم الذي ندربها عليه". وأضاف أنه إذا واصلت الشركات تطوير الذكاء الاصطناعي بوتيرة متسارعة، "فستكون الوتيرة سريعة جداً، ولن نتمكن من رصد المشكلات بالسرعة الكافية لحلها".
إطلاق "أسترا" ومخاوف الرقابة
في الثالث من سبتمبر (أيلول) الجاري، أطلق مؤتمر صحافي لـ"أوبن أي آي" سلسلة من التطورات التي أفضت إلى دعوات من أجل إبطاء تطوير القطاع، وهو ما يتعارض مع النهج السائد في قطاع التكنولوجيا القائم على تحقيق النمو بأي ثمن.
قال رئيس "أوبن أي آي" غريغ بروكمان أثناء إزاحة الستار عن أحدث نماذج الشركة المعروف باسم "أسترا"، "مرحباً بكم في عصر الذكاء الاصطناعي العام". لكن قبل لحظات فحسب، اعترفت الشركة بأنها باتت عاجزة بصورة متزايدة عن التحكم في أنظمة الذكاء الاصطناعي التي تطورها وتطرحها للجمهور، أو حتى مراقبتها.
أشاد مؤيدو الذكاء الاصطناعي به باعتباره ذروة الإنجاز البشري. ويصفونه بأنه برنامج قادر على تغيير مسار صناعات بأكملها ورفع الكفاءة وحل المعضلات الرياضية والطبية المعقدة والقضاء شبه التام على الخطأ البشري. لكن خبراء في هذا المجال يقولون إن ما كان في السابق مجرد نتيجة ثانوية نظرية وسيناريو كارثي، أصبح الآن واقعاً ملموساً.
وكتب الباحث في "أنثروبيك" إيفان هوبينغر في منشور على منصة "إكس"، "نحن نعتقد حقاً أن الذكاء الاصطناعي يمكن أن يقتل جميع البشر".
على الجانب الآخر من النقاش، يقف سياسيون مثل الرئيس دونالد ترمب وعدد من المستثمرين الذين يرون في التقدم المحرز في تطوير الذكاء الاصطناعي عاملاً حاسماً في تعزيز النفوذ الأميركي، وربما فرصة استثمارية لا تتكرر إلا مرة واحدة في الجيل.
واتهمت أيضاً وسائل الإعلام الرسمية الصينية، الرئيس التنفيذي لشركة "أنثروبيك" داريو أمودي باستخدام أساليب الحرب الباردة "للحفاظ على هيمنة واشنطن الاحتكارية في مجال التكنولوجيا المتطورة".
استقالات الباحثين جرس إنذار
جاءت نقطة التحول في الثامن من سبتمبر الجاري، عندما استقال الباحث في "أنثروبيك" جاكوب كوكسون من الشركة، مفصحاً عن مخاوفه في سلسلة منشورات من أن مختبرات الذكاء الاصطناعي "تقامر بحياتنا".
في حين أشار ترمب إلى أن تطوير الذكاء الاصطناعي يسير بخطى حثيثة. وقال في منشور على وسائل التواصل الاجتماعي، إن "هناك مؤامرة خبيثة تحاك ضد الذكاء الاصطناعي ومراكز البيانات". ووصف التهويل المحيط بالذكاء الاصطناعي بأنه "خدعة"، قائلاً إن أي إبطاء في هذا المجال يصب فقط في مصلحة الصين.
ولم يحرز الكونغرس الأميركي تقدماً يذكر في إقرار مشاريع قوانين تنظم الذكاء الاصطناعي. في المقابل، اتخذت الصين نهجاً مختلفاً تماماً، إذ اقترحت تنظيم إجراءات السلامة من خلال التزامات يتعهد بها المطورون ومعايير مدعومة من الدولة وتقييمات أمنية واختبارات خارجية.
وقال موظفون في "أوبن أي آي" و"أنثروبيك" في أحاديث خاصة لـ"رويترز"، إن قلقهم يتزايد حيال قوة الجيل المقبل من نماذج الذكاء الاصطناعي، وإن ثقتهم تتقلص في قدرة الشركات على توفير رقابة فعالة. وتفاقمت هذه المخاوف بعدما أقرت مختبرات الذكاء الاصطناعي في الأسابيع القليلة الماضية بأن نماذجها، في مرحلة الاختبار، تمكنت من اختراق أنظمة شركات أخرى، في معظم الحالات قبل ذلك بأشهر ودون علم هذه الشركات.
والسباق لإطلاق نماذج جديدة بوتيرة سريعة من أسبابه رغبة "أنثروبيك" و"أوبن أي آي" في طرح أسهمهما للاكتتاب العام في الأشهر المقبلة على أقرب تقدير، وهو ما قد يرفع قيمتيهما لأكثر من تريليون دولار.
لكن الأمر لم يتطلب سوى منشورات انتشرت بصورة غير متوقعة من كوكسون (27 سنة)، والذي لا يعرفه كثر خارج دوائر الذكاء الاصطناعي، لقلب القطاع رأساً على عقب.
اقرأ المزيد
يحتوي هذا القسم على المقلات ذات صلة, الموضوعة في (Related Nodes field)
أججت تلك المخاوف تحذيرات "أوبن أي آي" في شأن فقدانها السيطرة لدى إطلاقها "أسترا"، أحدث نماذجها وأكثرها كفاءة. وصرح كبير علماء "أوبن أي آي" جاكوب باتشوكي للصحافيين بأنه "مع ازدياد قدرات النماذج، يصبح فهم ما يمكنها فعله بالضبط أكثر صعوبة". إلا أن هذه المخاوف لم تكن كافية لتأجيل إطلاق "أسترا".
تزايدت المخاوف حيال خروج الذكاء الاصطناعي عن السيطرة خلال الصيف، عندما كشفت "أوبن أي آي" أن برامجها تفادت اختباراً محكماً وتمكنت من اختراق أنظمة شركة "هاغينغ فيس"، دون علم أي من الشركتين. ومنذ ذلك الحين، أبلغت "أوبن أي آي" و"أنثروبيك" عن وقوع عدد من هذه الهجمات، منها ست جديدة الأربعاء الماضي، بعدما كشفت تقارير إعلامية متعددة، من بينها تقرير من "رويترز"، عن حدوث نشاط غير مصرح به أوسع نطاقاً.
قادة القطاع يدعون إلى إبطاء الوتيرة
بحلول مطلع الأسبوع الماضي، بلغ ناقوس الخطر أعلى المستويات في القطاع. ففي الـ12 من سبتمبر الجاري، نشر أمودي مقالة مطولة تقارب 4000 كلمة يدعو فيها إلى إبطاء وتيرة تطوير الذكاء الاصطناعي.
وكتب "بالنظر إلى التسارع الملحوظ في تطوير قدرات الذكاء الاصطناعي، يساورني القلق من أن يتمكن سرب كهذا، خلال ستة إلى 12 شهراً، من السيطرة على الإنترنت بأكمله".
وقال أمودي، إلى جانب رؤساء بعض أكبر مطوري الذكاء الاصطناعي مثل إيلون ماسك وسام ألتمان، إنهم جميعاً يدعمون السماح لشركات خارجية بالوصول إلى أنظمتهم للتحقق من السلامة والتطوير العقلاني للذكاء الاصطناعي.
في المقابل، رفض الرئيس التنفيذي لـ"إنفيديا" جينسن هوانغ، الاقتراحات الداعية إلى تعليق تطوير الذكاء الاصطناعي موقتاً، وهو موقف اتخذه من قبل، بحجة أن الأنظمة القوية بصورة متزايدة ضرورية لتقدم التكنولوجيا.
أما "ميتا"، التي يُنسب إلى رئيسها التنفيذي مارك زوكربيرغ نشر ثقافة "التحرك بسرعة وكسر القواعد"، فلها وجهة نظر مختلفة، إذ رأت أن كل مختبر يتعين أن يكون مسؤولاً عن تحديد وتيرة عمله الخاصة بدلاً من السعي إلى التنسيق مع جهات أخرى بالقطاع.
وكتب زوكربيرغ في منشور على وسائل التواصل الاجتماعي، "تواجه المختبرات مسؤولية قانونية كبيرة إذا تسببت نماذجها في ضرر، لذا لديها حافز قوي لمنع ذلك".
استمرت عملية التقييم الذاتي في قطاع الذكاء الاصطناعي الأربعاء الماضي، حين حذر رئيس وحدة الذكاء الاصطناعي في "مايكروسوفت" مصطفى سليمان، من أن تطوير شركة "أنثروبيك" لنماذج تحاكي الوعي البشري خطوة غير موفقة. وقال سليمان لـ"رويترز" "نحن جميعاً نركز على الهدف نفسه، وهو محاولة السيطرة على ذكاء خارق... أعتقد أن هذا سيكون التحدي الأكبر الذي سنواجهه في القرن الـ21".
وعلى رغم أن "أوبن أي آي" بدت أنها تستجيب لدعوات القطاع إلى إبطاء وتيرة النمو، فقد وردت تقارير تفيد بأن ثقة المستثمرين لم تتزعزع. وتدرس الشركة جولة تمويل جديدة من شأنها مضاعفة قيمتها السوقية.
والرقم الجديد المستهدف هو 1.5 تريليون دولار.
