عمالقة الذكاء الاصطناعي يتفقون على إبطاء السباق

بعد أعوام من سباق محموم لتطوير نماذج ذكاء اصطناعي أكثر قوة وربحية، بدأ قادة أكبر شركات القطاع يضغطون على المكابح، فالرئيس التنفيذي لشركة "أنثروبيك" داريو أمودي، دعا إلى إبطاء وتيرة تطوير أكثر نماذج الذكاء الاصطناعي تقدماً، محذراً من أن قدرات التكنولوجيا تتطور بسرعة قد تجعل أخطارها تتجاوز قدرة الشركات على السيطرة عليها.

قال أمودي، في تدوينة مطولة نشرها السبت، إن شركته ستطبق إجراءات جديدة للسلامة، من بينها الاستعانة بمقيّمين مستقلين من أطراف ثالثة، داعياً في الوقت ذاته قطاع الذكاء الاصطناعي إلى دعم تباطؤ أوسع في وتيرة التطوير.

وسرعان ما تعهد الرئيس التنفيذي لشركة "أوبن أي آي"، سام ألتمان، بتبني اقتراح أمودي بشأن الاستعانة بـ"مقيمين مستقلين يتمتعون بإمكانية وصول مماثلة لتلك المتاحة للموظفين"، فيما كتب إيلون ماسك، الذي يدير شركة "إكس أي آي"، "داريو محق".

هل يمكن أن يتباطأ القطاع على رغم شراسة المنافسة؟

على رغم أن القادة الثلاثة حذروا على مدى أعوام من أخطار الذكاء الاصطناعي، فإن حدوث تباطؤ منسق فعلياً لا يكاد تكون له سابقة في صناعة شديدة التنافس، اعتادت تاريخياً على طرح منتج تلو الآخر بهدف زيادة تفاعل المستخدمين، والاستحواذ على حصة أكبر من السوق، وتحقيق نمو في المبيعات.

قال محللون إن المخاوف بشأن الأخطار الشديدة للذكاء الاصطناعي بدأت تدخل إلى التيار الرئيس، مدفوعة جزئياً باستقالة باحث في "أنثروبيك" هذا الأسبوع في واقعة حظيت باهتمام واسع، احتجاجاً على مخاوف وجودية من أن شركته تتصرف بصورة غير مسؤولة.

وكانت هذه أحدث حلقة في سلسلة من التحذيرات المتزايدة الخطورة الصادرة من داخل القطاع، التي تشير إلى أن الذكاء الاصطناعي يتطور بسرعة كبيرة لدرجة أنه يشكل تهديداً متنامياً للأمن القومي والاقتصاد العالمي.

لماذا تتزايد المخاوف من الذكاء الاصطناعي في أميركا؟

يتزامن تصاعد المخاوف المتعلقة بسلامة الذكاء الاصطناعي مع تزايد ردود الفعل الرافضة للتكنولوجيا في الولايات المتحدة، مدفوعة جزئياً بالاعتراضات على الضغط الذي تفرضه مراكز البيانات الجديدة على الموارد المحلية اللازمة لدعم هذه التكنولوجيا.

وأصبحت المخاوف من أن الذكاء الاصطناعي يرفع فواتير الكهرباء، وربما يؤدي إلى فقدان وظائف، قضية محورية في انتخابات التجديد النصفي المقررة في نوفمبر (تشرين الثاني) المقبل.

ولا يزال من غير الواضح إلى أي مدى ستمضي شركات الذكاء الاصطناعي التي تتنافس بشراسة في ما بينها وتواجه أيضاً منافسة قوية من الشركات الصينية في فرض قيود جديدة أو إجراءات إضافية للسلامة.

وقال كبير العلماء في شركة "ألفابت" والمؤسس المشارك لـ"غوغل ديب مايند"، ديميس هاسابيس، في منشور على منصة "إكس"، إن "الاتجاه صحيح" في مقال أمودي، لكنه أضاف أن "التفاصيل تحتاج إلى مزيد من العمل".

هل تسمح قوانين مكافحة الاحتكار بتنسيق التباطؤ؟

ليس واضحاً ما إذا كانت سلطات مكافحة الاحتكار ستسمح للشركات بإبطاء وتيرة التطوير بطريقة منسقة من نوع ما، وهناك أيضاً سؤال يتعلق بالأسواق، التي دفعتها موجة الحماس تجاه الذكاء الاصطناعي إلى مستويات قياسية جديدة: كيف سيتعامل المستثمرون المتعطشون لهوامش الربح والأرباح مع فكرة إبطاء وتيرة التطوير؟

أشار أمودي إلى عاملين رئيسيين وراء موقفه الأكثر حذراً: قدرة الذكاء الاصطناعي على تحسين نفسه، والحادثة الأخيرة التي تورطت فيها "أوبن أي آي" و"هاغينغ فيس"، إذ تعاون سرب من وكلاء الذكاء الاصطناعي لاختراق موقع إلكتروني تابع لطرف ثالث.

وكتب أمودي في تدوينة، "يجب أن نبطئ الوتيرة التي نحسن بها قدرات نماذج الذكاء الاصطناعي. سيظل التقدم يبدو سريعاً، وعلينا أن نستخدم الوقت الذي نكسبه بحكمة".

لكنه قال أيضاً إن أي تباطؤ يجب أن يوازن بين الأخطار وواقع المنافسة، وكتب أمودي "للتوضيح، لا يعني ضبط الوتيرة وقف تدريب النماذج أو التقدم التقني، إنما ضمان أن تأخذ الشركات الوقت الكافي لمواءمة نماذجها وتأمينها، وأن يتمكن المقيّمون المستقلون من التحقق من ذلك".

هل كانت تحذيرات الذكاء الاصطناعي مجرد استراتيجية؟

على مدار طفرة الذكاء الاصطناعي، حذر المسؤولون التنفيذيون في مختبرات الذكاء الاصطناعي الرائدة من الأخطار الوجودية المحتملة، وهي تحذيرات اعتبرها البعض أحياناً محاولات للترويج لقدرات منتجاتهم وتقديم أنفسهم باعتبارهم الجهات الأفضل لإدارة هذه التكنولوجيا. وكان أمودي نفسه قد قال في وقت سابق إن هناك احتمالاً بنسبة 25 في المئة أن "تسوء الأمور للغاية، للغاية".

لطالما قدمت "أنثروبيك" نفسها باعتبارها شركة تركز على تطوير الذكاء الاصطناعي بطريقة أكثر مسؤولية وأماناً، بهدف الحد من الأخطار المحتملة للتكنولوجيا وتعظيم فوائدها للمجتمع.

واتخذت الشركة في وقت سابق من هذا العام خطوات للحد من إطلاق نموذجها "ميثوس" بعد أن خلصت إلى أنه ينطوي على تهديدات فريدة للأمن السيبراني.

وقالت "أنثروبيك" في وقت سابق إن العالم يحتاج إلى نظام يتيح اتخاذ قرار جماعي بشأن موعد إبطاء العمل على هذه التكنولوجيا.

كيف يتنافسان على رغم تحذيراتهما من الأخطار؟

ظلت "أنثروبيك" عالقة في منافسة شرسة مع منافستها القديمة "أوبن أي آي" لتطوير نماذج أكثر تطوراً يمكنها أتمتة مهام أكثر تعقيداً وقيمة للعملاء من الشركات.

وقدمت الشركتان كلتاهما وثائق سرية تمهيداً للطرح العام، وسط توقعات بأن تبدأ "أنثروبيك" تداول أسهمها في "وول ستريت" في أقرب وقت هذا العام.

وقال ألتمان من "أوبن أي آي" إن هذا العام سيكون "توقيتاً غير حكيم" للطرح العام، موضحاً في مقابلة مع مجلة "فورتشن" نشرت السبت أن الإدراج لن يحدث قبل عام 2027. وأضاف "أعتقد أنه من غير المقبول أن نكون أمام احتمال يبلغ 10 في المئة، مثلاً، بأن نقتل الجميع بحلول نهاية العقد."

هل بدأ الذكاء الاصطناعي بالخروج عن السيطرة؟

بعد فترة وجيزة من الكشف عن حادثة الاختراق الأمني المرتبطة بـ"هاغينغ فيس"، أعلنت "أنثروبيك" أن نماذجها اخترقت ثلاث مؤسسات خلال اختبارات للأمن السيبراني، مما زاد المخاوف بشأن قدرة مختبرات الذكاء الاصطناعي على منع التكنولوجيا من الخروج عن السيطرة. وفي وقت سابق من هذا الأسبوع، قالت "أنثروبيك" إنها اكتشفت أيضاً اختراقاً رابعاً.

وعلى رغم أن أياً من عمليات الاختراق التي نفذها الذكاء الاصطناعي الوكيلي، بما في ذلك حادثة "هاغينغ فيس"، لم يتسبب حتى الآن في أضرار كبيرة، قال أمودي إن مصدر قلقه هو أنه "خلال 6 إلى 12 شهراً، قد يصبح مثل هذا السرب قادراً على الاستيلاء على الإنترنت بالكامل من خلال شبكة روبوتات مستمرة، مما قد يتسبب في أضرار تبلغ مئات المليارات من الدولارات، وأن حجم الأضرار سيواصل الارتفاع بعد ذلك".

كيف تريد "أنثروبيك" مراقبة سلامة نماذجها؟

كتب أمودي أن "أنثروبيك" ستلتزم منح المقيّمين المستقلين إمكانية وصول كاملة للتحقق من ممارسات السلامة والإبلاغ عن الحوادث. وقال إن الشركة ستستضيف قريباً هؤلاء "المقيّمين المدمجين" في مكاتبها، وستوفر لهم مكاتب وبطاقات تعريف وحواسيب محمولة تابعة للشركة و"صلاحيات مماثلة إلى حد كبير لتلك التي تتمتع بها فرق تقييم الأخطار الداخلية".

وأضاف أن الخطوات الإضافية ستتطلب تنسيقاً على مستوى القطاع بأكمله، إلى جانب تعاون دولي.

وكتب "ما زلت أؤمن بأن الذكاء الاصطناعي يمكن أن يحسن جودة حياة البشر بشكل هائل. ولم تتراجع رغبتي في تحقيق هذه الفوائد". وأضاف "لكن لن تتحقق هذه الفوائد إلا إذا طورنا التكنولوجيا بالطريقة الصحيحة، وما دمنا نستخدم الوقت الذي نكسبه بحكمة، فإن الأمر يستحق أن نتعامل مع تطويرها بدرجة استثنائية من التعمد والحذر لضمان فعل ذلك بالشكل الصحيح".

هل بدأت الشركات نفسها تطالب بالتباطؤ؟

في وقت سابق من هذا الأسبوع، قال ألتمان إن شركته تدرس إبطاء تطوير الذكاء الاصطناعي المتطور، ويفضل أن يحدث ذلك بالتنسيق مع القطاع الأوسع.

كبير العلماء في الشركة، ياكوب باتشوكي، نشر تحذيراً بشأن أخطار الذكاء الاصطناعي، قائلاً إنه يعتقد أن على الشركات "التنسيق لإبطاء التطوير المستقبلي عند الحاجة".

لماذا احتج باحثون على سباق الذكاء الاصطناعي؟

الثلاثاء الماضي، استقال جاكوب كوكسون، وهو باحث في مجال الذكاء الاصطناعي، واتهم شركتي "أنثروبيك" و"أوبن أي آي"، اللتين عمل فيهما سابقاً، بـ"المقامرة بحياتنا" من خلال السباق نحو تطوير ذكاء اصطناعي فائق الذكاء. وقال كوكسون في منشور على وسائل التواصل الاجتماعي إن الأشخاص الذين يطورون الذكاء الاصطناعي يعتقدون أنه يمكن أن "يقتلنا جميعاً بحلول نهاية العقد".

ورداً على ذلك، قال إيفان هوبينغر، وهو موظف حالي في "أنثروبيك"، إنه وزملاء آخرين في الشركة يشعرون بالفعل بالقلق من هذا السيناريو. وكتب على منصة "إكس"، "أعتقد شخصياً أن احتمال حدوث ذلك يتجاوز 10 في المئة خلال العقد المقبل".

هل يضغط الموظفون من أجل إبطاء الذكاء الاصطناعي؟

في يوليو (تموز) الماضي، وقع أكثر من 1000 موظف في كبرى شركات الذكاء الاصطناعي عريضة تطالب الحكومة الأميركية بدعم آلية من شأنها أن تساعد على "ضبط وتيرة" تطوير الذكاء الاصطناعي بشكل متعمد، لمنع التكنولوجيا من التقدم بسرعة أكبر من اللازم.

وتثبت نماذج الذكاء الاصطناعي قدرة متزايدة على تنفيذ عمليات اختراق من تلقاء نفسها، إذ أعلنت "أنثروبيك" و"أوبن أي آي" و"ميتا بلاتفورمز" جميعها في الأشهر الأخيرة أن نماذجها تمكنت من الخروج من بيئات الاختبار، والوصول إلى الإنترنت المفتوح، واختراق جهات حقيقية خلال الاختبارات.

هل يمكن لأميركا التنسيق من دون خسارة الذكاء الاصطناعي؟

كتب أمودي في تدوينته أن استراتيجية منسقة ستسمح لقادة قطاع الذكاء الاصطناعي في الولايات المتحدة باستكمال أعمال السلامة اللازمة من دون التضحية بأي ميزة تنافسية. وقال إن ذلك سيتطلب بعض الاستثناءات من قوانين مكافحة الاحتكار في الولايات المتحدة، للسماح للشركات بالتنسيق في مجالات محددة، إضافة إلى التعاون مع الصين.

ماذا لو أبطأت أميركا بينما واصلت الصين السباق؟

وكتب "إذا قمنا بتقييد قدراتنا في مجال الذكاء الاصطناعي بشكل كبير على أساس الاعتقاد بأن الصين ستفعل الشيء نفسه، ثم تراجعت الصين عن ذلك، فقد يكون الذكاء الاصطناعي قوياً إلى درجة أن هذا التراجع يمكن أن يؤدي إلى هيمنتها الجيوسياسية".

لكن إدارة الرئيس الأميركي دونالد ترمب أبدت حتى الآن اهتماماً محدوداً باستخدام أدواتها التنظيمية لوضع ضوابط على تطوير الذكاء الاصطناعي.