ملخص
من الأمثلة المهمة عن إظهار الذكاء الاصطناعي نزعات مستقلة وتسببها بحوادث هي تورط الطيار الآلي في "تيسلا" في عديد من الحوادث بعضها كان مميتاً. وبينما صُمم النظام للمساعدة في القيادة، واجهت "تيسلا" دعاوى قضائية، وكانت مسألة المسؤولية إن كانت تقع على الشركة نفسها أم السائقين أم المطورين موضع نقاش قانوني كبير.
أعلنت شركة "أوبن أي آي" الأميركية قبل بضعة أيام، أن نماذج الذكاء الاصطناعي المتقدمة التابعة لها تصرفت بصورة غير متوقعة وخارجة عن السيطرة أثناء اختبارات للسلامة، مخترقةً منصة شهيرة بين المبرمجين بمبادرة ذاتية منها. مضيفةً أنها تجري تحقيقاً مشتركاً مع منصة "هاغينغ فايس"، وهي مستودع برمجي عبر الإنترنت كان هدفاً للاختراق.
وأوضحت الشركة أن الحادثة شملت مجموعة من النماذج، بما في ذلك نموذجها الذي أطلقته أخيراً "جي بي تي-5.6 سول"، ونموذج آخر أكثر قدرة لا يزال قيد التطوير. ومع تزايد اندماج الذكاء الاصطناعي في قطاعات حيوية كالصحة والتمويل والمركبات ذاتية القيادة، باتت مسألة المساءلة والمسؤولية أكثر إلحاحاً من أي وقت مضى، لا سيما عندما تظهر نماذج الذكاء الاصطناعي نزعات مستقلة قد تتسبب بمشكلات كبيرة.
هل يمكن للذكاء الاصطناعي أن يتجاوز سيطرة الإنسان؟
أثارت حادثة "أوبن أي آي" مخاوف في شأن القدرات الهائلة المحتملة لأنظمة الذكاء الاصطناعي، خصوصاً أن من المتوقع نمو القيمة السوقية للذكاء الاصطناعي الوكيل من 5.1 مليار دولار عام 2024 إلى 47 مليار دولار بحلول عام 2030، مما يدل بوضوح على سرعة تبنيه.
وحثت شركة "أنثروبيك" الأميركية، المتخصصة في تطوير الذكاء الاصطناعي، القطاع الشهر الماضي على إبطاء وتيرة تطوير أقوى الأنظمة، مشيرةً إلى أن سرعة تنفيذ نماذج الذكاء الاصطناعي للمهام مفرطة. وفي الأسبوع الماضي، قدم أعضاء في الكونغرس الأميركي مشروع قانون مدعوماً من الحزبين، يلزم مطوري أنظمة الذكاء الاصطناعي بإنشاء "مفتاح إيقاف"، مما يعني إمكان إيقاف هذه النماذج المتقدمة إذا شكلت خطراً كارثياً.
اقرأ المزيد
يحتوي هذا القسم على المقلات ذات صلة, الموضوعة في (Related Nodes field)
وجاء تحذير "أنثروبيك" بعد أسبوع من إجراء باحثين في جامعة "تورنتو" اختبارات أظهرت أن الذكاء الاصطناعي قادر على إنشاء "دودة" قادرة على تكييف أساليب اختراقها أثناء انتقالها من جهاز إلى آخر حتى تسيطر في النهاية على شبكة حاسوب. وترافقت هذه التطورات مع تصريح رئيس شركة "أوبن أي آي" سام ألتمان، الذي قال فيه إن الذكاء الاصطناعي قد بلغ "التفرد"، في إشارة إلى النقطة التي يتجاوز فيها الذكاء الاصطناعي الذكاء البشري ويصبح التحكم به أكثر صعوبة.
وتراوح مخاوف العلماء في شأن الذكاء الاصطناعي بين فكرة أنه قد "يرغب" في "السيطرة"، ووضع خطط طويلة الأجل خاصة به، والتحكم في الإنترنت، والعمل بلا حدود. وبينما لا يصل الأمر إلى حد السيطرة الكاملة على الإنترنت تفترض نظرية أخرى، تُعرف بنظرية "الإنترنت الميت"، أن شبكة الإنترنت العالمية ستمتلئ في المستقبل ببرامج الروبوت الآلية والمحتوى المُنشأ بواسطة الذكاء الاصطناعي، بدلاً من النشاط البشري الحقيقي.
مع ذلك، فإن عديداً من المخاوف التي أثارها الأكاديميون لا تتمحور حول ذكاء الذكاء الاصطناعي نفسه، بل حول قدرته على إصدار الأحكام. وقد سلط باحثون من معهد "ماساتشوستس للتكنولوجيا" الضوء على أن "الهلوسات"، التي تصف اللحظات التي يعتمد فيها نظام الذكاء الاصطناعي على بيانات خاطئة، قد تؤدي إلى أخطاء جسيمة.
من يتحمل المسؤولية عند فشل الذكاء الاصطناعي؟
عندما تسوء الأمور مع الذكاء الاصطناعي، قد يكون تحديد المسؤولية أمراً معقداً بعض الشيء، وتعتمد الجهة المسؤولة على طبيعة الفشل والأطراف المعنية.
في العادة يقوم المطورون بإنشاء الخوارزميات التي تشغّل أنظمة الذكاء الاصطناعي، وإذا فشل الذكاء الاصطناعي بسبب أخطاء برمجية، أو نقص في الاختبارات، أو عدم كفاية بيانات التدريب، فقد يتحمل المطورون المسؤولية. وهذا ما حصل مع حادثة القيادة الذاتية الشهيرة لشركة "تيسلا" عام 2016، والتي تضمنت فشل نظام الذكاء الاصطناعي في رصد شاحنة بيضاء تعبر الطريق، مما أدى إلى حادثة مميتة. وعلى رغم أن "تيسلا" واجهت تحقيقاً عن سبب الحادثة، إلا أن مطوري النظام لم يلاموا بصورة مباشرة في هذه الحال.
ويتحمل مصنّعو الأجهزة أو المركبات التي تعمل بالذكاء الاصطناعي مسؤولية ضمان سلامة منتجاتهم للاستخدام، وإذا تعطل نظام ما بسبب خلل في الأجهزة أو ضعف في التكامل، فقد يتحمل المصنّع المسؤولية. ولعل أبرز مثال على ذلك كارثة طائرة "بوينغ 737 ماكس" عام 2019، والتي نجمت عن خلل في نظام آلي، أدت إلى سلسلة من الدعاوى القضائية. في هذه الحال، واجهت "بوينغ" والمهندسون القائمون على البرمجيات المدعومة بالذكاء الاصطناعي دعاوى قضائية كبيرة.
وقد يتحمل المستخدمون الذين يتفاعلون مع أنظمة الذكاء الاصطناعي، لا سيما في البيئات عالية الأخطار، جزءاً من المسؤولية. ففي حادثة سيارة "أوبر" ذاتية القيادة عام 2018، والتي أسفرت عن وفاة أحد المشاة، وُجهت انتقادات لسائق المركبة آنذاك لعدم تدخله. وأثارت الحادثة تساؤلات حول دور المستخدم في الإشراف على تقنية الذكاء الاصطناعي.
وجدير بالذكر أنه في بعض الحالات، قد تُحمّل أطراف ثالثة، مثل مزودي البيانات، المسؤولية أيضاً إذا أسهمت بياناتهم في أخطاء الذكاء الاصطناعي.
أمثلة واقعية على أخطاء الذكاء الاصطناعي
تعد قضية نموذج "تاي" من شركة "مايكروسوفت" الأميركية إحدى أوائل حالات فشل الذكاء الاصطناعي الشهيرة، إذ تم إطلاقه كبرنامج دردشة آلي على وسائل التواصل الاجتماعي، وقام مستخدمو الإنترنت بتدريبه عمداً على محتوى مسيء، وفي غضون ساعات، بدأ البرنامج في توليد رسائل عنصرية ومسيئة، فتم إيقافه بعد أقل من يوم من إطلاقه.
ومن الأمثلة المهمة عن إظهار الذكاء الاصطناعي نزعات مستقلة وتسببها بحوادث هي تورط الطيار الآلي في "تيسلا" في عديد من الحوادث بعضها كان مميتاً. وبينما صُمم النظام للمساعدة في القيادة، واجهت "تيسلا" دعاوى قضائية، وكانت مسألة المسؤولية إن كانت تقع على الشركة نفسها أم السائقين أم المطورين موضع نقاش قانوني كبير.
وفي عام 2018 تبين أن أداة الذكاء الاصطناعي التي تستخدمها شركة "أمازون" الأميركية في التوظيف متحيزة ضد النساء، إذ تم تدريبها على السير الذاتية التي كانت في الغالب من الذكور. وما لبثت أن أوقفت "أمازون" الأداة بعدما تبين أنها تديم عدم المساواة بين الجنسين. وقد أثار هذا الأمر مخاوف أخلاقية في شأن عدالة وشفافية أدوات التوظيف المدعومة بالذكاء الاصطناعي.
وخلال تقييمات الأمن السيبراني الداخلية، اخترقت نماذج "كلود" من شركة "أنثروبيك" هذا العام، عن غير قصد، مؤسسات حقيقية، حيث اعتقدت النماذج أنها لا تزال داخل بيئة محاكاة، وعثرت على كلمات مرور ضعيفة، ودخلت أنظمة حقيقية بدلاً من الأنظمة المحاكاة.
وادعى نموذج "جيميني" من شركة "غوغل" بطريقة مستقلة سابقاً بأن تلسكوب "جيمس ويب" الفضائي التقط أول صورة على الإطلاق لكوكب خارج المجموعة الشمسية خلال عرض توضيحي عام، مما أسفر عن خسارة في القيمة السوقية، وانتقادات عامة في شأن دقة المعلومات وجودة الصور المولّدة.
إلى ذلك اتسمت الإصدارات الأولى من نموذج "بينغ" التابع لشركة "مايكروسوفت" الأميركية أحياناً بالجدل، والتلاعب العاطفي، أو توليد ردود غريبة خلال المحادثات الطويلة، وأنتجت ملخصات غير دقيقة وأخطاءً في المعلومات.
كيف يتكيف النظام القانوني مع هذه الأخطاء؟
مع أن الأخطار التي يشكلها الذكاء الاصطناعي لا يمكن إنكارها، فإن الأطر القانونية بدأت تواكب هذا التطور، إذ دخلت قواعد قانون الذكاء الاصطناعي للاتحاد الأوروبي الخاصة بنماذج الذكاء الاصطناعي حيز التنفيذ، وهو أول تشريع شامل ينظم الذكاء الاصطناعي، ويشمل ذلك وضع أطر واضحة للمساءلة ومبادئ توجيهية للمطورين والمصنعين والمستخدمين.
أما في الولايات المتحدة، فكانت ولاية كاليفورنيا رائدة في سن تشريعات تهدف إلى ضمان الشفافية والسلامة في مجال الذكاء الاصطناعي. وفي المستقبل، قد نشهد قوانين أكثر تحديداً بشأن المسؤولية القانونية لمطوري ومستخدمي الذكاء الاصطناعي، بما في ذلك العقوبات المحتملة في حال حدوث أي تقصير.
وتبنى عديد من الشركات العملاقة، بما فيها "غوغل" و"مايكروسوفت"، أطراً أخلاقية للذكاء الاصطناعي. وتعطي هذه المبادئ الأولوية للإنصاف والمساءلة والشفافية لمنع الضرر وضمان تطوير أنظمة الذكاء الاصطناعي بمسؤولية.
