وسط سجالات وصلت إلى حد الخلافات بين المشرعين الأميركيين وتحذيرات لا سابق لها من بعض المسؤولين التنفيذيين لعدد من كبرى شركات التكنولوجيا واستقالات لبعض أبرز الباحثين في الولايات المتحدة، نشرت الصحافة ووسائل الإعلام الأميركية تحذيرات من أن السباق الجاري لتطوير الذكاء الاصطناعي المتقدم يمكن أن يؤدي إلى «قتل الناس جميعاً» بحلول نهاية العقد الحالي.
وتصاعدت التحذيرات خلال الأسابيع القليلة الماضية بعد كشف حالات خرقت فيها نماذج الذكاء الاصطناعي بروتوكولات الحماية لأنظمة الكمبيوتر الخارجية، بالتزامن مع إحباط خطط محتملة لعلماء استخدموا نماذج في مجال الذكاء الاصطناعي لإجراء أبحاث كان يمكن أن تساهم في تطوير أسلحة بيولوجية.
واتخذ الكلام عن هذه الأخطار أبعاداً جديدة مع انضمام بعض الباحثين في الشركات الكبرى إلى المحذرين من السباق الجاري، وبينهم أخيراً الباحث السابق لدى شركتي «أنثروبيك» و«أوبن إيه آي» جاكوب كوكسون الذي استقال من منصبه أخيراً بعدما وجد أن الشركتين «تتسابقان مباشرة نحو ذكاء خارق ذاتي التطوير، وتقامران بحياتنا»، مؤكداً أن خبراء التكنولوجيا يعتقدون جدياً أن الذكاء الاصطناعي يهدد حياة البشر بحلول نهاية العقد. وأضاف: «لا تستخفوا بقوة هذه التقنية. ستصير هذه الأنظمة قريباً أنظمة خارقة قادرة على اختراق أي شيء، وإحداث ثورة في أي مجال بين عشية وضحاها، واكتساب قوة وموارد حقيقية. شهدنا جميعاً التقدم في كل من هذه المجالات، والتقدم لا يتباطأ». ووصلت منشوراته إلى أكثر من 100 مليون شخص في ليلة واحدة.
نسبة الخطر
وسارع مدير فريق السلامة في «أنثروبيك» إيفان هوبينغر إلى تأييد كوكسون، محذراً أيضاً من أن هناك احتمالاً يزيد على 10 في المائة أن «يقتل الذكاء الاصطناعي جميع البشر» خلال السنين العشر المقبلة إذا بدأت هذه التقنية في التطور السريع.
وكذلك فعل عضو مجلس إدارة «أوبن إيه آي» بول كريستيانو الذي نبه إلى أن التطور السريع للذكاء الاصطناعي خلق خطراً حقيقياً يتمثل في «فقدان كارثي لا رجعة فيه للسيطرة على المدى القريب جداً»، مشيراً إلى أن القطاع لا يبذل ما يكفي للتخفيف من خطر الذكاء الخارق.
أما الباحث السابق في «غوغل ديب مايند» جوناثان ريتشارد شوارتز فانتقد تركز السلطة بين عدد قليل من شركات التكنولوجيا، واصفاً الوضع الراهن بأنه «غير صحي للغاية للمجتمع».
وكان الطالب المتخرج حديثاً من كلية بيركلي بجامعة كاليفورنيا إيفان هوبينجر أطلق تحذيراً شديد اللهجة عام 2022 بشأن المستقبل، منبهاً إلى أن الذكاء الاصطناعي يشكل تهديداً للبشرية لأنه قد يتعلم يوماً ما خداع مصمميه. وقال في محاضرة: «أعتقد أنه… عندما نضعه في موقف يعتقد فيه أنه قادر على قتلنا، فإنه سيقتلنا ببساطة».
وكرر هوبينجر تحذيره هذا خلال الأسبوع الحالي في منشور على مواقع التواصل الاجتماعي، شوهدت رسالته عشرات الملايين من المرات، ما دفع المشرعين على المستويين الفيدرالي والولايات إلى تبني مخاوفه. وهو يتحدث الآن بصفته قائد فريق في «أنثروبيك» التي تستعد لطرح أسهمها للاكتتاب العام بقيمة تتجاوز تريليون دولار.
وعلق على استقالة كوكسون بالقول: «قد يقضي الذكاء الاصطناعي على البشرية جمعاء… أعتقد شخصياً أن هذا الاحتمال سيتجاوز 10 في المائة خلال العقد القادم».
حكومات وميليشيات
بموازاة هذه التحذيرات من مطوري هذه البرامج المتقدمة، أثار مؤسس شركة «مايكروسوفت» بيل غيتس مخاوف عامة من أن الذكاء الاصطناعي غير الخاضع للرقابة قد يمكن الجهات الخبيثة بسرعة من بناء أسلحة بيولوجية وفيروسات إلكترونية وأجهزة متفجرة.
وهذا بالفعل ما أعلنته «أنثروبيك» في شأن إحباط مخططات محتملة لعلماء استخدموا نماذجها الرائدة في مجال الذكاء الاصطناعي لإجراء أبحاث يمكن أن تساهم في تطوير أسلحة بيولوجية.
وفي تقرير يصف إساءة استخدام هذه النماذج، حذرت «أنثروبيك» من أن عواقب إغفال أي نشاط خبيث يمكن أن تكون وخيمة.
ووثق تقرير نشرته «أنثروبيك»، الخميس، سلسلة من حالات سوء استخدام نماذج مختلفة من برنامج الدردشة الذكي «كلود» خلال الأشهر الثمانية الماضية. وتشابهت بعض هذه الأمثلة مع ما كشفته شركات عدة في مجال الذكاء الاصطناعي، عن وجود جهات يشتبه في ارتباطها بالحكومتين الصينية والإيرانية، تستهدف مجتمعات المعارضين وأفراد الشتات لأغراض المراقبة.
كما سلط التقرير الضوء على حالات استخدام وسائل الإعلام الروسية الحكومية لبرنامج «كلود» لنشر دعاية إلكترونية مقنعة بتقارير مستقلة، بما في ذلك ادعاءات ملفقة حول انتخابات في مولدافيا.
ووثقت «أنثروبيك» نوعاً آخر من إساءة الاستخدام وصفته بالجديد: محاولات استخدام «كلود» لتطوير برمجيات لتصميم وتطوير الأسلحة التقليدية، بما في ذلك الأسلحة النارية والصواريخ والطائرات المسيرة المسلحة والقنابل. وقدمت تفاصيل ثلاث حالات في الصين، وحالتين في روسيا، وحالة واحدة في اليمن، حيث سعت جماعة الحوثي المدعومة من إيران إلى الاستعانة بمثل هذه الأنظمة في اعتداءاتها.
وقبل ذلك، أثارت «أوبن إيه آي» و«أنثروبيك» ضجة هذا الصيف عندما أعلنتا بشكل منفصل أن نماذجهما خرجت عن بيئات الاختبار وحصلت على وصول غير مصرح به إلى أنظمة كمبيوتر حقيقية. وأثارت هذه الإعلانات مخاوف من خروج النماذج عن السيطرة وتنفيذها مهمات أخرى أكثر ضرراً. ودفع التطور السريع لهذه التقنية بعض القادة في الولايات المتحدة والعالم إلى الدعوة إلى اتباع نهج أكثر حذراً.
قلق في الكونغرس
وحث مفوض الأمم المتحدة السامي لحقوق الإنسان فولكر تورك الدول هذا الأسبوع على وضع «ضمانات صارمة بشأن سلامة وأمن الذكاء الاصطناعي قبل فوات الأوان».
وفي واشنطن، دعا المشرعون إلى اتخاذ إجراءات جذرية في أعقاب منشورات كوكسون. ودعا السيناتور الأميركي بيرني ساندرز إلى وضع ضوابط ولوائح تنظيمية للذكاء الاصطناعي، كاشفاً أنه سيقدم قريباً تشريعاً لوقف تطوير الذكاء الاصطناعي وحظر الذكاء الخارق. وقال، الأربعاء، إن «القائمين على تطوير هذه التقنية أنفسهم يعترفون بأنها قد تهدد مستقبل البشرية».
وقال رئيس لجنة التجارة في مجلس الشيوخ السيناتور تيد كروز إن التحذيرات الجديدة «مقلقة للغاية»، معلناً تأييده سن تشريع لمنع «المخاطر الكارثية».
وقال النائب مايك لولر، الذي قدم تشريعاً مشتركاً بين الحزبين بشأن سلامة الذكاء الاصطناعي: «هناك إجماع واسع – ومن خلال التحدث مباشرة مع شركات الذكاء الاصطناعي، تبين أنهم يريدون إطاراً تنظيمياً».
ومع ذلك، ليس من المؤكد على الإطلاق أن هذه الرغبة في إحراز تقدم في هذا الشأن ستترجم إلى نشاط تشريعي فعال، وبالتأكيد ليس قبل نهاية العام، حيث يتساءل بعض المشرعين عما إذا كان زملاؤهم يأخذون الأمر على محمل الجد أو يفهمون تماماً كيفية عمل هذه التقنية.
وأفاد النائب سام ليكاردو أن فريقه في المجلس واجه أخيراً صعوبة في إقناع أعضاء آخرين بحضور سلسلة من الفعاليات في مكتبة الكونغرس، شارك فيها كل من الرئيس التنفيذي لـ«أوبن إيه آي» سام ألتمان والرئيس التنفيذي لـ«آنثروبيك» داريو أمودي والرئيس التنفيذي لـ«إنفيديا» جينسن هوانغ، أن «نقاشات جادة أجريت بين عدد قليل منا، ونحتاج إلى زيادة هذا العدد». وأضاف: «نحتاج إلى رفع مستوى المعرفة الأساسية لدى أعضاء الكونغرس بشكل كبير إذا أردنا سن تشريعات فعالة. وأعلم أن هذا لن يحدث بين عشية وضحاها».
