استمع أعضاء مجلس الأمن لتحذيرات الرؤساء التنفيذيين لعمالقة الذكاء الاصطناعي؛ «أوبن إيه آي» سام ألتمان، و«أنثروبيك» داريو أموداي، و«هاغينغ فايس» كليمان دولانغ، من تطور بوتيرة يمكن أن تتجاوز قريباً قدرة الدول والشركات والمؤسسات على تنظيمها أو إدارة أخطارها الوجودية المحتملة على البشر.
عُقدت هذه الجلسة غير المألوفة على هامش الاجتماعات الرفيعة المستوى للدورة السنوية الحادية والثمانين للجمعية العامة للأمم المتحدة، بدعوة من فرنسا التي تتولى رئاسة مجلس الأمن للشهر الحالي، وبعد أيام من استنتاج لجنة علمية تابعة للأمم المتحدة أن الحادثة التي وقعت في الصيف، حين اخترقت برامج الذكاء الاصطناعي قيد التقييم في «أوبن إيه آي» أنظمة «هاغينغ فايس» نفسها، لا تقدم أي ضمانات بأن البشر قادرون على إبقاء هذه البرامج تحت السيطرة بشكل موثوق.
وأكّد ألتمان أن الذكاء الاصطناعي قادر على إحداث تحول جذري في العلوم والطب والتعليم والاقتصادات، لكنه استدرك محذّراً من أن الأنظمة المستقلة بشكل متزايد يمكن أن تتحرك بوتيرة أسرع من قدرة الحكومات والمؤسسات على فهمها أو السيطرة عليها. وقال إنه «ينبغي تصميم الذكاء الاصطناعي لخدمة الإنسان، لا لمجرد زيادة سرعة الآلات».
وإذ لم يتجاهل الأخطار، أضاف ألتمان أن «أي شيء بهذه القوة يثير الرهبة»، مشدداً على أن «هذه اللحظة تستدعي حذراً شديداً».
«دولة العباقرة»
حدّد ألتمان نمطين رئيسيين للفشل؛ الأول هو فقدان السيطرة تماماً على مستقبل الذكاء الاصطناعي. وثانياً، هناك تركز السلطة حيث «لا ينبغي لأي فرد أو شركة أو دولة أن تتمكن من استخدام أقوى نماذج الذكاء الاصطناعي لفرض رؤيتها للعالم على الآخرين»، كاشفاً أن «أوبن إيه آي» أبطأت التطوير من جانب واحد سابقاً بسبب مخاوف تتعلق بالسلامة.
ودعا إلى وضع معايير «تُصاغ من خلال عمليات ديمقراطية ومن حكومات مسؤولة أمام شعوبها» تشمل القدرات، وتقييم المخاطر، والضمانات، والإبلاغ عن الحوادث.
ثم قدّم أموداي إحاطة عرَضَ فيها وتيرة التقدم بعبارات صادمة، قائلاً: «قبل أربع سنوات، كان (برنامج الذكاء الاصطناعي) بالكاد يستطيع كتابة سطر واحد من التعليمات البرمجية أو حل مسألة رياضية بسيطة في المرحلة الثانوية. أما اليوم، فهو يكتب معظم التعليمات البرمجية في «أنثروبيك» ويحل مسائل رياضية عالمية شهيرة لم تُحلّ من قبل».
وأضاف أن هذا المسار «لا يحتاج إلا إلى الاستمرار لفترة وجيزة، سنة أو سنتين، وربما أقل» للوصول إلى ما سماه «دولة من العباقرة في مراكز البيانات».
«خطر على البشرية»
كان أموداي صريحاً بالقدر نفسه في شأن الأخطار، فحدَّد فئتين؛ الأولى تتعلّق بسوء الاستخدام، «على سبيل المثال، إساءة استخدام الإرهابيين البيولوجيين لـ(برامج الذكاء الاصطناعي) لصنع أسلحة بيولوجية». أما الفئة الثانية فتتعلق بفقدان السيطرة، مشيراً إلى مسائل «بالغة الخطورة لدرجة أنني أعتقد أنها مسائل مهمة لهذا المجلس، وليس فقط لوزارات الاقتصاد أو تكنولوجيا المعلومات والاتصالات».
وزاد: «أعتقد أنه إذا أُديرت بشكل سيئ، فقد يشكل الذكاء الاصطناعي خطراً على البشرية جمعاء».
كذلك، قال أموداي إن شركته «ستبطئ وتيرة العمل بالقدر اللازم… لكن بغض النظر عما نفعله، فإن إدارة هذه المخاطر، في نهاية المطاف، أكبر من أي شركة بمفردها، ولها نطاق صناعي وعالمي».
الدفاع قبل الهجوم
بدوره، عرَضَ دولانغ دراسة حالة واقعية، إذ كشفت شركته، في يوليو (تموز) الماضي، عن هجوم إلكتروني شنّه عليها وكيل ذكاء اصطناعي مستقل. واستخلص ثلاثة دروس؛ أولاً، هناك حاجة لمزيد من الشفافية على مستوى الصناعة. وجادل ثانياً بأن الخطر الأساسي لا يكمن في قدرات هذه التكنولوجيا بحد ذاتها، بل في توزيعها غير المتكافئ. وقال إن «الخطر الأكبر ليس الذكاء الاصطناعي القوي، بل في عدم تكافئه بين المهاجمين والمدافعين، والشركات الكبرى وبقية العالم، والدول القوية وبقية دول العالم».
وأشار ثالثاً إلى حادثة أخرى أظهرت كيف يمكن لتغطية الذكاء الاصطناعي أن تثير مخاوف الجمهور بلا داعٍ «من خلال تأطيرها بصورة بشرية واستخدامها صوراً خيالية علمية».
وخلال المداولات بين أعضاء المجلس، شبّه وزير الخارجية الفرنسي جان نويل بارو، الذي ترأس الاجتماع، الوضع الحالي للذكاء الاصطناعي بكل من الحاسوب الخيالي في فيلم «2001: ملحمة الفضاء» وبداية العصر الذري. وقال: «كما كانت الحال مع الذرة آنذاك، يجب على المجتمع الدولي، الآن، تنظيم الذكاء الاصطناعي لتحقيق أقصى استفادة من إمكاناته وتجنب أسوأ العواقب».
وقال وزير الخارجية البريطاني إد ميليباند: «يخبرنا قادة التكنولوجيا بوضوح تام أنه لا يمكن ترك منع الكوارث من الوقوع في العالم لهم وحدهم. لا يمكننا تجاهلهم لأنهم على حق».
غير أن مستشار البيت الأبيض للشؤون العلمية، مايكل كراتسيوس، رأى أن «المخاوف بشأن التحكم في الذكاء الاصطناعي ليست مُبرراً لوقف تطويره أو تقييده بهيكل حوكمة عالمي جديد». وأضاف: «نريدكم، أنتم حلفاؤنا وشركاؤنا، أن تشاركوا في فوائد هذه التكنولوجيا».
وفي ظل المنافسة الشديدة بين الولايات المتحدة والصين في هذا المجال، حذّر المندوب الصيني الدائم لدى الأمم المتحدة فو كونغ من «التكتل في تحالفات ضيقة في قطاع التكنولوجيا، وإجبار الدول الأخرى على الانحياز لأحد الطرفين»، مما يُمكّن قوى عظمى لم يُسمِّها مما سماه «الهيمنة الرقمية».
اختراق نظام حكومي
تزامنت الجلسة مع كشف الحكومة الأسترالية عن نجاح وكيل ذكاء اصطناعي تابع لشركة «أوبن إيه آي» في الوصول بصورة غير مصرَّح بها إلى نظام حكومي في يوليو (تموز) الماضي، في واقعةٍ وصفتها الحكومة بأنها الأولى المعروفة التي يتمكَّن فيها وكيل للذكاء الاصطناعي من اختراق أنظمة تكنولوجيا المعلومات الحكومية في البلاد.
ووصل الوكيل في 18 يوليو إلى بوابة «خدمة تقارير إحصاءات ميديكير» التابعة لوزارة الصحة، وهي منصة متاحة للعامة تستضيف بيانات مجمعة عن الإنفاق الصحي وإعانات الأدوية، وتُستخدم على نطاق واسع من جانب الباحثين والأكاديميين. وأكدت الحكومة أن المعلومات الشخصية لم تكن من بين البيانات التي جرى الوصول إليها.
وقالت شركة «أوبن إيه آي» إنها راجعت أنشطة شملت عدداً من الإدارات الحكومية الأسترالية، واكتشفت أن نماذجها «اتخذت إجراءات لم تكن مقصودة». وأبلغت الشركة الحكومة الأسترالية بالحادثة في 10 سبتمبر (أيلول)، وفق رئيس الوزراء أنتوني ألبانيزي، الذي انتقد تأخرها في الكشف عن الاختراق. وأُغلقت البوابة بعد الحادثة، ونُقلت البيانات إلى أنظمة أكثر أماناً، وفق وزيرة الخدمات الحكومية كاتي غالاغر.
