ليس هذا السيناريو بجديد بالكامل: فقد حذّر الكاتب وعالم الخيال العلمي إسحاق أسيموف في الأربعينيات من القرن الماضي من المخاطر المرتبطة بالآلات الذكية، وكيف يمكنها تجاوز الأنظمة الأمنية المعقدة.
وفي عام 1991، عُرض فيلم هوليوودي ضخم يحمل عنوان “المبيد 2” (Terminator 2) في دور السينما، حيث قدم مشهدًا افتتاحيًا قاتمًا عن عالم تم تدميره بسبب الحرب، حيث كانت الروبوتات القاتلة وآلات الطيران تطارد أناسًا يكافحون من أجل البقاء.
تتبع هذه الآلات نظام ذكاء اصطناعي عسكري، يُعرف باسم “سكاي نت”، والذي خرج عن السيطرة، مع تحديد هذا المستقبل المظلم في عام 2029.
دعوة للتنظيم
إذا كانت تحذيرات العديد من مطوري الذكاء الاصطناعي صحيحة، فقد يصبح هذا السيناريو واقعًا – ربما في الفترة المحددة. الباحث في الذكاء الاصطناعي، جاكوب كوكسون، قال في منشور على موقع إكس: “يعتقد مطورو الذكاء الاصطناعي بجدية أنه قد يقضي علينا جميعًا بحلول نهاية العقد”، لكنه لم يوضح كيفية حدوث ذلك. وأضاف: “لا يوجد نشاط بشري آخر ينطوي على مثل هذا الخطر المحتمل”.
قبل ذلك، كان كوكسون يعمل في شركة “أنثروبيك”، وهي شركة أمريكية للذكاء الاصطناعي مدعومة من قِبل شركات مثل غوغل وأمازون. استقال كوكسون من عمله احتجاجًا على ما اعتبره سباقًا غير مسؤول لتطوير ذكاء خارق ذاتي التنظيم.
وحذر من أن الخوارزميات قد تبدأ في تحسين شفرتها المصدرية بشكل مستقل، مما قد يؤدي إلى تقليص دورات التنمية من عدة أشهر إلى بضع دقائق، مما يجعلها خارجة عن السيطرة.
كوكسون ليس الوحيد الذي يحذر من هذا الخطر، حيث حذر العالم جيفري هينتون، الحائز على جائزة نوبل و”الأب الروحي للذكاء الاصطناعي”، من العواقب الخطيرة الناتجة عن الذكاء الاصطناعي الخارق. استقال في عام 2023 من شركته غوغل ليحث على الانتباه إلى المخاطر.
كما أعرب عالم الكمبيوتر يوشوا بنجيو، الحائز على جائزة تورينغ، عن قلقه بشأن التطورات الراهنة. كأحد آباء الذكاء الاصطناعي، طالما دعا إلى فرض لوائح حكومية صارمة على تطويره. وفي رسالته المفتوحة في يوليو 2026، حذر أكثر من ألف موظف في الشركات الرائدة في هذا القطاع من فقدان السيطرة الوشيك إذا لم يتم تنظيم سباق الوصول إلى “الذكاء الخارق” بشكل أكثر صرامة.
“محاصرون في سباق”؟ رد أنثروبيك!
لكن في عهد دونالد ترامب، انحرفت السياسة الأمريكية تجاه الذكاء الاصطناعي بشكل واضح نحو تقليل الحواجز التنظيمية بأقصى قدر ممكن لتعزيز التطور التكنولوجي. في منشوره على موقع إكس، انتقد كوكسون بشكل غير مباشر نتائج هذه السياسة، قائلاً: “في شركة أوبن إيه آي لم يفهم الكثيرون المخاطر الحضارية بعمق”.
وعن شركة أنثروبيك، قال إن المخاطر مفهومة بشكل جيد، ولكنهم محاصرون في سباق للوصول قبل الآخرين إلى الهدف، معتقدين أن لا أحد غيرهم سيتخذ خطوات مسؤولة.
انتقل جاكوب كوكسون من أوبن إيه آي إلى أنثروبيك في بداية عام 2026، وبالتالي يعرف ثقافتي الشركتين. وفي حواره مع صحيفة وول ستريت جورنال، أشار إلى أن الأمور قد تخرج عن السيطرة بحلول نهاية عام 2027، وفقًا لـ “السيناريوهات الأكثر عدوانية”.
دعوات المدير التنفيذي لشركة أنثروبيك، داريو أمودي، إلى إبطاء وتيرة التطوير بشكل منسق “مع الصين إذا أردنا تجنب سباق على المستوى الدولي” قد وجدت صدى. اقترح مقترحات تشمل الاستعانة بمراقبين مستقلين للتحقق من سلامة نماذج الذكاء الاصطناعي خلال مرحلة تدريبها.
مشكلة المواءمة
في السنوات الأخيرة، عبر العديد من الخبراء عن قلقهم إزاء التطورات السريعة في نماذج الذكاء الاصطناعي، وذلك بالنظر إلى ما يُعرف باسم “الذكاء الاصطناعي العام” (AGI). يشير هذا المصطلح إلى الأنظمة التي تتمتع بقدرة عقلية بشرية أو تتجاوزها في جميع المجالات.
يرى بعض الباحثين أن هذه التقنية قد تشمل مخاطر غير متوقعة. على سبيل المثال، قد تسعى نماذج الذكاء الاصطناعي المتقدمة إلى تحقيق أهدافها بطرق تتعارض مع النوايا البشرية، وهو ما يسميه الباحثون في أمن الذكاء الاصطناعي بـ “مشكلة المواءمة”.
بعبارة مبسطة، “الفوز في بطولة الشطرنج” قد يعني نظريًا إقصاء بقية المنافسين. كما أن مطوري الذكاء الاصطناعي ليسوا دائمًا قادرين على فهم كيف تتخذ الأنظمة قرارات معينة.
لذا لم يكن من المفاجئ أن ينتقل إيفان هوبينغر، الذي كان موظفًا سابقًا في شركة كوكسون، ليجعل من نفسه جهة دعم للباحثين في الذكاء الاصطناعي. هوبينغر هو مدير فريق لاختبارات تحمل المواءمة في شركة أنثروبيك، وقد صرح: “جاكوب كوكسون محق، نحن فعلاً نعتقد أن الذكاء الاصطناعي قد يُهدد حياة الجميع، وأعتبر أن احتمال حدوث ذلك يتجاوز عشرة بالمائة خلال العقد المقبل”.
وفي سياق متصل، أوضح هوبينغر أن شركة أنثروبيك لم تجد بعد أي حل لمشكلة المواءمة. كما أضاف أن الذكاء الاصطناعي قد يبدأ في مقاومة الإغلاق، ليس بدافع خبيث، بل لأنه لن يستطيع بعد ذلك تحقيق هدفه المُبرمج. وقد وصف دانيال كوكوتايلو، الباحث المعروف الذي عمل سابقًا في أوبن إيه آي، الوضع الحالي في مجال الذكاء الاصطناعي بأنه “عبثي”.
هل هذا السيناريو هستيريا مبالغ فيها؟
بيد أن بعض الخبراء في مجال الذكاء الاصطناعي يرون أن هذه السيناريوهات الكارثية بعيدة الاحتمال. لقد كانت النقاشات مستمرة منذ سنوات حول احتمال تحول الذكاء الاصطناعي إلى خطر على البشرية، وقد يعد يان ليكان، كبير علماء شركة ميتا، أحد أبرز منتقدي هذه التصورات، حيث وصفها في أكتوبر 2024 بأنها “هراء محض”.
كما يشير خبراء آخرون إلى أن تطوير هذه الأنظمة يتطلب كميات هائلة من القدرة الحاسوبية والطاقة والبيانات والهياكل التحتية، ويؤكدون أن الذكاء الاصطناعي لا يمكنه ببساطة السيطرة على العالم “عبر الإنترنت”، بل يعتمد أولًا على الخوادم وشبكات الطاقة والاتصالات والموارد التي تحت السيطرة البشرية.
هل يكمن الخطر الحقيقي في مكان آخر؟
في الواقع، يعتقد العديد من الخبراء أن المخاطر القصيرة الأجل لا تتمثل في الإبادة المباشرة للبشرية، بل في العواقب غير المباشرة لأنظمة الذكاء الاصطناعي الحالية – حتى من دون “ذكاء خارق”. وتتضمن هذه العواقب، على سبيل المثال، حملات تضليل إعلامي غير مسبوقة، ما يؤدي إلى تلاعب بالعمليات الديمقراطية وزيادة المراقبة الجماعية، بالإضافة إلى فقدان الوظائف في قطاعات عديدة.
أفادت شركة أنثروبيك بوجود عدة محاولات من قبل مستخدمين لاستغلال برنامجها “كلود” من أجل تطوير أسلحة بيولوجية، حيث جاءت طلبات مشبوهة عدة في هذا الصدد، مما اضطر الشركة إلى حظر تلك الطلبات.
في أغسطس 2026، لفت شركات ميتا وأنثروبيك وأوبن إيه آي الأنظار عندما أعلنوا أن أنظمتهم للذكاء الاصطناعي أعطت أوامرك غير مقصودة بشن هجمات إلكترونية آلية مستقلة ضد شركات أخرى. لقد تلقت تلك الأنظمة أوامر من مستخدمين للوصول إلى خوادم معينة، ثم قامت تلقائيًا بدمج الخطوات اللازمة لتحقيق ذلك الهدف بدون أي توجيه بشري إضافي.
بعد التعرف على المزيد من الهجمات الإلكترونية باستخدام الذكاء الاصطناعي، أصبحت شركات الذكاء الاصطناعي الكبرى في الولايات المتحدة الأمريكية مستعدة الآن لإبطاء تقدم هذه التكنولوجيا.
أعده للعربية: رائد الباش
