حذّرت شركة مايكروسوفت من العديد من العملاء الأمنيين المتزايدين لوكلاء الذكاء الاصطناعي داخل الشركات، دائماً أن التعاونيات المتقدمة لا يمكن الاعتماد عليها بالكامل، حتى عندما تطوّرها شركات متخصصة. بنيت الشركة عن أدوات مراقبة جديدة لهؤلاء الوكلاء، وتقييد صلاحياتهم، عدة منها قد تنجم عنهم.
وكيل مايكروسوفت المتخصص “Guardian Agents” وكلاء وكلاء الذكاء الاصطناعي الذين يستخدمونهم. وتنضم إلى مشروع “Project Perception” الذي أطلقته الشركة في يونيو الماضي لتعزيز القدرات الأمنية السيبراني والذكاء الاصطناعي.
ويعتمد مشروع “تصور المشروع” عند تخصيصه بثلاثة أنواع من الوكلاء؛ وهم فريق أحمر يحيي الكوارثين ويختبر عبر شنت الهجمات عليها، والفريق الأزرق يرصد ويكرم المكافأة الأمنية، وفريق الأخضر يتولى هذه المكافأة.
واستهدف المشروع في البداية مواجهة نيويورك، بما في ذلك قدرات اختراق الاختراق المتقدمة بنماذج مثل Mythos وFable من شركة أنثروبيك، برنامج “Daybreak” الذي تطوّره OpenAI لفحص الدبلوماسي الأمني.
لكن مايكروسوفت باتت تذّر من مصدر الخطر الأخير، وهو وكلاء الذكاء الاصطناعي الذين ينشرونهم داخل المؤسسات أنظمتها، إذ قد يشتركون بصورة غير متوقعة، أو يتنوعون تضر بالبيانات الاجتماعية الحساسة. ويشبه هذا السيناريو ما لا تستهدفه باسم “التهديد الداخلي”، عندما يستغل موظف صلاحياته للأضرار بالمؤسسة.
وحذّر الرئيس التنفيذي لمايكروسوفت، ساتيا ناديلا، في مقالة خاصة ولم يتم تحديدها إلا، من الاعتماد الكامل على ضمانات الأمان التي توفر الشركات المطوّرة لعملاء الذكاء الاصطناعي، وطالبوا بإنشاء أنظمة مستقلة لمراقبتهم باستثناء ما لهم.
إن المعرفة بناديلا أن نطاقاتها واسعة النطاق ويمكنكم الوصول إلى بيانات شديدة للغاية، بالإضافة إلى صلاحيات تنفيذ عمليات ذات أهمية، مما يجعلكم مسؤولين عن مراقبتها والتحكم بها حتى تتمكنوا من إدارتها بالكامل للشركات المطوّرة.
لماذا لا يمكن الوثوق بالنماذج المتقدمة؟
قالت هاييتيه جالوت، منذ فترة طويلة عن قطاع في مايكروسوفت، إن التطورات المتقدمة لا يمكن الوثوق بها بشكل كامل، وفصل النظر عن المدخل الذي تطوّرها.
تسوية أن المشكلة لا تضع بالضرورة في كون هذه الاكتشافات خبيثة أو سهولة كلمة المرور، بل في توقع التنبؤ بسلوكها؛ إذ تُدرّب على إنجاز المهام، وليس بالضرورة الالتزام بمعايير المجالات أو تحديد التفاصيل مع المتطلبات الخاصة بها.
وتتزايد أعداد كبيرة من الوكلاء على صلاحيات واسعة النطاق للوصول إلى البيانات والأنظمة، حيث قد يتسببون في حدوث خطأ في إحداث أضرار خطيرة أو تشغيل أدوات كبيرة.
وتوسّع مايكروسوفت لها أدوات أمنية لمساعدة المؤسسات على التحكم في هذه المجموعة المتعددة، بالإضافة إلى الإضافات الجديدة “Guardian Agents”، بالإضافة إلى تحديثات خدمة Microsoft Defender.
وتستطيع ابتكار وكلاء في Microsoft Defender رصد ما يصل إلى 60 وكلاء الذكاء الاصطناعي الذين يستخدمونهم، ومنهم Claude Code وCodex وOpenClaw.
كمات ألوان الشركة أدوات لتقييد وصول الوكلاء إلى البيانات والأنظمة، وتعديل صلاحياتهم حسب طبيعة المهمة الموكلة لذلك. وهذه الأدوات موافقة موافقة بشرية عندما يرصد النظام تماما كموافقة قانونية.
ويفتح هذا التوجه أمام فرصة جديدة لتعزيز مبيعاتها الأمنية والسحابية، رغم علاقاتها الاستثمارية والتجارية في بروكسل مع OpenAI وأنثروبيك، وامتلاكها مختبرًا خاصًا ونماذج الذكاء الاصطناعي.
وتستند إلى بداية الشركة إلى فصل لأن تطوّر وكلاء الذكاء الاصطناعي عنهم منذ أن تراقبهم وتنشط بهم، على تفعيل استقلالية المتبرعين عن الأنشطة التي تسمح بعدم السماح لها بالتحكم.
ولا تتخذ هذا التوجه على مايكروسوفت؛ إذ انضمت الشركة إلى الأعضاء المحليين لمنصة “Open Agent Safety Platform” التي أطلقتها إنفيديا، وحظيت بدعم أكثر من 100 شركة تقنية. عزل الوكلاء داخل المنصة بيئات آمنة، وتحكمهم، وإمكانية التحكم في المخاطر الناجمة عن تأثيرها عبر التنبيه العصبي.
