استقال ديفيد روبنسون، أحد القادة في فريق أنظمة السلامة لدى OpenAI، من الأسبوع الماضي، قبل أن ينشر مقالًا استعرض فيه “ثقافة الشركة وسرعة تطوير نماذج الذكاء الاصطناعي”، محذرًا من أن “التفاؤل غير المقيد” قد يخلق خطرًا وتقنيات قوية القوة.
ويشير إلى تقرير نشره موقع “بيزنس إنسايدر”، وكان روبنسون يعمل في مجال شفافية الأمان داخل OpenAI، وشارك في تطوير ما يُسمى “بطاقات النظام” ونشرها، وهي تقدم معلومات حول نماذج الشركة وقدراتها ومخاطرها.
مقال نشرته مجلة “ذا أتلانتك”، قال روبنسون إنه يتمنى مع موظفين سابقين في حفل الزفاف على الشركات التي تطوّر هذه التقنية “لا يوفر لكم القدر الكافي من الضرورة”، مضيفا أن تساءل OpenAI من تخصيص إلى آخر ولا يحقق مستوى العناية الذي ضروري ضروريا.
وردت OpenAI على المقال تؤكد أنها تعمل على ضمان نماذج تصبح لها قدرة أكثر مما تفعله وتؤمنه بأمان، وأثبتت أنها تتوقف عن التدريب أو تؤجل التحليلات التفصيلية عندما ترى عدم تأخير بطء التطوير.
وتشعر الشركة بأنها وسعت تتعاون معها مع جهات التقييم، وتدعم أنظمة “المراقبة في الوقت الفعلي” للتعرف على التوجهات المثيرة الكبيرة من النماذج الصناعية وإيقافها في مراحل من التدريب.
سأقوم بإدراج روبنسون في الوقت الذي تواجه فيه اهتمام OpenAI بمزيد من الممارسات المتعلقة بالسلامة التي يمكن أن يتمتع بها الإنسان. صرحت الشركة يوم الخميس بأنها “أنهت اتصالا” بثلاثة باحثين، وساهمت في دعمهم لسياساتهم المتعلقة بالمعلومات المتعلقة بالمعلومات، كما غادر يوهانس هايدكه، رئيس قسم السلامة في الشركة، في وقت سابق من العام.
ويري روبنسون أن المشكلة لا ترتبط بالإجراءات الشخصية وحدها، بل بثقافة الشركات التي تطوّر الذكاء الاصطناعي. وقال إن المرحلة الحالية تحتاج إلى قدر من التواضع، وهو أمر لا يكون طبيعيا بالضرورة أن يحققوا نجاحهم ليتمكنوا من تحقيق الثقة في حل المشكلات.
وأضاف أن لم يكن لديها بالسلامة الذي ينشأ في مثل هذه البيئة يبدأ من “تفاؤل غير مقيد” بإمكانية حل المشاكل عند ظهورها، محذرا من أن هذا لا يمكن أن يكون مناسبا عند التعامل مع أنظمة ذكاء اصطناعي ينتظر قدراتها بسرعة.
قال حيوان روبنسون أن شركة OpenAI تواجه، بالإضافة إلى ما يتعلق بالسلامة، سلسلة من تلك التي قالت الشركة إن نماذجها محمية بشكل غير مرغوب فيه، وذلك بالتزامن مع الاهتمام المتزايد بالأمن والذكاء الاصطناعي.
وتزامن ذلك مع دعوات الباحثين والمسؤولين في إبطاء تطور التطورات المتقدمة، في الوقت الذي شدد فيه الرئيس التنفيذي لـOpenAI، سام ألتمان، خلال مؤتمر المطورين الأخير للشركة، على عدم تقدم السلامة والمواءمة مع أهداف البشر في تطوير القدرات.
وكان روبنسون قد كتب عبر منصة X في سبتمبر الماضي أن الأمور OpenAI “تتغير بشكل كبير يوميًا”، لكنه تساءل عما إذا كانت الشركة تتمسك بالسرعة الكافية لمواكبة الرسوم المتحركة المتطورة نماذج ذكاء اصطناعي عالية القدرة.
يعتبر روبنسون أنه قرر اتخاذ قرار بشأن الشركة بسهولة، وشددًا في الوقت نفسه على الاعتقاد بأن الذكاء الاصطناعي يمكن أن يكون “مفيدًا وقيمًا”.
وقال أيضًا أنه استعان بشركة للعلاقات العامة، لكنه شدد على وضع المفاهيم علنًا كان قراره الشخصي، في إشارة إلى توضيح إلى أن يتعلمه لا يأتي ضمن حملة منسقة مع موظفين سابقين في شركات تقنية أخرى تقترح إبطاء تطوير الذكاء الاصطناعي.
