سام ألتمان يرأس فريق السلامة الجديد في OpenAI
أنشأت OpenAI لجنة جديدة للسلامة والأمن بعد أقل من أسبوعين من حل الشركة للفريق المكلف بحماية البشرية من التهديدات الوجودية للذكاء الاصطناعي.
سيشمل هذا التكرار الأخير للمجموعة المسؤولة عن حواجز السلامة في OpenAI اثنين من أعضاء مجلس الإدارة والرئيس التنفيذي Sam Altman، مما يثير تساؤلات حول ما إذا كانت هذه الخطوة ليست أكثر من مجرد مسرحية للشرطة الذاتية وسط سباق محموم من أجل الربح والهيمنة جنبًا إلى جنب مع شريك Microsoft.
سيقود لجنة السلامة والأمن، التي شكلها مجلس إدارة OpenAI، أعضاء مجلس الإدارة بريت تايلور (الرئيس)، ونيكول سيليجمان، وآدم دانجيلو، وسام ألتمان (الرئيس التنفيذي).
يتبع الفريق الجديد استقالة المؤسس المشارك إيليا سوتسكيفر وجان ليك رفيعة المستوى، والتي أثارت الكثير من الدهشة. تم إنشاء "فريق Superalignment" السابق الخاص بهم في شهر يوليو الماضي فقط.
بعد استقالته، كتب لايكي في سلسلة تغريدات على موقع X (تويتر) في 17 مايو أنه على الرغم من إيمانه بالمهمة الأساسية للشركة، إلا أنه غادر لأن الجانبين (المنتج والسلامة) "وصلا إلى نقطة الانهيار". وأضاف لايكي أنه "يشعر بالقلق من أننا لسنا على مسار" لمعالجة القضايا المتعلقة بالسلامة بشكل مناسب مع نمو الذكاء الاصطناعي بشكل أكثر ذكاءً. لقد نشر أن فريق Superalignment كان مؤخرًا "يبحر ضد الريح" داخل الشركة وأن "ثقافة السلامة والعمليات قد تراجعت أمام المنتجات اللامعة".
قد يكون الأمر الساخر هو أن الشركة التي تركز في المقام الأول على "المنتجات اللامعة" - بينما تحاول درء ضربة العلاقات العامة المتمثلة في مغادرة مسؤولين رفيعي المستوى للسلامة - قد تنشئ فريق سلامة جديدًا بقيادة نفس الأشخاص الذين يسرعون نحو تلك المنتجات اللامعة.
لم تكن عمليات المغادرة المتعلقة بالسلامة في وقت سابق من هذا الشهر هي الأخبار الوحيدة المثيرة للقلق الصادرة عن الشركة مؤخرًا. كما أطلقت (وسحبت بسرعة) نموذجًا صوتيًا جديدًا بدا بشكل ملحوظ مثل المرشحة لجائزة الأوسكار مرتين سكارليت جوهانسون. كشفت ممثلة Jojo Rabbit بعد ذلك أن OpenAI Sam Altman طلبت موافقتها على استخدام صوتها لتدريب نموذج للذكاء الاصطناعي لكنها رفضت.
وفي بيان لموقع Engadget، قال فريق جوهانسون إنها صدمت من أن OpenAI ستلقي موهبة صوتية "بدت مشابهة لها بشكل مخيف" بعد الحصول على ترخيصها. وأضاف البيان أن "أقرب أصدقاء يوهانسون ووسائل الإعلام لم يتمكنوا من معرفة الفرق".
تراجعت شركة OpenAI أيضًا عن اتفاقيات عدم الاستخفاف التي كانت تطلبها من المديرين التنفيذيين المغادرين، وغيرت لهجتها لتقول إنها لن تنفذها. قبل ذلك، أجبرت الشركة الموظفين المغادرين على الاختيار بين القدرة على التحدث ضد الشركة والحفاظ على الأسهم المكتسبة التي حصلوا عليها.
تخطط لجنة السلامة والأمن "لتقييم ومواصلة تطوير" عمليات الشركة وضماناتها على مدار التسعين يومًا القادمة. بعد ذلك، ستقوم المجموعة بمشاركة توصياتها مع مجلس الإدارة بأكمله. وبعد أن يقوم فريق القيادة بأكمله بمراجعة استنتاجاته، فإنه "سوف يقوم بمشاركة تحديث التوصيات المعتمدة بشكل علني بطريقة تتفق مع السلامة والأمن".
في منشور مدونتها للإعلان عن لجنة السلامة والأمن الجديدة، أكدت OpenAI أن الشركة تقوم حاليًا بتدريب نموذجها التالي، والذي سيخلف GPT-4. وكتبت الشركة: "في حين أننا فخورون ببناء وإصدار نماذج رائدة في الصناعة من حيث القدرات والسلامة، فإننا نرحب بالنقاش القوي في هذه اللحظة المهمة".