OpenAI’ın yeni güvenlik komitesi tepki çekti!
Yapay zeka şirketi OpenAI ’ın yeni güvenlik komitesi üyelerinin yalnızca şirket içinden seçilmesi şüphe uyandırdı.
OpenAI, projeleri ve operasyonlarıyla ilgili kritik güvenlik ve emniyet kararlarını denetlemek için yeni bir komitesi kurdu. Komite, CEO Sam Altman ve diğer üst düzey yöneticilerden oluşuyor. Bu da büyük soru işaretleri meydana getirdi.
OpenAI, şirket içinden isimlerle güvenlik komitesi kurdu
OpenAI’nin yeni Güvenlik ve Emniyet Komitesi, şirketin CEO’su Sam Altman, yönetim kurulu üyeleri Bret Taylor, Adam D’Angelo ve Nicole Seligman, baş bilimci Jakub Pachocki, hazırlık ekibinin lideri Aleksander Madry, güvenlik sistemleri başkanı Lilian Weng, güvenlik başkanı Matt Knight ve uyum bilimi başkanı John Schulman’dan oluşuyor.
Bu komite, önümüzdeki 90 gün boyunca OpenAI’nin güvenlik süreçlerini ve önlemlerini değerlendirecek. Değerlendirmeler sonuçlandığında, bulgular ve öneriler yönetim kuruluna sunulacak ve bazı öneriler halka açıklanacak.
OpenAI, son birkaç ay içinde güvenlik ekibinden yüksek profilli birkaç ayrılık yaşadı. Eski çalışanlar, şirketin yapay zeka güvenliği konusundaki önceliklerini sorguladı. Daniel Kokotajlo, şirketin giderek daha yetenekli yapay zekaları sorumlu bir şekilde kullanacağına olan inancını yitirdiği için Nisan ayında istifa etti.
ÖNE ÇIKAN VİDEO
Mayıs ayında ise OpenAI kurucularından ve baş bilimci olan Ilya Sutskever, CEO Sam Altman ile yaşanan anlaşmazlıklar nedeniyle şirketten ayrıldı. Sutskever’in ayrılığında, Altman’ın güvenlik çalışmalarını ihmal ederek yapay zeka ürünlerini hızla piyasaya sürme çabasının rol oynadığı iddia edildi.
Daha yakın bir zamanda Jan Leike, ChatGPT ve InstructGPT’nin geliştirilmesinde rol almış eski bir DeepMind araştırmacısı, OpenAI’nin güvenlik ve emniyet konularını doğru bir şekilde ele almadığını düşündüğü için görevinden ayrıldı.
Yapay zeka politikası araştırmacısı Gretchen Krueger de benzer endişelerle şirketten ayrıldı ve OpenAI’yi hesap verebilirliğini ve şeffaflığını artırmaya çağırdı.
OpenAI, yapay zeka düzenlemesi için savunuculuk yaparken, bu düzenlemeleri şekillendirmeye de çalıştı. Şirket, bu amaçla lobi faaliyetlerine ciddi kaynaklar ayırdı. Ayrıca, ABD İç Güvenlik Bakanlığı’nın yeni kurulan Yapay Zeka Güvenlik ve Emniyet Kurulu’nda yer alacak üyeler arasında Altman da bulunuyor.
OpenAI, etik açıdan eleştirilen komite yapısını dengelemek amacıyla dış uzmanlar da istihdam edeceğini duyurdu. Bu uzmanlar arasında siber güvenlik uzmanı Rob Joyce ve eski ABD Adalet Bakanlığı yetkilisi John Carlin yer alıyor. Ancak, bu dış uzman grubunun büyüklüğü ve komite üzerindeki etkisi hakkında ayrıntılar verilmedi.
Bloomberg yazarı Parmy Olson, şirket içi denetim kurullarının genellikle gerçek denetim işlevi görmediğini belirtti. OpenAI, komite aracılığıyla geçerli eleştirileri ele almayı planladığını söylese de, bu eleştirilerin geçerli olup olmadığı tartışmalı.
Teknoloji
Microsoft'tan ambargo: Bu kez de Kuzey Kore, Çin, Rusya, İran menşeili ChatGPT'ye erişim yasağı geldi
Teknoloji
Türkiye'den peş peşe yapay zeka adımları! Türk şirketi ChatGPT'ye rakip oldu! Yeni dönem sinyali, sürpriz gelişme