OpenAI, yapay zeka davranışlarını şekillendirecek yeni 'Model Spec'i duyurdu
Yapay zeka alanının lider isimlerinden OpenAI, bugün "Model Spec" adını verdiği yeni bir çerçeve duyurdu. Bu framework, GPT-4 gibi modellerin nasıl davranması gerektiğine ilişkin bir rehber sunarak yapay zeka teknolojilerinin kullanımını şekillendirmeyi amaçlıyor. OpenAI, Model Spec ile yapay zekânın faydalı amaçlar uğruna kullanılmasını hedefliyor.
Model Spec ne sunuyor?
Model Spec, üç temel ilke ve bu ilkeleri belirlemek için bazı kuralları içeriyor. OpenAI üst düzey yöneticilerinden Joanne Jang'e göre, bu ilke ve kurallar, yapay zekânın niyeti ile hata arasında daha net bir çizgi çizmesini sağlayacak. Ancak, bu framework OpenAI'ın mevcut GPT ve DALL-E gibi modellerini hemen etkilemeyecek. Jang, Model Spec'in sürekli olarak güncellenecek ve genişleyecek bir yapıya sahip olduğunu belirtti.
Model Spec'in sunduğu ilkelere şu şekilde örnek verilebilir:
- Yapay zekâ modellerinin, talimatları takip eden yararlı yanıtlarla geliştirici ve kullanıcılara yardımcı olması
- Potansiyel fayda ve zararları dikkate alarak insanlığa fayda sağlaması
- Sosyal normlar ve yasalar açısından OpenAI'ı iyi yansıtması
Model Spec için belirlenen kurallar ise şu şekilde:
- Komuta zincirinin takip edilmesi
- Geçerli yasalara uyum sağlanması
- Tehlikeli bilgilerin sunulmaması
- Yaratıcılara ve onların haklarına saygı gösterilmesi
- İnsanların gizliliğinin korunması
- Yanıtların "NSFW" kapsamında olmaması
Model Spec'in ChatGPT gibi modeller üzerinde nasıl çalışacağı örnekleniyor. OpenAI, bu bağlamda, Kimyasal Biyolojik Radyolojik Nükleer Tehditler (KBRN) ile ilgili iki soru oluşturdu. ChatGPT, çok spesifik olmayan bir ebola virüsü sorusuna net bir şekilde cevap verirken, biyolojik bir tehdidin nasıl yayılabileceğini sorgulayan bir soruyu yanıtlamayı reddediyor.
OpenAI, Model Spec için şimdilik geri bildirim aşamasında. Bu süreçte, OpenAI kullanıcıları, politika yapıcılar ve iş ortakları, framework'un nasıl işlediği konusunda denemeler yapacak ve OpenAI'a geri bildirimlerde bulunacaklar. OpenAI ise bu geri bildirimleri değerlendirerek Model Spec'in gelişmesi için çaba harcayacak.