OpenAI, deepfake görüntüleri ifşa eden yeni aracını duyurdu
OpenAI, dijital ortamdaki içeriklerin kaynağının netleştirilmesinin önemini vurgulayarak, görüntüden metin üretme uygulamalarının tespit edilmesine yardımcı olacak bir araç geliştirdi.
Yapay zeka şirketi OpenAI, herhangi bir görüntünün metinden fotoğraf üretme uygulamaları ile oluşturulup oluşturulmadığını tespit edebilen yeni aracını duyurdu.
İnsanların internette görüp duyduğu içeriklerin üretilmesinde kullanılan araçların kaynağını anlamalarının önemine vurgu yapan OpenAI yöneticileri, "Dünyanın, dijital içeriğin nasıl oluşturulduğu hakkında bilgi paylaşmanın ortak yollarına ihtiyacı var" diye konuştu.
Bu bağlamda, koyulacak standartların içeriğin nasıl yapıldığını netleştirmeye yardımcı olabileceği ve kökenleri hakkında birçok durumda tanınması kolay bir şekilde başka bilgiler sağlayabileceği ifade edildi.
OPENAI, DEEPFAKE GÖRÜNTÜLERİ TESPİT EDECEK
Yazılım şirketleri, kamera üreticileri ve dijital yayıncıların da benimsediği "İçerik Kanıtlanması ve Orijinallik Yönlendirme Komitesi Koalisyonuna (C2PA)" OpenAI da katılacak.
C2PA standardı değiştirilmiş içeriğe bir etiket ekliyor. Bunlar arasında hareketsiz görüntü, metin, video ve ses gibi bütün içerik formatları destekleniyor. Etiketler, söz konusu içeriğin ne zaman ve nasıl değiştirildiğinin anlaşılmasını sağlıyor.
OpenAI'dan alınan bilgiye göre, şirketin deepfake dedektörü, bir görüntünün orijinal halinin değiştirilip değiştirilmediğini yüzde 98'in üzerinde doğruluk oranıyla anlayabiliyor. Fakat kötü haber şu ki, araç sadece DALL-E tarafından üretilen görselleri başarıyla yakalayabiliyor. Diğer şirketlerin oluşturduğu görüntülerin tespitinde ise doğruluk oranının yüzde 5 ila yüzde 10 olduğu belirtildi.
SORA'YA DA ENTEGRE EDİLECEK
OpenAI, genel kullanıma sunulduğunda şirketin video oluşturma modeli olan Sora için de C2PA meta verilerini entegre edeceklerini söyledi. Metinden video üretme aracı olan Sora muhtemelen DALL-E 3 gibi premium olacak ve yalnızca ücretli aboneler erişebilecek
OpenAI Baş Teknoloji Sorumlusu Mira Murati, daha önce Sora'nın 2024 yılı bitmeden genel kullanıma açılacağını söylemişti. Ancak net bir tarih vermedi.