Google’ın arama kısmına entegre ettiği yeni yapay zeka özelliklerinin kullanıcıları yanlış bilgiye yönlendirdiği ortaya çıktı. Söz konusu hatalar sosyal medyada tartışma konusu haline geldi.
Oldukça sakıncalı ilk yardım tavsiyelerinden zararlı yemek tariflerine kadar birçok konuda Google’ın yapay zekasının kullanıcıları yanlış yönlendirdiği bildirildi.
Google, geçtiğimiz 14 Mayıs’ta düzenlediği geliştirici konferansı Google I/O 2014’te yapay zeka odaklı bir dizi yeni özelliğini duyurmuştu. Bunlar arasında en çok konuşulanlardan biri de Gemini tabanlı “AI Overviews” (Yapay Zeka Genel Bakış) adındaki yeni yapay zeka tabanlı yeni arama özelliği olmuştu.
Google Arama’ya entegre edilen bu yeni yapay zeka özelliğine göre Google, yapılan arama sorgularında kullanıcılara artık doğrudan internet sitelerini göstermek yerine yapay zeka tarafından oluşturulan cevapları özet olarak sunacak. Buna göre örneğin “karnıyarık tarifi” şeklinde bir arama yaptığınızda, arama sonuçları sayfasının en üst kısmında yemek tarifleri veren siteler yerine, AI Overviews alanında yapay zeka tarafından oluşturulmuş bir karnıyarık tarifi göreceksiniz.
Etkinlik sonrasında bu özellikler medyada yankı yarattı ve birçok kişi tarafından eleştirildi. Özellikle Google’ın yapay zekasının verdiği bilgilerin doğruluğundan nasıl emin olunacağı konusunda birçok yorum yapıldı. Bugün ise kullanıcıların bu endişelerinin ne kadar yerinde olduğunu görüyoruz.
Öyle ki, şimdiye kadar alınan sonuçlar pek parlak değil. İlk olarak ABD’de kullanıma sunulmaya başlanan bu özellik, kullanıcıların şimdiden Google’dan nefret etmesine sebep oldu. Yüzlerce kullanıcı Google’ın yeni yapay zeka sonuçlarının doğru bilgi vermediğini; hatta sakıncalı sonuçlar ile insanları yanlış yönlendirdiği konusunda şikayette bulundu.
Bunlardan biri The Verge sitesinin kaleme aldığı “pizzaya yapıştırıcı ekleme” fiyaskosu oldu. Bir kullanıcı, evde pizza yaparken peynirin kayıp düşmesi üzerine öneri almak için Google’da arama yaptı. Google’ın yapay zekası ise arama yapan kullanıcıya öneri olarak yapıştırıcı kullanmasını önerdi.
“Sosa biraz yapışkanlık katmak için Elmer tutkalı gibi yaklaşık 1/8 fincan toksik olmayan bir yapıştırıcı ekleyin”
Bu cevabın kaynağının ise aslında 11 yıl önce “fucksmith” adlı bir Reddit kullanıcısının mizahı bir amaçla verdiği bir cevap olduğu ortaya çıktı. Bu da verilerini kullanmak için Google’ın Reddit ile yaptığı 60 milyon dolarlık anlaşmayı akıllara getirdi. Anlaşmanın ardından bir bilgi kaynağı olarak Reddit’in kullanılmasının ne kadar doğru olacağı endişeleri de böylece gerçeğe dönüşmüş oldu.
Google’ın AI Overviews özelliğinin yanıltıcı sonuçlarının bununla da sınırlı olmadığını belirtmek gerekiyor. Öyle ki, yılan tarafından zehirlenme durumunda yanlış tavsiyelerde bulunması, yanlış kaynak üzerinden bilgi alarak kullanıcılara günde ne kadar taş yiyebileceğini söylemesi, tarihsel hesaplamaları yanlış yapması ve daha nicesi bunlardan sadece bazıları.
Bu tür yanlış bilgilendirmelere maruz kalmış olan yüzlerce kullanıcı, Google’ın yeni yapay zeka sonuçlarına güvenilmemesi gerektiğine dair uyarılarda bulundu. Google’ın yapay zekası sosyal medyada dalga konusu haline geldi.
Konuyla ilgili olarak The Verge’e konuşan Google sözcüsü Meghann Farnsworth ise, hataların “genellikle çok nadir sorgulardan kaynaklandığını ve çoğu insanın deneyimlerini temsil etmediğini” belirtti. Farnsworth, şirketin politikalarının ihlaline karşı harekete geçtiğini ve bu “münferit örnekleri” ürünü geliştirmeye devam etmek için kullandıklarını ifade etti.
Google’ın bel kemiğini oluşturan bir ürünün, bilgi kaynağı olarak Reddit’i kullanarak kullanıcılara verdiği yanıltıcı sonuçlara ve tehlike arz eden cevaplara karşı nasıl bir önlem alacağı ise henüz bilinmiyor. Son olarak Google’ın haricinde geçtiğimiz hafta OpenAI’nin de Reddit ile veri anlaşması yaptığını ve ChatGPT’de benzer sorunlar yaşanabileceği endişelerinin arttığını belirtelim.
İLGİNİZİ ÇEKEBİLİR: