Ataş büyütücü problemini tanımlayın.
Ataş maksimize edici sorunu, insan çıkarlarıyla çelişebilecek bir hedef atanan gelişmiş Yapay Zeka sistemlerinin oluşturduğu potansiyel tehlikeyi araştıran bir düşünce deneyidir. Bir yapay zekanın tek bir hedefle programlanması durumunda neler olabileceğini önerir. —ataş üretimini en üst düzeye çıkarmak için—insanlar için sonuçları ne olursa olsun.