“Fakat sonrasında, çok mantıksız ve hatalı olan bazı değerlendirmeler de bizi aynı derecede şaşırttı. Tabii ki bu modellerin çalışma şeklini düşündüğümüzde, hatalı cevaplar çok da şaşırtıcı değil.” ChatGPT’nin halüsinasyon adı verilen hatalı yanıtlar üretmeye yönelik bu tehlikeli eğilimi GPT-4’te o kadar sık görülmese de, günümüz itibarıyla tıp eğitimi ve uygulamasındaki kullanılabilirliğini sınırlıyor.
“F aka t sonras ı nda, ç  o k m antıks ı z v   e h at  alı ol a n b azı değe rlendirmel er d   e bi zi ayn ı de r ece de şaş   ırttı. T abii k  i b u m ode llerin çalı ş am şekl i  ni düşündüğümü zd e, h atalı c eva pla r ç o  k d  a ş aşırtıcı değil. ” ChatGPT’n in halü si n asyon ad  ı v erilen hat alı yan ı t lar ü r  etmeye y öne lik b   u te h likeli e ğil im i GPT-4   ’te o kad ar sı   k g örülmese de  , gün  ümüz it ibarıyla t   ıp eğitim   i v e uy gu lamasındak i kullanılabili rl iğini sınır lıyor.