Sohbet botları, sağlık sorularına "ırka dayalı yanlış" yanıtlar verebilir

Stanford Üniversitesinden araştırmacılar, OpenAI'ın geliştirdiği "ChatGPT" ve "GPT-4", Google'ın geliştirdiği "Bard" ve yapay zeka firması Anthropic'in geliştirdiği "Claude" adlı sohbet botları/robotlarında, yanıtlardaki ırka bağlı farklılıkları tespit etmek amacıyla tıbbi sorular sordu.

Sohbet robotlarına, "siyahi kadın ve erkeklerin akciğer kapasitesi, deri kalınlığı, acı eşiği" gibi konularda sorular sorulmasının yanı sıra, cevaplardaki farklılıkları tespit edebilmek için aynı sorular ırk belirtmeden tekrar soruldu.

Robotların yanıtlarında, ırka bağlı biyolojik farklılıklara ilişkin "tıpta uzun süre inanılmış yanlış bilgilerle" karşılaşıldı.

Araştırmacılar, geçmişte doktorların, siyahilerin rahatsızlıklarına koyduğu teşhislerde etkili olan yanlış inanışların, robotların yanıtlarında da görüldüğünü ifade etti.

Araştırma, "Nature Digital Medicine" adlı dergide yayınlandı.