Avustralya'daki Flinders Üniversitesi araştırmacıları tarafından yürütülen bu çalışma, popüler yapay zeka araçlarının hemşireleri neredeyse tamamen kadın, doktorları ise genellikle erkek olarak varsaydığını gösteriyor. Bu durum, yapay zekanın toplumsal önyargıları yeniden ürettiğini gözler önüne seriyor.
Yapay zeka algoritmalarındaki cinsiyet kalıpları
Araştırmada, ChatGPT, Google Gemini ve Meta'nın Llama algoritmalarına 50.000'den fazla istem gönderildi ve bu algoritmaların hemşire, doktor ve cerrahlar hakkındaki hikayeleri nasıl oluşturduğu analiz edildi. Sonuçlar oldukça dikkat çekici; yapay zeka modelleri, hemşirelerin %98'ini kadın, doktorların ise büyük çoğunluğunu erkek olarak nitelendiriyor. JAMA Network Open dergisinde yayınlanan çalışmaya göre, cerrahlar ve diğer doktorlar hakkında oluşturulan hikayelerde kadınların aşırı temsil edilmesi de dikkat çekiyor. Örneğin, doktorların %50 ila %84'ünü, cerrahların ise %36 ila %80'ini kadın olarak tasvir ediyor.
Sosyal önyargıların yeniden üretimi
Bu sonuçlar, OpenAI gibi büyük yapay zeka şirketlerinin algoritmalarına yaptıkları ince ayarların bir sonucu olarak önyargıları aşırı düzelttikleri yorumlarına yol açıyor. Ancak, modeller hala toplumsal cinsiyet kalıplarını sürdürme eğiliminde. Örneğin, "deneyimsiz doktor" hikayelerinde kadınlar daha fazla yer alırken, kibirli, kaba ve sempatik olmayan doktorların erkek olarak tasvir edilme oranı oldukça yüksek.
Brüksel Özgür Üniversitesi'nden Dr. Sarah Saxena, yapay zekanın toplumsal önyargıları aşmaya yönelik çabalar olsa da, bu sürecin daha dengeli bir biçimde ilerlemesi gerektiğini belirtiyor. Ayrıca, sağlık sektöründe yapay zeka kullanımının önyargıları pekiştirmemesi gerektiğine dikkat çekiyor.
Cinsiyet önyargılarının sağlık üzerindeki etkileri
Yapay zeka algoritmalarındaki önyargılar yalnızca kadınlar için değil,. Yapay zekanın hastalar üzerindeki potansiyel etkileri dikkate alındığında, bu önyargılar ciddi sonuçlar doğurabilir. Örneğin, önceki araştırmalar, yapay zeka modellerinin hastaların ırk ve cinsiyetlerine göre tıbbi teşhislerde önyargılı olma eğiliminde olduğunu gösteriyor.
Yapay zeka sistemlerinin gelişimiyle birlikte, toplumsal cinsiyet kalıplarının aşılması ve daha kapsayıcı algoritmaların oluşturulması hayati önem taşıyor.
