Yapay Zekanın Röntgenden Irk Tahmini Yapabilmesi Doktorları Endişelendirdi

Yapay Zekanın Röntgenden Irk Tahmini Yapabilmesi Doktorları Endişelendirdi

Yapay Zekanın Röntgenden Irk Tahmini Yapabilmesi Doktorları Endişelendirdi

Bilgisayarın bunu nasıl yapabildiği bilinmiyor

Tıbbi amaçlı kullanılan yapay zekanın röntgen ve tomografi görüntülerle insanların ırklarını tahmin edebilmesi doktorları endişelendirdi.

Zira bilim insanları, bilgisayarın bunu nasıl yapabildiğini bilmiyor.

11 Mayıs’ta Lancet Digital Health’te yayımlanan çalışmada mamografi görüntüsü, göğüs röntgeni ve tomografi gibi görüntüleri kullanan makine öğrenim modelleri analiz edildi.

Araştırma ekibi ilk olarak yapa zeka sistemini söz konusu görüntülerle eğitti. Bunlarda hastaların ırkları da yazıyordu.

Daha sonra ırkların belirtilmediği görüntü kümeleri gösterildi.

Modellerin çoğunda yapay zeka sistemi, insanların ırkını yüzde 95 ile yüzde 99 arasında doğru tahmin etti.

Radyologlar aynı şekilde ırkı yüzde 50 doğrulukla belirleyebiliyor.

Uzmanlar, yapay zekanın bunu nasıl yapabildiğini bilmiyor. Ten rengini belirleyen pigment olan melaninle ilgisi olmasından şüpheleniliyor.

Araştırmacılar, sistemin daha koyu renklerin daha yüksek seviyede melanin içerdiğini tespit ettiğini ve bu bilgiyi ırk tahmin etmede kullanabileceğini söylüyor.

Vice haber sitesi bulguların “son derece endişe verici” olduğunu yazdı. Haberde, tıbbi algoritmaların farklı ırklardan hastalar için farklı sonuçlar verdiği önceki çalışmalar hatırlatıldı.

Örneğin Aralık 2021’de yayımlanan bir çalışma, siyah ve kadın hastaların, doğru tanı alan ihtimalinin daha düşük olduğunu ortaya koymuştu.

Araştırmacılar da ırkı doğru tahmin edip buna dayalı olarak farklı sonuçlar veren algoritmaların ortaya çıkmasından endişeleniyor.

Makalede şu ifadelere yer verildi:

Tıbbi görüntü analizine dahil olan tüm geliştiricilerin, düzenleyicilerin ve kullanıcıların derin öğrenme modellerinin kullanımını son derece dikkatli bir şekilde düşünmelerini şiddetle tavsiye ediyoruz. Çünkü bu tür bilgiler tıbbi uygulamada var olan ırksal eşitsizlikleri sürdürmek veya daha da kötüleştirmek için kullanılabilir.

Araştırma ekibinden Marzyeh Ghassemi “Öğrencilerim bana bu makaledeki bazı sonuçları gösterdiğinde, aslında bunun bir hata olması gerektiğini düşündüm” diye konuştu.

Kaynak: Vice

Kaynak Çeviri: Independent

Yapay Zekanın Röntgenden Irk Tahmini Yapabilmesi Doktorları Endişelendirdi

BM: Yapay Zeka İnsan Hakları İçin Ciddi Bir Risk Oluşturuyor

Birleşmiş Milletler (BM) İnsan Hakları Yüksek Komiserliğinin yapay zeka (AI) sistemlerine ilişkin yeni raporu açıklandı.

Rapora ilişkin değerlendirmelerde bulunan İnsan Hakları Yüksek Komiseri Michelle Bachelet, yapay zekanın insan hakları için ciddi risk oluşturduğunu söyledi ve yeterli güvenlik önlemleri alınana kadar yapay zeka sistemlerinin satışı ve kullanımına ilişkin acil bir moratoryum çağrısı yaptı.

BM: Yapay Zeka İnsan Hakları İçin Ciddi Bir Risk Oluşturuyor

Bir cevap yazın

E-posta hesabınız yayımlanmayacak. Gerekli alanlar * ile işaretlenmişlerdir

Solve : *
1 + 25 =


This site uses Akismet to reduce spam. Learn how your comment data is processed.

Çok Okunan Yazılar