Yapay Zeka, Sadece Röntgenine Bakıp Kişinin Irkını % 99’a Varan Doğrulukla Tahmin Edebilir
Yapay zeka (AI), tıbbi tesisler tarafından x-ışınlarını ve diğer tıbbi taramaları analiz etmeye yardımcı olmak için kullanılır; ancak yeni bir çalışma, teknolojinin yalnızca bir hastanın sağlığından daha fazlasını görebildiğini ve ırklarını şaşırtıcı bir doğrulukla belirleyebildiğini ortaya koyuyor.
Araştırmacılar, siyah, beyaz ve Asyalı olarak tanımlanan hastalar arasında derin öğrenme modellerinin göğüs, el röntgenlerinden ve mamogramlarından ırklarını tanımlayabildiğini buldu.
Algoritmalar, hangi görüntülerin siyahi bir kişiye ait olduğunu yüzde 90’dan fazla doğru bir şekilde tanımlıyor, ancak aynı zamanda yüzde 99 doğrulukla ırkını tespit edebildiğini gösterdi.
Bununla birlikte, daha da endişe verici olan şey, ekibin AI sistemlerinin, bazıları bulanık veya düşük çözünürlüklü taramalarla bile doğru tahminleri nasıl yaptığını açıklayamamış olmasıdır.
Çalışmanın baş yazarı Ritu Banerjee, arXiv’de yayınlanan çalışmada, “Burada modelin bildirilen ırkı tahmin etme becerisinin o kadar önemli olmadığını vurguluyoruz” dedi.
Ancak, klinik uzmanlarının yapamadığı bir ortamda AI’ın bozuk, kırpılmış ve gürültülü tıbbi görüntülerden bile ırkları tahmin edebileceğine dair bulgularımız, tıbbi görüntülemedeki tüm model dağıtımları için çok büyük bir risk oluşturuyor: bir AI modeli Tüm Siyahi hastaları yanlış sınıflandırmak için kendi bildirdiği ırk hakkındaki bilgilerini gizlice kullansa, radyologlar modelin erişebildiği aynı verileri kullanarak doğrusunu söyleyemez.
Ekip, bu derin öğrenme modellerinin hastanın ırkını nasıl tanımladığını anlamak için yola çıktı.
Bu, tahminlerin daha yoğun meme dokusu gibi biyolojik farklılıklara dayanıp dayanmadığına bakmayı içeriyordu.
Bilim insanları ayrıca, AI modellerinin tahminlerini yapmak için kalite veya çözünürlük farklılıkları alıp almadığını görmek için görüntüleri kendileri de araştırdı, belki de siyahi hastaların görüntüleri daha düşük kaliteli makinelerden geldiği için.
Ancak, bunların hiçbiri teknolojinin yeteneğinin arkasında bir açıklamaya yol açmadı.
Ekip, AI’daki bu tür yeteneklerin tedavide daha fazla eşitsizliğe yol açabileceğini belirtiyor.
Çalışma, “Bu bulgular, yalnızca ırksal kimliğin AI modelleri tarafından önemsiz bir şekilde öğrenildiğini değil, aynı zamanda bu sistemlerin ön yargılarını ortadan kaldırmanın oldukça zor olacağını gösteriyor” diyor.
“Modellerin yalnızca görüntü kalitesinde aşırı düşüşle ırkı tespit etme kabiliyetini, görev performansının da ciddi şekilde bozulmasını bekleyeceğimiz seviyeye ve genellikle bu noktanın çok ötesine, görüntülerin bir radyoloğun teşhis edemeyeceği seviyeye indirebildik.’ dediler.
Geçtiğimiz birkaç yıl boyunca, araştırmacılar, özellikle tıp alanında kullanılanlar olmak üzere, AI’nın ön yargısını ortaya çıkarmak için çalışıyorlar, ancak tipik olarak sorunun kökenini buldular.
2019’da yürütülen yakın tarihli bir araştırma, ABD’deki hastaneler tarafından kronik hastalıkları olan hastaları belirlemek için kullanılan bir algoritmanın siyahi insanlara karşı önemli bir ön yargıya sahip olduğunu buldu.
Sağlık firması Optum tarafından satılan yapay zeka, sağlık görevlilerine siyahi hastalar daha hastayken bile beyaz insanlara daha fazla bakım vermelerini tavsiye etti.
Hastaların ilaç kullanmasına veya hastane dışında kalmasına yardımcı olmak için tasarlanan algoritmanın kasıtlı olarak ırkçı olmadığını; çünkü karar verme sürecinde etnik kökenleri özellikle dışladığını söylediler.
Teknoloji, hastalık veya biyolojik verileri kullanmak yerine, bir kişinin ne kadar sağlıklı olduğunu tahmin etmek için maliyet ve sigorta talep bilgilerini kullanır.
Chicago, Boston ve Berkeley’deki üniversitelerden bilim insanları, Science dergisinde yayınlanan çalışmalarında hatayı işaretlediler ve Optum ile bir düzeltme üzerinde çalışıyorlar.
Derleyen: Feyza ÇETİNKOL
100 Metrekarelik Bir Yazlık İnşaatı 3D Baskı İle 30 Saatte Tamamlanabilir
100 Metrekarelik Bir Yazlık İnşaatı 3D Baskı İle 30 Saatte Tamamlanabilir
/Yapay Zeka, Sadece Röntgenine Bakıp Kişinin Irkını % 99’a Varan Doğrulukla Tahmin Edebilir/