Zihinsel Mahremiyetimiz Tehlikede mi? Yapay Zeka Bir Hastanın Zihnini Okudu
Arkadaşınız yeni bir saç kesimi yaptırsa fikrinizi kendinize saklamanız muhtemelen daha iyi bir fikirdir; ancak yakında başka bir seçeneğiniz olmayabilir.
Bunun nedeni, Austin’deki Texas Üniversitesi’ndeki bilim insanlarının bir yapay zekayı (AI) kişilerin zihnini okuması ve en derin düşüncelerini metne dönüştürmesi için eğitmiş olmasıdır.
Üç çalışma katılımcısı, bir AI ‘kod çözücü’ beyin aktivitelerini analiz ederken, bir MRI makinesinde yatarken hikayeler dinledi. Daha sonra farklı bir hikaye okumaları veya kendi hikayelerini oluşturmaları istendi ve kod çözücü daha sonra MRI verilerini gerçek zamanlı olarak metne dönüştürebildi.
Buluş, başkalarının düşüncelerine kulak misafiri olmanın ilk adımı olabileceğinden, ‘zihinsel mahremiyet’ ile ilgili endişeleri artırıyor.
Baş yazar Jerry Tang, “Teknolojinin kötü amaçlar için kullanılabileceği yönündeki endişeleri çok ciddiye alıyoruz ve bundan kaçınmaya çalışmak için çok fazla zaman ayırmak istiyoruz.” dedi.
“Şu anda, teknoloji bu kadar erken bir durumdayken, proaktif olmak ve örneğin, insanların zihinsel mahremiyetini koruyan, insanlara düşüncelerine ve haklarına sahip olma hakkı veren politikalar çıkarmaya başlamak önemlidir.”
“İnsanların bunları yalnızca istedikleri zaman kullandıklarından ve bunun onlara yardımcı olduğundan emin olmak istiyoruz.” diye ekledi.
Araştırmacılar, teknolojinin, siyasi mahkumları sorgulayan otoriter bir rejim veya çalışanları gözetleyen bir işveren gibi birinin bilgisi olmadan birileri üzerinde kullanılabileceğine dair endişeler üzerine, sistemin yalnızca bir bireyin düşüncelerini ancak düşünce kalıpları konusunda eğitildikten sonra okuyabildiğini söylüyorlar. Yani gizliden kimseye uygulanamaz.
Gerçekten de, yapay zekanın bir katılımcının düşüncelerini başarılı bir şekilde yorumlayabilmesi için 16 saatlik eğitim aldığından, teknoloji henüz mahremiyete tehdit oluşturmuyor. Zaten okudukları veya oluşturdukları hikayeleri tam olarak kopyalayamadı, sadece ana noktaları yakaladı.
Örneğin, ‘Daha ehliyetim yok’ diyen bir konuşmacıyı dinleyen bir kişinin düşünceleri, ‘henüz araba kullanmayı öğrenmeye bile başlamadı’ şeklinde tercüme edildi.
Nature Neuroscience’da yayınlanan çalışma, dil işleme teknolojisi kullanan kod çözücünün yapay zeka sohbet robotu ChatGPT’ye benzediğini ortaya koyuyor.
ChatGPT, internetten alınan büyük miktarda metin verisi üzerinde eğitilerek, belirli bir isteme yanıt olarak insan benzeri metinler oluşturmasına olanak tanır.
Beynin, boyut, renk veya konum gibi belirli bir kavramı ifade eden 42 farklı öğeden oluşan kendi ‘alfabesi’ vardır ve tüm bunları karmaşık düşüncelerimizi oluşturmak için birleştirir.
Her “harf” beynin farklı bir bölümü tarafından işlenir, bu nedenle tüm farklı bölümleri birleştirerek bir kişinin zihnini okumak mümkündür.
ABD merkezli ekip bunu, katılımcılar 16 saatlik podcast dinlerken beynin doğal dille bağlantılı üç bölümünün MRI verilerini kaydederek yaptı. Analiz edilen üç beyin bölgesi, prefrontal ağ, klasik dil ağı ve pariyetal-zamansal-oksipital ilişkilendirme ağıydı.
Algoritmaya daha sonra sesteki kalıpları, kaydedilen beyin aktivitesindeki kalıplarla karşılaştıran taramalar verildi. Kişinin zamanın yarısında ne düşündüğünü anlayabiliyordu.
Bu, insanların dinledikleri kelimelerle yakından ve bazen tam olarak eşleşen metinler ürettiği anlamına geliyordu ve bunu yalnızca beyin aktivitelerini kullanarak çözüyordu.
Teknoloji aynı zamanda insanların sessiz filmler izlerken gördüklerini veya bir hikaye anlatmayı hayal ederken düşündüklerini de yorumlayabiliyordu.
Diğer akıl okuma teknolojilerinden farklı olarak, insanlar herhangi bir kelimeyi düşündüklerinde işe yarıyor, sadece belirli bir listedekileri değil: “o” ve “ben” gibi zamirlerle mücadele etse de.
Birinin belirli sözcükleri oluşturmak için ağzını nasıl hareket ettirdiğini hayal etmesi yerine, beynin dili oluşturan bölgelerindeki etkinliği saptıyor.
Araştırmanın kıdemli yazarı Dr. Alexander Huth, “Bunun bu kadar iyi sonuç vermesi bizi biraz şaşırttı. Bu, 15 yıldır üzerinde çalıştığım bir sorundu.” diyor.
Araştırmacılar, bu buluşun, inme geçirenleri veya motor nöron hastalığı olanlar gibi zihinsel olarak farkında olan ancak konuşamayan insanlara yardımcı olabileceğini söylüyor.
Silikon Vadisi, bir gün insanların sadece iletmek istedikleri kelimeleri düşünerek yazmalarına izin verebilecek zihin okuma teknolojisiyle çok ilgileniyor.
Derleyen: Feyza ÇETİNKOL
Kaynak: Zihinsel Mahremiyetimiz Tehlikede mi? Yapay Zeka Bir Hastanın Zihnini Okudu
Yapay Zekanın ‘Babası’ Uyardı: Yakında İnsanlardan Daha Zeki Olabilirler