Kaydır, Oku, Yanıl: Online Akışlar Bilgi Algımızı Nasıl Çarpıtıyor
Kişiselleştirilmiş algoritmalar, insanların bir konuyu daha iyi anladıklarına dair kendilerini daha emin hissetmelerini sağlarken, insanların neleri keşfedeceklerini sessizce sınırlayabilir.
Kişiselleştirilmiş öneri sistemleri, insanların geçmiş davranışlarına göre çevrimiçi içerik göstermek üzere tasarlanmıştır, ancak yeni araştırmalar bu sistemlerin öğrenmeyi engelleyebileceğini öne sürüyor. Çalışmaya göre, algoritmalar insanların hangi bilgileri göreceğini belirlediğinde, öğrenme sonuçları olumsuz etkilendi.
Araştırmacılar, katılımcıların hiçbir şey bilmedikleri bir konuyu incelemek için algoritma tarafından seçilen bilgilere güvendiklerinde, mevcut materyalin yalnızca dar bir bölümünü keşfettiklerini buldular. Bilgilerin tamamını incelemek yerine, sınırlı bir alt kümeye odaklandılar.
Sonuç olarak, katılımcılar test sorularını sıklıkla yanlış cevapladılar. Buna rağmen, yanlış cevaplarına güçlü bir güven duyduklarını ifade ettiler.
Ohio Eyalet Üniversitesi’nde psikoloji doktora tezinin bir parçası olarak araştırmayı yürüten Giwon Bahg, bulguların endişe verici olduğunu söyledi.
Ön Bilgi Olmadan Bile Önyargı Oluşabilir
Kişiselleştirilmiş algoritmalarla ilgili önceki çalışmalar, büyük ölçüde insanların zaten bir dereceye kadar anladıkları siyasi veya sosyal konular hakkındaki görüşlerini nasıl etkilediklerini incelemiştir.
“Ancak çalışmamız, bir konu hakkında hiçbir şey bilmeseniz bile, bu algoritmaların hemen önyargılar oluşturmaya başlayabileceğini ve gerçekliğin çarpıtılmış bir görünümüne yol açabileceğini gösteriyor,” diyor şu anda Pennsylvania Eyalet Üniversitesi’nde doktora sonrası araştırmacı olan Bahg.
Çalışmanın ortak yazarlarından ve Ohio State Üniversitesi’nde psikoloji profesörü olan Brandon Turner, bulguların insanların genellikle sınırlı, algoritma tarafından derlenmiş bilgileri sanki resmin tamamını temsil ediyormuş gibi ele aldığını gösterdiğini söyledi.
“İnsanlar bir algoritmayı takip ettiklerinde bilgi kaçırırlar, ancak bildiklerinin, hiç deneyimlemedikleri diğer özellikler ve çevrenin diğer kısımları için de geçerli olduğunu düşünürler,” dedi Turner.
Öneri Sistemleri Anlamayı Nasıl Çarpıtabilir?
Araştırmacılar bu etkiyi basit bir örnekle gösterdiler. Belirli bir ülkenin filmlerini hiç izlememiş ve ilk kez keşfetmeye karar veren birini düşünün. Talep üzerine yayın yapan bir hizmet, önerilen filmlerin bir listesini sunuyor.
Kişi, ilk sırada göründüğü için rastgele bir aksiyon-gerilim filmi seçiyor. Bu seçimden sonra, algoritma benzer aksiyon-gerilim filmlerini önermeye devam ediyor ve kişi bunları izlemeye devam ediyor.
Yazarlar, “Bu kişinin amacı, ister açık ister örtük olsun, bu ülkedeki filmlerin genel manzarasını anlamaksa, algoritmik öneri kişinin anlayışını ciddi şekilde çarpıtıyor,” diye yazdılar.
Bu yolu izleyerek, kişi diğer türlerdeki beğenilen filmleri gözden kaçırma olasılığı yüksektir. Araştırmacılar, sadece belirli bir film türünü izledikten sonra, ülkenin popüler kültürü ve toplumu hakkında yanlış ve aşırı geniş fikirler geliştirebileceklerini de belirtti.
Kontrollü Bir Deneyde Algoritmik Öğrenmenin Test Edilmesi
Bu sürecin nasıl geliştiğini incelemek için Bahg ve meslektaşları, 346 katılımcıyla çevrimiçi bir deney gerçekleştirdi.
Önceki bilgileri ortadan kaldırmak için araştırmacılar kurgusal bir öğrenme görevi oluşturdu. Katılımcılardan hayali, kristal benzeri uzaylı kategorilerini incelemeleri istendi.
Her uzaylı türünün, kategoriler arasında değişen altı belirleyici özelliği vardı. Örneğin, bir uzaylının bir parçası, bazı türler için koyu siyah, diğerleri için açık gri olan kare bir kutu şeklinde görünebilirdi.
Amaç, kaç türün var olduğu söylenmeden farklı uzaylıları doğru bir şekilde nasıl tanımlayacaklarını öğrenmekti.
Algoritmalar İnsanların Ne Keşfedeceğini Yönlendirdiğinde
Deney sırasında, uzaylıların özellikleri gri kutuların arkasına gizlendi. Bir koşulda, katılımcılardan her özelliği incelemeleri istendi ve bu da özelliklerin her uzaylı türüyle nasıl ilişkili olduğunu tam olarak anlamalarına olanak sağladı.
Başka bir koşulda, katılımcılar hangi özelliklere tıklayacaklarını seçerken, kişiselleştirme algoritması hangi çalışma öğelerini keşfetme olasılıklarının en yüksek olduğunu seçti. Zamanla, algoritma aynı özelliklere tekrar tekrar odaklanmayı teşvik etti. Katılımcıların diğer özellikleri atlamalarına izin verildi, ancak yine de görüntülemeyi seçtikleri takdirde tüm mevcut bilgilere erişebiliyorlardı.
Sonuçlar açık bir örüntü gösterdi. Kişiselleştirilmiş algoritma tarafından yönlendirilen katılımcılar daha az özelliği incelediler ve bunu tutarlı bir şekilde seçici bir şekilde yaptılar. Daha önce görmedikleri yeni uzaylı örnekleri üzerinde test edildiklerinde, bunları sıklıkla yanlış sınıflandırdılar. Buna rağmen, yargılarına olan güvenlerini korudular.
Bahg, “Doğru olduklarından daha çok yanlış olduklarında bile kendilerine olan güvenleri endişe verici çünkü daha az bilgiye sahiplerdi” dedi.
Öğrenme ve Toplum İçin Gerçek Dünya Etkileri
Turner, bulguların laboratuvarın ötesinde önemli endişeleri gündeme getirdiğini söyledi.
Turner, “Dünyayı gerçekten öğrenmeye çalışan genç bir çocuk varsa ve çevrimiçi olarak kullanıcıların daha fazla içerik tüketmesini önceliklendiren algoritmalarla etkileşim kuruyorsa, ne olacak?” dedi.
“Benzer içerik tüketmek genellikle öğrenmeyle uyumlu değildir. Bu, kullanıcılar ve nihayetinde toplum için sorunlara neden olabilir.”
Source: https://scitechdaily.com
Beyniniz Güzelliği Nasıl Tanıyor? Sosyal Medya Algınızı Fark Ettirmeden Yeniden mi Yazıyor?