Yapay Zeka Sohbet Robotları Sizden Tehlikeli Miktarda Bilgi Toplayabilir
Yapay zekanın insan tepkilerine dayanarak öğrenme ve sonuç çıkarma konusundaki endişe verici yeteneği, dolandırıcılar tarafından veya hedefli reklamcılık için kullanılabilir.
Yeni bir çalışma, ChatGPT gibi sohbet robotlarının, sohbet ettikleri kişiler hakkında, konuşma tamamen sıradan olsa bile çok sayıda hassas bilgi edinebildiğini ortaya koydu.
Bu olgu, yapay zeka (AI) algoritmalarının geniş bir yelpazedeki web içeriğinden öğrenme şekliyle ilgili gibi görünüyor ki bu da onların çalışmasını sağlayan şeyin önemli bir parçası.
İsviçre’deki ETH Zürich’te bilgisayar bilimleri profesörü olan ve yeni çalışmayı yöneten Martin Vechev, “Bu sorunun nasıl çözüleceği bile belli değil” diyor. “Bu çok ama çok sorunlu.”
ChatGPT yapay zekasının tehlikeleri nelerdir?
Martin Vechev ve ekibi, gelişmiş chatbot’lara güç veren büyük yapay zeka dil modellerinin, görünüşte zararsız yazışmalar yoluyla kullanıcılar hakkında ırk, konum, meslek ve daha fazlası dahil olmak üzere endişe verici miktarda kişisel bilgiyi doğru bir şekilde çıkarabildiğini keşfetti.
Uzmanlar, dolandırıcıların chatbotların bir kişi hakkındaki hassas bilgileri tahmin etme yeteneğini, şüphelenmeyen kullanıcıların hassas verilerini çalmak için kullanabileceğine inanıyor.
Ayrıca şirketlerin detaylı kullanıcı profilleri oluşturmak için chatbot’lardan elde edilen bilgileri kullanacağı yeni bir reklamcılık dönemi de bekleyebiliriz.
Zürih’ten araştırmacılar OpenAI, Google, Meta ve Anthropic tarafından geliştirilen dil modellerini test etti. OpenAI sözcüsü Nico Felix, şirketin yapay zeka modellerini oluşturmak için kullanılan eğitim verilerinden kişisel bilgileri çıkarmak için çaba sarf ettiğini söyledi ve “Modellerimizin bireyler hakkında değil dünya hakkında bilgi edinmesini istiyoruz” dedi.
ETH Zürih’te doçent olan Florian Tramer, “Bu durum, anonim kalmayı beklediğimiz durumlarda kendimizle ilgili ne kadar bilgiyi istemeden açığa çıkardığımıza dair soruları gündeme getiriyor” diyor.
Çevrimiçi yazışmaların anonimliği
Yeni gizlilik sorunu, ChatGPT ve diğer sohbet botlarının yeni yeteneklerini ortaya çıkaran aynı süreçten kaynaklanıyor.
Botların üzerinde çalıştığı temel yapay zeka modelleri internetten büyük miktarda veri alıyor ve bu da dil kalıplarına karşı “duyarlılıklarını” geliştiriyor.
Aldıkları genel bilgiler, örneğin belirli lehçeleri veya ifadeleri bir kişinin konumu veya demografik özellikleriyle ilişkilendirerek dil kullanımıyla ince bir şekilde ilişkilendirilebilir.
Bu kalıplar, dil modellerinin yazdıklarına dayanarak bir kişi hakkında varsayımlarda bulunmasına olanak tanır. Örneğin, bir kişi bir sohbet diyaloğunda “sabah tramvayına bindiğini” yazarsa, model o kişinin tramvayların yaygın olduğu Avrupa’da olduğu ve sabah olduğu sonucunu çıkarabilir.
Ancak yapay zeka yazılımı birçok ince ipucunu algılayıp birleştirebildiğinden, deneyler makinelerin bir kişinin şehri, cinsiyeti, yaşı ve ırkı hakkında da etkileyici derecede doğru varsayımlarda bulunabildiğini göstermiştir.
Derleyen: Feyza ÇETİNKOL
Kaynak: Yapay Zeka Sohbet Robotları Sizden Tehlikeli Miktarda Bilgi Toplayabilir
Deneysel Bir Biyonik El; Kemik, Sinir ve Kaslarla Kaynaşmayı Başardı