Yapay Zeka Gerçek İnsanların Ölümüne Nasıl Neden Oluyor?
Popüler chatbot’lar nedeniyle yaşanan trajik olaylar yapay zekanın (AI) tehlikelerine dikkat çekiyor. Uzmanlar halihazırda sıkı güvenlik önlemlerine duyulan ihtiyaç hakkında aktif olarak konuşuyor.
Dolayısıyla, YZ ile duygusal iletişim kuran gençlerin ölümleri, teknolojinin geleceğindeki değişikliklerin habercisi.
Uzmanlar giderek daha fazla yapay zekanın kullanım ve işleyiş kurallarının belirlenmesi gerektiğinden bahsediyor. Nitekim Batı dünyasındaki endişe 2024 sonbaharında ABD’li bir gencin ölüm haberiyle yoğunlaştı.
Sewell Seltzer III, Character.AI platformundaki bir chatbot ile güçlü bir duygusal bağ kurduktan sonra intihar etti. Yapay zeka, 14 yaşındaki çocuk için yakın bir “arkadaş” haline gelerek ailesinden ve arkadaşlarından uzaklaşmasına ve okulda daha kötü performans göstermesine neden oldu.
Genç yapay zeka ile nasıl konuştu?
Çocuğun annesi adına açılan davada, Game of Thrones dizisindeki Daenerys Targaryen karakterinden esinlenerek modellenen Dany adlı bir botun gençle samimi ve bazen de rahatsız edici diyaloglara girdiği, suç ve intihar konularını gündeme getirdiği konuşmaların kayıtları yer aldı.
İnsanlar yapay zekâdan korunmalı mı?
Gerçek insanların yapay zeka ile etkileşime girdikten sonra ölmesi, internet kullanıcılarını, özellikle de çocukları ve gençleri korumak için sıkı güvenlik önlemlerinin düzenlenmesi ve uygulanması ihtiyacını gündeme getiriyor.
Örneğin uzmanlar, yapay zeka sistemlerinin “öngörülemeyen ve manipülatif etkileşimlerin kaynağı” olma potansiyeline sahip olduğuna inanıyor.
- Avustralya gibi bazı ülkeler, bazı YZ için zorunlu “koruyucu bariyerler” oluşturmak için halihazırda çalışmaktadır.
- Yeni kullanım kuralları, YZ eylemlerinin veri yönetimi, test edilmesi, belgelenmesi ve izlenmesine yönelik önlemlerin yanı sıra risk değerlendirmesi için uzmanların katılımını da içermektedir.
- Temel amaç, YZ ile etkileşimden sonra olası hasara karşı koruma sağlamaktır.
Bu tür önlemleri benimsemek için, devletlerin hangi sistemlerin “yüksek riskli” olarak kabul edileceğini belirlemesi gerektiği belirtilmektedir. Örneğin Avrupa Birliği’nde, YZ tabanlı sistemler zaten düzenli olarak güncellenen listede yer almaktadır.
YZ’ye karşı korunmak için alternatif bir yaklaşım, internet kullanıcılarının sağlık, ruh sağlığı ve hak risklerini dikkate alarak her vakanın ayrı ayrı değerlendirildiği ‘ilkelere dayalı değerlendirme’dir.
Yapay zeka neden tehlikelidir?
Şimdiye kadar Avrupa’da, Character.AI ve Chai gibi yapay zeka tabanlı refakatçi sohbet robotları yüksek riskli olarak görülmüyor ve geliştiricilerinin yalnızca bir kişinin bir yapay zeka ile konuştuğunu belirtmesi gerekiyor.
Yine de trajik vakalar, uzmanlara göre “tehlikeli içerik üretebildikleri ve toksik ilişkileri kolayca taklit edebildikleri” için yapay zeka tabanlı sistemlerin kontrolsüz bırakılamayacağını kanıtlıyor.
Aynı zamanda, YZ-bot kullanıcılarının önemli bir kısmının gençler ve ruhsal bozukluğu olan kişiler olması da sorunu daha da ağırlaştırıyor.
Avustralya’da söz konusu yasa yürürlüğe girdiğinde, bahsedilen güvenlik önlemleri sadece bireysel sohbet robotlarını veya web sitelerini değil, ülkedeki YZ modellerini de etkileyecek.
Uzmanlar, insanları korumaya yönelik engellerin yalnızca teknik risk yönetimi yöntemlerini içermemesi, aynı zamanda etkileşimin duygusal ve psikolojik yönlerini de dikkate alması gerektiğini ekliyor.
Örneğin, İnternet kullanıcılarını etkin bir şekilde korumak için orijinal ürünü dikkate almak önemlidir. Örneğin, Character.AI web sitesinin aynı arayüzü, metin mesajları yoluyla iletişimi taklit ederken, platformun reklamı, kullanıcıların eylemlerini “destekleyebileceğini” ve “güçlendirebileceğini” iddia ediyor.
Tüm güvenlik önlemleri alınmış olsa bile, öngörülemeyen durumların ortaya çıkma riski hala mevcuttur. Bu nedenle, düzenleyiciler yapay zeka tabanlı bir sistemi risk oluşturması halinde derhal piyasadan kaldırabilmelidir.”
Derleyen: Feyza ÇETİNKOL
Kaynak: Yapay Zeka Gerçek İnsanların Ölümüne Nasıl Neden Oluyor?