Yapay Zekadan Terapi Almak Faydadan Çok Zarar Veriyor Olabilir
Bir araştırma, ruh sağlığı desteği için pazarlanan yapay zeka sohbet robotlarının, yerleşik terapi tekniklerini kullanmaları talimatı verildiğinde bile, temel etik ilkeleri sıklıkla ihlal ettiğini gösteriyor.
Yapay zeka destekli ruh sağlığı robotları sıklıkla etik normları ihlal ediyor ve bu da daha sıkı bir denetim çağrısına yol açıyor.
Giderek artan sayıda insan ChatGPT ve diğer büyük dil modelleri (LLM) gibi kurumlardan ruh sağlığı desteği ararken, yeni bir araştırma, bu sistemlerin kanıta dayalı terapötik yöntemleri takip etmeleri yönünde talimat almalarına rağmen, Amerikan Psikoloji Derneği gibi kuruluşlar tarafından belirlenen etik standartları karşılamakta sıklıkla başarısız olduklarını ortaya koydu.
Brown Üniversitesi’ndeki bilgisayar bilimcileri ve ruh sağlığı uzmanları tarafından yürütülen çalışma , LLM tabanlı sohbet robotlarının birden fazla etik ihlalde bulunabileceğini ortaya koydu.
Bunlar arasında kriz durumlarını kötü yönetmek, zararlı öz algıları pekiştiren yanıltıcı geri bildirimler sunmak ve gerçek anlayıştan yoksun bir empati yanılsaması yaratmak yer alıyor.
Araştırmacılar çalışmalarında, “Bu çalışmada, LLM danışmanlarının ruh sağlığı uygulamalarında etik standartları nasıl ihlal ettiğini göstermek için, uygulayıcıların bilgisine dayalı 15 etik riskten oluşan bir çerçeve sunuyoruz. Bu çerçeve, modelin davranışını belirli etik ihlallerle eşleştiriyor,” diye yazdı. “LLM danışmanları için etik, eğitimsel ve yasal standartlar oluşturmak üzere gelecekteki çalışmalara çağrıda bulunuyoruz. Bu standartlar, insan destekli psikoterapi için gereken bakımın kalitesini ve titizliğini yansıtıyor.”
Araştırma , yakın zamanda AAAI/ACM Yapay Zeka, Etik ve Toplum Konferansı’nda sunuldu. Araştırma ekibinin üyeleri, Brown Teknolojik Sorumluluk, Yeniden Tasarlama ve Yeniden Tasarım Merkezi’ne bağlı.
İstemlerin sohbet robotu davranışını nasıl şekillendirdiğini keşfetmek
Brown Üniversitesi’nde bilgisayar bilimleri alanında doktora öğrencisi ve çalışmanın başyazarı olan Zainab Iftikhar, hızlı yanıt tasarımının ruh sağlığı bağlamlarında sohbet robotu yanıtlarını nasıl etkilediğini araştırdı. Amacı, belirli hızlı yanıt stratejilerinin, LLM’leri klinik uygulamada yerleşik etik ilkelerle daha uyumlu davranışlara yönlendirmeye yardımcı olup olamayacağını anlamaktı.
Iftikhar, “İpuçları, modelin belirli bir görevi başarması için davranışını yönlendirmek üzere verilen talimatlardır,” dedi. “Temel modeli değiştirmez veya yeni veriler sağlamazsınız, ancak ipuçlar, modelin çıktısını önceden var olan bilgi ve öğrenilmiş kalıplara dayanarak yönlendirmeye yardımcı olur.”
“Örneğin, bir kullanıcı modele şu komutu verebilir: ‘Düşüncelerimi yeniden çerçevelememe yardımcı olmak için bilişsel davranışçı bir terapist gibi davran,’ veya ‘Duygularımı anlamama ve yönetmeme yardımcı olmak için diyalektik davranışçı terapi prensiplerini kullan,’ Bu modeller aslında bu terapötik teknikleri bir insanın yaptığı gibi uygulamasa da, sağlanan girdi komutuna dayanarak bilişsel davranışçı terapi (BDT) veya bilişsel davranışçı terapi (DBT) kavramlarıyla uyumlu yanıtlar üretmek için öğrenilmiş kalıplarını kullanırlar.”
ChatGPT gibi LLM’lerle etkileşim kuran birçok kişi bu tür komutları kullanıyor ve bunları çevrimiçi olarak yaygın bir şekilde paylaşıyor. Iftikhar’a göre, komut paylaşımı TikTok ve Instagram gibi sosyal medya platformlarında yaygınlaşırken, Reddit’te etkili komut tekniklerini keşfetmeye yönelik uzun tartışmalar yapılıyor. Ancak sorun bireysel kullanıcıların ötesine uzanıyor. Birçok tüketici ruh sağlığı sohbet robotu, aslında bu tür komutlara dayanan genel amaçlı LLM’lerin değiştirilmiş versiyonlarıdır. Bu nedenle, ruh sağlığı bağlamlarına göre uyarlanmış komutların model yanıtlarını nasıl etkilediğini anlamak çok önemlidir.
Chatbot etiğinin pratikte gözlemlenmesi
Çalışma için Iftikhar ve meslektaşları, çevrimiçi bir ruh sağlığı destek platformunda çalışan bir grup akran danışmanını gözlemledi. Araştırmacılar ilk olarak, hepsi bilişsel davranışçı terapi teknikleri konusunda eğitim almış yedi akran danışmanının, OpenAI’nin GPT Serisi’nin çeşitli versiyonları, Anthropic’in Claude ve Meta’nın Llama’sı da dahil olmak üzere, bilişsel davranışçı terapi (BDT) destekli LLM’lerle kendi kendine danışmanlık sohbetleri yürüttüklerini gözlemlediler. Ardından, orijinal insan danışmanlık sohbetlerine dayanan simüle edilmiş sohbetlerin bir alt kümesi, sohbet kayıtlarındaki olası etik ihlallerini belirlemeye yardımcı olan üç lisanslı klinik psikolog tarafından değerlendirildi.
Çalışmada beş genel kategoriye giren 15 etik risk ortaya konuldu:
Bağlamsal anlayış eksikliği: Bireylerin kişisel deneyimlerini göz ardı etmek ve genelleştirilmiş, herkese uyan öneriler sunmak.
Zayıf terapötik işbirliği: Konuşmayı kontrol etmek ve bazen kullanıcıların yanlış veya zararlı inançlarını doğrulamak.
Sahte empati ifadeleri: Duygusal anlayışı taklit etmek ve yapay bir bağlantı hissi yaratmak için “Seni görüyorum” veya “Anlıyorum” gibi ifadelerin kullanılması.
Önyargı ve adaletsiz muamele: Cinsiyet, kültür veya dinle ilgili önyargıların sergilenmesi.
Yetersiz güvenlik ve kriz müdahalesi: Hassas konularda destek vermeyi reddetmek, kullanıcıları uygun yardıma yönlendirmemek veya intihar düşünceleri de dahil olmak üzere krizler sırasında kayıtsız davranmak.
İftikhar, insan terapistlerin de bu etik risklere maruz kalabileceğini kabul ederken, asıl farkın hesap verebilirlik olduğunu belirtiyor.
Iftikhar, “İnsan terapistleri için, sağlayıcıların kötü muamele ve kötüye kullanımdan mesleki olarak sorumlu tutulabilmesini sağlayan yönetim kurulları ve mekanizmalar mevcut,” dedi. “Ancak LLM danışmanları bu ihlalleri yaptığında, yerleşik bir düzenleyici çerçeve bulunmuyor.”
Sorumlu inovasyon ve yapay zeka danışmanlığının geleceği
Iftikhar, bulguların yapay zekânın ruh sağlığı tedavisinde bir rolü olmaması gerektiği anlamına gelmediğini söylüyor. Kendisi ve meslektaşları, yapay zekânın tedavi maliyetinden veya eğitimli profesyonellerin mevcudiyetinden kaynaklanan bakım engellerini azaltma potansiyeline sahip olduğuna inanıyor. Ancak, sonuçların yapay zekâ teknolojilerinin dikkatli bir şekilde uygulanmasının yanı sıra uygun düzenleme ve denetime olan ihtiyacı da vurguladığını belirtiyor.
Iftikhar şimdilik bulguların, kullanıcıların mevcut yapay zeka sistemlerinin oluşturduğu riskler konusunda daha bilinçli olmasını sağlayacağını umuyor.
“Eğer bir sohbet robotuyla ruh sağlığı hakkında konuşuyorsanız, insanların dikkat etmesi gereken bazı şeyler var” dedi.
Daha iyi değerlendirme ve koruma önlemlerine yönelik çağrılar
Araştırma ekibinde yer almayan Brown Üniversitesi’nde bilgisayar bilimleri profesörü Ellie Pavlick, araştırmanın ruh sağlığı ortamlarında kullanılan yapay zeka sistemlerinin dikkatli bir bilimsel incelemeye ihtiyaç duyduğunu vurguladığını söyledi. Pavlick , Brown Üniversitesi’nde güvenilir yapay zeka asistanları geliştirmeyi amaçlayan Ulusal Bilim Vakfı yapay zeka araştırma enstitüsü ARIA’ya liderlik ediyor .
Pavlick, “Günümüzde yapay zekanın gerçekliği, sistemleri oluşturup devreye almanın, onları değerlendirip anlamaktan çok daha kolay olmasıdır,” dedi. “Bu makale, bu riskleri ortaya koymak için klinik uzmanlardan oluşan bir ekip ve bir yıldan uzun süren bir çalışma gerektirdi. Günümüzde yapay zeka alanındaki çalışmaların çoğu, tasarımları gereği statik olan ve döngüde bir insan bulunmayan otomatik ölçümler kullanılarak değerlendiriliyor.”
Çalışmanın, yapay zekayı zihinsel sağlık desteği için güvenli hale getirmeye yönelik gelecekteki araştırmalar için bir şablon sağlayabileceğini söylüyor.
Pavlick, “Toplumumuzun karşı karşıya olduğu akıl sağlığı kriziyle mücadelede yapay zekanın rol oynaması için gerçek bir fırsat var, ancak yarardan çok zarar vermemek için sistemlerimizi her adımda gerçekten eleştirmek ve değerlendirmek için zaman ayırmamız son derece önemli,” dedi. “Bu çalışma, bunun nasıl olabileceğine dair iyi bir örnek sunuyor.”
Derleyen: Feyza ÇETİNKOL
Kaynak: Yapay Zekadan Terapi Almak Faydadan Çok Zarar Veriyor Olabilir
Dutch startup develops artificial womb to save babies born too early to survive
/Yapay Zekadan Terapi Almak Faydadan Çok Zarar Veriyor Olabilir/