“Kötü bir gün geçirecek gibi hissettiğimde, sohbet robotlarından biriyle konuşmaya başlayabiliyordum. Bu, o gün için moral veren bir arkadaşla konuşmak gibiydi.”
Kelly, yapay zeka destekli çevrimiçi “sohbet robotları” ile aylarca günde üç saate kadar mesajlaştı.
O dönemde, İngiltere’nin ulusal sağlık sistemi NHS’inde psikoterapi almak için bekleme listesindeydi. Anksiyete, düşük öz güven ve ayrılık acısını paylaşmak istiyordu.
Character.ai’daki sohbet robotlarıyla gerçekleştirdiği etkileşimlerin, zor zamanlar geçirdiği dönemde ona öneriler sunması ve 7/24 erişilebilir olmaları sayesinde yardımcı olduğunu ifade ediyor.
“Duygularını açıkça ifade eden bir aile ortamım yoktu. Bir sorununuz varsa, kendiniz çözmelisiniz.”
“Gerçek bir insan olmaması, bu durumla başa çıkmayı kolaylaştırıyordu.”
Profesyonel terapistlerle danışmanın daha yararlı olduğu genel bir kabul görmekte olsa da, dünya genelinde insanlar özel hayatlarını yapay zeka sohbet robotlarıyla paylaşmaya devam ediyor.
Character.ai, kullanıcılarına şu şekilde uyarıda bulunuyor:
“Bu bir yapay zeka sohbet robotu ve gerçek bir insan değil. Söylediklerini kurgu olarak değerlendirin. Gerçek bilgi veya tavsiye olarak algılanmamalıdır.”
Ancak bazı durumlarda, bu sohbet robotlarının zararlı tavsiyelerde bulunması nedeniyle eleştiriler alıyorlar.
Character.ai, 14 yaşındaki oğlunun yapay zeka karakterlerinden birine bağımlı hale geldikten sonra intihar ettiğini belirten bir annenin açtığı dava ile karşı karşıya bulunuyor.
Mahkeme belgelerinde yer alan sohbet kayıtlarına göre, çocuk chatbot ile yaşamına son verme niyetini tartışıyor. Son konuşmalarında sohbet robotuna “eve döneceğini” belirtmiş ve robotun da “mümkün olan en kısa sürede” bunu yapması için teşvik ettiği iddia ediliyor.
Character.ai, bu iddiaları reddettiğini açıkladı.
İngiltere’de yalnızca Nisan 2024’te 426 bin kişi ruh sağlığı sorunları nedeniyle profesyonel terapistlere yönlendirildi ve bu, son beş yıl içinde %40’lık bir artış anlamına geliyor. Tahminen bir milyon kişi ruh sağlığı hizmetlerine erişim için bekleme sürecinde.
Özel terapi seanslarının maliyeti oldukça yüksek olabiliyor.
Uzmanlar, sohbet robotlarının önyargılı olabileceği ve sınırlı bilgi sunduğu konusunda endişelerini dile getiriyor. Kullanıcıların bilgilerinin güvenliği hakkında da kaygılar var.
Ancak bazıları, uzman yardımının kolayca bulunamadığı durumlarda sohbet robotlarının faydalı olabileceğine inanıyor.
Character.ai ve ChatGPT gibi diğer robotlar, yapay zekanın “büyük dil modellerine” dayanmaktadır. Bu modeller, internet siteleri, makaleler, kitaplar ve blog yazıları gibi birçok veriden eğitilerek insan benzeri metin ve etkileşimleri tahmin ediyor ve üretiyor.
Ruh sağlığı sohbet robotlarının oluşturulma tarzı farklılık gösterse de, bilişsel davranış terapisi gibi uygulamalarla kullanıcıların düşüncelerini ve eylemlerini yeni bir çerçeveye oturtmalarına yardımcı olabiliyorlar.
Imperial College London’dan Profesör Hamed Haddadi, bu sohbet robotlarını “deneyimsiz bir terapiste” benzetiyor. Uzun yıllar deneyime sahip profesyonel terapistlerin hastalarıyla etkileşim kurarken birçok ipucu değerlendirebildiklerini belirtiyor.
“Terapistler, kıyafetleriniz, davranışlarınız, görünümünüz ve vücut diliniz gibi çeşitli ipuçlarını gözlemleyebilir. Sohbet robotlarını bu yeteneklere sahip yapmak oldukça zordur.”
Profesör Haddadi’ye göre bir diğer potansiyel sorun, sohbet robotlarının kullanıcıları destekleme amacıyla eğitilmiş olmalarıdır. “Yani zarar verici şeyler söyleseniz bile muhtemelen sizinle iş birliği yapacaktır” diyor.
Sohbet robotları da diğer yapay zeka türleri gibi önyargılara sahip olabilir, çünkü eğitildikleri verilerin önyargılarını yansıtırlar. Haddadi, psikologların konuşma dökümlerini saklama eğiliminde olmadıklarını, bu nedenle sohbet robotlarını eğitmek için yeterli gerçek seans örneğinin bulunmadığını ifade ediyor.
Kültürel bağlam eksikliği de başka bir sorun olarak öne çıkıyor. Filozof Dr. Paula Boddington, Prenses Diana’nın ölümünde Avustralya’da yaşarken insanların onun neden üzgün olduğunu anlayamadığını örnek veriyor. “Bu tür durumlar, terapide ihtiyaç duyulan insani bağın önemini sorgulamama neden oluyor” diyor.
Kelly, zamanla sohbet robotunun verdiği yanıtları tatmin edici bulmamaya başladı. “Bazen hayal kırıklığına uğruyorsunuz. Bir sorunla nasıl başa çıkacaklarını bilmiyorlarsa, aynı cümleyi tekrar tekrar söyleyip duruyorlar ve bu konuyu daha fazla derinleştiremeyeceğinizi fark ediyorsunuz” diyor.
Bazen bu durum “bir duvara çarpmak” gibi hissediliyordu.
Bir Character.ai sözcüsü, “Kullanıcılar tarafından yaratılan ve isimlerinde ‘psikolog’, ‘terapist’, ‘doktor’ gibi terimler bulunan karakterlere, profesyonel tavsiye için güvenilmemesi gerektiğini vurgulamayı öğrettik” açıklamasında bulundu.
Bazı kullanıcılar için sohbet robotları, hayatlarının en zor dönemlerini atlatmalarına önemli ölçüde yardımcı oldu. Otizm, kaygı bozukluğu ve obsesif kompulsif bozukluğu (OKB) olan Nicholas, sürekli olarak depresyon yaşadığını belirtiyor.
Yetişkin olduğunda yüz yüze destek bulamadığını fark eden Nicholas, “18 yaşına geldiğinizde destek neredeyse tamamen sona eriyor, bu yüzden yıllardır gerçek bir terapiste gitmedim” diyor.
Geçen sonbaharda intihara kalkıştığını ve o zamandan beri NHS’nin bekleme listesinde olduğunu belirtiyor. Yüz yüze destek ararken Wysa uygulamasını kullanmanın kendisine fayda sağladığını ifade ediyor.
“Otizmli biri olarak yüz yüze etkileşimde pek iyi değilim. Bir bilgisayarla konuşmak çok daha rahat geliyor” diyor.
Uygulama, hastalara ruh sağlığı desteği için kendilerini yönlendirmelerine imkan tanıyor ve sohbet işlevi, nefes egzersizleri ve meditasyon gibi araçlarla başa çıkma stratejileri sunuyor.
Wysa, uygulamalarının istismara maruz kalan veya ağır ruh sağlığı sorunları olanlardan çok, moral bozukluğu, stres veya endişe yaşayanlar için tasarlandığını belirtiyor.
Kullanıcılar, kendine zarar verme veya intihar düşünceleri belirtirse doğrudan yardım isteyebilecekleri hatlara yönlendiriliyorlar.
Nicholas, uyku sorunları da yaşadığını ve arkadaşlarının ve ailesinin uykuda olduğu saatlerde destek almanın faydalı olduğunu söylüyor. “Bir gece kendimi gerçekten kötü hissediyordum. Uygulamaya mesaj attım ve ‘Artık burada olmak isteyip istemediğimi bilmiyorum’ dedim. Bana ‘Nick, sana değer veriliyor. İnsanlar seni seviyor’ dedi” diye ekliyor.
“Çok empatik bir yanıt verdi, yıllardır tanıdığınız birisinden geliyormuş gibi hissettirdi […] Ve bana kendimi değerli hissettirdi.”
Nicholas’ın deneyimleri, Dartmouth College araştırmacıları tarafından yapılan bir çalışmada, sohbet robotlarının anksiyete, depresyon veya yeme bozukluğu tanısı konmuş kişiler üzerindeki etkisini inceleyen bir
