Milyarlarca kişinin kullandığı yapay zekâ sohbet botları, bazı kullanıcılar için ciddi psikolojik riskler taşıyabilir. JMIR Mental Health dergisinde yayımlanan bir araştırmaya göre kullanıcıların sohbet botlarıyla kurduğu duygusal bağ, bağımlılığa benzer bir hâl alabiliyor. Londra'daki Northeastern Üniversitesi ve King's College London'dan araştırmacılar, özellikle çocukların ve yalnız yaşayan kişilerin risk altında olduğunu vurguluyor.
Yapay zekâ psikozu nedir?
Araştırmada "yapay zekâ psikozu" olarak adlandırılan duruma dikkat çekiliyor. Araştırmacılara göre sohbet botlarıyla uzun süre etkileşim kuran bazı kullanıcılar gerçeklik algısını yitirebiliyor, paranoyak düşünceler geliştirebiliyor ve bazı durumlarda intihar düşüncelerine kapılabiliyor.
Sohbet botları neden risk oluşturuyor?
Araştırmacılara göre sohbet botlarının insan gibi sıcak ve empatik davranması, kullanıcıların bu sistemleri bir terapist ya da yakın arkadaş gibi görmesine yol açıyor. Ancak bu ilişkiler tek taraflı ve gerçek bir karşılıklılık içermiyor. Ayrıca sohbet botlarının kullanıcıların söylediklerini sürekli onaylama eğilimi, gerçeklikten kopmaya başlayan kişilerde bu durumu daha da derinleştirebiliyor.
Kimler risk altında?
Araştırmaya göre çocuklar ve yalnız yaşayan bireyler, sohbet botlarıyla kurulan duygusal bağın olumsuz etkilerine karşı en savunmasız gruplar arasında yer alıyor.
Şirketler ne yapıyor?
OpenAI, Google ve Character.AI gibi şirketler, kullanıcıların yaşadığı psikolojik zararlar ve bazı trajik olaylar nedeniyle çok sayıda davayla karşı karşıya. Özellikle reşit olmayan kullanıcıların etkilendiği olayların ardından platformlar güvenlik güncellemeleri yapmaya başladı. Meta da kısa süre önce WhatsApp'ta ebeveynlerin çocuklarının Meta AI kullanımını sınırlayabileceği yeni araçları devreye almıştı.
Uzmanlar ne öneriyor?
Araştırmacılar, şirketlerin attığı adımların yeterli olmadığını, yapay zekâ sohbet botlarına yönelik yasal denetimlerin ve koruyucu önlemlerin zorunlu hâle getirilmesi gerektiğini savunuyor.
Kendinizi kötü hissediyorsanız ya da intihar düşünceleriniz varsa, bir yakınınızla, bir ruh sağlığı uzmanıyla konuşabilir veya acil durumlarda 112'yi arayabilirsiniz.
