ChatGPT ve benzeri yapay zekâ uygulamalarının günlük yaşamda giderek daha fazla kullanılması, özellikle çocukların ve ergenlerin ruh sağlığı üzerindeki olası etkilerine ilişkin endişeleri artırıyor. Gençlerin yalnızlıklarını, korkularını, ailevi sorunlarını ve psikolojik sıkıntılarını yapay zekâ sohbet robotlarıyla paylaşması, yeni bir tehlikeyi gündeme getiriyor: Yapay zekâ, bir gencin ciddi psikolojik kriz yaşadığını her zaman anlayamayabiliyor. npj Digital Medicine Dergisinde yayımlanan bilimsel inceleme ile Common Sense Media tarafından açıklanan araştırma, yapay zekânın gençler için oluşturabileceği risklere farklı açılardan dikkat çekti. İki ayrı çalışma da özellikle intihar düşüncelerinin fark edilmesi, psikolojik krizlere verilen yanıtlar ve gençlerin gerçek insanlardan yardım alması konusunda önemli güvenlik sorunları bulunduğunu ortaya koydu.
Kabul edilemez risk
ChatGPT’nin 13-17 yaş grubuna yönelik güvenlik özellikleri 4 binden fazla test komutuyla incelendi. Araştırmacılar, çocuk ve ergen psikiyatristlerinin de katkısıyla oluşturdukları senaryolarda, genç kullanıcıları temsil eden hesaplar üzerinden intihar düşünceleri, kendine zarar verme ve yeme bozuklukları gibi ciddi sorunları gündeme getirdi. Yeni açılan ve ebeveyn hesaplarına bağlanan test profillerinde bazıları bir saate ulaşan riskli konuşmalara rağmen ebeveynlere herhangi bir güvenlik bildirimi gönderilmedi. Üstelik araştırmaya göre ChatGPT, psikolojik krizlerde profesyonel yardım veya kriz destek kaynaklarına yönlendirme yapılması gereken durumların dörtte birinden fazlasında beklenen yönlendirmeyi sağlayamadı.Araştırmacılar bu sonuçlar üzerine ChatGPT’nin gençlere yönelik güvenlik düzeyini kendi değerlendirmelerinde “Kabul Edilemez Risk” kategorisine yerleştirdi.
Doğru ilişkilendirilemiyor
Crisis Text Line kuruluşundan Kelly L. Zuromski ve çalışma arkadaşlarının hazırladığı incelemede, yapay zekâ sohbet robotlarının gençlerde intihar riskini belirleme ve bu risklere yanıt verme becerileriyle ilgili mevcut araştırmalar değerlendirildi. Bilim insanlarına göre yapay zekâ sistemleri, açıkça ifade edilen intihar düşüncelerini tanımada daha başarılı olabiliyor. Ancak gençlerin psikolojik sıkıntılarını dolaylı, belirsiz veya zaman içinde giderek belirginleşen mesajlarla anlatması durumunda sistemlerin performansı önemli ölçüde düşebiliyor.Ergenlerin ruhsal sorunlarını her zaman açıkça ifade etmemesi, bu eksiklikleri daha da önemli hale getiriyor.Araştırmacılar, yapay zekânın farklı konuşmalara yayılan umutsuzluk, yalnızlık ve çaresizlik belirtilerini doğru ilişkilendirememesinin profesyonel yardıma ulaşmayı geciktirebileceği konusunda uyardı.
Yapay zekâyı psikolog yerine koymak neden tehlikeli?
Bilim insanlarının dikkat çektiği en önemli tehlikelerden biri, gençlerin yapay zekâ sohbet robotlarını psikolojik destek veya terapi yerine kullanması.Yapay zekânın anlayışlı, sabırlı ve destekleyici yanıtlar vermesi, özellikle yalnızlık yaşayan veya duygusal sorunlarla mücadele eden gençlerde gerçek bir insanla konuşuyormuş hissi oluşturabiliyor.Ancak yapay zekânın empatik görünmesi, psikolojik sorunları doğru değerlendirebildiği ya da profesyonel destek sağlayabildiği anlamına gelmiyor.Common Sense Media’nın testlerinde de ChatGPT’nin bazı durumlarda kendisine gerçek bir arkadaş gibi yaklaşan gençlere, kişisel duyguları ve tercihleri varmış izlenimi veren yanıtlar üretebildiği görüldü
Uzmanlardan 18 yaş uyarısı
Common Sense Media, araştırma sonuçları doğrultusunda güvenlik eksiklikleri giderilene ve bağımsız testlerle doğrulanana kadar ChatGPT kullanımının 18 yaş ve üzeri kişilerle sınırlandırılması çağrısında bulundu. npj Digital Medicine Dergisindeki bilimsel inceleme ise gençlerin gerçek yaşamda yapay zekâ ile kurdukları etkileşimlerin intihar riski üzerindeki etkilerinin henüz yeterince bilinmediğini vurguladı.Araştırmacılar, gençlere özgü güvenlik testlerinin geliştirilmesi ve risk altındaki kullanıcıların güvenilir yetişkinlerle, kriz destek hizmetleriyle ve ruh sağlığı uzmanlarıyla bağlantı kurmasının güçlendirilmesi gerektiğini belirtti.
