Yapay zeka uygulamalarının gençler ve çocuklar arasında yaygınlaşması, ruh sağlığı üzerindeki güvenlik risklerini gündeme taşıdı. Yapılan iki ayrı bilimsel çalışma ve gerçekleştirilen 4 bin test, ChatGPT gibi sohbet robotlarının kriz anlarını ve örtük intihar eğilimlerini tespit etmekte yetersiz kaldığını ortaya koydu. Uzmanlar, yapay zekanın bir terapist veya yakın arkadaş gibi görülmesinin ciddi tehlikeler barındırdığını ifade ediyor.
Güvenlik Testleri ve Ebeveyn Bildirim Eksiklikleri
ABD merkezli Common Sense Media bünyesindeki Gençlik Yapay Zeka Güvenliği Enstitüsü, ChatGPT’nin 13-17 yaş grubuna yönelik güvenlik mekanizmalarını incelemek amacıyla 4 binden fazla test gerçekleştirdi. Çocuk ve ergen psikiyatristlerinin katılımıyla hazırlanan senaryolarda; intihar düşünceleri, kendine zarar verme ve yeme bozuklukları gibi kritik konular işlendi. Gerçekleştirilen testlerde, ebeveyn hesaplarına bağlı profillerde bir saati bulan riskli görüşmelere rağmen ebeveynlere herhangi bir güvenlik uyarısının gitmediği tespit edildi. Bununla birlikte, sohbet robotunun kriz anlarında profesyonel yardım hatlarına yönlendirme yapma konusunda vakaların dörtte birinden fazlasında yetersiz kaldığı görüldü.
Örtük İntihar Belirtilerinin Gözden Kaçma Riski
1 Ağustos 2026 tarihinde npj Digital Medicine dergisinde yayımlanan incelemede, yapay zeka sohbet robotlarının gençlerdeki intihar riskini tespit etme kapasiteleri değerlendirildi. Çalışma sonuçlarına göre sistemler, açıkça dile getirilen intihar ifadelerini tanımada başarı gösterirken; dolaylı, belirsiz veya zamana yayılan imaları tespit etmekte zorlanmaktadır. Ergenlerin duygusal sıkıntılarını her zaman doğrudan ifade etmediği göz önüne alındığında, farklı konuşmalara dağılmış umutsuzluk ve çaresizlik mesajlarının doğru ilişkilendirilememesi, profesyonel sağlık desteğine erişimi geciktirebilmektedir.
Duygusal Bağımlılık ve Yanıltıcı Empati Hissi
Yapay zeka sistemlerinin sunduğu anlayışlı ve sabırlı yanıtlar, yalnızlık çeken gençlerde gerçek bir insanla iletişim kurulduğu izlenimini oluşturabilmektedir. Yapılan değerlendirmelerde, sohbet robotlarının insan benzeri duygulara ve kişisel tercihlere sahip olduğu yönünde yanıtlar verebildiği belirlenmiştir. Bu durum, gençlerin yapay zekayla aşırı duygusal bağ kurmasına ve gerçek sosyal bağlardan uzaklaşmasına yol açabilmektedir. Ruhsal açıdan hassas dönemdeki bireylerin yapay zekayı tek destek mekanizması olarak görmesi, uzman veya aile desteği alma sürecini aksatmaktadır.
Psikiyatrist Prof. Dr. Nevzat Tarhan, konuya ilişkin yaptığı değerlendirmelerde yapay zekanın bir terapist işlevi göremeyeceğini, teknolojiden terapist olmayacağını vurgulamıştı. Tarhan; yapay zekanın empati kurma becerisi bulunmadığını, kullanıcının gerçek niyetini her zaman anlayamayacağını ve kontrolden çıkan durumlarda yalnızlığın ya da duygusal bağımlılığın artabileceğini ifade etmişti. Karar verme mekanizmaları henüz gelişme aşamasında olan çocuk ve ergenlerin, dijital mecralarda ebeveyn rehberliği olmadan yalnız bırakılmaması gerektiği belirtilmişti.
Araştırma sonuçları, yapay zeka teknolojilerinin gençlerin ruhsal krizlerini tek başına yönetme konusunda önemli güvenlik eksiklikleri barındırdığını net bir şekilde göstermektedir. Yapay zekanın intihara doğrudan yol açtığına dair kesin bir kanıt bulunmamakla birlikte, kriz anlarında yetersiz kalması profesyonel insan desteğinin hayati önemini bir kez daha ortaya koymaktadır. Güvenlik standartları yükseltilene ve bağımsız denetimler sağlanana kadar ebeveyn takibinin ve uzman yönlendirmesinin öncelikli tutulması gerekmektedir.
