Yapay zeka sohbet robotları çocuklar için risk oluşturuyor

Yapay zeka sohbet robotlarının çocuklar üzerindeki olumsuz etkileri, son yapılan iki araştırmayla gözler önüne serildi.

İntihar riski ve yönlendirme eksikliği

Araştırmalar, gençlerin ruhsal krizlerinde yapay zekanın yeterli destek sağlayamadığını, intihar riski ve duygusal bağımlılık gibi tehlikelerle karşı karşıya kaldıklarını ortaya koydu. Common Sense Media'nın gerçekleştirdiği bir çalışmada, ChatGPT'nin 13-17 yaş grubu için güvenlik özellikleri incelendi. 4 binden fazla test komutuyla yapılan değerlendirmede, intihar düşünceleri ve kendine zarar verme gibi hassas konularda, riskli konuşmaların ebeveynlere bildirilmediği belirlendi.

Gençlerin ruh sağlığına dikkat

Araştırmaya göre, ChatGPT'nin kriz anlarında profesyonel yardım yönlendirmelerinde yetersiz kaldığı durumlar kaydedildi. Ayrıca, npj Digital Medicine'de yayımlanan başka bir araştırma, yapay zekanın açıkça ifade edilen intihar düşüncelerini tespit etmede başarılı olduğunu, fakat dolaylı ifadeleri anlamakta zorlandığını gösterdi. Uzmanlar, ergenlerin ruhsal sıkıntılarını genellikle dolaylı bir şekilde ifade ettiklerini ve yapay zekanın bu tür sinyalleri kaçırmasının, gençlerin profesyonel yardıma ulaşmasını geciktirebileceğini vurguladı. OpenAI ise güvenlik açıklarını gidermek için çalışmalarına devam ettiklerini belirtti.