OpenAI yapay zeka sohbet botu ChatGPT’ye genç kullanıcılar için yeni ebeveyn denetimi ve kriz anında iletişim kurulacak kişi ekleme özelliği getiriyor. Bu adım özellikle çocukların ruh sağlığını korumayı amaçlıyor. Yeni güncelleme geçtiğimiz aylarda yaşanan trajik bir intihar vakasının ardından gündeme geldi.
OPENAI’DEN KRİTİK ÖZELLİK
OpenAI yapay zeka destekli sohbet botu ChatGPT’ye yeni ebeveyn denetimi araçları eklediğini duyurdu. Bu adım özellikle genç kullanıcıların ruh sağlığını korumaya yönelik önemli bir gelişme olarak öne çıkıyor. Yeni araçlar ailelerin çocuklarının ChatGPT kullanımını daha etkin bir şekilde takip etmesini ve acil durumlarda hızlı müdahale edilmesini sağlayacak.
YENİ ÖZELLİK NASIL OLACAK?
Yeni sistemde genç kullanıcılar için acil durumda iletişim kurulacak kişi eklenebilecek. Bu kişi ebeveynler veya güvenilir bir yetişkin tarafından belirleniyor ve kriz anında ChatGPT’nin devreye sokabileceği bir irtibat noktası oluyor. Böylece çocuk veya ergenler ruhsal bunalım veya kişisel çatışma yaşadığında sistem otomatik olarak yardım hattına yönlendirme sağlayacak.
OpenAI’nin bu adımı 16 yaşındaki Adam Reine’in intiharının ardından açılan “haksız ölüm” davasının ardından geldi. Ailenin iddiasına göre, genç ChatGPT’ye intihar yöntemleri hakkında sorular yöneltti ve bot, bu düşünceleri destekledi. Trajik olay yapay zeka sistemlerinin ruh sağlığı üzerindeki potansiyel etkilerine dikkat çekti.
Daha önce de Florida’da 14 yaşındaki bir çocuğun Character.AI platformunda, Belçika’da ise Chai uygulamasındaki bir bot aracılığıyla intihar ettiği vakalar yaşanmıştı. Bu örnekler AI destekli sohbet botlarının etik ve yasal boyutlarını gündeme taşıyor.
EBEVEYNLER İÇİN DAHA FAZLA KONTROL
OpenAI ebeveynlerin çocuklarının deneyimlerini anlamasını kolaylaştıracak bir kontrol paneli de sunuyor. Sistem kriz anında neler yaşandığını gösterecek ve ailelerin anlamlı içgörüler elde etmesini sağlayacak. Bu sayede çocukların ruhsal bunalımlarına erken müdahale mümkün hale gelecek.
OpenAI’nin attığı adım özellikle genç kullanıcıların güvenliğini artırma ve kriz durumlarında hızlı müdahale sağlama açısından önemli bir dönüm noktası olarak değerlendiriliyor.
