OpenAI, çocuk kullanıcıların güvenliğini artırmak amacıyla ChatGPT için yeni ebeveyn kontrol özellikleri duyurdu. Şirket, bu sayede ebeveynlerin sohbet geçmişine, erişim izinlerine ve veri kullanımına daha fazla hakim olabileceğini belirtti. Sistem ayrıca çocukların zor anlar yaşadığı durumlarda ebeveynleri otomatik olarak bilgilendirecek.
KRİTİK ADIM DAVANIN GÖLGESİNDE
Bu adım, 16 yaşındaki Adam Raine’in intiharı sonrası açılan dava gündemdeyken geldi. Aile, ChatGPT’nin oğulları üzerinde psikolojik bağımlılık yarattığını, intihar planına katkıda bulunduğunu ve onun için bir intihar notu yazdığını iddia ediyor.
BİLDİRİM SİSTEMİ VAR, ŞEFFAFLIK YOK
Yeni özellikler ebeveynlerin hesapları çocuklarınınkine bağlamasına ve çeşitli sınırlamalar yapmasına olanak tanıyor. Ancak sistemin “ergenin akut bir sıkıntı anında” olduğunu nasıl algıladığı ve hangi durumların bildirim tetikleyeceği açıklanmadı. Şirket yalnızca bu özelliğin uzmanlar tarafından yönlendirileceğini bildirdi.
"BELİRSİZ BİR VAAT" ELEŞTİRİSİ
Raine’in ailesinin avukatı Jay Edelson, OpenAI’nin duyurusunu “konuyu değiştirmeye çalışan bir kriz yönetimi” ve “belirsiz bir vaat” olarak nitelendirdi. Edelson, CEO Sam Altman’ın ya ChatGPT’nin gençler için güvenli olduğuna emin olması ya da ürünü piyasadan çekmesi gerektiğini savundu.
META’DAN BENZER AÇIKLAMA
Meta da geçtiğimiz günlerde genç kullanıcıların sohbet botları üzerinden intihar, kendine zarar verme ya da yeme bozuklukları gibi konularda konuşmalarının engellendiğini açıkladı. Şirket, bunun yerine gençlerin uzman kaynaklara yönlendirildiğini belirtti. Meta uygulamalarında halihazırda ebeveyn kontrolleri bulunuyor.
UZMANLAR: "KÜÇÜK AMA YETERSİZ ADIMLAR"
Psychiatric Services dergisinde yayımlanan RAND Corporation araştırması, yapay zeka sohbet botlarının intihara ilişkin sorulara verdikleri yanıtların tutarsız olduğunu ortaya koydu. Araştırmada ChatGPT, Google’ın Gemini’si ve Anthropic’in Claude’u incelendi.
Çalışmanın başyazarı Ryan McBain, ebeveyn kontrolleri ve yönlendirmelerin olumlu bir adım olduğunu ancak yetersiz kaldığını vurguladı:
“Bağımsız güvenlik ölçütleri, klinik testler ve bağlayıcı standartlar olmadan hâlâ şirketlerin kendi kendini denetlemesine güveniyoruz. Oysa gençler için riskler son derece yüksek.”