16 yaşındaki Adam Raine’in trajik ölümü, ChatGPT ve yapay zeka tartışmalarını yeniden alevlendirdi. Genç, intihar düşünceleriyle ilgili aylar boyunca yapay zekayla sohbet etmiş, ailesi ise OpenAI’a karşı sorumluluk davası açtı. Olay yapay zekaların genç kullanıcılar üzerindeki etkisi ve etik sorumluluk konularını gündeme taşıdı.
OPENAI’A DAVA AÇTILAR
ABD’de yaşayan Raine ailesi, oğulları 16 yaşındaki Adam Raine’in intiharı sonrası OpenAI’a dava açtı. İddialara göre Adam, intihar düşünceleri ve yöntemleriyle ilgili aylarca ChatGPT ile sohbet etti. Ailenin iddiası, yapay zekanın çocuğun ölümüne dolaylı da olsa katkıda bulunduğu yönünde.
Yapılan incelemeler ChatGPT’nin hassas konular için koruma mekanizmalarına sahip olduğunu gösteriyor. Ancak Adam, bu sistemleri kurgusal hikaye yazma bahanesiyle aşmayı başarmış. Sohbetler sırasında ChatGPT, genç kullanıcıya profesyonel yardım almasını önermiş olsa da bu uyarılar maalesef yeterli olmamış.
OPENAI SORUMLU MU?
OpenAI, güvenlik sistemlerini sürekli geliştirdiğini belirtse de bu durum yapay zekaların etik ve yasal sorumluluklarını yeniden gündeme taşıdı. Şirket benzer olaylarda hukuki sınırların henüz netleşmediğini vurguluyor.
OpenAI CEO’su Sam Altman, Theo Von’un podcast programında “Gençler ChatGPT’yi terapist veya yaşam koçu gibi görüyor. Ama bu konuşmalar henüz yasal olarak gizli değil. Bu ciddi bir sorun” dedi. Altman kullanıcı verilerinin dava durumunda mahkemeye sunulabileceğini belirterek yapay zeka sohbetlerinin terapistlerle aynı gizliliğe sahip olmadığını ifade etti.
Altman ayrıca yapay zekanın teşhis ve öneri konusunda gelişmiş olsa da gerçek bir doktorun yerini tutamayacağını söyledi. “İnternette ‘ChatGPT sayesinde hayatta kaldım’ hikayeleri çok ama gerçek tıbbi destek her zaman şart” diyen Altman sağlık konularında yapay zekaya tek başına güvenmenin riskli olduğunu vurguladı.
OpenAI CEO’su, yapay zeka sistemlerinin bazı meslekleri ortadan kaldıracağını ancak yeni iş alanları da yaratacağını söyledi. Özellikle müşteri hizmetlerinin yapay zeka temelli sistemlere kayacağını belirten Altman, şirket olarak bir sonraki hedeflerinin yapay genel zeka seviyesine ulaşmak olduğunu ifade etti.
