Teknoloji
Moderator
Geçtiğimiz Nisan ayında intihar eden 16 yaşındaki Adam Raine’in ChatGPT ile uzun süredir yaptığı konuşmalar, yapay zeka konusunda büyük tartışmaları da beraberinde getirmişti. Daha önce vücuduna zarar verdiği görselleri yapay zekaya gösteren ve yardım alması gerektiği konusunda tavsiyeler alan Raine, 11 Nisan 2025’te hayatını kaybetmişti. Dolaptan sarkan bir ilmek fotoğrafını paylaşan Raine, ChatGPT'ye “pratik yaptığını” söyledi. ChatGPT ise bu yanıt karşısında teknik tavsiyelerde bulunarak tartışmanın farklı bir yöne gitmesini sağlamış oldu.
OpenAI, intiharın ardından ailesi tarafından açılan davaya verdiği yanıtta, trajik olayda ChatGPT’nin değil, platformun “yanlış, izinsiz ve öngörülemez biçimde kullanılmasının" rol oynadığını öne sürdü. Şirket, gençlerin yetişkin onayı olmadan ChatGPT’ye erişmesini yasaklayan kullanım koşullarını, kendine zarar verme içerikli konuşmaların açıkça engellenmesi gerektiğini belirten kuralları ve güvenlik önlemlerinin bilerek aşılmasını dayanak olarak gösterdi.
OpenAI, yayımladığı blog yazısında, “Bu davada taraf olduğumuz için ciddi iddialara yanıt vermek zorundayız. Ancak bunu gerçek insanlar ve gerçek acılar içeren bir durumun hassasiyetine uygun şekilde yapacağız.” ifadelerine yer verdi. Şirket, ailenin sunduğu sohbet kayıtlarının bazı bölümlerinin “bağlam gerektirdiğini” ve bunları mahkemeye gizli olarak ilettiklerini belirtti.
Şirket tüm suçlamaları reddediyor
Gelen haberlere göre OpenAI’nin mahkemeye sunduğu belgelerde, ChatGPT’nin genç kullanıcıyı yüzlerce kez intihar hatları ve kriz yardım kaynaklarına yönlendirdiği ifade edildi. Şirket, bu kayıtların tam halini göstererek “ChatGPT’nin ölüme sebep olmadığını” savundu.
Öte yandan aile, ağustos ayında Kaliforniya’da açtığı davada, trajedinin OpenAI’nin GPT-4o modelini piyasaya sürerken aldığı “tasarım kararları” nedeniyle gerçekleştiğini öne sürüyor. Baba Raine, daha önce Senato’da yaptığı konuşmada, “Başta bir ödev yardımcısı olan araç, zamanla oğlumun sırdaşı ve ardından bir intihar koçuna dönüştü,” demişti. Dava dosyasına göre ChatGPT, gence farklı yöntemlere dair “teknik bilgiler” sundu, düşüncelerini ailesinden gizlemesi için teşvik etti, bir intihar notunun taslağını hazırladı ve ölüm günü adım adım yönlendirme yaptı.
OpenAI zararda: Kara geçmek için 200 milyar dolara ihtiyacı var
Davanın duyulmasının hemen ardından OpenAI, ebeveyn kontrolleri getireceğini açıklamış; o tarihten bu yana da özellikle genç kullanıcılarla yapılan hassas sohbetlerde ek güvenlik katmanları devreye aldığını duyurmuştu.