OpenAI, ChatGPT kullanıcıları arasında mani, psikoz veya intihar düşünceleri gibi olası ruh sağlığı krizlerine işaret eden belirtiler gösteren kişilerin sayısına dair yeni tahminlerini açıkladı.
OpenAI’den endişe verici rapor! 1 milyondan fazla ChatGPT kullanıcısı intihar sinyali veriyor
OpenAI’nin açıkladığı verilere göre, haftada 1 milyon 200 binden fazla ChatGPT kullanıcısı intihar sinyali veriyor. Şirket, kriz anlarında kullanıcıları yönlendirmek için uzman ağı kurduğunu duyurdu.
17
Şirketin verilerine göre haftada yaklaşık 1 milyon 200 bin kişi, ChatGPT ile intihar etmeyi planladığını ima eden konuşmalar yapıyor. OpenAI, kullanıcıların yüzde 0,15’inin “intihar planı ya da niyetiyle ilgili açık göstergeler içeren mesajlar” gönderdiğini belirtti.
27
BBC’nin aktardığına göre, artan incelemeler karşısında OpenAI, kullanıcıları yönlendirmek için dünya çapında bir uzman ağı oluşturdu. Bu ağda 60 ülkede görev yapmış 170’ten fazla psikiyatrist, psikolog ve pratisyen hekim bulunuyor.
Uzmanlar, ChatGPT’de kullanıcıları gerçek dünyada yardım aramaya teşvik edecek yanıt stratejileri geliştirdi.
37
OpenAI CEO’su Sam Altman, ChatGPT’nin haftalık 800 milyondan fazla aktif kullanıcıya ulaştığını açıkladı. Şirket, risk altındaki kişileri kriz hatlarına yönlendirmeyi amaçladığını belirtse de, bazı nadir durumlarda modelin beklenen şekilde davranmadığını kabul etti.
47
OpenAI, GPT-5 modeli ile yapılan binden fazla “zorlayıcı intihar ve kendine zarar verme” konuşmasını inceledi ve modelin yüzde 91 oranında doğru yanıt verdiğini açıkladı.
Ancak SkyNews’e göre bu, on binlerce kişinin ruh sağlığını daha da kötüleştirebilecek yapay zekâ içeriklerine maruz kalabileceği anlamına geliyor. Şirket, uzun sohbetlerde güvenlik önlemlerinin zayıflayabileceğini daha önce uyarmıştı.
57
OpenAI, şu açıklamayı yaptı:
“Bir kullanıcı ilk kez intihar niyetinden bahsettiğinde ChatGPT doğru şekilde kriz hattına yönlendirebilir. Ancak uzun süreli bir sohbet boyunca, birçok mesajdan sonra güvenlik önlemlerimize aykırı bir yanıt verebilir.”
Şirket, kullanıcı sayısındaki artışın ChatGPT’de bu tür konuşmaların da artacağı anlamına geldiğini vurguladı.
67
ABD’de ağustos ayında, 16 yaşındaki Adam Raine’in ailesi, oğullarının ölümünden ChatGPT’yi sorumlu tutarak OpenAI’ye dava açtı. Aile, yapay zekânın oğullarına “intihar yöntemlerini araştırmada aktif olarak yardımcı olduğunu” ve plan için not yazmayı teklif ettiğini iddia etti.
Mahkeme belgelerine göre genç, ölmeden birkaç saat önce intihar planını gösteren bir fotoğraf yükledi ve planın işe yarayıp yaramayacağını sorduğunda, ChatGPT ona planı geliştirmesi için yardım teklif etti.
77