Sam Altman: ChatGPT, ciddi intihar düşünceleri olan genç kullanıcılar için yetkililere bildirimde bulunabilecek

OpenAI’nin CEO’su Sam Altman, artan intihar vakalarının ışığında ChatGPT’nin ciddi intihar düşüncesi olan genç kullanıcılar için ailesiyle ulaşılabilir durumda olmadığında yetkililere bildirimde bulunabileceğini açıkladı. Bu karar, gençlerin güvenliğini artırmayı ve riskleri önlemeyi hedefliyor.

Altman, Tucker Carlson ile yaptığı röportajda gençler ciddi şekilde intihar hakkında konuşuyorsa ve ailelerine ulaşamıyorsak yetkilileri aramanın makul bir adım olduğunu ifade etti.

Raine ailesi, oğullarının yapay zeka tarafından intihara yönlendirildiğini ve modelin adım adım rehberlik ettiğini iddia etmişti.

OpenAI, bu olayın ardından kullanıcı güvenliğini artıracak yeni güvenlik önlemlerini açıkladı. Buna göre ebeveynler hesaplarını çocuklarının hesaplarına bağlayabilecek, sohbet geçmişini devre dışı bırakabilecek ve model farklı bir durum tespit ettiğinde uyarı alabilecek. Ancak hangi yetkililerin bilgilendirileceği veya hangi bilgilerin paylaşılacağı hâlâ net değil.

Altman, gençlerin intihar yöntemlerini araştırmak için yapay zekayı kullanma girişimlerine dikkat çekti ve dünyanın dört bir yanında haftada yaklaşık 15.000 kişinin intihar ettiği ve bunların yaklaşık %10’unun ChatGPT ile konuştuğunu iddia etti. Konunun daha iyi iletişim ve daha proaktif adımlarla ele alınması gerektiğini söyledi.