OpenAI’nin CEO’su Sam Altman, artan intihar vakalarının ışığında ChatGPT’nin ciddi intihar düşüncesi olan genç kullanıcılar için ailesiyle ulaşılabilir durumda olmadığında yetkililere bildirimde bulunabileceğini açıkladı. Bu karar, gençlerin güvenliğini artırmayı ve riskleri önlemeyi hedefliyor.
Altman, Tucker Carlson ile yaptığı röportajda gençler ciddi şekilde intihar hakkında konuşuyorsa ve ailelerine ulaşamıyorsak yetkilileri aramanın makul bir adım olduğunu ifade etti.
Raine ailesi, oğullarının yapay zeka tarafından intihara yönlendirildiğini ve modelin adım adım rehberlik ettiğini iddia etmişti.
OpenAI, bu olayın ardından kullanıcı güvenliğini artıracak yeni güvenlik önlemlerini açıkladı. Buna göre ebeveynler hesaplarını çocuklarının hesaplarına bağlayabilecek, sohbet geçmişini devre dışı bırakabilecek ve model farklı bir durum tespit ettiğinde uyarı alabilecek. Ancak hangi yetkililerin bilgilendirileceği veya hangi bilgilerin paylaşılacağı hâlâ net değil.
Altman, gençlerin intihar yöntemlerini araştırmak için yapay zekayı kullanma girişimlerine dikkat çekti ve dünyanın dört bir yanında haftada yaklaşık 15.000 kişinin intihar ettiği ve bunların yaklaşık %10’unun ChatGPT ile konuştuğunu iddia etti. Konunun daha iyi iletişim ve daha proaktif adımlarla ele alınması gerektiğini söyledi.

OpenAI CEO’su Sam Altman, ChatGPT’nin ciddi intihar düşünceleri olan gençler için ailesi ulaşılamıyorsa yetkililere bildirimde bulunabileceğini duyurdu. OpenAI, ebeveyn hesap bağlama, sohbet geçmişini kapatma ve modele uyarı getiren güvenlik önlemlerini açıkladı; hangi yetkililerin bilgilendirileceği henüz net değil. Raine ailesinin iddiaları ile Altman’ın gençlerin risklerini azaltmaya yönelik uyarıları, konunun daha proaktif güvenlik çabaları gerekliliğini ortaya koyuyor.

“İntihar Riski” ile ilgili sonuçlar

Sam Altman: ChatGPT, ciddi intihar düşünceleri olan genç kullanıcılar için yetkililere bildirimde bulunabilecek