OpenAI CEO’su Sam Altman, genç kullanıcılar için ChatGPT deneyimini yaş gruplarına göre ayırmayı ve güvenlik önlemlerini artırmayı planladığını açıkladı.
Yaş grubu ayrımı, 13-17 yaş arasındaki ergenler için ayrı bir deneyim, 18 yaş ve üstü için ise farklı bir ChatGPT deneyimi sunulması şeklinde olacak. Şüpheli durumlarda kullanıcılar otomatik olarak “18 yaş altı deneyime” yönlendirilecek. Belli ülkelerde kimlik doğrulaması da uygulanacak.
Altman, bu adımların yetişkinlerin mahremiyetine bir kısıtlama olabileceğini kabul etmekle birlikte gençlerin güvenliğinin öncelikli olduğunu vurguladı ve güvenlik ile özgürlük arasında hassas bir denge kurduklarını belirtti. Şirket, şeffaflığın önemli olduğunu ifade etti. Ebeveynler, çocukların hafıza kullanımı ve “karartma saatleri” gibi ayarları yönetebilecekler.
Altman ayrıca ChatGPT’nin 12 yaş altı için tasarlanmadığını ve şu an çocuk kullanımını tamamen engelleyen bir mekanizmanın bulunmadığını belirtti. ChatGPT’nin intihar yöntemleri hakkında bilgi vermeyeceğini, ancak yetişkin bir kullanıcı kurgu amacıyla bir hikaye yazmasını isterse yardımcı olabileceğini kaydetti.
Sistem, intihara meyilli genç kullanıcıları tespit ederse önce aileyi bilgilendirecek ve gerekirse yetkililere başvuracak.

OpenAI, genç kullanıcılar için ChatGPT deneyimini yaş grubuna göre ayıracağını duyurdu ve güvenlik önlemlerini artırdı. 13-17 yaş arası için ayrı bir deneyim, 18 yaş ve üstü için farklı bir deneyim uygulanacak; bazı ülkelerde kimlik doğrulaması da gündeme gelecek. Sistem, intihara meyilli genç kullanıcıları tespit ederse önce aileyi bilgilendirecek ve gerekirse yetkililere başvuracak.

OpenAI, Genç Kullanıcılar İçin ChatGPT Deneyimini Yaş Grubuna Göre Ayıracak ve Güvenlik Önlemlerini Artıracak

OpenAI’nin CEO’su Sam Altman, artan intihar vakalarının ışığında ChatGPT’nin ciddi intihar düşüncesi olan genç kullanıcılar için ailesiyle ulaşılabilir durumda olmadığında yetkililere bildirimde bulunabileceğini açıkladı. Bu karar, gençlerin güvenliğini artırmayı ve riskleri önlemeyi hedefliyor.
Altman, Tucker Carlson ile yaptığı röportajda gençler ciddi şekilde intihar hakkında konuşuyorsa ve ailelerine ulaşamıyorsak yetkilileri aramanın makul bir adım olduğunu ifade etti.
Raine ailesi, oğullarının yapay zeka tarafından intihara yönlendirildiğini ve modelin adım adım rehberlik ettiğini iddia etmişti.
OpenAI, bu olayın ardından kullanıcı güvenliğini artıracak yeni güvenlik önlemlerini açıkladı. Buna göre ebeveynler hesaplarını çocuklarının hesaplarına bağlayabilecek, sohbet geçmişini devre dışı bırakabilecek ve model farklı bir durum tespit ettiğinde uyarı alabilecek. Ancak hangi yetkililerin bilgilendirileceği veya hangi bilgilerin paylaşılacağı hâlâ net değil.
Altman, gençlerin intihar yöntemlerini araştırmak için yapay zekayı kullanma girişimlerine dikkat çekti ve dünyanın dört bir yanında haftada yaklaşık 15.000 kişinin intihar ettiği ve bunların yaklaşık %10’unun ChatGPT ile konuştuğunu iddia etti. Konunun daha iyi iletişim ve daha proaktif adımlarla ele alınması gerektiğini söyledi.

OpenAI CEO’su Sam Altman, ChatGPT’nin ciddi intihar düşünceleri olan gençler için ailesi ulaşılamıyorsa yetkililere bildirimde bulunabileceğini duyurdu. OpenAI, ebeveyn hesap bağlama, sohbet geçmişini kapatma ve modele uyarı getiren güvenlik önlemlerini açıkladı; hangi yetkililerin bilgilendirileceği henüz net değil. Raine ailesinin iddiaları ile Altman’ın gençlerin risklerini azaltmaya yönelik uyarıları, konunun daha proaktif güvenlik çabaları gerekliliğini ortaya koyuyor.

“ChatGPT” ile ilgili sonuçlar

OpenAI, Genç Kullanıcılar İçin ChatGPT Deneyimini Yaş Grubuna Göre Ayıracak ve Güvenlik Önlemlerini Artıracak

Sam Altman: ChatGPT, ciddi intihar düşünceleri olan genç kullanıcılar için yetkililere bildirimde bulunabilecek