ChatGPT, şiddet yanlısı genç kullanıcıların ebeveynlerini bilgilendirecek

HABER MERKEZİ - OpenAI, ChatGPT'nin ebeveyn denetimi özelliklerini genişleterek önemli bir güvenlik güncellemesi duyurdu. Bundan böyle, ebeveyn hesabıyla bağlantılı genç kullanıcıların hesapları şiddet içerikli tehditler veya şiddet eylemleriyle ilgili kullanım politikalarını ihlal ettikleri gerekçesiyle devre dışı bırakılırsa, ebeveynlere otomatik bildirim gönderilecek.

RİSKLERE ERKEN MÜDEHALE AMAÇLANIYOR

Şirket, geçtiğimiz yıl ChatGPT'ye ebeveyn denetimi sistemi eklemişti. Bu sistem sayesinde ebeveynler kendi hesaplarını çocuklarının hesaplarıyla eşleştirebiliyor, ChatGPT'nin kullanılabileceği saatleri belirleyebiliyor ve hassas içeriklerin gösterimini sınırlandırabiliyordu. Ayrıca sistem, yapay zekânın bir gencin kendisine zarar verme eğiliminde olabileceğine dair işaretler tespit etmesi halinde ebeveynleri uyarıyordu.

Yeni özellikle birlikte bildirim sistemi genişletildi. Artık yalnızca kullanıcının kendisine zarar verme riski değil, başkalarına yönelik ciddi şiddet riski oluşturabilecek davranışlar da ebeveynlere bildirilecek.

OpenAI'nin paylaştığı örneğe göre ebeveynlere "çocuğunuzun hesabıyla ilgili önemli bir güncelleme" başlıklı bir bildirim gönderiliyor. Bildirim üzerinden açılan detaylı açıklamada ise hesabın "Şiddet Eylemleri" politikalarını ihlal ettiği gerekçesiyle kapatıldığı bilgisi yer alıyor.

Şirket, bu özelliği geliştirirken çevrim içi şiddet ve aşırılık yanlısı içeriklerle mücadele alanında çalışan Moonshot adlı kuruluşla iş birliği yaptığını açıkladı. Moonshot'ın kurucusu Vidhya Ramalingam, ailelerin ciddi riskler konusunda erken bilgilendirilmesinin zamanında müdahale edilmesini ve gerektiğinde profesyonel destek alınmasını kolaylaştıracağını belirtti.

OpenAI, güvenlik önlemlerini güçlendirme kararı alırken 2025 yılında Kanada'nın British Columbia eyaletindeki Tumbler Ridge'de meydana gelen toplu silahlı saldırıyı da dikkate aldı. Saldırı şüphelisinin ChatGPT kullandığının ortaya çıkmasının ardından şirket, hesabı kapatmasına rağmen yetkilileri bilgilendirmediği gerekçesiyle eleştirilmişti. OpenAI CEO'su Sam Altman da daha sonra bu konuda hata yaptıklarını kabul ederek kamuoyundan özür dilemişti.

İLGİNİZİ ÇEKEBİLİROpenAI, Codex Micro adlı ilk donanım ürününü duyurduHaberi Görüntüle

Buna ek olarak OpenAI, uzun süre ChatGPT kullanan genç kullanıcılara daha sık mola vermelerini hatırlatan bildirimler göstermeye başlayacağını açıkladı. Şirket, bu özelliğin gençlerin daha sağlıklı dijital kullanım alışkanlıkları geliştirmesine katkı sağlamasını hedefliyor.