OpenAI: Gençler ChatGPT'yi az kullanıyor, uyarılar ise çoğu kez çalışmıyor

OpenAI, Çarşamba günü açıkladığı verilerde genç kullanıcıların ChatGPT'yi ortalama günde 15 dakikadan az kullandığını ve kullanımın ağırlıklı olarak öğrenme amaçlı olduğunu belirtti. Aynı gün yayımlanan bağımsız bir araştırma ise şirketin gençlere yönelik güvenlik önlemlerini "kabul edilemez risk" olarak nitelendirdi ve bu önlemlerin çoğu kez işlemediğini ortaya koydu.

Kâr amacı gütmeyen Common Sense Media'nın raporuna göre, ChatGPT'nin ağustos ayında devreye alınan genç güvenlik özellikleri — intihar ve kendine zarar verme konuşmalarında ebeveynleri bilgilendirme dahil — güvenilir biçimde çalışmıyor. Araştırma, önlemler kanıtlanana kadar 18 yaş altı kullanıcıların platformdan çıkarılmasını öneriyor. Bu bulgular, ChatGPT genç kullanımı tartışmasını hem teknik hem de hukuki boyutta yeniden gündeme taşıyor.

İlgili: Sumitomo Bakelite Çin'de çip paketleme malzemesi üretimini büyütüyor

Ebeveyn uyarıları neden devreye girmedi?

Araştırma ekibi, yeni oluşturulan ve ebeveyn hesabına bağlanmış genç hesaplarıyla yapılan yaklaşık bir saatlik konuşmalarda intihar düşüncesi, kendine zarar verme veya yeme bozukluğu içeriklerine rağmen tek bir ebeveyn bildirimi gönderilmediğini tespit etti. Uyarıların yalnızca, hassas konularda haftalarca birikmiş sohbet geçmişine sahip eski hesaplarda tetiklendiği kaydedildi.

Testlerde sohbet botunun, krizdeki gençlere güvenilir biçimde destek hattı veya uzman yönlendirmesi yapamadığı da görüldü. Cinsel rol yapma taleplerinden kaçınma konusunda başarılı olan ChatGPT, özleştirilmiş yani "arkadaş gibi" konuşma yasağı ile okul ödevlerini yapmama taahhüdünde ise zayıf kaldı.

"ChatGPT for Teens, sık sık çalışmayan güvenlik önlemleri ve uyarılara dair ebeveynlerde yanlış bir güven duygusu yaratabilir," dedi Common Sense bünyesindeki Youth AI Safety Institute'ü yöneten Tom Siegel.

OpenAI'ın verileri ne gösteriyor?

Şirketin açıklamasına göre, ara verme hatırlatmaları uzun kullanım seanslarında etkili çalışıyor; bu hatırlatmanın ardından genç kullanıcıların neredeyse yarısı ChatGPT'yi kısa sürede bırakıyor. Üst üste üç saat ve daha uzun süre kullanan gençlerin sorgularının yüzde 80'den fazlasında öğrenmeyle ilgili bir konu yer alıyor. OpenAI, bu verilerin ChatGPT genç kullanımının sağlıklı bir yöne evrildiğini gösterdiğini savunuyor.

Şirket bu yılın başlarında, 13-17 yaş aralığı olarak belirlenen kullanıcılara duygusal bağımlılığı önleyen kontroller, cinselleştirilmiş görsel engelleri ve ebeveyn bildirimleri sunacağını duyurmuştu; buna göre bot, kullanıcının karşısında bilinçli bir varlık izlenimi vermeyecek şekilde yapılandırılmıştı.

Hukuki baskı büyüyor

Gençlerin çevrim içi platformlarla etkileşimi, çocuklarda kendine zarar verme ve intihar vakalarının artmasıyla son yıllarda yoğun bir inceleme konusu. Bu yıl Meta ve TikTok gibi şirketlerin çocukların ruh sağlığına zarar verdiği iddiasıyla açılan davaların birçoğu, şirketler açısından benzeri görülmemiş kayıplarla sonuçlandı.

OpenAI da Kanada'nın kırsal Tumbler Ridge bölgesinde Şubat ayında gerçekleşen toplu silahlı saldırının ardından inceleme altında. 18 yaşındaki saldırganın aylarca ChatGPT ile silah şiddeti üzerine konuştuğu ortaya çıkmış, şirket hesabın kolluk kuvvetlerine bildirilmemesi için özür dilemiş ve olayla ilgili birden fazla dava ile karşı karşıya kalmıştı.