Son yıllarda yapay zeka sohbet robotlarının, özellikle çocuklar ve gençler üzerindeki psikolojik etkileri dünya genelinde tartışma konusu olmuştu. OpenAI, platformun genç kullanıcılarla girdiği diyaloglar, bazı intihar vakalarıyla ilişkilendirilen süreçler ve cinsel içerikli sohbetlere izin veren güvenlik açıkları nedeniyle sert eleştirilerin hedefindeydi. Özellikle geçtiğimiz Nisan ayında, 18 yaş altı kullanıcıların erotik içeriklere erişmesine neden olan bir hatanın düzeltilmesi, şirketi daha kalıcı çözümler aramaya itti.

test
test
İçeriği Görüntüle

Beklenen adım nihayet atıldı; OpenAI, ChatGPT'ye reşit olmayan kullanıcıları 'davranışsal sinyallerden' tespit edebilen bir 'yaş tahmini' özelliği getirdi.

SİSTEM SİZİ NASIL TANIYACAK?

TechCrunch'ın aktardığı bilgilere ve OpenAI'ın yayınladığı blog yazısına göre, bu yeni özellik kullanıcıların sadece doğum tarihini girmesiyle yetinmeyecek. Arka planda çalışan gelişmiş bir yapay zeka algoritması, hesap düzeyindeki çeşitli sinyalleri analiz edecek.

Sistemin inceleyeceği kriterler arasında şunlar yer alıyor:

  • Kullanıcının beyan ettiği yaş,
  • Hesabın oluşturulma tarihi ve ne kadar süredir aktif olduğu,
  • Kullanıcının günün hangi saatlerinde platformu kullandığı (Örneğin; okul saatleri veya gece geç saatler gibi aktiflik zamanları).

OTOMATİK FİLTRELER DEVREYE GİRECEK

Eğer algoritma, bu sinyaller doğrultusunda kullanıcının 18 yaşından küçük olduğu kanısına varırsa, güvenlik protokolleri otomatik olarak devreye girecek. OpenAI'ın halihazırda sisteminde bulunan ancak bu yeni özellikle daha etkin hale gelecek olan içerik filtreleri; cinsellik, şiddet ve psikolojik olarak sorun teşkil edebilecek hassas konuların tartışılmasını engelleyecek. Böylece gençlerin yaşına uygun olmayan içeriklere maruz kalmasının önüne geçilmesi planlanıyor.

YANLIŞLIKLA 'ÇOCUK' SAYILANLAR NE YAPACAK?

Teknolojinin hata yapma payını da göz önünde bulunduran OpenAI, yetişkin kullanıcıların mağdur olmaması için bir itiraz mekanizması da geliştirdi.

Eğer sistem, yetişkin bir kullanıcıyı yanlışlıkla 'reşit değil' olarak etiketlerse, kullanıcıdan yaşını doğrulaması istenecek. Bu doğrulama süreci, OpenAI'ın iş ortağı olan 'Persona' üzerinden yürütülecek. Kullanıcılar, bir selfie (özçekim) göndererek veya kimlik doğrulaması yaparak yetişkin olduklarını kanıtlayıp hesaplarını kısıtlamasız şekilde kullanmaya devam edebilecekler.