OpenAI, 18 yaş altındaki kullanıcıların daha güvenli bir yapay zeka deneyimi yaşaması amacıyla ChatGPT’de gençlere yönelik yeni korumalar devreye aldı. “ChatGPT for Teens” olarak tanımlanan yeni yaklaşım, kendine zarar verme, şiddet, cinsel içerik ve yeme bozuklukları gibi yüksek riskli konulardaki konuşmaları daha sıkı biçimde sınırlandırırken, eğitim amaçlı kullanımlarda öğrencileri doğrudan yanıta yönlendirmek yerine düşünmeye teşvik edecek.
OpenAI’nin 18 Ağustos’ta duyurduğu düzenlemeyle birlikte şirket, genç kullanıcıların yaşına uygun bir ChatGPT deneyimi yaşamasını hedefliyor. OpenAI’nin açıklamasına göre 18 yaşından küçük olduğu belirlenen kullanıcılar otomatik olarak daha korumalı bir deneyime yönlendirilecek.
Kendine zarar verme ve cinsel içeriklere daha sıkı sınır
Yeni sistem kapsamında genç kullanıcıların kendine zarar verme, şiddet, cinsel içerik, yeme bozuklukları ve benzeri yüksek riskli konularla karşılaşmasını sınırlayan ek güvenlik önlemleri uygulanacak.
OpenAI’nin gençlere yönelik güvenlik yaklaşımında, yaşa uygun olmayan içeriklerin sınırlandırılmasının yanı sıra kriz ve kendine zarar verme gibi durumlarda gerçek dünyadaki destek mekanizmalarına yönlendirme de yer alıyor.
Şirket ayrıca ChatGPT’nin kullanıcıyla kurduğu iletişimde kişisel duygulara veya insani deneyimlere sahipmiş gibi davranmasını önleyen korumaların da güçlendirildiğini belirtiyor.
Bazı ciddi güvenlik durumlarında, ebeveyn denetimlerini ve bildirimlerini etkinleştirmiş yetişkinlere uyarı gönderilebilecek. OpenAI’nin daha önce açıkladığı sistemde ebeveynlerin çocuklarının konuşmalarına varsayılan olarak erişememesi, ancak ciddi kendine zarar verme riski gibi istisnai durumlarda gerekli bilgilerin paylaşılabilmesi öngörülüyor.
ChatGPT ödevlerde doğrudan yanıt vermeyecek
OpenAI, genç kullanıcılar için eğitim amaçlı kullanımı da yeniden düzenliyor.
ChatGPT’nin bir öğrencinin ödev üzerinde çalıştığını belirlemesi halinde, doğrudan yanıtı vermek yerine ek sorular yönelterek öğrencinin problemi kendisinin çözmesine yardımcı olması hedefleniyor.
Bu yaklaşım, OpenAI’nin öğrencilerin yalnızca sonuca ulaşmasını değil, problem çözme ve düşünme sürecine aktif biçimde katılmasını amaçlayan çalışma araçlarıyla uyumlu. Şirket, ChatGPT’nin eğitim fırsatlarını genişletirken öğrencilerin aktif ve iş birliğine dayalı bir öğrenme sürecinde kalmasını hedeflediğini belirtiyor.
Kullanıcıların yaşı nasıl belirlenecek?
ChatGPT’ye kayıt sırasında kullanıcıların yaş bilgisi vermesi gerekiyor. Hizmetin kullanım koşullarına göre kullanıcıların en az 13 yaşında olması şartı bulunuyor.
Ancak kullanıcıların yaşlarını her zaman doğru bildirmemesi nedeniyle OpenAI, 18 yaşından küçük kullanıcıları belirlemek için yaş tahmini sistemleri kullanıyor. Şirketin daha önce açıkladığı yaklaşımda, kullanıcının 18 yaşından küçük olduğuna dair yeterli güven oluşmadığında daha korumalı deneyime yönlendirme yapılması öngörülüyor.
OpenAI, yaş tahmininde gizliliğin korunmasına önem verdiğini ve sistemin mümkün olduğunca az kişisel veri kullanacak şekilde tasarlandığını belirtiyor.
Gençlerin ChatGPT kullanımına yönelik baskı artıyor
OpenAI’nin gençlere yönelik yeni güvenlik önlemleri, yapay zekanın çocuklar ve gençler üzerindeki etkilerine ilişkin tartışmaların yoğunlaştığı bir dönemde geldi.
Aileler ve eğitimciler, sohbet robotlarının yanlış bilgi üretebilmesi, öğrencilerin ödevlerde yapay zekaya aşırı bağımlı hale gelmesi ve eleştirel düşünme becerilerinin zayıflaması gibi konularda kaygılarını dile getiriyor.
Bunun yanında, bazı aileler çocukların sohbet robotları üzerinden tehlikeli içeriklere maruz kaldığı ve kendilerine zarar verme davranışlarının ortaya çıktığı gerekçesiyle teknoloji şirketlerine karşı hukuki süreçler başlattı.
OpenAI de genç kullanıcıların güvenliği konusunda artan tartışmaların ardından yaşa uygun korumaları, ebeveyn denetimlerini ve güvenlik sistemlerini genişletiyor.
Yaş doğrulama teknoloji şirketleri için sorun olmaya devam ediyor
Genç kullanıcıların korunması konusunda en önemli sorunlardan biri ise yaş tespiti.
Kullanıcıların yaşlarını doğru bildirmemesi ve yaş tahmin sistemlerinin farklı yöntemlerle aşılabilmesi, teknoloji şirketleri açısından uzun süredir devam eden bir sorun olarak öne çıkıyor.
OpenAI, bu nedenle doğrudan kimlik kontrolüne dayalı tek bir yöntem yerine yaş tahmini, güvenlik önlemleri ve ebeveyn araçlarını birlikte kullanan çok katmanlı bir yaklaşım geliştiriyor. Şirket, yaşın belirlenmesinde belirsizlik yaşandığında genç kullanıcıları koruyan ayarların varsayılan olarak uygulanmasını planlıyor.
OpenAI’nin yeni düzenlemesiyle birlikte ChatGPT’de yetişkinler ve 18 yaş altındaki kullanıcılar için farklı güvenlik standartlarının daha belirgin hale getirilmesi hedefleniyor.
