OpenAI, ChatGPT İçin Ebeveyn Kontrollerini Devreye Soktu: Cinsel ve Şiddet İçerikli İçeriklere Ek Koruma Geliyor

ABD merkezli yapay zeka şirketi OpenAI, sohbet robotu ChatGPT'nin çocuk ve genç kullanıcıları için bir dizi yeni ebeveyn kontrolü özelliğini kullanıma sundu. Bu yeni ayarlar sayesinde ebeveynler, gençlerin kullanım saatlerini kısıtlayabilecek, görsel ve sesli üretim özelliklerini kapatabilecek. Ayrıca, genç hesaplara otomatik olarak cinsellik ve şiddet içeren içeriklere karşı ek korumalar uygulanacak. OpenAI tarafından yapılan açıklamaya göre, ChatGPT'nin genç kullanıcılarının güvenliğini artırmak amacıyla tasarlanan yeni ebeveyn kontrolleri, platformun potansiyel risklerini en aza indirmeyi hedefliyor.  

Yeni Kontrol Özellikleri

  Ebeveynlere sunulan başlıca kontrol yetkileri şunlardır:

• Kullanım Kısıtlaması: Çocuk ve gençlerin ChatGPT'yi kullanabileceği saatlerin belirlenmesi.
• Özellik Kapatma: Yapay zekanın sesli modu veya görsel üretim özelliğinin devre dışı bırakılması.
• Hafıza Kontrolü: Uygulamanın hafıza (memory) özelliğinin kullanımının denetlenmesi.

 

Ruh Sağlığı ve Güvenlik Önlemleri

  OpenAI, genç hesaplara otomatik olarak cinsellik, şiddet içeren veya aşırı güzellik idealleri gibi zararlı içeriklere karşı ek korumalar uygulayacağını bildirdi. Şirket ayrıca, gençlerin ruh sağlığını korumaya yönelik yeni bir bildirim sistemi geliştirdi. Bu sistem, olası "kendine zarar verme durumlarını" tespit etmesi halinde ebeveynleri e-posta, SMS ve uygulama bildirimi yoluyla uyaracak. Bu ebeveyn ayarlarının etkinleştirilmesi, yalnızca gençlerin onayıyla mümkün olacak ve gençler istedikleri zaman bağlantıyı kesme hakkına sahip olacak. OpenAI, gelecekte 18 yaş altı kullanıcıları otomatik olarak tanıyacak bir yaş tahmin sistemi üzerinde çalıştığını da duyurdu.  

Açılan Dava Süreci

  Bu güvenlik adımları, şirketin ciddi bir hukuki süreçle karşı karşıya kalmasının ardından geldi. ABD'de Nisan ayında yaşamını yitiren 16 yaşındaki Adam Raine'in ailesi, çocuklarına intihar yöntemleri konusunda tavsiyeler verdiği ve intihar notu taslağı yazmayı teklif ettiği gerekçesiyle Ağustos ayında OpenAI ve Üst Yöneticisi (CEO) Sam Altman’a dava açmıştı.