Meta, Perşembe günü yayınladığı blog yazısıyla, genç kullanıcıların Meta AI ile intihar veya kendine zarar verme konularında yaptığı konuşmaların ebeveynlere bildirilmesini sağlayacak yeni bir politikayı duyurdu. Bu hamle, şirketin mevcut gençlik koruma önlemlerini genişleterek ebeveynlere çocuklarının yapay zeka ile etkileşimleri hakkında daha fazla bilgi sunmayı hedefliyor. Meta, ebeveynler ve uzmanlarla yürüttüğü çalışmalar sonucunda, özellikle bir gencin kendine zarar verme niyetini açıkça ifade ettiği veya bu yönde ince imalarda bulunduğu konuşmaların uyarı gerektirdiğini belirledi. Yeni sistem, yalnızca Instagram denetim kontrollerini aktif olarak kullanan ebeveynleri kapsarken, uyarılar uygulama bildirimi, e-posta, kısa mesaj veya WhatsApp aracılığıyla iletilebilecek.
Bildirim sistemi nasıl çalışacak?
Meta AI, intihar ve kendine zarar verme konularında daha önce de kriz yardım hatlarını öneriyor ve gençleri güvendikleri bir yetişkine yönlendiriyordu. Şimdi ise bu sürece ebeveyn bildirimleri de eklendi. Meta, konuşmalar yapay zeka tarafından endişe verici olarak işaretlense bile, ebeveynlere uyarı göndermeden önce bu konuşmaları manuel olarak inceleyeceğini belirtti. Bu adım, yanlış alarmların önüne geçmek ve yalnızca gerçekten risk teşkil eden durumlarda ebeveynlerin harekete geçmesini sağlamak amacıyla atıldı. Bildirimi alan ebeveynler aynı zamanda, çocuklarıyla kendine zarar verme ve intihar konularını nasıl ele alacaklarına dair uzmanlar tarafından geliştirilmiş önerilere de erişebilecek. Meta’nın paylaştığı örnek bildirimlerde, ebeveynlerin alacağı mesajların sadece bir uyarıdan ibaret olmadığı, aynı zamanda rehberlik edici içerikler sunduğu görülüyor. Uyarı sistemi, ABD, Birleşik Krallık, Kanada ve Avustralya’da kullanıma sunulurken, Meta yıl sonuna kadar küresel erişimi hedefliyor.
Sınırlı içerik ayarı devrede
Meta, aynı duyuru kapsamında Meta AI için sınırlı içerik ayarını da genişletti. Geçen yıl Instagram için kullanıma sunulan bu özellik, şirketin en katı filtrelerini etkinleştirerek yapay zekanın sorunlu sorguları belirleme konusunda daha agresif davranmasını sağlıyor. Bu ayar açıldığında Meta AI, geniş bir sorgu yelpazesine yanıt vermeyi reddederek “potansiyel olarak uygunsuz konuşma olasılığını” daha da azaltıyor. Zaten Meta AI, gençlerle cinsel veya romantik içerikli konuşmalar yapmamak ve alkollü içecek tarifleri vermemek üzere eğitilmiş durumda. Ancak yeni sınırlı içerik ayarıyla birlikte bu koruma kalkanı daha da güçleniyor. Meta’ya göre bu adım, özellikle hassas konularda yapay zekanın yanlış veya zararlı yanıtlar üretmesini engellemeye yönelik ek bir güvenlik katmanı oluşturuyor.
Uzmanlardan ve savunuculardan görüşler
Meta’nın bu hamlesi, çocuk güvenliği savunucuları arasında karışık tepkilere yol açtı. Nationwide Çocuk Hastanesi İntihar Önleme ve Araştırma Merkezi klinik yöneticisi Dr. John Ackerman, Şubat ayında Instagram için benzer bir özelliğin duyurusunda, gençler için genişletilmiş koruma önlemlerini memnuniyetle karşıladığını ancak bildirimlerin erişilebilir ve eyleme geçirilebilir olması gerektiğini vurgulamıştı. Öte yandan, çocuk hakları savunucusu Fairplay adlı kar amacı gütmeyen kuruluşun genel müdürü Josh Golin, Meta’nın ebeveyn kontrolü yaklaşımını eleştirerek, bakıcılara çocuklarının çevrimiçi aktivitelerini izleme yükü yüklendiğini, asıl çözümün baştan güvenli ürünler tasarlamak olduğunu belirtti. Meta’nın çocuk güvenliği konusundaki performansı zaten yasal incelemelerin odağında bulunuyor; şirket bu yıl iki ayrı emsal davayı kaybederken yüzlerce dava da devam ediyor. Yeni bildirim sisteminin bu eleştirileri ne ölçüde karşılayacağı ve gerçekten koruyucu bir etki yaratıp yaratmayacağı ise önümüzdeki dönemde netleşecek.
Henüz hiç yorum yapılmamış. İlk yorumu sen yap!
