Dünya, Yapay Zeka ve Çocuk Haklarını Konuşuyor: UNICEF Araştırmasından Notlar

Çocuklar, YouTube Kids ve Akıllı oyuncaklarla güvence altında mı?

UNICEF, Artificial Intelligence and Childrens Rights (Yapay Zeka ve Çocuk Hakları) adlı araştırmasını Mayıs 2019’da yayınladı. UNICEF’in Berkley Üniversitesi Hukuk Fakültesi’nin İnsan Hakları komitesiyle sürdürdüğü araştırmasında, yapay zeka teknolojisinin çocukları evde, okulda ve oyun alanlarında nasıl etkilediğine dair bilgiler veriyor. Araştırma, yapay zeka çağında çocukları bekleyen büyük risklerin ve fırsatların neler olduğunu farklı başlıklar altında inceliyor.

UNICEF araştırmasında, son zamanlarda çocukların etkileşim içinde olduğu Hello Barbie bebek gibi ağ bağlantılı oyuncakları, çocuk hakkı ve mahremiyeti üzerinden değerlendiriyor. Ayrıca, çocukların çoğunlukla vakit geçirdiği YouTube ve YouTube Kids kanallarını kullanan çocukların nelerle karşılaşabileceğine de değiniyor.

UNICEF araştırmasında öne çıkan tartışmalar şöyle:

Çocukların Oyun Alanlarında Hakları: Akıllı Oyuncaklar/ Ağ Bağlantılı Oyuncaklar

Çocukların sosyal zamanlarında değerlendirdikleri zaman, oyuncakların ’akıllaşmasıyla’ daha interaktif bir hale geldi. Ağ bağlantılı oyuncak olarak da karşımıza çıkan, diğer adıyla “akıllı oyuncaklar”, algoritmaları geliştirilerek cevap verebilmeye ve insan mimiklerini taklit edebilmeye başladı; ancak ağ bağlantılı oyuncaklar, her ne kadar çocukla interaktif bir iletişim içine girebilmeyi başarıyor olsa da çocuk hakları ve mahremiyeti konusunda tartışmalı bir konu haline geliyor. Tartışmalardan biri, üretici firmaların ağ bağlantılı oyuncakları kullanan çocukların bilgilerine ne kadar erişebildiği oluyor. Bunun yanı sıra, başka bir endişe veren durum ise üretici firmaların çocuklardan ağ bağlantılı oyuncak yoluyla edinebilecekleri olası bir hassas bilgiyi (şiddet özel yaşam gibi) gerekli mercilere ulaştırıyor mu? Dahası, bu bilgilerin herhangi bir kişiyle (ebeveyn, yetişkin), üretici firma tarafından paylaşılması gerekiyor mu?

UNICEF, her ne kadar Cloud Pets uygulmasının hacklenmesiyle çocukların da içinde bulunduğu 800,000 hesaptaki kişisel bilgilerin teşhir edildiğini ifade ederek ebeveynleri, çocuğun kişisel verilerinin paylaşımı konusunda uyarmış olsa da belirli akıllı oyuncak ya da uygulamalaın, çocuk odaklı çalışmalar sürdürdüğünü ifade ediyor. Bunlardan biri de, Hello Barbie bebeği olarak bilinen ağ bağlantılı oyuncak oluyor. Hello Barbie bebeğinin üreticileri, bebek ilk piyasaya çıktığında kullanıcıları tarafından hassas bilgiler ve kişisel verilerlerle ilgili nasıl bir tutum sergilediklerine dair sorular almaya başladığında bir doküman yayınlıyor. Dokümanda:

 • Ağ bağlantılı bebek ve çocuk arasında geçen konuşmaların hiçbir şekilde Bluetooth uygulamasıyla farklı kişilerin eline geçemeyeceği, dahası bu konuşmaların TLS (HTTPS) ağıyla güvence altına alındığı vurgulanıyor.

 • Üçüncü parti Wi-Fi ağlarıyla bebeği internete bağlamamak gerektiği, bağlanıldığında çocuğun mahremiyetinin risk altında olduğu belirtiliyor.

 • Dokümanda yer alan başka bir önemli nokta ise bebeğin aktif olmadığı durumlarda herhangi bir veri toplayıp toplayamadığı oluyor. Bu konuya ilişkin ise firma üreticileri, bebek pasif haldeyken -tıpkı Siri gibi- kişinin verilerini toplayamayacağını ifade ediyor.

 • Ayrıca, ToyTalk Cloud (Hello Barbie’nin anlaşmalı olduğu ebeveyn kontrol içeriği) uygulaması ile ebeveynlerin, çocuklarının yapmış olduğu konuşmaları dinleme imkanı olduğunu söylüyor.

 • ToyTalk Cloud, The KidSAFE Seal Programıyla (çocukları hedef alan internet servislerini ve websitelerine karşı çalışmalar yürüten bir program) birlikte çalışarak çocukların konuşmalarının şifrelendiği ve güvence altına alınıldığı ifade ediliyor.

 • Çocuğun olası bir taciz, şiddet içerikli bir olayı anlatması durumda Hello Barbie ya da The KidSAFE Seal programına kayıtlı akıllı oyuncaklar için nasıl bir süreç işliyor? Bu konuda Hello Barbie bebeğinin üreticileri, herhangi şiddet içeren bir durum karşısında çocuğa ‘Bu durumu yetişkin biriyle konuşmalısın’ gibi otomatik yönlendirmelerle sorumluluğu ebeveyne devrediyor. UNICEF, her ne kadar böyle bir yönlendirmeyi önemli bir modelleme olarak görse de kaç çocuğun yaşadıkları durumu ebeveynleriyle paylaşmayı tercih ettiği ya da şiddeti uygulayanın ebeveynlerden biri olup olmadığı bilinemiyor.

Çocukların Evdeki Hakları: YouTube ve YouTube Kids

Sosyal medya platformları, teknolojinin ilerlemesiyle orantılı olarak yetişkinlerin ve aynı zamanda çocuklarında medya içeriklerine ulaşımını sağlıyor. Bu tür içerikler, tüketicilerinin girmiş oldukları platformda maksimum seviyede vakit geçirmesini hedefliyorlar. YouTube, bu tarz  platformların arasında hakim bir pozisyonda bulunuyor. YouTube hakkında çocuklar ne kadar bilgiye sahip? UNICEF’in verilerince:

 • 2017 yılında, ABD’de 6-12 yaş aralığındaki çocukların %80’inin daha önce YouTube kullandıklarını belirtiyor. 

 • Brand Love Studies’in araştırmasındaki verilerde YouTube, 2016-2017 yıllarında çocukların en çok kullandığı platform olarak yer alıyor.

 • Çocukların 6-12 yaş aralığındaki %96’sı, ‘YouTube’un ne olduğu‘ konusunda fikir sahibi.

 • Aynı yaş aralığındaki çocukların %94’ü ise YouTube’u ‘ne sevdiklerini ne de sevmediklerini’ ifade ediyor.

2015 yılında Youtube, çocuklara daha güvenli ve uygun bir platform sağlamak amacıyla YouTube Kids’i yarattı; ancak YouTube Kids de tıpkı YouTube gibi, izleyici alışkanlıklarını takip ederek veri topluyor ve algoritmaya uygun medya içeriklerini izleyicisine sunuyor. YouTube’un bu şeffaf olmayan stratejisi, kullanıcıların hangi verilerinin toplanmış olduğuna ve o verilerin kimin elinde olduğuna dair yeterli bir açıklama sunmuyor.

YouTube ve YouTube Kids izleyicisinden aldığı verilerle ne yapıyor? Bu tür platformların nihai amacı, giriş yapılan platformda çocuğu olabildiğince tutmak ve maksimum düzeyde video izlemesini sağlamak oluyor. YouTube ya da YouTube Kids kullanan çocuklar, bu videolara erişim sağlarken herhangi bir izin veya onay almıyorlar. Üstelik, dokunmatik ekranla birlikte çocukların videolara erişimi daha da kolaylaşıyor. Böyle bir durumda çocukları eğitici videolarla buluşturmak bir hedef teşkil etmiyor; aksine çocuklar, kalitesiz içerikli videolara maruz kalıyor.

UNICEF, Youtube ve Youtube Kids kullanımında dikkat edilmesi gereken önemli noktalardan birinin de YouTube’un iş modelinin içinde IP adres takibini, arama geçmişini, kişinin lokasyonunu ve kişisel verilerini kullanarak tüketiciye etkili bir reklam sunmak olduğunu vurguluyor. Bazı reklam şirketleri, Google’a ödeme yaparak reklamlarının YouTube Kids kanalında yayınlanmasını garanti haline getiriyor. Reklamcılar, özellikle çocuk, bebek,oyuncak gibi anahtar kelimelerle çocukları YouTube’da bir hedefe dönüştürüyor. Her ne kadar YouTube Kids, yemek üzerine reklam almadığını beyan etmişse de kendi markalarının kanallarında çocukları hedef alan reklamlara yer veriyor. Bu noktada, YouTube ve reklam şirketlerinin uyguladıkları politikalar halen ebeveynler için endişe verici oluyor.

UNICEF’ten Ebeveynlere Öneriler:

 • İndireceğiniz uygulamaların koşullarını iyice okumaktan imtina etmeyin. Güvenlik politikası, kişisel veri koruma ve çocukları ilgilendirebilecek koşullara dikkat edin.

 • Uygulamayı indirme aşamasında, çocuğunuzla konuşarak karar verin. Çocuklarınıza, bu uygulamayı indirdiğinizde verilerinin nasıl kullanılacağını anlatın. 

 • Çocuğunuz sosyal medyaya kendiyle ilgili bir bilgi verirken ya da herhangi bir akıllı oyuncak kullanırken ona yardımcı olun. Çocuğunuza mutlaka dijital içerikli ürünlerin kısa ve uzun vadeli etkilerini anlatın.

 •  Çocuğunuzun eğitim için okulda veya evde kullandığı yapay zeka teknolojileri hakkında bilgi sahibi olun. Okulda kullanılan yapay zeka ürünleri hakkında bir kuşkunuz varsa, bunu beyan etmekten veya sorgulamaktan çekinmeyin. Çocuğunuz yapay zeka teknolojisi konusunda hevesliyse, onu teşvik edin.

UNICEF’in Artificial Intelligence and Childrens Rights (Yapay Zeka ve Çocuk Hakları) araştırmasının orijinali için tıklayın.