Av. Can Yavuz ile Hukuksal Bir Bakış: Yapay Zeka ve Çocuk

Yapay zeka, yüz tanıma sistemleri, algoritmalar ve akıllı oyuncaklar… Günümüzde teknoloji takip edilmesi güç bir hızla ilerliyor. Gelişen bu teknoloji çocuklara keşfetme, öğrenme ve oynama imkânı sunarken Avukat Can Yavuz ile bu dünyanın hukuki boyutlarını konuştuk.

Can Yavuz Kimdir?

İstanbul Barosu Çocuk Hakları Merkezi üyesi avukat Can Yavuz, Yeditepe Üniversitesi’nden Hukuk Yüksek Lisans derecesi almış, ikinci yüksek lisansını Lund Üniversitesi’nde uluslararası insan hakları hukuku üzerine yapmıştır. İstanbul Bilgi Üniversitesi Kamu Hukuku Doktora Programı’nda eğitimini sürdüren Yavuz’un iki kitabı ve çok sayıda akademik makalesi bulunmaktadır.

Öncelikle çocukların fazlaca zaman geçirdiği YouTube hakkında konuşalım. YouTube algoritmaları nedir? Çocuklar için güvenlik açığı ve riskleri nelerdir?

YouTube, Google’dan sonra dünyada en fazla ziyaret edilen internet sitesi ve en büyük ikinci arama motoru. Aylık yaklaşık iki milyar insan tarafından tıklanan sitede internet kullanıcıları günlük bir milyar saati aşkın video izliyor. YouTube ayrıca 80 dilde, 91 yerel versiyonuyla hizmet veriyor. Bu akıl almaz istatistikleri göz önüne tutunca, YouTube’un idaresini sadece insan gücüyle yapmanın oldukça zor olduğunu ve otomasyona ihtiyaç duyulduğunu söyleyebiliriz. YouTube bu sebeple farklı amaçları gerçekleştirmek için değişik algoritmalar kullanıyor. Örneğin, algoritmaları sayesinde kullanıcılara kişiselleştirilmiş videolar tavsiye ediyor, hangi videoların çocuklara uygun olduğunu seçiyor, arama sonuçlarında hangi videonun öncelikle gözükeceğini belirliyor, kullanıcıların YouTube’daki davranışlarını (hangi videoları ne kadar süreyle izlediğini, beğenme ve beğenmeme sayılarını) takip ediyor. Algoritmaların belki de en kritik işlevi otomatik izleme seçeneğiyle önünüze gelecek videoyu belirlemesi.

YouTuberlar kazançlarının azaldığından şikâyet ediyorlar. Ancak bu platformdan halen kayda değer bir kazanç elde etmek mümkün. Bunun için yapmanız gereken fazlaca izlenmek. YouTube’da izlenen videoların yüzde yetmişi (otomatik oynatma seçeneği sayesinde) YouTube’un tavsiye algoritması tarafından seçiliyor. YouTuberlar algoritmaların önemini kavramış durumdalar ve onun bir adım önüne geçmek, onu manipüle etmek için yollar arıyorlar. Çünkü algoritmayı alt etmek arama sonuçlarında, tavsiyelerde öne çıkabilmenize ve daha fazla izlenmenize katkı sağlıyor. Videoları etiketleme, başlıklama ve bazı kelime çağrışımıyla algoritmaların zaman zaman manipüle edildiğini gördük.

Güvenlik açığı ve risklere gelince, YouTube’un algoritmasının çocuklar için uygun olarak nitelendirdiği (YouTube Çocuk’ta yer alan) videoların şiddet, cinsellik hatta çocuk istismarı gibi uygunsuz içerikler barındırdığı birçok kez araştırmalara ve medyaya yansıdı. YouTube bu içeriklere yeterli hızda müdahale edememekle de eleştiriliyor. Aslında bu da algoritmalarla bağlantılı bir problem. Çünkü YouTube’dan kaldırılacak videoların belirlenmesinde algoritmalar rol oynayabiliyor. 

Algoritmalarla ilgili tartışılan bir başka sorun ise filtre balonu. YouTube algoritmaları, kullanıcıların YouTube’daki davranışlarını baz alarak kişiselleştirilmiş tavsiyeler sunuyor. Bu öneriler genellikle daha önce izlenen videolarla ilgili hatta onlarla oldukça benzer içerikleri ön plana çıkarıyor. Kimi uzmanlar bu durumun çocukların sürekli benzer içerikler izlemesine neden olacağını, onları filtre balonunda hapsedeceğini, gelişim ve düşünce özgürlüklerini olumsuz yönde etkileyeceğini öne sürüyorlar.

YouTube algoritmasının çocukları radikalleşmeye sürüklediği ileri sürülen bir başka tez. Bir başka ifadeyle, YouTube’un kullanıcılarını (insan dikkatini kolaylıkla çekebilen) daha aşırı, ayrıştırıcı ve provokatif içeriklere yönlendirerek onların platformda geçirdiği zamanı arttırmaya çalıştığı söyleniyor. Örneğin, siyasi yelpazenin sağında veya solunda yer alan bir siyasetçinin videolarını izlediğinizde, YouTube tavsiye algoritmasının (otomatik oynatma vasıtasıyla) kullanıcıları aşırı sağ ya da sol içeriklere yönlendirdiği iddia ediliyor.

Bu durumun sadece siyasi içerikle sınırlı olmadığını vurgulamak gerekiyor. Mesela koşu ile ilgili bir videodan sonra önünüze tavsiye olarak uzun mesafeli maraton videoları, vejetaryenlikle ilgili bir içeriği takiben veganlıkla ilgili videolar gelebiliyor. Çünkü daha “aşırı” içerikler ilginizi daha kolay çekiyor böylece ekran başında geçirdiğiniz zaman ve YouTube’un kazancı artıyor. Verdiğim örnekler yetişkinlere yönelik olsa dahi, problem sistemle ilgili olduğundan YouTube’daki tüm içerikler için geçerli. Bu nedenle YouTube’un çocukları, özellikle de ergenleri, aşırıcılığa sürükleyebileceği iddia ediliyor.

Güvenli Youtube çocuklar için olası mı? Bu konuda neler yapılmalı?

Nasıl çevrimdışı dünya hiçbir zaman yüzde yüz güvenli olamayacaksa, çevirim içi evren de sanıyorum asla tüm tehlikelerden arındırılmış emniyetli bir ortam sunamayacak. Bu durum YouTube için de geçerli olabilir. Ancak YouTube çok daha güvenli olabilir mi, olmalı mı sorularının cevabı kesinlikle evet.

Bunun için ne yapılmalı sorusuna gelince, öncelikle çocuk haklarını etkin şekilde koruyacak mevzuatın yürürlüğe girmesi, YouTube ve diğer sosyal medya platformlarının hukukun gerçekten kapsama alanına alınması gerekiyor. Bu gereksinim özellikle YouTube’un ev sahibi Amerika Birleşik Devletleri’nde (ABD) ön plana çıkıyor.

Ancak iş sadece mevzuatla bitmiyor. Kuralları etkin şekilde uygulayacak, denetim yapacak, şeffaflık getirecek, gerektiğinde yaptırım uygulayabilecek bir sistem kurulması, bunun kurumlarla desteklenmesi ihtiyacı ortaya çıkıyor. Tüm bunlar “gözetim kapitalizmi” olarak adlandırılan mevcut sistemimiz içerisinde ne ölçüde hayata geçirilebilir derseniz, iyimser olmakta zorlanıyorum. 

Diğer yandan, bu konular aralarında ABD’nin de bulunduğu birçok ülkede siyasi arenada tartışılmaya başlandı. Örneğin ABD’deki 2020 Başkanlık seçimleri yaklaşırken, Demokrat Parti başkan aday adaylarının bir kısmının teknoloji devlerini “düzeltmeyi” planladıklarını görüyoruz. Bu adayların seçimde ne ölçüde başarılı olacağı, seçimi kazanırlarsa vaatlerini yerine getirip getiremeyeceğini zaman gösterecek. 

Burada YouTube gibi platformlara da fazlasıyla iş düşüyor. Global teknoloji şirketlerinin Birleşmiş Milletler’in belirlediği iş dünyası ve insan hakları prensiplerini, çocuk haklarını ve çocuğun yüksek yararı ilkesini gözeterek faaliyet göstermesi gerekiyor.  

YouTube’un çocuklar için belki de hiçbir zaman tamamen güvenli olamayacağından bahsettik. Bu durumda başta çocuklar olmak üzere ilgili her paydaşın YouTube ve internetin tehlikeleri karşısında bilinçlendirmesi ve eğitilmesi tavsiye edilebilir. Burada; ebeveynlere, okula, sivil topluma, akademiye, Dijital Medya ve Çocuk gibi oluşumlara rol düşüyor.

Yüz tanıma teknolojisi farklı alanlarda kullanılan bir teknoloji olmakla birlikte son zamanlarda bazı ülkelerde okullarda kullanıldığı biliniyor. Türkiye’de şu an böyle bir uygulama söz konusu mu? Hukuki olarak bu konuyla ilgili çalışmalar yapıldı mı?

Çin ve ABD’de çok sayıda okulda yüz tanıma sistemleri kullanılıyor. Ancak bu sistemlerin okulda kullanımı oldukça sorunlu, insan ve çocuk haklarını ciddi ölçüde tehdit ediyor. Son dönemde bu kanıyı destekleyen kararlara denk geliyoruz. Örneğin İsveç Veri Koruma Ajansının, bir okulun öğrencilerin devamsızlığını takip etmek için yüz tanıma sistemi kullanmasını hukuka aykırı bulup ilgili yerel yönetime para cezası verdiğini görüyoruz. Fransız Veri Koruma Ajansı da okul girişinde yüz tanıma sistemi kullanan iki okulun uygulamasının hukuka aykırı olduğuna hükmetti.

Türkiye’de, bildiğim kadarıyla, özel eğitim kurumlarında eğitim gören engelli öğrencilerin yüz tanıma sistemleriyle devamsızlığının takip edilmesi için çalışmalar sürüyor. ÖSYM’de yüz tanıma sistemlerini elektronik sınavlarda kullanmaya başladı. Bunlar haricinde Türkiye’de eğitim sektöründe yüz tanıma sistemleri kullanıyorsa denk gelmemiş olabileceğimi ekliyorum.

Hukuki çalışmalara gelince, yüz tanıma sistemlerinin okullarda kullanılmasına ilişkin Türkiye’de bir devlet politikası varsa bundan haberdar değilim. Örneğin Kişisel Verileri Koruma Kurumu, Millî Eğitim Bakanlığı konuya ilişkin bir çalışma gerçekleştiriyor mu bilemiyorum. Geçen yıl Cumhurbaşkanlığı Dijital Dönüşüm Ofisi kuruldu. Fakat araştırmalarında insan hakları eksenli bir yaklaşım sergileyeceklerinden şüpheliyim. Cumhurbaşkanlığı Strateji ve Bütçe Başkanlığı 11. Kalkınma Planı’na baktığımızda “kişisel verilerin korunmasına ilişkin düzenlemeler teknolojinin getirdiği yenilikler ve uluslararası platformlarda benimsenen yeni yaklaşımlar doğrultusunda güncellenecek, bu alanda teknolojik gelişme teşvik edilecek” gibi bir hedef görüyoruz. Ancak Türkiye’nin hâlihazırdaki insan hakları karnesine baktığımızda, özellikle de gözetim konusuna gelince, iyimser olmakta zorlanıyorum. Sanıyorum yüz tanıma sistemleri ve yapay zekâ gibi alanlarda uygulanacak politikaların ve bunları belirleyecek kurumların yeni yeni şekillenmeye başladığı söylenebilir. Türkiye’de yüz tanıma sistemleriyle ilgili insan hakları temelli yeterli akademik araştırma olmadığını da belirtebilirim.

Bu arada yüz tanıma sistemleriyle ilgili bir Danıştay kararı bulunmakta. Karara konu olan olayda, bir devlet hastanesi yüz tanıma sistemleriyle mesai takibi yapmaya başlıyor ve bu yargı makamları önüne taşınıyor. Danıştay “uygulamanın sınırlarını usul ve esaslarını gösteren bir yasal dayanağın bulunmaması, toplanan verilerin ileride başka bir şekilde kullanılamayacağına dair bir güvencenin mevcut olmaması” sebebiyle bu pratiği hukuka aykırı buldu. Ancak kararda yüz tanıma sistemlerin kullanılmasına açık bir kapı bırakıldığı görülüyor.

Yüz tanıma sisteminin sadece bir “güvenlik önlemi” olarak değil sınıflarda derse odaklanamayan öğrencilerin tespiti için kullanılması bazı ülkelerin gündeminde. Bu hukuki olarak ne kadar mümkün? Bu sistemin çocukları nasıl etkilemesini bekliyorsunuz?

Öncelikle çocukların ruh halinin yüz tanıma sistemleriyle takip edilmesinin günümüz teknolojisiyle mümkün olup olmadığını sorgulamamız gerekiyor. Çok sayıda bilim insanı ve saygı duyulan araştırma, günümüz teknolojisinin insanların ruh halini tespit ederken hata payının çok yüksek olabileceğini ortaya koydu. Buna rağmen medyada ve yüz tanıma sistemlerini tasarlayan sektör tarafından yapılan araştırmalarda yüz tanıma sistemlerinin bu hedefi kolaylıkla ve hatasız şekilde gerçekleştirebileceği söyleniyor.

Ürününü satmak isteyen tacirler amaçlarına uygun çıktılar veren araştırmalar yayımlıyorlar veya kendi ürününü yücelten araştırmaları finanse edebiliyorlar. Bu bakımdan ortada ciddi bir bilim etiği sorunu olduğunu söyleyebiliriz. Medyanın kayda değer bölümünün yapay zekâyı ele alma şekli de genelde bilimsellikten uzak ve sansasyonel manşet atma, internette daha fazla tıklanma gibi güdüler çerçevesinde gerçekleşiyor. Buna yapay zekânın baş döndürücü hızla gelişimi nedeniyle duyulan heyecan dalgası da eklenince, günümüz teknolojisinin insanların ruh halini doğru ve zahmetsiz şekilde takip edebildiği gibi bir kanı oluşmaya başladı. Okuduğum araştırmalar ışığında bu sava katılmadığımı not düşüyorum.

Soruya hukuki açıdan bakıldığında, yüz tanıma sistemleriyle çocukların derse katılımını arttırmak için sürekli takip edilmesinin şu anki mevzuatta hukuki bir dayanağı olmadığı, hukuki açıdan gereksiz ve orantısız bir tedbir olarak nitelendirilebileceği kanısındayım. Benzer tespitlere İsveç ve Fransız veri koruma ajanslarının daha önce belirttiğim kararlarında da yer verildi.

Sistemin çocuklar üzerindeki etkilerine değinmek gerekirse, çocukların her saniye kameralarla gözetlenmesinin onlarda “gözetim kaygısı”na neden olacağını, kişisel gelişimlerini ve ifade özgürlüğünü olumsuz etkileyeceğini, mahremiyet ve özel hayatın gizliliği gibi kavramların yanlış anlaşılmasına sebep olacağını düşünüyorum.

Günümüzde teknoloji ve dijitallik hayatın her alanına yayılmış durumda. Böyle bir durumda dünyaya gelen çocukların hayatına yapay zeka hangi alanlarda dahil oluyor?

Çocuk ve yapay zekâ konusunda aklıma gelen ilk alanlar eğitim ve eğlence. Örneğin, çocuklar internette ödevleri için arama motorları üzerinden araştırma yaparken, bilgisayar oyunu oynarken, YouTube, Netflix, Spotify, Facebook, TikTok, Instagram gibi uygulamaları kullanırken aslında yapay zekâ da kullanıyorlar. Yalnızca iki alandan bahsediyoruz ancak eğitim ve eğlence çocukların gündelik hayatının önemli bir bölümünü oluşturuyor.

Diğer yandan sizin de belirttiğiniz üzere yapay zekâ değişik alanlarda etkisini arttırıyor. Bu yüzden; ifade özgürlüğü, özel hayatın gizliliği hakkı, toplantı ve gösteri yürüyüşü hakkı, eğitim hakkı, ayrımcılık yasağı gibi çok sayıda hak yapay zekâdan ciddi ölçüde etkilenmeye başladı. Bu nedenle, yapay zekânın çocukların hayatına birçok alanda dokunabileceği söylenebilir.

Yapay zeka destekli oyuncaklar–yani ağ bağlantılı akıllı oyuncaklar–son zamanlarda çocukların çok fazla dikkatini çekiyor. Bu durumda oyuncakla karşılıklı iletişime geçen çocukların kişisel verileri ihlal edilip güvenlik sorunu gündeme geliyor mu?  Bu veriler nasıl kullanılıyor?

Akıllı oyuncaklar hızla gelişiyor, daha çekici ve ulaşılabilir hale geliyor. İnternete bağlanabilen, bulut sistemlerine entegre olan, çok farklı sensörleri olan bu oyuncaklar çocuklarla sıkı bir bağ kurabiliyor. Çocuklar, iç dünyasının en mahrem duygu ve düşüncelerini akıllı oyuncaklarla paylaşabiliyor. Ciddi ölçekte; fotoğraf, ses, görüntü, isim, lokasyon gibi verinin akıllı oyuncaklarla paylaşılması zaman zaman güvenlik riski oluşturabiliyor. 

Vtech isimli akıllı oyuncak üreticisi 2015’te hacklenmiş ve milyonlarca çocuk ve yetişkinin kişisel verilerine hukuka aykırı şekilde ulaşılmıştı. Aynı firma 2018’de onay almadan çocukların kişisel verilerini topladığından ve güvence altına almadığından dolayı suçlanmıştı. Firma, şikâyeti takiben Amerika Federal Ticaret Komisyonu ile anlaşmış ve 650.000 Amerikan doları ceza ödemişti. Almanya Ağ Ajansı 2017’de My Friend Cayla isimli oyuncağı güvenlik riski oluşturduğu ve kişisel verileri korumayacağı gerekçesiyle yasaklamıştı. CloudPets’in pelüş oyuncaklarının topladığı kişisel veriler 2017’de çalınmıştı. Örnekleri çoğaltmak mümkün.

Normal şartlarda akıllı oyuncak aracılığıyla toplanan veriler oyuncağın çalışabilmesi için sınırlı, ölçülü, hukuka uygun olarak, dürüstlük ilkesi ışığında, yalnızca gereken süre boyunca, güvenli şekilde muhafaza edilerek işlenmeli. Akıllı oyuncakların topladığı ve hukuka aykırı şekilde ele geçirilen kişisel verilerin akıbetini bilmiyorum. Ancak bu yöntemle ele geçirilen verilerin her türlü kötü amaçla kullanılabileceği aşikâr.

Ağ bağlantılı akıllı oyuncakları kullanırken güvenlik açığı olmaması için dikkatli olunması gereken noktalar nelerdir?

Akıllı oyuncağın bir denetimden geçip geçmediğini, bir güvenlik sertifikası olup olmadığını kontrol etmek; satın almadan önce güvenilir kaynaklardan oyuncağı araştırmak; oyuncağın kişisel verileri ne şekilde, nerede depoladığını, bunun güvenli olup olmadığını irdelemek; oyuncağı kullanmaya başlamadan önce kullanım kılavuzunu okumak ve tavsiyeleri göz önünde bulundurarak oyuncağı kullanmak; çocuğun oyuncakla etkileşimini takip etmek; oyuncağın yazılım güncelleştirmelerini zamanında yapmak; mümkünse oyuncağı bir şifre(leme) ile kullanmak ve kırılması zor bir şifre seçmek; güvenli internet bağlantı noktaları vasıtasıyla oyuncağın internete bağlanmasını sağlamak; oyuncağı kullanmadığınız zaman kapatmak. Kısacası, bilinçli bir tüketici ve ebeveyn olmanız gerekiyor. Bu arada, Bluetooth bağlantısı üzerinden kullanılan oyuncaklar genelde daha fazla güvenlik riski teşkil ediyor. 

Bahsedilen güvenlik sorunları nedeniyle yapay zekayla üretilmiş oyuncakların ülkemizde yasaklanmasını önerir misiniz? Yoksa daha yumuşak bir önlem olarak bu gizlilik ihlallerini önlemek mümkün mü?

Çocuk haklarının korunması için güvenlik sorunu yaratan akıllı oyuncakların yasaklanması gündeme gelebilir. Gerçekten böyle bir ihtiyaç varsa ve yasaktan daha hafif bir tedbirle çocuk hakları korunamıyorsa yasak düşünülebilir. Örneğin, daha önce değindiğim üzere, Almanya Ağ Ajansı My Friend Cayla isimli oyuncağı ülkede yasaklamıştı.

Bu soruya teorik seviyede bir cevap vermek mümkün değil. Ancak karşımıza çıkacak somut olayın özellikleri incelenerek bir yasağın mı yoksa daha hafif bir tedbirin mi uygun olacağına karar verebiliriz.

“Veri toplama” sadece ağ bağlantılı akıllı oyuncaklar ile olmuyor. Çok sık kullanılan dijital mecralarda da hukuka aykırı bir şekilde çocukların verileri toplanıyor. Böyle bir durumda neler yapılabilir? Çocukların ve ebeveynlerinin hakkı nedir?

Aklıma gelen iki çözüm önerisi var. Öncelikle, önleyici bir tedavi uygulamanız, verilerinizin hukuka aykırı toplanmasını zorlaştırmak ya da önlemek için tedbirler almanız gerekebilir. Bunun için dijital okuryazarlığınızı ilerletmek, çevirim içi mahremiyet ve kişisel verilerinizi koruma konusunda bilinç oluşturmak faydalı olabilir. Ancak bazı durumlarda gerekli tüm önlemleri alsanız dahi (ki toplumun genel olarak bu konuda sınıfta kaldığı görüşündeyim) çocukların kişisel verilerinin korunması hakkı ihlal edilebiliyor. Bu durumda yapmanız gereken konuyu yargıya taşımak.

Başvurunuzun başarı şansı yeryüzünün hangi köşesinde ikamet ettiğinize göre fazlasıyla değişkenlik gösterebiliyor. Çin veya ABD’de yaşıyorsanız hukuki bir mücadele sergilemek kolay gözükmüyor. Avrupa Birliği’nde ise Genel Veri Koruma Tüzüğü sayesinde hukuki mücadeleden sonuç elde etmek kolaylaşıyor. Türkiye’de ise karşımıza iki seçenek çıkıyor. İddialarınızı doğrudan mahkemeler önüne taşıyabilirsiniz. Alternatif olarak öncelikle veri sorumlusuna başvuru yapabilir, bundan sonuç alamadığınız takdirde Kişisel Verileri Koruma Kurumuna şikâyette bulunabilirsiniz. 

Görsel Kaynak