Dezenformasyonun yeni formu | Deepfake ve çocuklar

Son dönemin hızla ve tehlikeli bir şekilde ortaya çıkan gelişmelerinden biri olan deepfake, birçok kötü amaç için kullanılabilir. Çocuklar da deepfake videolarından kötü yönde etkilenebilir. Türkçede derin sahte olarak çevirebileceğimiz, Dezenformasyon sorununu daha da güçlendireceği düşünülen bir teknoloji olan deepfake nedir?

Deepfake Nedir?

Deepfake, herhangi bir insanın bilgisayar yardımı ile gerçeğe çok yakın bir kopyasını oluşturmak anlamına geliyor. Bu sistem deep learning isimli kuvvetli bir yapay zekaya dayanıyor. İnsan beynindeki sinir ağlarını en temel düzeyde taklit etmeye yönelik bir yazlım olan deep learning, çok gerçekçi sonuçlar sunabiliyor. Birkaç yıl önce, bu sistemi gerçeklerinden ayırt etmek mümkündü. Basit ve önemli birkaç noktaya bakarak izlediğimiz videonun gerçek mi yoksa deepfake mi olduğunu kolayca ayırt edebiliyorduk. Fakat, günümüzde bu bir siber savaşa dönüşmüş durumda. Siber suçlular her geçen gün deepfake içeriklerinin kalitesini arttırırken, siber güvenlik şirketleri ise deepfake içerikleri anlayabilmemiz için yeni yazılımlar üretip bizi bu tehlikeden korumaya çalışıyor. Tabii, bu durumu sadece siber suçlular ve siber güvenlik şirketleri olarak tanımlamak yanlış olur. Çünkü deepfake üretmek bazı ülkelerde kanunlarca tam bir suç olarak tanımlanmıyor. Örneğin Güney Kore, deepfake üretimini suç olarak tanımlarken, bazı ülkeler, örneğin ABD, bunu suç olarak tanımlamıyor. Hatta deepfake üretiminin sanatsal açıdan olumlu olduğunu düşünen bazı internet kullanıcılarına rastlamak mümkün. (Kendja, A. (2021, October 1). The dangers of Deepfakes. Garbo. Retrieved October 24, 2022, from https://www.garbo.io/blog/deepfakes

Deepfake ve Çocuklar

Deepfake, günümüzde internette fazlasıyla vakit geçiren çocuklar için tehlikeli olabilecek eylemlerin önünü açıyor. Örnek vermek gerekirse, Instagram gibi paylaşım sitelerinde aktif olan çocukların fotoğrafları kötü niyetli insanlar tarafından kullanılıp, çocuğu farklı biriymiş gibi gösterebilir. Geçmişte bu tarz fotoğrafların alınıp pornografik içerikler için kullanıldığını gördük. Bu durum çocuklar üzerinde ciddi travmalara yol açabilir. Hemen hemen herkesin çocukken ilkokul sınıflarında yaşadığı zorbalığın, çok daha arttırılmış bir seviyede tüm internet alemine yayıldığını düşünelim. Hayatımızın şekillenmesinde son derece önemli olan çocukluk dönemimizde, siber zorbalık deepfake ile çağ atlamış durumda. Ek olarak, deepfake gibi gelişmeler ile gün geçtikçe gerçeklik kavramını yitiriyoruz. Gelişen teknoloji, oyunlar ve çocukları eve bağlayacak bu kadar etken varken gerçekliğin öneminin azalması, çocukların gerçek hayata olan ilgisini ve güvenini azaltabilir. Bugünün çocukları gerçeği reddederse geleceğin toplumları gerçek hayatı reddedebilir. Bu durum sıfır kuşak tehlikesini, yani gerçek hayatı reddeden, doğadan kopuk, narsist bir toplum yaratabilir. Bugün deepfake gibi durumlara almayacağımız her önlem, geleceğin dünyasını tehlikeye atmaya devam edecek. (Admin. (2022, August 5). A beginners guide to deepfakes. Safer Schools. Retrieved October 24, 2022, from https://oursaferschools.co.uk/2022/07/20/a-beginners-guide-to-deepfakes/

Deepfake’i Nasıl ayırt edersiniz?

“Deepfake nedir?” başlığı altında değindiğimiz gibi, deepfake’in ilk örneklerinde bir şeylerin yanlış gittiğini hızlıca fark edebiliyorduk. Deepfake video ile gerçek videoyu karşılaştırdığınızda, gözle görülür senkron farkları ortaya çıkıyordu. Bu durum ise gerçeklikten uzak bir video izlediğinizi size hissettiriyordu. Fakat günümüzde bu tamamen değişti. Artık gerçeğe çok yakın deepfake videoları yapılıyor. Bir örnek vermek gerekirse, 219 kişiye gerçek fotoğrafları deepfake hallerinden nasıl ayıracakları üzerine eğitim verildi ve daha sonra kendilerine gerçek mi deepfake mi olduğunu bilmedikleri fotoğraf gösterildi. Puanlama sisteminin hâkim olduğu oylamada, eğitim verilen grubun sadece yüzde 59’u gerçek fotoğrafları deepfake olanlardan ayırabildi. Bu araştırma, durumun ciddiyetini gözler önüne seriyor. Fakat, yine de gerçekliği anlamak için bakabileceğimiz bazı noktalar var.

• Dudak senkronizasyonu
• Cilt tonu düzensizliği
• Göz kırpma hareketleri
• Saç derisinin göründüğü bölgeler
• Gözdeki yansımalar

YouTube. (2022). Deepfake İnsanları Kandırmaya Başladı! YouTube. Retrieved October 24, 2022, from https://www.youtube.com/watch?v=O8bMMygOQLA:

Dikkat! Çocuğunuz Deepfake üretiyor olabilir!

Üretilen deepfake içeriklere maruz kalmak çocuklar için ne kadar tehlikeliyse, deepfake üretmek de bir o kadar tehlikeli. Eğer ebeveynler nasıl deepfake üretildiği hakkında yüzeysel de olsa bir bilgiye sahip olabilirse, bu tarz tehlikelerin önüne geçilebilir. Peki, çocuğunuzun deepfake ürettiğini nasıl anlarsınız?  Öncelikle, bir aktarana, yani yüzü kopyalanacak birine ve aktarılana, yani yüz özelliklerinin aktarılacağı birine ihtiyaç var. Deepfake üretmek, yüzü kopyalanmak istenen kişinin fotoğraflarına sahip olmayı gerektirdiği için, çocuğunuzun bilgisayarında bir insana ait fazla sayıda fotoğraf görüyorsanız bu bir işaret olabilir. Şüphelenebileceğiniz bir diğer durum ise çocuğunuzun bilgisayarında fazlasıyla kodlayıcı program bulunması. Ücretsiz olan bu programları indirmek halka açık herhangi bir uygulamayı indirmek kadar kolay. Bunlar tam anlamıyla profesyonel olmayan ücretsiz programlar olduğu için zaman zaman takılma, kasma gibi sorunlar yaşanabiliyor. Bu da deepfake üreten kişiyi diğer ücretsiz deepfake üretme uygulamalarına yönlendirebiliyor. Dolayısıyla, çocuğunuzun uygulama indirme geçmişinde ya da bilgisayarında birbirine benzer isimli birden fazla program görüyorsanız bu da bir işaret olabilir. Daha iyi anlaşılması için deepfake üretilen ücretsiz programlardan bazılarını şu şekilde sıraladık:

• Deepfake Studio
• Deepfake Video Maker
• Face Swap
• FakeMe
• FaceMagic

 (Barnwell, P. (2019, September 11). Perspective | what parents need to teach kids about deepfake videos. The Washington Post. Retrieved October 24, 2022, from https://www.washingtonpost.com/lifestyle/2019/09/11/common-sense-media-shares-what-parents-need-teach-kids-about-deepfake-videos/

Kaynaklar:

Admin. (2022, August 5). A beginners guide to deepfakes. Safer Schools. Retrieved October 24, 2022, from https://oursaferschools.co.uk/2022/07/20/a-beginners-guide-to-deepfakes/:

YouTube. (2022). Deepfake İnsanları Kandırmaya Başladı! YouTube. Retrieved October 24,        2022, from https://www.youtube.com/watch?v=O8bMMygOQLA

Kendja, A. (2021, October 1). The dangers of Deepfakes. Garbo. Retrieved October 24, 2022, from https://www.garbo.io/blog/deepfakes

Barnwell, P. (2019, September 11). Perspective | what parents need to teach kids about deepfake videos. The Washington Post. Retrieved October 24, 2022, from https://www.washingtonpost.com/lifestyle/2019/09/11/common-sense-media-shares-what-parents-need-teach-kids-about-deepfake-videos/