Okullarda Yüz Tanıma Sistemleri: Ütopya mı Distopya mı?
Kredi: govtech.com
Gelişen yapay zeka ve kamera teknolojileriyle hayatımızın çeşitli alanlarına eklemlenen yüz tanıma teknolojileri, okul girişlerinden koridorlarına, sınıflardan kantinlere, artık okullarda da varlığını hissettirmeye başlıyor. Disipline edici pratikleri arttırma, etkili öğrenme biçimlerinin farklı yollarını üretme, öğrenci güvenliğini sağlama ve öğrenciyi koruma gibi amaçları hayata geçirmeyi merkezine koyan bu uygulama, beraberinde getirdiği faydalarıyla birlikte pek çok açıdan eleştirilerin hedefi haline de geliyor.
Yapay zekanın hayatımızı dönüştürücü etkileri sayesinde insanlar yalnızca kendi yüzlerini kullanarak ATM’lerden para çekip, çalıştıkları şirketlere giriş yapabiliyor veya telefonlarındaki uygulamalarına kendilerinden başka kişilerin erişme ihtimalini azaltmaya çalışıyor. Ayrıca bu teknoloji, polislerin kalabalıkları gözlemesini; otoriteler ve özel şirketlerin ‘neredeyse’ herkesi tanımlamasını sağlayabileceği muazzam bir merkezileşmiş veri tabanı sunuyor. Halihazırda gündelik hayatımızın bir parçası haline gelmeye başlayan yüz tanıma teknolojisi bir standarda dönüşüyor ve kendisine kuluşlanacak yeni bir alan daha buluyor: Okullar.
Öğrenci Gözetiminin Meşruiyet Dayanağı Olarak Güvenlik Endişesi
Yüz tanıma sistemlerinin öncelikli amaçlarından biri de okul arazisinin güvenliğini sağlamak. Okullardaki ve okul çevresindeki şiddet olaylarından sonra, pek çok ülkede güvenlik sistemleri popülaritesini git gide arttırıyor. Türkiye, henüz okullarda yüz tanıma teknolojilerini kullanma furyasına katılmış olmasa da, bu konuda yapılan tartışmaları yakından takip ediyor. Bazıları için bu, var olan “gözetim toplumu” korkusunu ve çocukların gizlilik hakkının ihlali düşüncesini şiddetlendirirken, bazıları çocukların güvenliğini sağlama motivasyonuyla bu teknolojilerin okulda kullanılmasından memnuniyet duyuyor. Çocuğunu gelişen teknolojik imkanlarla sürekli gözetime tabi tutmak idealize edilmiş yeni bir rol; bir ebeveyn olarak çocuğu önemsemenin ve ilgi göstermenin etik bir yolu olarak sunuluyor ve “şefkatli gözetim” kavramıyla da bu noktada kesişiyor. İstanbul Bilgi Üniversitesi öğretim görevlisi Sarper Durmuş bunu, “son zamanlarda git gide artan bir güven meselesi durumu” olarak değerlendiriyor.
“Her ne kadar bu sistemler henüz Türkiye’de o kadar ileri gitmemiş olsa da bugün dünyadaki pek çok özel okulda ve yuvalarda kameralar var. Ebeveynler, evlerine kameralar yerleştirip bakıcılarını izliyorken, bu kameralarla öğrencilerin birbirine nasıl davrandığını takip edip öğretmenleri de gözetliyor. Amerika’da silahlı okul baskınları ve çeşitli şiddet olaylarına karşı önlem almak amacıyla başlatılan şeyler bunlar. Bu şiddet problemlerinin çözümleri kameralar mıdır, güven dediğimiz şey teknolojiyle mi oluşur? Önce bunların düşünülmesi lazım.”
Kampüs güvenliğini arttırmak, bu sistemin savunucularını her ne kadar ortak bir kaygı paydasında birleştiriyor olsa da; silahlı okul baskınlarının sık meydana geldiği ABD gibi ülkelerde bu sistemin yaygınlaşmasındaki asıl tetikleyici rolü üstleniyor. Sistem, silah veya silah şekli verilmiş nesneleri tanımak üzerine geliştirilirken; ‘alışılmışın dışında’ kıyafetleri tespit etme ve herhangi bir anomaliyi belirleme işlevi görüyor.
Gözetim Kültürüne Dair Etik Tartışmalar
Bunun yanı sıra, davranışlarının gözetim altında olduğunu bilen öğrenciler kendilerini yeterince rahat ve özgür hissetmeyebiliyor; otokontrolle kendi davranışlarını kısıtlayabiliyor. Bugün gözetim konusu sıklıkla tartışılırken, bu alandaki etik endişelerin yükseldiğine şahit oluyoruz. Bu endişeler, gözetim altında olmanın bireyin öz-yönetim kabiliyetinin altını oyması ve çocuğun bağımsız bir aktör olma becerisinin tehlikeye atılması gibi argümanları da çocukların okullardaki gözetimine dair tartışmalara dahil ediyor. Onların sürekli olarak ne yaptığını izlediğimizde, çocukları kendi akıllarıyla hareket etmeye değil; daha ziyade, hareket etmelerini istediğimiz gibi davranmaları yönünde teşvik ediyoruz. Çocukları ‘doğru’ ve ‘etik’ olan davranışlara yönlendirmek için bir fırsat olarak görülen bu sistem akıllara şu soruyu getiriyor: İyi bir davranış, duvardaki bir kameranın ön koşuluyla oluştuğunda bunun sürdürülebilirliği nedir ve ne ölçüde içselleştirilebilir? Yani, bu uygulama sadece suçları önlemek için değil; öğrencilerin davranışları ve ahlaki seçimleri üzerinde oluşturulabilecek, bu ikisi arasındaki eşiği atlaması tehlikeli bir şekilde kolay olan gözetim gücüne de işaret ediyor.
Veri Ekonomisinde Eğitim, Disiplin ve Karar Mekanizmaları
Okullardaki yüz tanıma sistemlerinin bir diğer işlevi de öğrencinin sanal öğrenme süreçlerine entegrasyonunu sağlayarak, onları çevrimiçi derslerin aktif bir kullanıcısı haline getirmek. Öğretmenler, öğrencileri çevrimiçi eğitsel içeriğe ve bilgisayara dayalı sınavlara erişim sağlarken, kullanıcının aslında iddia ettiği kişi olup olmadığını da böylece denetleyip onaylamış oluyor. Okula devamlılık/yoklama takibi gibi bir başka kullanım alanı da olan yüz tanıma sistemleri, bazı şirketler tarafından öğretmenlere haftada 2.5 saate kadar zaman tasarrufu sağlayacağı vaadiyle pazarlanıyor.
Yüz belirleme tekniklerinin öğrencinin derse katılımını, bağlılığını ve öğrenimini belirlemede bir gösterge olarak kullanılmasına dair dünyada artan yoğun bir ilgi olduğunu söylemek yanlış olmayacaktır. Bu alanda yapılan çalışmalar, kısa yüz hareketlerini belirlemenin öğrencilerin katılımına dair bir gösterge oluşturabileceği fikrini savunuyor; ders süresince öğrencide bıkkınlık, kafa karışıklığı, keyif, hayal kırıklığı, şaşkınlık yaratan durumlara ise bu sayede dikkat çekilebileceğini öne sürüyor. Böylece, veriler değerlendirildiği takdirde, öğrencilerin verimlilikleri de artmış olacak. Etkili eğitimi gerçekleştirmenin bir yolu olarak sunulan bu sistem, öğrencileri disipline etme gibi temel bir amacı olduğu sözünü de veriyor. Okullar, her ne kadar disiplini öğretmek amacına sahip olsa da, öğrencilerin hatalar yapıp bu hataların sonuçlarını öğrendiği ve bu sonuçlarla yüzleşip sorumluluk almayı öğrendiği bir yer değil midir aynı zamanda? Bu soru, sistemin kritiğini yaparken ortaya atılan hoşnutsuzluklardan yalnızca bir tanesi. Takip sistemlerinin gündelik hayatın doğal bir parçası haline geldiği Çin’in, “akıllı sınıf davranış yönetim sistemi” adı verilen bir yüz tanıma sistemi ile bu furyaya çoktan katılmış olması belki de sizi o kadar da şaşırtmayacaktır. Bu sistem ile öğrencilerin ruh hallerini tespit edebilme imkanı elde etmenin yanı sıra, öğrencilerin parmak kaldırma, dinleme, uyuklama gibi eylemleri de öğretmenler tarafından tespit edilebilecek. Bu, yalnızca öğrencilerin davranışlarını analiz edebilme şansı değil; istatistiksel verilere bakarak öğretme stilleri üzerine yeniden düşünme ve özeleştiri yapma imkanı da sunmuş oluyor. Kimilerine göreyse bu sistem, öğrenmeyi pasif bir bilgi tüketim sürecine indirgerken; ‘öğretmek’, diyalog, sorgulama, deney yapma ve katılım gibi ana unsurları gözeten bir disiplinden, öğrencilerin dikkatini çekmeyi temel endişesi haline getiren bir disipline dönüştürüyor. Bu bağlamda ‘öğrenme’, yüz yoluyla analiz edilebilen -ve manipülasyona açık- bir dizi fiziksel, psikolojik özellik ve karakteristiklere indirgenmiş oluyor.
Çocukların görüntülerinin ve verilerinin toplanması fikri, uygun yasal düzenlemelerin yokluğunda kolayca suistimal edilebilir olması ihtimaliyle, ebeveynler üzerinde endişeleri de beraberinde getiriyor. Toplanan görüntü ve verilerin ne olacağı, ne için kullanılacağı, çocukların kayıt altına alınıp bu kayıtların ne için kullanılacağını bildiğine emin olmak gibi konuların yasal düzenlemelere tabi olması hayati önem taşıyor. “Neden kayda alınıyoruz?” sorusuna tatmin edici bir cevap gelmedikçe bu sistemler öğrenciler üzerinde endişeye sebep olabiliyor.
Çocukların seçim ve kendi adına konuşma hakkına dair tartışmalar da sürüyor. Yüz tanımlama sisteminin bir zorunluluk haline getirildiği devlet okullarında çocukların ‘izlenmekten’ başka bir seçeneği olmuyor. Burada çocukların gözetim altında olma fikrine özgürce rıza verdiklerini savunmak bir hayli zorlaşıyor; çünkü okulları ne bir alışveriş merkezi ne de havaalanı güvenlik kontrol noktası gibi değerlendirmek mümkün. Ayrıca çocuklar, belli yasa ve kanunlarca o okullarda olmak, günün belli bir saatine kadar o sıralarda oturmak zorundalar. Bu sistemler, çeşitli yüz tanıma sistemleriyle elde edilen verileri, onların kendi adlarına -ve kendilerini ilgilendiren konularda- konuşma haklarını elinden alma potansiyelini de taşıyor. Bu da çocukların kendi şekillendirdikleri deneyimlerini ve kendi eğitimleriyle ilgili karar verme süreçlerindeki seslerini yok ediyor; verileri, onlar adına konuşma hakkını üstleniyor.
Panoptik Koridorlarda Yiten Mahremiyet
Sistemin okullarda kullanılmasına karşı yükseltilen eleştirel sesler yankılanmaya devam ederken; sınıfları ‘gardiyan odasına bakan hapishanelere’ çevirmenin çocuklara kazandırmak istediğimiz değerleri değil, korkuyu aşıladığı düşüncesi de bir yandan peşimizi bırakmıyor. Bu, Bentham’ın savunduğu gibi bir öz-disiplin mi sağlar yoksa yalnızca bir tepki korkusu mu? Çocukların gizlilik hakkı savunucuları, “sana güvenmiyoruz” mesajıyla güven kültürünü geliştirmenin önüne geçme ve çocukların otoritelerin sürekli gözetimini içselleştirmesi/normalleştirmesi tehlikesini göz ardı etmememiz için çağrıda bulunmayı da ihmal etmiyor.
Sınıflarda veya okulun herhangi bir köşesinde beklenen gizlilik, aslında çocuklara kendilerini ifade etme ve hatalar yapma özgürlüğünü sunarken, yaratıcılık ve hayal gücü için de yer açıyor. Oysa, çeşitli ülkelerdeki devlet yetkilileri, çocukların okula herhangi bir özel aktivite için değil; eğitim almak ve disipline olmak için gittiğini savunuyor.
“Gizlilik konusu yetişkinler için de ciddi bir sorun. ‘Gizlilik nerede başlayıp nerede bitiyor’ sorusundan bahsediyorum… Çocuk dediğimiz zaman, onun gizlilik haklarını görmezden gelmememiz bu süreçte hayati önem taşıyor. Gizlilik dediğimiz şey, bir takım fikirleri ve yaklaşımları denemeni/deneyimleyebilmeni sağlayan bir şey ve bunu deneyimleyebiliyor olman lazım. Aileden, devletten, şirketlerden veya okuldan bağımsızlaşmış bir alan olmalı. Bu güçlerden daha özgür ve bağımsız bir alanın olması lazım ki -örneğin- eğer ailenden farklı bir siyasi yönelimin varsa, cinsel yönelimin onların sana dayattığı normdan farklıysa, bunu fark edip bir birey olarak kendini gerçekleştirebilesin; ancak çocuklar taarruz altında: Bir taraftan okul, devlet, şirket, bir taraftan aileler…” diyerek, mahremiyet ve çocuğun bireyleşme deneyimine vurgu yapıyor Durmuş.
Çoğu zaman, çocuğun güvenliğini gizlilik hakkının önüne koymak otoriteler için iyi bir pazarlık gibi görünüyor. Bu tarz bir yaklaşıma göre gizlilik kavramını, çocuklardan apayrı ve bağımsız bir kavram olarak onlardan soyutluyor; okullarda soyunma odaları ve tuvaletler dışında çocuklara mahremiyet için bir alan tanımıyor. Disney World’te kameralar çocukları izliyorsa, bunu okul koridorlarında görmenin nesi yanlış? Bu bakışın gölgesindeki mahremiyet kavramı, eğitim ve çocuk konusunda, bir öncelik ya da endişe değil; 3.sırada dahi gelmiyor.
Sisteme yöneltilen eleştirilerden bir tanesi de “verileştirilmiş çocuk” (datafied child) kavramıyla savunuluyor. Herhangi bir bilgi toplama sürecinde bazı özellikler göz ardı edilirken bazıları öne çıkarılır; bu süreçte ise çocuklar elde edilen algoritmik verilere göre anlaşılıp tasvir edilmeye çalışılıyor. Çocuklar, davranışları, tutumları ve beden hareketlerinin dijital verilere dönüştürülmesi üzerinden okunup bu veriler üzerinden değerlendiriliyor/yargılanıyorlar. Diğer bir ifadeyle, bilinebilir ve ölçülebilir kabul edilen veriler üzerinden öğrencileri tasvir ediyor; onlar hakkında bilgi üretip hayatlarını şekillendirecek kararlar alıyoruz. Oysa bu, onların potansiyellerinin, karmaşıklıklarının dahil edilmediği bir değerlendirilme sistemine referans verirken, öğrenciler hakkında nelerin bilinebileceğini kısıtlayabilir ve onları “ölçülebilir bireyler” (calculable person) haline getirebilir. Öğrenciler, toplanan verilere göre kendi öz-değerlendirmesini yapmaya başlarken, diğer öğrencilerle de bu veriler üzerinden kendini değerlendirme yoluna gidebilir.
Yapay Zeka Çağında Azınlık Çocuk Olmak
Yüz tanıma teknolojilerine dair tedirgin edici bir diğer konu ise; bazı yüz algılama sistemlerinin eğitildiği ırksal çarpık veri tabanları nedeniyle beyaz olmayan yüzleri başarılı bir şekilde ayırt edememesi ve ırk ve cinsiyet farklılıklarına aşırı vurgu yapması. Öğrencileri sosyal olarak oluşturmuş veya cinsiyetlendirilmiş kategorilere ayırmasıyla, ayrımcı bir uygulama olarak kaldığı iddia ediliyor. Yüz tanıma teknikleri, öğrencilerin yaşamlarını, eylemlerini ve davranışlarını kontrol etme ve standartlaştırma tutkusunu somutlaştırıyor. Bu yüzden okullardaki yüz tanıma teknolojilerinden en çok zarar gören öğrenciler, standart sisteme tam olarak uymayan öğrenciler oluyor. Dolayısıyla bu sistem, ‘bütün çocukların’ avantajını gözetiyor olmayacak. Belli özellikleri sebebiyle çerçevenin dışına itilmiş öğrencilerin kameraları daha çabuk fark etmesi ve denetlendiklerini düşünmesi; diğer öğrencilerin ise bu sistemi tehlikeli yabancılardan korunmak için bir şans olarak değerlendirmesi, bazı etik tartışmaları daha da alevlendiriyor. Bu uygulama devlet okullarında zorunlu hale geldiğindeyse, ailelerin eğitimsiz olduğu ve ekonomik gücü elinde barındıramadığı bölgelerde, uygulamaya dair hakları sorgulamada sıkıntılar yaşanıyor ve belki de daha da önemlisi, azınlık kabul edilen aileler, çocuklarının bu sistemlerce etiketlenmesinden endişe ediyor. Doğrudan polise bağlanan yüz tanıma sistemleri, “şüpheli öğrencileri” çok daha yoğun bir gözlem altına sokarken, daha önce okuldan uzaklaştırılan ya da koridorda birbirleriyle itişip kakışan öğrenciler, polis tarafından kendilerini yakalarından tutulmuş bir halde bulabiliyor. O halde, otoriteler tarafından öğrencilerin isimlerinin önüne eklenen bir sıfat daha gün yüzüne çıkıyor: Potansiyel tehlike.
“İnsan sorunlarına teknolojik çözümler aranmaya çalışıldığında bundan en çok etkilenenler yine dezavantajlı gruplar oluyor.” diyor Sarper Durmuş. “Yine Amerika’dan örnek vermek gerekirse; belli bölgelerde çocuklar bazı şiddet olaylarına, diğer bölgelere kıyasla, daha çok dahil olabiliyor; ama bunlar neden oluyor? Çocuklar psikolojik destek alamıyor, yoksul ailelerden geliyorlar. Sosyal devletin sunmayı vaat ettiği şeylerden faydalanamıyorlar; yani, çok daha sistematik problemler devreye giriyor bu noktada. Bu sorunların üstüne gitmek yerine okullara kameralar konulup yüz tanıma sistemleri yerleştiriliyor; teknoloji şirketleriyle anlaşmalara varılarak öğrencilerin sosyal medyadaki paylaşımları analiz ediliyor. Bir çocuğun, bir gencin, bu tarz bir gözetleme altında olması bir yandan da kendini baskı altında hissetmesine sebep olacaktır. Bugün bu uygulamaların topluma güvenlik getirmesindense, insanları daha fazla suça itme ihtimali olduğu üzerine pek çok tartışma yürütülüyor. Bu çocuklar, suça dahil olacakları varsayılarak gözetim altında tutuluyor aslında. Bizler suçu öngörebilir miyiz? İnsan dediğimiz şey o kadar da öngörülebilir değil. İnsanların komplike yapısı, bu bir takım veri ve korelasyonlara indirgenmeye çalışıldığında da ortaya bazı sorunlar çıkmış oluyor. Henüz Türkiye’de böyle uygulamalar başlamadı ancak bu bir ütopya ya da distopya değil; bir takım eğitim fuarlarında bile anlatılan, alınıp satılabilen teknolojiler bunlar -ve maalesef- oldukça sorunlular.”
Yüz Tanıma Sistemlerinde Türkiye Distopyası
Yüz tanıma sistemleri ve gözetim meselesini Türkiye bağlamında öngörmeye çalışmak her ne kadar kolay olmasa da; olası bir gözetim sisteminin hangi okul ve bölgede olacağı, polise doğrudan bağlı olup olmayacağı gibi sorular, kendimizi Amerika’daki tartışmaların bir benzerinin ortasında bulma ihtimalimizi arttırabilir. Etiler’de herhangi bir okulda uygulanabilecek yüz tanıma sistemi, belki de öğrenciler için güvenliğin sağlanması açısından son derece etkili bir yöntem olarak algılanabilecekken; Sultangazi’de, çoğunluğunu ikametgahı Gazi Mahallesi’nde olan çocukların oluşturduğu bir okulda bu sistem, belki de hapishane gözetiminin deneyimlenmesinden başka bir anlama gelmeyecektir. Bu sistem üzerine yeniden düşünürken, Bağcılar’daki bir okulun öğrencilerinin, devleti temsil eden erkin gözlerini üstünde hissettiğinde, toplumdaki var olan dezavantajlı konumlarının kafalarına vura vura hatırlatıldığı distopik bir senaryodan kesitler izlemeye başlıyoruz. Sosyo-ekonomik sınıf farklılıklarının görece daha karma olduğu okullardaysa bu senaryo, bazı öğrenci gruplarının, diğer öğrenci gruplarından daha farklı olarak, “tehlikeli” etiketiyle kolayca fişlenebilir olduğunu fark ettiğinde okul içinde yaşayabileceği dışlanma ve zorbalık gibi ihtimallerle tezahür ediyor.
Queer ve trans öğrenciler ise diğer dezavantajlı öğrenci gruplarını oluşturuyor. Keyes, veri biliminin, akışkanlık, özerklik, belirgin bir tanım eksikliği gibi mefhumlarla bağlantı kuran queer’lik için derin bir tehdit oluşturduğunu söylüyor (Keyes, 2019); çünkü veri bilimi, normlara, ayrık kategorilere, tahmin edilebilir özelliklere dayanıyor. İkililiğe dayanmayan ve bu kategorilerle uyumlu olmayan öğrencilerin veri profillerindeki boşluklar, eksiklikler ve düşük hesaplamalar, bu öğrenciler hakkında sınırlı sayıda tanı ve karar verilmesine yol açıyor. Önemli sorunların göz ardı edilmesi veya belki de daha fazla haksız varsayımların yapılması ihtimalini de doğuruyor.
Yani, eninde sonunda, toplumdaki dezavantajlı öğrencilerin bu teknolojik sistem içerisinde yanlış temsil edilme ihtimalleri bir hayli yüksek gibi görünüyor.
Yüz tanıma sistemlerine dair tüm bu tartışmaları ele aldığımızda; bu teknolojik gelişmelerin okullarda kullanılması neredeyse altın değerinde bir güvenliği sağlama yöntemi mi yoksa çocuklar arasında korku kültürünü mü yayıyor? Daha çok disiplin mi yoksa daha az mahremiyet mi? Bu tartışmalar, önümüzdeki günlerde daha sık karşımıza çıkacağa benziyor.
Kaynakça
Alba, D. (2020, February 6). Facial Recognition Moves Into a New Front: Schools. The New York Times
Benn, S. I. (1984). Privacy, freedom, and respect for persons. In F. Schoeman (Ed.), Philo- sophical dimensions of privacy: An anthology (pp. 223–244). Cambridge, England: Cam- bridge University Press.
Bloustein, E. J. (1984). Privacy as an aspect of human dignity: An answer to Dean Prosser. In F. Schoeman (Ed.), Philosophical dimensions of privacy: An anthology (pp. 156–202). Cambridge, England: Cambridge University Press.
Dewan, M., A. Akber, M. Murshed, and F. Lin. 2019. “Engagement Detection in Online Learning: A Review.” Smart Learning Environments 6 (1): 1.
Keyes, O. 2019. “Counting the Countless.” Real Life, April 8.
Selwyn, M. A. (2019, November 5). Facial Recognition Technology in Schools: Critical Questions and Concerns. Learning, Media and Technology, 1-14.
Shepherd, J. (2009, Aug 4). Pupil behavior: Someone to watch over you. The Guardian
Valera, J., J. Valera, and Y. Gelogo. 2015. “A Review on Facial Recognition for Online Learning Authentication.” In 8th International Conference on Bio-Science and Bio-Technology (BSBT), 16–19. IEEE.
Warnick, B. (2007). Surveillance Cameras in Schools: An Ethical Analysis. Harvard Educational Review: September 2007, Vol. 77, No. 3, pp. 317-343.
