Bir kameranın karşısında olduğumuzu bildiğimizde davranışlarımızı değiştirebiliriz. Peki kameranın çalışıp çalışmadığını bilmiyorsak?
Foucault'nun yıllar önce ortaya koyduğu panoptikon fikrinin asıl çarpıcı tarafı tam da burada ortaya çıkıyor. Mesele yalnızca gözetlenmek değil, gözetlenme ihtimalinin insan davranışını değiştirmesi.
Bugün ise bu fikir hapishane duvarlarının çok ötesine taşınmış durumda. Akıllı telefonlar, sosyal medya platformları, çevrim içi alışveriş sistemleri, konum servisleri ve yapay zeka destekli algoritmalar günlük hayatın neredeyse her alanına dokunuyor.
PANOPTİKON NEDİR? FOUCAULT NE ANLATIYORDU?
Panoptikon fikrinin kökeni İngiliz filozof Jeremy Bentham'ın 18. yüzyılda tasarladığı hapishane modeline dayanıyor. Foucault ise bu mimariyi yalnızca cezaevi düzeni olarak değil, modern toplumdaki iktidar ve disiplin mekanizmalarını anlamak için bir metafor olarak ele aldı.
Panoptikonda mahkumlar merkezi kuledeki gözetleyicinin kendilerini izleyip izlemediğini bilemez. Ancak her an izlenebileceklerini düşündükleri için davranışlarını kendileri kontrol etmeye başlar.
Böylece dışarıdan sürekli bir müdahaleye gerek kalmadan özdenetim ortaya çıkar.
İşte dijital çağla ilgili tartışmayı ilginç hale getiren nokta da bu.
DİJİTAL DÜNYADA GÖZETLEYEN KİM?
Bugün bizi tek bir kişinin sürekli olarak izlediği merkezi bir kule bulunmuyor. Bunun yerine farklı platformlar ve sistemler, farklı amaçlarla veri toplayabiliyor.
Arama geçmişleri, konum bilgileri, çevrim içi alışveriş tercihleri, izlenen videolar, beğeniler ve diğer dijital davranışlar kullanıcı hakkında çeşitli çıkarımlar yapılmasına imkan sağlayabiliyor.
Yapay zeka sistemlerinin gelişmesiyle birlikte tartışma yalnızca “Hangi verilerimiz toplanıyor?” sorusuyla sınırlı kalmıyor. Bir başka soru daha önem kazanıyor:
Toplanan verilerden bizim hakkımızda neler çıkarılabiliyor?
UNESCO'nun yapay zeka etiğine ilişkin tavsiyelerinde de kişisel verilerin korunması, mahremiyet, algoritmik sistemlerin denetlenebilirliği, şeffaflık ve insan özerkliği temel meseleler arasında sayılıyor. UNESCO ayrıca yapay zeka sistemlerinin insanın karar verme özerkliği üzerindeki etkilerinin araştırılması gerektiğine dikkat çekiyor.
SOSYAL MEDYA YENİ BİR PANOPTİKON MU?
Sosyal medya bu tartışmanın en görünür alanlarından biri.
Bir paylaşım yapmadan önce kaç kişinin göreceğini, nasıl tepki vereceğini veya paylaşımın ileride karşımıza çıkıp çıkmayacağını düşünmek artık sıradan bir davranış haline geldi.
Burada gözetim yalnızca platform tarafından gerçekleştirilen bir işlem olarak ortaya çıkmıyor. Kullanıcılar da birbirlerini izliyor, yorumluyor, değerlendiriyor ve bazen birbirlerinin davranışlarını denetliyor.
Akademik literatürde sosyal medyanın yalnızca şirketler veya devletler tarafından kullanılan bir gözetim aracı olarak değil, sıradan kullanıcıların da birbirlerini takip edebildiği ve denetleyebildiği daha karmaşık bir yapı olarak ele alınması gerektiği savunuluyor.
Bu nedenle dijital panoptikonun tek bir gözetleyicisi olduğunu söylemek de yeterli olmayabilir.
YAPAY ZEKA PANOPTİKONU NASIL DEĞİŞTİRİYOR?
Yapay zekanın devreye girmesiyle birlikte gözetim tartışmasının boyutu daha da değişiyor.
Klasik panoptikonda temel mesele “Beni biri izliyor mu?” sorusuydu.
Algoritmik dünyada ise soru giderek şuna dönüşüyor:
“Benim davranışlarım hakkında sistem ne biliyor ve bundan sonra ne yapacağımı tahmin edebilir mi?”
Bu önemli bir fark.
Çünkü burada yalnızca geçmiş davranışların kaydedilmesinden değil, veriler üzerinden gelecekteki davranışlar hakkında çıkarım yapılmasından söz ediyoruz.
UNESCO da yapay zeka sistemlerinin kişisel veriler, mahremiyet, insan özerkliği ve karar verme süreçleri üzerindeki etkilerine özellikle dikkat çekiyor. Kurum, yapay zeka sistemlerinin şeffaf, denetlenebilir ve insan haklarıyla uyumlu biçimde geliştirilmesi gerektiğini belirtiyor.
ASIL MESELE BİZİ İZLEMELERİ Mİ, KENDİMİZİ İZLEMEMİZ Mİ?
Panoptikonun günümüzdeki en ilginç karşılığı belki de burada ortaya çıkıyor.
Bir kişi sosyal medyada paylaşım yaparken yalnızca platformun kendisini izleyip izlemediğini düşünmeyebilir. Arkadaşlarının, işvereninin, ailesinin veya gelecekte karşılaşacağı insanların bu paylaşımı görme ihtimalini de hesaba katabilir.
Bu durumda ortada fiziksel bir kule yoktur.
Fakat görünür olma ihtimali, davranışları şekillendirmeye devam eder.
Dolayısıyla dijital panoptikonu yalnızca “teknoloji bizi gözetliyor” şeklinde açıklamak eksik kalabilir. Daha önemli mesele, insanların giderek daha fazla veriye dönüşen davranışlarının farkında olarak kendilerini düzenlemeleri olabilir.
YENİ PANOPTİKONUN GARDİYANI KİM?
Belki de günümüzün en zor sorusu bu.
Devlet mi? Teknoloji şirketleri mi? Algoritmalar mı? Sosyal medya kullanıcıları mı?
Yoksa hepsinin birleşiminden oluşan daha dağınık bir gözetim sistemi mi?
UNESCO'nun yapay zeka etiği çerçevesi de bu nedenle yalnızca teknolojinin kendisine değil, teknoloji üzerinde insan denetimine, hesap verebilirliğe, şeffaflığa ve mahremiyetin korunmasına vurgu yapıyor. Kurum ayrıca yapay zekanın kitlesel gözetim amacıyla kullanılmaması gerektiğini belirtiyor.
Foucault'nun panoptikon fikrini bugüne taşıdığımızda belki de ortaya çıkan en önemli soru, “Bizi kim izliyor?” değil.
Asıl soru şu:
İzleniyor olabileceğimizi düşünerek davranışlarımızı ne kadar değiştirdik?
Çünkü dijital çağın panoptikonunda gözetleme kulesini görmek zor olabilir. Fakat kuleyi görememek, onun davranışlarımız üzerindeki etkisinin olmadığı anlamına gelmeyebilir.
