Ne Düşüneceğine Sen Karar Vermiyorsun: Algoritmaların Yönlendirmesi
Sabah telefonunu açtın ve gördüğün ilk reklam direkt senin haftalardır ilgilendiğin üründe indirim olduğunu gösteriyor. Garip değil mi? Hepimiz en az bir kere telefonlarımızın bizi dinlediğini düşünmüş olabiliriz. Bizi tanıyan, tüm hobilerimize hakim olan ve bize nasıl para harcatacağını çok iyi bilen bir algoritma ile karşı karşıyayız. Sosyal medyada özgürce gezdiğimizi sanıyoruz. Ancak gerçek şu ki algoritma her adımımızı kontrol altında tutuyor. Bu yazımda bize zorla fikirler aşılayan ve adeta beynimizi yıkayan algoritmaları anlatacağım. Öncelikle filtre balonlarını inceleyeceğim.
Filtre Balonları ve Öneri Sistemleri
Filtre balonu kavramı ilk olarak 2011’de aktivist Eli Pariser tarafından ortaya atıldı. Bu kavram algoritmaların geçmiş davranışlarımızı analiz edip bize beğeneceğimizi tahmin ettiği içerikleri göstermesi anlamına geliyor. Netflix’te ilginizi çekebilir diyerek gördüğünüz filmler, alışveriş sitelerinin “size özel kampanya” adı altında sunduğu ürünler ve hatta sosyal medyada kaydırırken gördüğünüz içerikler filtre balonuna dahil. Algoritmalar ilgimizi çekmeyeceğini düşündükleri ürünleri ve içerikleri ise filtrelendirerek bize sunmayı bırakıyor. Bu yönleriyle algoritmalar bizleri zamanla tanıyor. Bir alışveriş uygulamasına ilk girdiğinizde her kesime hitap edebilecek ürünlerle karşılaşırsınız. Uygulamayı bir süre kullanınca ise daha önce göz attığımız ürünlere benzer ürünler görürüz. Bu algoritmanın ilgi alanlarımızı ve beğendiğimiz ürünleri öğrenmesidir. Böylelikle filtre balonları bizi ne alacağımız yönünde yönlendiriyor ve bizi olabildiğince uzun süre uygulamanın içinde tutarak harcama yapmaya yönlendiriyor. Eğer bu yönlendirmeden rahatsızsanız, uygulamaları indirmeden önce veri gizliliği politikalarını okumanızda fayda olacaktır. Ayrıca birçok site ve mobil uygulama artık bu izlemenin yapılıp yapılmaması yönünde sizin tercihinizi soruyor. “Bu sitedeki çerezleri kabul ediyor musunuz?” veya “Uygulama sizin istek ve tercihlerinizi izlesin mi?” bildirimleri ile karşılaştığınızda reddet butonuna basabilirsiniz.
Bana göre sanılanın aksine, bu yönlendirme her zaman olumsuz değildir. Veri gizliliğinizi ihlal etme yönünde aşırıya kaçan ve bu verileri başka şirketlerle de paylaşan uygulamalar olduğu şüphesiz. Ancak kimi uygulamalar öneri sistemleri ile sizin deneyiminizi geliştirmeyi amaçlıyor. Örneğin, ben alışveriş yapmak için girdiğim bir uygulamada kadın kıyafetleri veya bebek bezi görerek zaman kaybetmek istemem. Bunun yerine, benim ilgi alanlarıma, cinsiyetime ve yaş grubuma uygun içerikler görmek zaman tasarrufunu desteklemiş oluyor. Fakat algoritmalar yalnızca senin tercihlerini ve tüketim sıklığını yönlendiren masum sistemler değil. Algoritmalar ideolojik dayatma ve fikir şekillendirmede de büyük pay sahibi.
Algoritma Ne İsterse O Olur.
Bu sistemler toplumları şekillendiriyor, siyasi görüşleri belirliyor, hatta seçimlerin sonuçlarında bile etkili oluyor. Bu yönüyle veri ve algoritmalar insanların hayatını derinden etkiliyor ve dünyayı yönlendiriyor. Şirketlerin kontrolü altında fikirleri yönlendirilen insanlara bir sürü ürkütücü örnek ve skandal mevcut. 2021 yılında teknoloji devi Facebook’ta çalışan veri bilimci Frances Haugen şirketin bu konuyla ilgili kritik bilgiler taşıyan belgelerini kamuoyuna sızdırdı. Bu belgelerdeki bulgular radikal gruplara katılımda Facebook’un rolünü gösteriyordu. Araştırmacılara göre aşırılıkçı gruplara katılımın %64’ü doğrudan Facebook öneri araçlarının sonucuydu. Bu gruplara katılan insanlara grupları öneren algoritmanın ta kendisiydi.
Asıl çarpıcı olan ise Haugen’in şirketin bu hususdaki tutumu hakkındaki ifadeleri. Haugen, Facebook’un araştırmalarında öfke dolu ve kutuplaştırıcı içeriklerin daha çok etkileşim topladığını fark ettiğini ve bu nedenle bu duruma göz yumduğunu belirtti. Böylelikle kullanıcılarını kutuplaştırarak Facebook onları uygulamada daha çok zaman geçirmeye yönlendirdi. Aslında düşünüldüğünde, gerçekten de şiddet içerikli ve öfke dolu paylaşımlar daha çok etkileşim alıyor. İnsanların bu içerikleri beğendiğini fark eden algoritmalar ise bu içerikleri insanların önüne çıkararak daha da yaygınlaştırıyor. Hatta bu döngü bazen o derece kontrolden çıkıyor ki algoritma içerikleri sınırlandıramıyor ve kiminiz hatırlayacağı üzere Instagram’daki şiddet krizleri yaşanıyor. Bu krizlerde insanların tüm keşfeti kavga ve şiddet içerikleri ile dolmuştu. Bu durumdan şikayetçi olan çocuk sahibi yetişkinler de Meta şirketine toplu bir dava açtı. Hatta birtakım Avrupalı siyasetçiler ılımlı paylaşımlar görüntülenme almazken radikal ve saldırgan içeriklerin çok fazla etkileşim aldığını belirtti. Böylelikle algoritma siyaseti kutuplaşmaya ve aşırıcılığa yönlendirmiş oluyor.
Vereceğimiz oy bile algoritmanın yönlendirmesinden etkileniyor. 2016 yılında Cambridge Analytica adlı bir veri şirketi 87 milyon kişinin verisini izinsiz ele geçirdi. Bu veriler kullanıcıların sosyal medya kullanımını içeriyor. Sandığınızın aksine, bu veriler sadece isim, yaş ve adresten çok daha fazlası. Bu verilerle Cambridge Analytica gibi şirketler sizin psikolojik ve kişilik profilinizi oluşturuyor veya ne kadar ikna edilebilir olduğunuzu dahi ölçüyor. Cambridge Analytica’nın sızdırdığı veriler siyasi kurumların kullanıcıya yönelik politik mesajlar yaymasına yol açtı. Bu sistem hem 2016 ABD başkanlık seçiminde hem de İngiltere’nin Brexit referandumunda kullanıldı. Algoritma kullanıcıların profilini analiz ederek kişiye özel politik mesajlar gönderdi. Bu olay o derece ses getirdi ki Twitter politik paylaşımlara sınırlamalar getirirken diğer şirketler de politikalarını tekrardan düzenledi. Konu ilginizi çektiyse, Cambridge Analytica krizini detaylıca anlatan bir belgesel bulunmakta; göz atmanızı öneririm.
Algoritmalar seni tanıyor, analiz ediyor ve sana ne düşünmen gerektiğini söylüyor. Bunun izinsiz yapılması ise veri gizliliğini ihlal ediyor. Şirketler istedikleri şekilde insanlara ürün aldırabiliyor veya hizmet sunabiliyor. Bu yazıyı okurken yanda gördüğün reklamlar senin tercihin değil, sistemin senin için uygun gördüğü yönlendirme. Algoritma sana ne sunarsa, onların arasında bir seçim yapmak zorunda kalıyorsun. Yazımı filtre balonu kavramını ortaya atan Eli Pariser’in tüm anlattıklarımı özetleyen sözü ile bitiriyorum.
"Eğer algoritma neyi göreceğinize karar veriyorsa, özgür iradeniz de algoritmanın izin verdiği kadar özgürdür." — Eli Pariser, The Filter Bubble (2011)
