- Kararın Görünmezleşmesi: Algoritmalar Nasıl Hüküm Verir?
- Filtrelenen Gerçeklik: Sosyal Medya Algoritmaları ve Vicdan
Dünya yalnızca insanların verdiği kararlarla şekillenmiyor. Günlük hayatımızın büyük bir bölümü görünmeyen sistemler tarafından yönlendiriliyor: Algoritmalar. Hangi haberi göreceğimizden hangi ürünü satın alacağımıza, kredi başvurumuzun kabul edilip edilmeyeceğinden hangi videonun önümüze düşeceğine kadar pek çok karar veri setleri ve matematiksel modeller aracılığıyla alınıyor. Bu dönüşüm çoğu zaman teknolojik bir ilerleme olarak anlatılıyor. Algoritmaların insan hatasını azaltacağı, daha hızlı ve daha objektif kararlar vereceği düşünülüyor. Ancak karar süreçleri giderek makinelerin kontrolüne geçtikçe başka bir soru da giderek daha görünür hale geliyor: Bir kararın sorumluluğu bir algoritmaya devredildiğinde vicdan nerededir? Kararı makine verdiğinde insanın içindeki ahlaki pusula hala devrede midir?
Kararın Görünmezleşmesi: Algoritmalar Nasıl Hüküm Verir?
Algoritmalar çoğu zaman tarafsız ve objektif sistemler olarak sunulur. Veriye bakarlar, örüntüleri analiz ederler ve istatistiksel olarak “en doğru” sonucu üretirler. Bu nedenle birçok kurum algoritmik karar mekanizmalarını insan hatasını azaltan bir ilerleme olarak görür. Hatta bu nedenle birçok noktada “tarafsız” karar alabilme becerisini en iyi makinelerin gerçekleştirebileceğini düşünürler. Kağıt üstünde bu böyle olabilir ancak kağıt üstüne yansımayan kısımda, neler atlanıyor olabilir? Hala insana ait olan, bazen tam olarak bir metne de dökemediğimiz, İngilizce’de “gut feeling” olarak geçen düşünce ve yargılarımızı nereye koyabiliriz? Bu içgüdülerin eksikliği neye neden olur?
Algoritmalar her türlü veriyi işleyen matematiksel sistemler değildir, aynı zamanda geçmiş verilerden öğrenirler. Geçmiş veriler ise toplumun tarihsel deneyimlerini, güç ilişkilerini ve bazen de önyargılarını taşır.
ABD’de mahkemelerde kullanılan COMPAS adlı algoritma bu durumun en bilinen örneklerinden biridir. Bu sistem sanıkların tekrar suç işleme riskini tahmin etmek için geliştirilmişti. Fakat yapılan bağımsız araştırmalar, algoritmanın siyah sanıkları sistematik olarak daha yüksek riskli gösterdiğini ortaya koydu. Algoritma tarafsız bir model olarak tasarlanmıştı ancak beslendiği veri setleri zaten toplumsal eşitsizliklerle şekillenmişti. Böylece sistem, geçmişteki önyargıları yeniden üretmeye başladı.
Benzer bir durum sağlık alanında da ortaya çıktı. Harvard araştırmacısı Ziad Obermeyer, ABD’de sağlık hizmeti dağıtımında kullanılan bir algoritmanın siyah hastaların bakım ihtiyacını ciddi biçimde düşük tahmin ettiğini gösterdi. Çünkü sistem hastalık ihtiyacını değil, geçmiş sağlık harcamalarını ölçüyordu. Oysa bazı gruplar zaten sağlık hizmetlerine daha az erişebiliyordu.
Bu örnekler bize önemli bir gerçeği hatırlatır: Algoritmalar yalnızca verileri işlemez, aynı zamanda toplumun görünmeyen değerlerini ve yapısal eğilimlerini de taşırlar. Veya görünmez güç ilişkilerinin yeniden üretimine neden olurlar. Dolayısıyla algoritmik kararlar çoğu zaman sandığımız kadar nötr değildir.
Filtrelenen Gerçeklik: Sosyal Medya Algoritmaları ve Vicdan
Algoritmaların etkisi yalnızca kurumların karar mekanizmalarında değil, gündelik hayatımızın en sıradan alanlarında da hissedilir. Bunun en güçlü ve her gün karşımıza çıkan örneği sosyal medya platformlarıdır.
Bugün milyarlarca insan dünyadaki gelişmeleri büyük ölçüde algo