Dünya yalnızca insanların verdiği kararlarla şekillenmiyor. Günlük hayatımızın büyük bir bölümü görünmeyen sistemler tarafından yönlendiriliyor: Algoritmalar. Hangi haberi göreceğimizden hangi ürünü satın alacağımıza, kredi başvurumuzun kabul edilip edilmeyeceğinden hangi videonun önümüze düşeceğine kadar pek çok karar veri setleri ve matematiksel modeller aracılığıyla alınıyor. Bu dönüşüm çoğu zaman teknolojik bir ilerleme olarak anlatılıyor. Algoritmaların insan hatasını azaltacağı, daha hızlı ve daha objektif kararlar vereceği düşünülüyor. Ancak karar süreçleri giderek makinelerin kontrolüne geçtikçe başka bir soru da giderek daha görünür hale geliyor: Bir kararın sorumluluğu bir algoritmaya devredildiğinde vicdan nerededir? Kararı makine verdiğinde insanın içindeki ahlaki pusula hala devrede midir?
Kararın Görünmezleşmesi: Algoritmalar Nasıl Hüküm Verir?
Algoritmalar çoğu zaman tarafsız ve objektif sistemler olarak sunulur. Veriye bakarlar, örüntüleri analiz ederler ve istatistiksel olarak “en doğru” sonucu üretirler. Bu nedenle birçok kurum algoritmik karar mekanizmalarını insan hatasını azaltan bir ilerleme olarak görür. Hatta bu nedenle birçok noktada “tarafsız” karar alabilme becerisini en iyi makinelerin gerçekleştirebileceğini düşünürler. Kağıt üstünde bu böyle olabilir ancak kağıt üstüne yansımayan kısımda, neler atlanıyor olabilir? Hala insana ait olan, bazen tam olarak bir metne de dökemediğimiz, İngilizce’de “gut feeling” olarak geçen düşünce ve yargılarımızı nereye koyabiliriz? Bu içgüdülerin eksikliği neye neden olur?
Algoritmalar her türlü veriyi işleyen matematiksel sistemler değildir, aynı zamanda geçmiş verilerden öğrenirler. Geçmiş veriler ise toplumun tarihsel deneyimlerini, güç ilişkilerini ve bazen de önyargılarını taşır.
ABD’de mahkemelerde kullanılan COMPAS adlı algoritma bu durumun en bilinen örneklerinden biridir. Bu sistem sanıkların tekrar suç işleme riskini tahmin etmek için geliştirilmişti. Fakat yapılan bağımsız araştırmalar, algoritmanın siyah sanıkları sistematik olarak daha yüksek riskli gösterdiğini ortaya koydu. Algoritma tarafsız bir model olarak tasarlanmıştı ancak beslendiği veri setleri zaten toplumsal eşitsizliklerle şekillenmişti. Böylece sistem, geçmişteki önyargıları yeniden üretmeye başladı.
Benzer bir durum sağlık alanında da ortaya çıktı. Harvard araştırmacısı Ziad Obermeyer, ABD’de sağlık hizmeti dağıtımında kullanılan bir algoritmanın siyah hastaların bakım ihtiyacını ciddi biçimde düşük tahmin ettiğini gösterdi. Çünkü sistem hastalık ihtiyacını değil, geçmiş sağlık harcamalarını ölçüyordu. Oysa bazı gruplar zaten sağlık hizmetlerine daha az erişebiliyordu.
Bu örnekler bize önemli bir gerçeği hatırlatır: Algoritmalar yalnızca verileri işlemez, aynı zamanda toplumun görünmeyen değerlerini ve yapısal eğilimlerini de taşırlar. Veya görünmez güç ilişkilerinin yeniden üretimine neden olurlar. Dolayısıyla algoritmik kararlar çoğu zaman sandığımız kadar nötr değildir.
Filtrelenen Gerçeklik: Sosyal Medya Algoritmaları ve Vicdan
Algoritmaların etkisi yalnızca kurumların karar mekanizmalarında değil, gündelik hayatımızın en sıradan alanlarında da hissedilir. Bunun en güçlü ve her gün karşımıza çıkan örneği sosyal medya platformlarıdır.
Bugün milyarlarca insan dünyadaki gelişmeleri büyük ölçüde algoritmaların sıraladığı içerikler üzerinden takip ediyor. Ancak bu sistemlerin temel hedefi kullanıcı dikkatini mümkün olduğunca uzun süre platformda tutmaktır. Bu nedenle algoritmalar çoğu zaman en doğru bilgiyi değil, en fazla etkileşim üreten içeriği öne çıkarır. Hatta “rage bait” ismi verilen, öfkeyi besleyen ve hızlı bir şekilde duyguların öne çıktığı paylaşımlar, sosyal medya platformları tarafından öne çıkarılır.
Birçok kişinin izlediği “The Social Dilemma” belgeseli, bu mekanizmayı çarpıcı biçimde ortaya koyuyor: Platformların algoritmaları yalnızca kullanıcı davranışını analiz etmez, aynı zamanda bu davranışı yönlendirir. Kullanıcı ne kadar çok etkileşime girerse sistem o davranışı güçlendiren içerikleri daha fazla gösterir.
Bu durum küresel krizlerde daha görünür hale gelir. Örneğin birçok gazeteci ve araştırmacı bazı sosyal medya platformlarında Filistin’e dair içeriklerin görünürlüğünün düşürüldüğünü, bazı anahtar kelimelerin otomatik moderasyon sistemleri tarafından sınırlandığını veya içeriklerin hızlı biçimde kaldırıldığını rapor etti. Platformlar bu durumları çoğu zaman “otomatik sistem hatası” olarak açıklasa da tartışma başka bir soruyu gündeme getirdi: Bir algoritma hangi acının görünür olacağına karar verdiğinde vicdanın sesi nasıl duyulur? Çünkü algoritmik moderasyon insanın etik değerlendirme kapasitesinin yerini aldığında geriye çoğu zaman yalnızca veri kalır. Oysa veri acıyı ölçemez.
Gözetim Kapitalizmi: Davranışlarımızın Ekonomisi
Teknoloji araştırmacısı Shoshana Zuboff, modern dijital ekonomiyi “gözetim kapitalizmi” kavramıyla açıklar. Platformlar yalnızca kullanıcı davranışlarını analiz etmez, bu davranışları öngörmek ve yönlendirmek için sürekli veri üretir.
Bu sistemde kullanıcı aynı zamanda bir veri kaynağıdır. Beğenilerimiz, tıklamalarımız, izleme sürelerimiz ve hatta duraksama anlarımız bile ölçülür ve davranış modellerine dönüştürülür. Sizi sizden bile iyi tanıyabilecek, ihtiyacınızı ve isteklerinizi öngörebilecek, bazen “aklımdan geçeni nasıl okudu da karşıma çıkardı?” diye şaşıracağınız içeriklerin temelinde de bu modellemeler yatar.
Yuval Noah Harari bu dönüşümü şu sözlerle özetler: “Veriyi kontrol edenler, geleceği kontrol eder.” Ancak bu noktada kritik bir soru ortaya çıkar: Davranışlarımız veri setlerine dönüştürüldüğünde, insanın içsel ahlaki muhasebesi de sayısal bir modele indirgenebilir mi? Vicdan ölçülebilir bir değişken midir?
Sorumluluğun Dağılması
Algoritmik sistemlerin yarattığı en büyük risklerden biri sorumluluğun belirsizleşmesidir. Bir banka krediyi reddettiğinde “kararı algoritma verdi” diyebilir. Bir platform içeriği kaldırdığında “otomatik sistem böyle değerlendirdi” diyebilir. Bir güvenlik birimi tahminsel suç algoritmasına dayanarak müdahale ettiğinde “veri böyle gösterdi” diyebilir.
Bu durum Hannah Arendt’in “kötülüğün sıradanlığı” kavramını yeni bir bağlama taşır. Arendt’e göre büyük sorunlar çoğu zaman şeytani niyetlerden değil, düşünmeden işleyen sistemlerden doğar.
Bugün benzer bir risk algoritmik sistemlerde ortaya çıkmaktadır. Kararlar makinelere devredildikçe sorumluluk da görünmezleşebilir. Otomatik olarak verildiğini düşündüğümüz bu kararların hesap verilebilirliği sahiden kime aittir?
Yeniden Sormamız Gereken Soru
Teknoloji ilerledikçe karar süreçleri daha karmaşık hale geliyor. Ancak bu karmaşıklık temel bir gerçeği değiştirmiyor: algoritmalar karar verebilir, fakat vicdan taşıyamazlar.
Vicdan hala insanın sorumluluğundadır. Bu nedenle asıl soru şudur: Algoritmaların yön verdiği bir dünyada insan kendi ahlaki pusulasını koruyabilecek mi? Yoksa kararları makinelerin verdiği bir düzen içinde vicdan yavaş yavaş sessizleşecek mi?
Belki de bugün yeniden hatırlamamız gereken şey çok basit bir gerçektir: Teknoloji ilerledikçe vicdanın önemi azalmaz; tam tersine daha hayati hale gelir. Çünkü algoritmalar ne kadar güçlü olursa olsun, insanın yerini alabilecek tek şey hala insandır.
Kübra Nur Duman / 23 Mezunu