Algoritmalar her yerde | MIT Teknoloji İncelemesi

“Şu an bir hapis cezası değil, sadece şu anki anlık görüntümüz” diye yazıyorlar. “Yapmıyoruz sahip olmak Kullanımlarının teknik olarak mümkün olduğu bağlamlarda bile etik olmayan veya şeffaf olmayan algoritmik karar sistemleri kullanmak. Kitlesel gözetime dayalı reklamlar toplumumuzun gerekli unsurları değildir. Geçmişin ve günümüzün katmanlaşmalarını öğrenip gelecekte güçlendirecek sistemler kurmamıza gerek yok. Teknoloji yüzünden gizlilik ölmedi; Gazeteciliği, kitap yazarlığını veya sizin için önemli olan herhangi bir zanaatı desteklemenin tek yolunun reklam hizmeti vermek için sizi gözetlemek olduğu doğru değil. Alternatifler var.”

Düzenlemeye acil ihtiyaç

Wiggins ve Jones’un amacı, “gücün yeniden düzenlenmesinde verinin kalıcı rolü” de dahil olmak üzere günümüzün algoritmik sistemlerinin altında yatan entelektüel geleneği ortaya çıkarmaksa, Josh Simons, algoritmik gücün bir demokraside nasıl uygulandığıyla ve daha spesifik olarak, nasıl çalıştığımızla daha çok ilgileniyor. onu kullanan şirket ve kurumları düzenlemeye gidebilir.

Şu anda Harvard’da siyaset teorisi alanında araştırma görevlisi olan Simons’un benzersiz bir geçmişi var. Sorumlu Yapay Zeka ekibinin kurucu üyesi olduğu Facebook’ta sadece dört yıl çalışmakla kalmadı, aynı zamanda daha önce Birleşik Krallık Parlamentosu’nda İşçi Partisi’nin politika danışmanı olarak görev yaptı.

İçinde İnsanlar için Algoritmalar: Yapay Zeka Çağında DemokrasiSimons, aşağıdaki gibi yazarların ufuk açıcı çalışmalarını temel alıyor: Cathy O’Neil, Sabah AsiliVe Shoshana Zuboff algoritmik tahminin doğası gereği politik olduğunu iddia etmek. “Amacım, yaklaşan makine öğrenimi çağında demokrasinin nasıl işleyeceğini keşfetmek” diye yazıyor. “Geleceğimiz, makine öğreniminin doğası tarafından değil (makine öğrenimi modelleri basitçe onlara yapmalarını söylediğimiz şeyleri yapar), makine öğreniminin demokrasinin temellerini güçlendirmesini sağlayan düzenlemeye olan bağlılığımız tarafından belirlenecek.”

Kitabın ilk yarısının büyük bir kısmı, devam ettiğimiz tüm yolları açığa çıkarmaya ayrılmıştır. yanlış anlamak makine öğreniminin doğası ve kullanımının demokrasiye nasıl derinden zarar verebileceği. Peki ya Simons’un kitap boyunca kullandığı ancak hiçbir zaman tanımlamadığı bir terim olan “gelişen demokrasi” algoritmik yönetimle her zaman uyumlu değilse? Aslında bu onun asla yanıtlamadığı bir soru.

Bunlar ister kör noktalar olsun, ister Simons algoritmik tahminin hayatımızın kaçınılmaz bir parçası olduğuna ve öyle kalacağına inanıyor olsun, netliğin olmayışı kitaba hiçbir fayda sağlamaz. Makine öğreniminin nasıl çalıştığını açıklarken ve Google’ın PageRank’ı ile Facebook Akışı’nın arkasındaki sistemleri yeniden yapılandırırken çok daha sağlam bir zeminde olsa da, güven uyandırmayan eksiklikler var. Örneğin Simons’un PageRank ve Feed algoritmalarının tasarımının ardındaki temel motivasyonlardan birini kabul etmesi bile rahatsız edici derecede uzun bir zaman alıyor: kâr. Etkili bir düzenleyici çerçeve geliştirmek istiyorsanız göz ardı edilecek bir şey değil.

“Dünyanın nihai, gizli gerçeği, bizim yaptığımız ve aynı kolaylıkla farklı şekilde de yapabileceğimiz bir şeydir.”

Kitabın ikinci yarısında tartışılanların çoğu, platform ve internet düzenlemeleriyle ilgili haberleri takip eden herkese tanıdık gelecektir (ipucu: sağlayıcılara daha çok kamu hizmetleri gibi davranmalıyız). Simons’un bazı yaratıcı ve zekice fikirleri olsa da, Amerika Birleşik Devletleri’ndeki siyasetin mevcut durumu göz önüne alındığında, en ateşli politika meraklılarının bile biraz demoralize olacağından şüpheleniyorum.

Sonuçta bu kitapların sunduğu en umut verici mesaj algoritmaların doğasında saklı. İçinde Filtre dünyasıChayka, merhum büyük antropolog David Graeber’den bir alıntı içeriyor: “Dünyanın nihai, gizli gerçeği, onun bizim yaptığımız ve aynı kolaylıkla farklı şekilde de yapabileceğimiz bir şey olmasıdır.” Bu, her üç kitapta da yankılanan bir duygu; belki de “kolayca” kısmı hariç.

Algoritmalar önyargılarımızı güçlendirebilir, kültürü homojenleştirip düzleştirebilir, savunmasız ve dışlanmış olanları sömürebilir ve bastırabilir. Ancak bunlar tamamen anlaşılmaz sistemler ya da kaçınılmaz sonuçlar değil. Tam tersini de yapabilirler. Herhangi bir makine öğrenimi algoritmasına yakından baktığınızda, kaçınılmaz olarak insanları bulacaksınız; hangi verinin toplanacağı ve bu verinin nasıl tartılacağı, tasarım ve hedef değişkenler hakkında seçimler yapan insanlar. Ve evet, hatta bunların kullanılıp kullanılmayacağına dair seçenekler bile. Algoritmalar insanların yaptığı bir şey olduğu sürece, onları farklı şekilde yapmayı da seçebiliriz.

Bryan Gardiner, Oakland, Kaliforniya’da yaşayan bir yazardır.