Yapay Zekada Kadınlar: Sarah Myers West şunu sormamız gerektiğini söylüyor: ‘Neden yapay zeka geliştiriyoruz?’

Yapay zeka odaklı kadın akademisyenlere ve diğerlerine hak ettikleri ve gecikmiş zamanlarını ilgi odağı haline getirmek için TechCrunch, yapay zeka devrimine katkıda bulunan dikkat çekici kadınlara odaklanan bir dizi röportaj yayınlıyor. Yapay zeka patlaması devam ederken bu parçaları yıl boyunca yayınlıyoruz ve çoğu zaman fark edilmeyen önemli çalışmaları vurguluyoruz. Daha fazla profili buradan okuyun.

Sarah Myers West, yapay zekanın sosyal etkilerini ve teknoloji endüstrisindeki güç yoğunlaşmasını ele alan politika araştırmalarını inceleyen bir Amerikan araştırma enstitüsü olan AI Now enstitüsünün genel müdürüdür. Daha önce ABD Federal Ticaret Komisyonu’nda yapay zeka konusunda kıdemli danışman olarak görev yaptı ve Northeastern Üniversitesi’nde misafir araştırmacı olarak görev yapıyor ve aynı zamanda Cornell’in Vatandaşlar ve Teknoloji Laboratuvarı’nda araştırmaya katkıda bulunuyor.

Kısaca yapay zekaya nasıl başladınız? Sizi sahaya çeken ne oldu?

Son 15 yılımı, uluslararası yönetişimin ön saflarında ortaya çıkan güçlü siyasi aktörler olarak teknoloji şirketlerinin rolünü sorgulayarak geçirdim. Kariyerimin başlarında, ABD teknoloji şirketlerinin dünyanın dört bir yanında (Güneydoğu Asya, Çin, Orta Doğu ve başka yerlerde) siyasi manzarayı değiştiren şekillerde nasıl ortaya çıktığını gözlemleyen bir ön sırada oturuyordum ve endüstrinin nasıl gerçekleştiğini araştıran bir kitap yazdım. Lobicilik ve düzenleme, alternatifler sunan teknolojilere rağmen internete yönelik gözetim iş modelinin kökenlerini şekillendirdi içinde teori O içinde pratik hayata geçemedi.

Kariyerimin pek çok noktasında şunu merak ettim: “Neden bu distopik gelecek vizyonuna hapsoluyoruz?” Cevabın teknolojinin kendisiyle çok az, kamu politikası ve ticarileştirmeyle çok ilgisi var.

O zamandan beri hem araştırma kariyerimde hem de AI Now’ın eş direktörü olarak politika çalışmalarımda bu benim projem oldu. Yapay zeka günlük hayatımızın altyapısının bir parçasıysa, onu üreten kurumları eleştirel bir şekilde incelememiz ve toplum olarak bunun halkın ihtiyaçları olduğundan emin olmak için – gerek düzenleme yoluyla, ister örgütlenme yoluyla – yeterli sürtüşmenin olduğundan emin olmamız gerekir. günün sonunda sunulanlar, teknoloji şirketlerininkiler değil.

Yapay zeka alanında en çok hangi çalışmanızla gurur duyuyorsunuz?

Diğer şeylerin yanı sıra yapay zekanın düzenleyici yaptırımlarının ön saflarında yer alan ABD devlet kurumu olan FTC’deyken yaptığımız işten gerçekten gurur duyuyorum. Kollarımı sıvamayı ve vakalar üzerinde çalışmayı seviyordum. Araç seti esasen aynı olduğundan, bir araştırmacı olarak yöntem eğitimimi araştırma çalışmalarına katılmak için kullanabildim. Gücü doğrudan hesap vermek için bu araçları kullanmak ve ister yapay zekanın işçilerin değerini düşürmek ve fiyatları artırmak için veya rekabete aykırı davranışlarla mücadele etmek için nasıl kullanıldığını ele almak olsun, bu çalışmanın halk üzerinde anında bir etkiye sahip olduğunu görmek memnuniyet vericiydi. büyük teknoloji şirketlerinin

Beyaz Saray Bilim ve Teknoloji Politikası Ofisi altında çalışan harika bir teknoloji uzmanlarından oluşan ekibi bir araya getirmeyi başardık ve burada attığımız temellerin, üretken yapay zekanın ortaya çıkışı ve bulut altyapısının önemiyle doğrudan bağlantılı olduğunu görmek heyecan vericiydi. .

Yapay zeka geliştikçe karşı karşıya kalan en acil sorunlardan bazıları nelerdir?

Bunlardan ilki ve en önemlisi, yapay zeka teknolojilerinin hastanelerde, okullarda, sınırlarda vb. son derece hassas bağlamlarda yaygın olarak kullanılması, ancak yeterince test edilmemesi ve doğrulanmamasıdır. Bu, hataya açık bir teknolojidir ve bağımsız araştırmalardan bu hataların eşit şekilde dağıtılmadığını biliyoruz; uzun süredir ayrımcılığın yükünü çeken topluluklara orantısız bir şekilde zarar veriyorlar. Çıtayı çok çok daha yükseğe koymalıyız. Ancak beni endişelendiren şey, Gazze’deki sivillere karşı silah kullanımından işçilerin haklarından mahrum bırakılmasına kadar eylemlerini haklı çıkarmak için, işe yarasa da çalışmasa da, kurumların yapay zekayı ne kadar güçlü kullandığıdır. Bu teknolojiyle ilgili bir sorun değil, söylemle ilgili bir sorun: kültürümüzü teknoloji etrafında nasıl yönlendirdiğimiz ve eğer yapay zeka işin içine girerse, belirli seçimlerin veya davranışların daha ‘objektif’ hale getirileceği veya bir şekilde kabul edileceği fikri.

Yapay zekayı sorumlu bir şekilde oluşturmanın en iyi yolu nedir?

Her zaman şu soruyla başlamalıyız: Neden yapay zeka geliştirmeliyiz? Yapay zekanın kullanımını neler gerektiriyor ve yapay zeka teknolojisi bu amaca uygun mu? Bazen cevap inşa etmektir daha iyive bu durumda geliştiricilerin yasalara uygunluğu sağlamaları, sistemlerini sağlam bir şekilde belgelemeleri ve doğrulamaları ve bağımsız araştırmacıların da aynısını yapabilmeleri için ellerinden geleni açık ve şeffaf hale getirmeleri gerekir. Ancak diğer zamanlarda cevap hiç inşa etmemektir: Daha fazla ‘sorumlu bir şekilde inşa edilmiş’ silahlara veya gözetleme teknolojisine ihtiyacımız yok. Bu soru için son kullanım önemlidir ve başlamamız gereken yer burasıdır.