Mutale Nkonde’nin kâr amacı gütmeyen kuruluşu yapay zekayı daha az önyargılı hale getirmek için çalışıyor

TechCrunch, AI odaklı kadın akademisyenlere ve diğerlerine hak ettikleri ve gecikmiş zamanlarını ilgi odağı haline getirmek için, AI devrimine katkıda bulunan olağanüstü kadınlara odaklanan bir dizi röportaj başlatıyor. Yapay zeka patlaması devam ettikçe, yıl boyunca çoğu zaman fark edilmeyen önemli çalışmaları vurgulayan birkaç makale yayınlayacağız. Daha fazla profili buradan okuyun.

Mutale Nkonde, teknolojide Siyah seslerin miktarını artırmayı amaçlayan, kar amacı gütmeyen AI For the People’ın (AFP) kurucu CEO’sudur. Bundan önce, Konut Önünde Biyometrik Engel Yok Yasasının yanı sıra Algoritmik ve Derin Sahte Algoritmik Yasaların ABD Temsilciler Meclisi’ne sunulmasına yardımcı oldu. Halen Oxford İnternet Enstitüsü’nde Ziyaret Politikası Üyesi olarak görev yapmaktadır.

Kısaca yapay zekaya nasıl başladınız? Sizi sahaya çeken ne oldu?

Bir arkadaşımın, Google Image’ın öncüsü olan Google Pictures’ın 2015 yılında iki Siyah insanı goril olarak etiketlediğini yayınlamasının ardından sosyal medyanın nasıl çalıştığını merak etmeye başladım. Pek çok “Teknolojideki Siyah” çevresine dahil oldum ve öfkeliydik, ancak 2016’da Weapons of Math Destruction’ın yayınlanmasına kadar bunun algoritmik önyargıdan kaynaklandığını anlamaya başlamamıştım. Bu, bana bu konuda daha fazla çalışabileceğim burslara başvurmaya başlamam için ilham verdi ve ortak rolümle sona erdi. 2019’da yayınlanan Teknolojide Irk Okuryazarlığını Geliştirme adlı bir raporun yazarı. Bu, McArthur Vakfı’ndaki kişiler tarafından fark edildi ve kariyerimin şu anki ayağını başlattı.

Irkçılık ve teknolojiyle ilgili sorular ilgimi çekti çünkü yeterince araştırılmamış ve mantığa aykırı görünüyorlardı. Başkalarının yapmadığı şeyleri yapmayı seviyorum, bu yüzden daha fazlasını öğrenmek ve bu bilgiyi Silikon Vadisi’nde yaymak çok eğlenceli görünüyordu. Teknolojide Irk Okuryazarlığının Geliştirilmesinden Bu Yana. Algoritmik Önyargı ifadesini azaltmaya yönelik politikaları ve uygulamaları savunmaya odaklanan, İnsanlar için Yapay Zeka adında kar amacı gütmeyen bir kuruluş kurdum.

En çok hangi işten gurur duyuyorsunuz (AI alanında)?

İlk kez 2019’da Temsilciler Meclisi’ne sunulan Algoritmik Sorumluluk Yasası’nın önde gelen savunucusu olmaktan gerçekten gurur duyuyorum. Bu yasa, tasarım, dağıtım ve kuruluma rehberlik edecek protokollerin nasıl geliştirileceği konusunda önemli bir düşünce lideri olarak İnsanlar için Yapay Zeka’yı kurdu. ve yerel ayrımcılık yasağı yasalarına uygun yapay zeka sistemlerinin yönetimi. Bu, çeşitli federal kurumlar için bir danışma grubunun parçası olarak Schumer AI Insights Kanallarına ve Hill’de yapılacak bazı heyecan verici çalışmalara dahil olmamızı sağladı.

Erkek egemen teknoloji endüstrisinin ve buna bağlı olarak erkek egemen yapay zeka endüstrisinin zorluklarını nasıl aşacaksınız?

Aslında akademik bekçilerle daha fazla sorun yaşadım. Teknoloji şirketlerinde birlikte çalıştığım erkeklerin çoğu, Siyahlar ve diğer beyaz olmayan nüfus üzerinde kullanılacak sistemler geliştirmekle görevlendirildi ve bu nedenle onlarla çalışmak çok kolay oldu. Temel olarak, mevcut uygulamaları doğrulayabilecek veya bunlara meydan okuyabilecek harici bir uzman olarak hareket ettiğim için.

Yapay zeka alanına girmek isteyen kadınlara ne gibi tavsiyelerde bulunursunuz?

Bir niş bulun ve bu konuda dünyanın en iyi insanlarından biri olun. Güvenilirlik kazanmama yardımcı olan iki şey vardı; birincisi, akademideki insanlar konuyu tartışmaya başlarken algoritmik önyargıyı azaltacak politikaları savunuyordum. Bu bana “çözüm alanında” ilk hamle avantajını sağladı ve Başkanlık emrinden beş yıl önce Halk için Yapay Zeka’yı Hill’de bir otorite haline getirdi. Söyleyeceğim ikinci şey, eksikliklerinize bakın ve onları giderin. İnsanlar için Yapay Zeka dört yaşında ve düşünce lideri alanlarının dışına itilmediğimden emin olmak için ihtiyacım olan akademik yeterlilikleri kazanıyorum. Mayıs ayında Columbia’dan yüksek lisans derecesiyle mezun olmak için sabırsızlanıyorum ve bu alanda araştırmaya devam etmeyi umuyorum.

Yapay zeka geliştikçe karşı karşıya kalan en acil sorunlardan bazıları nelerdir?

Temel modellerin oluşturulması, test edilmesi ve açıklamalara daha fazla Siyahi ve beyaz olmayan insanı dahil etmek için izlenebilecek stratejiler hakkında yoğun olarak düşünüyorum. Bunun nedeni, teknolojilerin yalnızca eğitim verileri kadar iyi olmasıdır; DEI’nin saldırıya uğradığı, Siyah girişim fonlarının Siyahi ve kadın kurucuları hedef aldıkları için dava edildiği ve Siyah akademisyenlerin halka açık olarak saldırıya uğradığı bir zamanda nasıl kapsayıcı veri kümeleri oluşturabiliriz? Peki sektörde bu işi kim yapacak?

Yapay zeka kullanıcılarının bilmesi gereken bazı sorunlar nelerdir?

Yapay zeka gelişimini jeopolitik bir konu olarak düşünmemiz gerektiğini ve Amerika Birleşik Devletleri’nin her demografik gruptaki insanlar üzerinde yüksek etki oranlarına sahip ürünler yaratarak gerçekten ölçeklenebilir yapay zeka konusunda nasıl lider olabileceğini düşünmemiz gerektiğini düşünüyorum. Bunun nedeni, Çin’in diğer tek büyük yapay zeka üreticisi olmasına rağmen, Afrika’da büyük bir ayak izine sahip olmalarına rağmen, büyük ölçüde homojen bir nüfus içinde ürünler üretmeleridir. Önyargı karşıtı teknolojilerin geliştirilmesine agresif yatırımlar yapılırsa Amerikan teknoloji sektörü bu pazara hakim olabilir.

Yapay zekayı sorumlu bir şekilde oluşturmanın en iyi yolu nedir?

Çok yönlü bir yaklaşımın olması gerekiyor, ancak dikkate alınması gereken bir şey, sınırların kenarlarında yaşayan insanları merkeze alan araştırma sorularını takip etmektir. Bunu yapmanın en kolay yolu kültürel eğilimleri not etmek ve ardından bunun teknolojik gelişmeyi nasıl etkilediğini düşünmektir. Örneğin, daha fazla insanın kendisini trans veya ikili olmayan olarak tanımladığı bir toplumda ölçeklenebilir biyometrik teknolojileri nasıl tasarlayabiliriz gibi sorular sormak.

Yatırımcılar sorumlu yapay zekayı nasıl daha iyi teşvik edebilir?

Yatırımcılar demografik eğilimlere bakmalı ve ardından kendilerine bu şirketlerin, dünya genelinde Avrupa nüfusunda düşen doğum oranları nedeniyle giderek daha Siyah ve kahverengi hale gelen bir nüfusa satış yapabilecek mi diye sormalı. Bu, tüketiciler için giderek daha fazla bir sorun haline geleceğinden, durum tespit süreci sırasında algoritmik önyargı hakkında sorular sormalarını teşvik etmelidir.

Yapay zeka sistemlerinin düşük riskli iş gücü tasarrufu sağlayan görevler üstlendiği bir dönemde iş gücümüze yeniden beceri kazandırma konusunda yapılacak çok iş var. Toplumumuzun kenarlarında yaşayan insanların bu programlara dahil edilmesini nasıl sağlayabiliriz? Yapay zeka sistemlerinin nasıl çalıştığı ve çalışmadığı hakkında bize hangi bilgileri verebilirler ve bu bilgileri yapay zekanın gerçekten İnsanlar için olduğundan emin olmak için nasıl kullanabiliriz?