Yapay Zekada Kadınlar: Rashida Richardson, Mastercard’ın yapay zeka ve gizliliğe odaklanan kıdemli danışmanı

TechCrunch, AI odaklı kadın akademisyenlere ve diğerlerine hak ettikleri ve gecikmiş zamanlarını ilgi odağı haline getirmek için, AI devrimine katkıda bulunan olağanüstü kadınlara odaklanan bir dizi röportaj başlatıyor. Yapay zeka patlaması devam ettikçe, yıl boyunca çoğu zaman fark edilmeyen önemli çalışmaları vurgulayan birkaç makale yayınlayacağız. Daha fazla profili buradan okuyun.

Rashida Richardson, Mastercard’ın kıdemli danışmanıdır ve görev alanı yapay zekaya ek olarak gizlilik ve veri korumayla ilgili hukuki konularla ilgilidir.

Yapay zekanın sosyal etkilerini inceleyen araştırma enstitüsü olan AI Now Enstitüsü’nde politika araştırmalarının eski direktörü ve Beyaz Saray Bilim ve Teknoloji Politikası Ofisi’nde veri ve demokrasi konusunda kıdemli politika danışmanı olan Richardson, hukuk alanında yardımcı doçent olarak görev yaptı. 2021’den beri Northeastern Üniversitesi’nde siyaset bilimi ve siyaset bilimi alanında eğitim görüyor. Burada ırk ve yeni gelişen teknolojiler üzerine uzmanlaşıyor.

Rashida Richardson, Kıdemli Danışman, Mastercard Yapay Zeka

Kısaca yapay zekaya nasıl başladınız? Sizi sahaya çeken ne oldu?

Geçmişim, mahremiyet, gözetim, okullarda ırk ayrımının kaldırılması, adil barınma ve ceza adaleti reformu gibi çeşitli konularda çalıştığım bir sivil haklar avukatıdır. Bu konular üzerinde çalışırken, yapay zeka tabanlı teknolojilerin hükümet tarafından benimsenmesinin ve denenmesinin ilk aşamalarına tanık oldum. Bazı durumlarda riskler ve endişeler açıktı ve New York Eyaleti ve Şehri’nde daha fazla gözetim, değerlendirme veya diğer önlemlerin alınmasına yönelik bir dizi teknoloji politikası çabasına liderlik etmeye yardımcı oldum. Diğer durumlarda, yapay zeka ile ilgili çözümlerin, özellikle de okullarda ırk ayrımının kaldırılması veya adil barınma gibi yapısal sorunları çözmek veya hafifletmek için pazarlanan çözümlerin faydaları veya etkililik iddiaları konusunda doğası gereği şüpheciydim.

Önceki deneyimlerim aynı zamanda mevcut politika ve mevzuat boşlukları konusunda da aşırı farkındalık sahibi olmamı sağladı. Yapay zeka alanında benim geçmişim ve deneyimim olan veya politika savunuculuğum ve akademik çalışmalarım sırasında geliştirmekte olduğum analizleri ve potansiyel müdahaleleri sunan çok az kişinin olduğunu hemen fark ettim. Böylece bunun anlamlı katkılarda bulunabileceğim ve aynı zamanda önceki deneyimlerimi benzersiz şekillerde geliştirebileceğim bir alan ve alan olduğunu fark ettim.

Hem hukuki uygulamalarımı hem de akademik çalışmalarımı yapay zeka üzerine, özellikle de yapay zekanın geliştirilmesi ve kullanımına ilişkin politika ve hukuki konulara odaklamaya karar verdim.

En çok hangi işten gurur duyuyorsunuz (AI alanında)?

Konunun nihayet tüm paydaşlardan, özellikle de politika yapıcılardan daha fazla ilgi görmeye başlamasından mutluyum. Amerika Birleşik Devletleri’nde hukukun arayı kapattığı veya teknoloji politikası konularını hiçbir zaman yeterince ele almadığı konusunda uzun bir geçmiş var ve beş-altı yıl önce yapay zekanın kaderinin bu olabileceğini hissettim çünkü politika yapıcılarla etkileşim kurduğumu hatırlıyorum. ABD Senatosu oturumları veya eğitim forumları gibi resmi ortamlarda ve politika yapıcıların çoğu, yapay zekanın sektörler arasında hızlı bir şekilde benimsenmesine rağmen konuyu gizemli veya aciliyet gerektirmeyen bir şey olarak değerlendirdi. Ancak geçtiğimiz yıl içerisinde yapay zekanın kamusal söylemin değişmez bir özelliği haline gelmesi ve politika yapıcıların riskleri ve bilinçli eylem ihtiyacını daha iyi anlaması yönünde önemli bir değişim yaşandı. Ayrıca endüstri de dahil olmak üzere tüm sektörlerdeki paydaşların, yapay zekanın geleneksel uygulamalarla çözülemeyecek benzersiz faydalar ve riskler sunduğunun farkında olduğunu düşünüyorum, dolayısıyla politika müdahaleleri daha fazla kabul görüyor – veya en azından takdir ediliyor.

Erkek egemen teknoloji endüstrisinin ve buna bağlı olarak erkek egemen yapay zeka endüstrisinin zorluklarını nasıl aşıyorsunuz?

Siyahi bir kadın olarak, birçok alanda azınlık olmaya alışkınım ve yapay zeka ve teknoloji endüstrileri son derece homojen alanlar olsa da, bunlar yeni ya da finans ve teknoloji gibi diğer muazzam güç ve zenginlik alanlarından çok da farklı değiller. hukuk mesleği. Bu nedenle, önceki çalışmalarımın ve yaşadığım deneyimlerimin beni bu sektöre hazırlamaya yardımcı olduğunu düşünüyorum, çünkü üstesinden gelmem gerekebilecek önyargıların ve muhtemelen karşılaşacağım zorlu dinamiklerin son derece farkındayım. Yön bulma konusunda deneyimime güveniyorum çünkü akademi, sanayi, hükümet ve sivil toplum gibi tüm sektörlerde yapay zeka üzerinde çalışmış benzersiz bir geçmişim ve bakış açım var.

Yapay zeka kullanıcılarının bilmesi gereken bazı sorunlar nelerdir?

Yapay zeka kullanıcılarının bilmesi gereken iki önemli konu şunlardır: (1) farklı yapay zeka uygulamalarının ve modellerinin yeteneklerinin ve sınırlamalarının daha iyi anlaşılması ve (2) mevcut ve olası yasaların çatışmaları veya belirli endişeleri çözme becerisine ilişkin büyük belirsizliğin mevcut olması AI kullanımıyla ilgili.

İlk noktada, yapay zeka uygulamalarının faydaları ve potansiyeli ile bunların gerçek yetenekleri ve sınırlamaları konusunda kamusal söylem ve anlayışta bir dengesizlik var. Bu sorun, yapay zeka kullanıcılarının yapay zeka uygulamaları ve modelleri arasındaki farkı anlayamaması nedeniyle daha da artıyor. Yapay zeka konusunda kamuoyunun farkındalığı, ChatGPT ve diğer ticari olarak mevcut üretken yapay zeka sistemlerinin piyasaya sürülmesiyle arttı, ancak bu yapay zeka modelleri, tavsiye sistemleri gibi tüketicilerin yıllardır kullandığı diğer yapay zeka modeli türlerinden farklıdır. Yapay zeka hakkındaki konuşmalar bulanıklaştığında (teknoloji yekpare olarak ele alındığında), her tür uygulama veya modelin gerçekte ne yapabileceği ve bunların sınırlamaları veya eksiklikleriyle ilişkili riskler konusunda kamuoyunun anlayışını çarpıtma eğilimi gösterir.

İkinci noktada, yapay zekanın geliştirilmesi ve kullanımına ilişkin yasa ve politikalar gelişiyor. Yapay zeka kullanımı için hâlihazırda geçerli olan çeşitli yasalar (örn. sivil haklar, tüketicinin korunması, rekabet, adil kredi verme) mevcut olsa da, bu yasaların nasıl uygulanacağını ve yorumlanacağını görmenin ilk aşamalarındayız. Aynı zamanda yapay zeka için özel olarak tasarlanmış politika geliştirmenin de ilk aşamalarındayız – ancak hem yasal uygulamalardan hem de araştırmalarımdan fark ettiğim şey, bu yasal yama çalışmasıyla çözülmemiş kalan alanların olduğu ve yalnızca daha fazlası olduğunda çözülecek. AI geliştirme ve kullanımını içeren davalar. Genel olarak, kanunun ve yapay zekanın mevcut durumu ve sorumluluk gibi temel konulara ilişkin hukuki belirsizliğin, belirli risklerin, zararların ve anlaşmazlıkların işletmeler veya düzenleyiciler arasında yıllarca süren davalara kadar çözümsüz kalabileceği anlamına gelebileceği konusunda çok iyi bir anlayış olduğunu düşünmüyorum. ve şirketler bir miktar netlik sağlayabilecek hukuki emsaller üretmektedir.

Yapay zekayı sorumlu bir şekilde oluşturmanın en iyi yolu nedir?

Yapay zekayı sorumlu bir şekilde oluşturmanın zorluğu, sorumlu yapay zekanın adalet ve güvenlik gibi temel dayanaklarının çoğunun normatif değerlere dayanmasıdır; bu kavramlarla ilgili ortak bir tanım veya anlayış yoktur. Dolayısıyla, kişi muhtemelen sorumlu bir şekilde hareket edebilir ve yine de zarar verebilir ya da kötü niyetli davranabilir ve iyi niyetli eylem iddiasında bulunmak için bu kavramların ortak normlarının olmadığı gerçeğine güvenebilir. Yapay zekayı sorumlu bir şekilde inşa etmenin ne anlama geldiğine dair küresel standartlar veya ortak bir çerçeve oluşana kadar, bu hedefi takip etmenin en iyi yolu, sorumlu yapay zeka geliştirme ve kullanımına yönelik iç gözetim yoluyla uygulanan açık ilkelere, politikalara, kılavuzlara ve standartlara sahip olmaktır. kıyaslama ve diğer yönetişim uygulamaları.

Yatırımcılar sorumlu yapay zekayı nasıl daha iyi teşvik edebilir?

Yatırımcılar, sorumlu yapay zeka geliştirme veya kullanımını neyin oluşturduğunu tanımlama veya en azından açıklığa kavuşturma ve yapay zeka aktörlerinin uygulamaları uyumlu olmadığında harekete geçme konusunda daha iyi bir iş çıkarabilirler. Şu anda “sorumlu” veya “güvenilir” yapay zeka etkili bir pazarlama terimidir çünkü yapay zeka aktörlerinin uygulamalarını değerlendirmek için net standartlar yoktur. AB Yapay Zeka Yasası gibi yeni ortaya çıkan bazı düzenlemeler bazı yönetişim ve gözetim gereklilikleri oluşturacak olsa da, yapay zeka aktörlerinin yatırımcılar tarafından insani değerleri veya toplumsal iyiliği merkeze alan daha iyi uygulamalar geliştirmeye teşvik edilebileceği alanlar var. Ancak yatırımcılar yanlış hizalama veya kötü aktörlerin varlığına dair kanıtlar olduğunda harekete geçmek istemiyorsa, davranış veya uygulamaları düzeltmek için çok az teşvik olacaktır.