Yapay Zekada Kadınlar: Allison Cohen sorumlu yapay zeka projeleri oluşturma konusunda

TechCrunch, AI odaklı kadın akademisyenlere ve diğerlerine hak ettikleri ve gecikmiş zamanlarını ilgi odağı haline getirmek için, AI devrimine katkıda bulunan olağanüstü kadınlara odaklanan bir dizi röportaj başlatıyor. Yıl boyunca yapay zeka patlaması devam ettikçe, çoğu zaman fark edilmeyen önemli çalışmaları vurgulayan birkaç makale yayınlayacağız. Daha fazla profili buradan okuyun.

Allison Cohen, yapay zeka ve makine öğrenimi konusunda uzmanlaşmış 1.200’den fazla araştırmacının yer aldığı Quebec merkezli bir topluluk olan Mila’da kıdemli uygulamalı yapay zeka proje yöneticisidir. Toplumsal açıdan yararlı yapay zeka projelerini hayata geçirmek için araştırmacılar, sosyal bilimciler ve dış ortaklarla birlikte çalışıyor. Cohen’in çalışma portföyünde kadın düşmanlığını tespit eden bir araç, insan kaçakçılığı mağdurlarından şüphelenilen kişilerin çevrimiçi faaliyetlerini tespit eden bir uygulama ve Ruanda’da sürdürülebilir tarım uygulamaları öneren bir tarım uygulaması yer alıyor.

Daha önce Cohen, yapay zekanın sorumlu bir şekilde geliştirilmesine ve kullanımına rehberlik eden bir kuruluş olan Yapay Zeka Küresel Ortaklığı’nda yapay zeka ilaç keşfi konusunda eş lider olarak görev yapıyordu. Aynı zamanda Deloitte’ta yapay zeka stratejisi danışmanı ve Kanada’nın bağımsız bir düşünce kuruluşu olan Uluslararası Dijital Politika Merkezi’nde proje danışmanı olarak görev yaptı.

Soru-Cevap

Kısaca yapay zekaya nasıl başladınız? Sizi sahaya çeken ne oldu?

Yüzleri tanımaktan ticari anlaşmaları müzakere etmeye kadar her şeyi matematiksel olarak modelleyebileceğimizin farkına varmak, dünyaya bakış açımı değiştirdi ve yapay zekayı benim için bu kadar çekici kılan da buydu. İronik bir şekilde, artık yapay zeka üzerinde çalıştığım için, bu tür olayları algoritmalarla yakalayamayacağımızı ve çoğu durumda yakalamamamız gerektiğini görüyorum.

Toronto Üniversitesi’nde küresel ilişkiler alanında yüksek lisansımı tamamlarken bu alanla tanıştım. Program, öğrencilere makroekonomiden uluslararası hukuka ve insan psikolojisine kadar dünya düzenini etkileyen sistemlerde gezinmeyi öğretmek için tasarlandı. Ancak yapay zeka hakkında daha fazla şey öğrendikçe, bunun dünya siyaseti açısından ne kadar hayati önem taşıdığını ve bu konuda kendimi eğitmenin ne kadar önemli olduğunu fark ettim.

Bu alana girmemi sağlayan şey bir makale yazma yarışması oldu. Yarışma için, psychedelic ilaçların, yapay zeka ile dolu bir iş piyasasında insanların rekabetçi kalmasına nasıl yardımcı olacağını açıklayan bir makale yazdım ve bu, beni 2018’de St. Gallen Sempozyumu’na katılmaya hak kazandı (yaratıcı bir yazıydı). Davet edilmem ve daha sonra bu etkinliğe katılmam, bana bu alana olan ilgimi sürdürme konusunda güven verdi.

Yapay zeka alanında en çok hangi çalışmanızla gurur duyuyorsunuz?

Yönettiğim projelerden biri, kadınlara yönelik önyargıların ince ve açık ifadelerine ilişkin örnekleri içeren bir veri kümesi oluşturmayı içeriyordu.

Bu proje için, tüm proje yaşam döngüsü boyunca doğal dil işleme uzmanları, dilbilimciler ve toplumsal cinsiyet çalışmaları uzmanlarından oluşan çok disiplinli bir ekibin görevlendirilmesi ve yönetilmesi çok önemliydi. Bu oldukça gurur duyduğum bir şey. Bu sürecin sorumlu uygulamalar geliştirmek için neden temel olduğunu ve ayrıca neden yeterince yapılmadığını ilk elden öğrendim; bu zor bir iş! Bu paydaşların her birinin disiplinler arasında etkili bir şekilde iletişim kurmasını destekleyebilirseniz, sosyal bilimlerin onlarca yıllık gelenekleri ile bilgisayar bilimlerindeki en son gelişmeleri harmanlayan çalışmaları kolaylaştırabilirsiniz.

Ayrıca bu projenin toplum tarafından olumlu karşılanmasından da gurur duyuyorum. Makalelerimizden biri, önde gelen yapay zeka konferanslarından biri olan NeurIPS’deki sosyal sorumluluk dil modelleme çalıştayında dikkatleri üzerine çekti. Ayrıca bu çalışma, çalışmayı İsveç’in kadın düşmanlığı kavramlarına ve ifadelerine uyacak şekilde uyarlayan AI İsveç tarafından yönetilen benzer bir disiplinlerarası sürece ilham kaynağı oldu.

Erkek egemen teknoloji endüstrisinin ve buna bağlı olarak erkek egemen yapay zeka endüstrisinin zorluklarını nasıl aşacaksınız?

Böylesine ileri teknolojiye sahip bir sektörde hâlâ sorunlu cinsiyet dinamikleri görüyor olmamız talihsiz bir durum. Bu sadece kadınları olumsuz etkilemiyor; hepimiz kaybediyoruz. Sasha Costanza-Chock’un “Tasarım Adaleti” kitabında öğrendiğim “feminist bakış açısı teorisi” adlı kavramdan oldukça ilham aldım.

Teori, bilgi ve deneyimleri diğerleriyle aynı ayrıcalıklardan yararlanamayan ötekileştirilmiş toplulukların, adil ve kapsayıcı bir değişim yaratabilecek bir dünya farkındalığına sahip olduklarını iddia ediyor. Elbette tüm ötekileştirilmiş topluluklar aynı değildir ve bu topluluklardaki bireylerin deneyimleri de aynı değildir.

Bununla birlikte, bu gruplardan gelen çeşitli bakış açıları, her türlü yapısal zorluk ve eşitsizliği yönlendirmemize, bunlara meydan okumamıza ve bunları ortadan kaldırmamıza yardımcı olma açısından kritik öneme sahiptir. Bu nedenle kadınların dahil edilmemesi, yapay zeka alanını nüfusun daha geniş bir kesimi için dışlayıcı tutabilir ve alan dışındaki güç dinamiklerini de güçlendirebilir.

Erkek egemen bir sektörü nasıl idare ettiğim açısından müttefiklerin oldukça önemli olduğunu gördüm. Bu müttefikler güçlü ve güvene dayalı ilişkilerin ürünüdür. Örneğin, “İnşa Ettiğimiz Dünya” adlı kadın liderliğindeki ve merkezli bir podcast’in yaratılmasında bana destek olmak için podcasting konusundaki uzmanlığını paylaşan Peter Kurzwelly gibi arkadaşlarım olduğu için çok şanslıyım. Bu podcast, yapay zeka alanında daha fazla kadının ve ikili cinsiyete sahip olmayan kişilerin çalışmalarını geliştirmemize olanak tanıyor.

Yapay zeka alanına girmek isteyen kadınlara ne gibi tavsiyelerde bulunursunuz?

Açık bir kapı bulun. Ücretli olması gerekmiyor, bir kariyer olması gerekmiyor ve hatta geçmişiniz veya deneyiminizle uyumlu olması da gerekmiyor. Bir açıklık bulabilirseniz, bunu alanda sesinizi geliştirmek ve oradan inşa etmek için kullanabilirsiniz. Gönüllü iseniz, her şeyinizi verin; bu, öne çıkmanıza ve umarız çalışmanızın karşılığını mümkün olan en kısa sürede almanıza olanak tanır.

Elbette gönüllü olabilmenin ayrıcalığı da var, bunu da kabul etmek istiyorum.

Pandemi sırasında işimi kaybettiğimde ve işsizlik Kanada’da tüm zamanların en yüksek seviyesindeyken, çok az şirket yapay zeka yeteneklerini işe almak istiyordu ve işe alanlar da sekiz aylık danışmanlık deneyimine sahip küresel ilişkiler öğrencilerini aramıyordu. . İş başvurusunda bulunurken bir yapay zeka etik kuruluşunda gönüllü çalışmaya başladım.

Gönüllüyken üzerinde çalıştığım projelerden biri, yapay zeka tarafından üretilen sanat eserlerinin telif hakkı korumasının gerekip gerekmediğiyle ilgiliydi. Alanı daha iyi anlamak için Kanadalı bir yapay zeka hukuk firmasındaki bir avukata ulaştım. Beni CIFAR’dan birine bağladı, o da beni Mila’nın İnsanlık için Yapay Zeka Ekibinin genel müdürü Benjamin Prud’homme’a bağladı. Yapay zeka sanatıyla ilgili bir dizi fikir alışverişi sayesinde hayatımı değiştiren bir kariyer fırsatını öğrendiğimi düşünmek harika.

Yapay zeka geliştikçe karşı karşıya kalan en acil sorunlardan bazıları nelerdir?

Bu soruya birbiriyle bağlantılı üç cevabım var. Sanırım şunu anlamamız gerekiyor:

1. Geliştirdiğimiz araçların yerel bilgi, deneyim ve ihtiyaçlara uyacak şekilde uyarlanmasını sağlarken yapay zekanın ölçeklendirilecek şekilde üretildiği gerçeğini nasıl uzlaştırabiliriz?
2. Yerel bağlama uyarlanmış araçlar geliştireceksek antropologları ve sosyologları yapay zeka tasarım sürecine dahil etmemiz gerekecek. Ancak disiplinler arası anlamlı işbirliğini engelleyen çok sayıda teşvik yapısı ve başka engeller var. Bunu nasıl aşabiliriz?
3. Tasarım sürecini multidisipliner uzmanlığı bir araya getirmekten daha derinden nasıl etkileyebiliriz? Spesifik olarak, verileri veya işleri en karlı olanlar yerine, en acil ihtiyaç duyanlar için geliştirilmiş araçlar tasarlayacak şekilde teşvikleri nasıl değiştirebiliriz?

Yapay zeka kullanıcılarının bilmesi gereken bazı sorunlar nelerdir?

Emek sömürüsü yeterince ele alınmadığını düşündüğüm konulardan biri. Denetimli öğrenme yöntemlerini kullanarak etiketli verilerden öğrenen birçok yapay zeka modeli vardır. Model etiketlenmiş verilere dayandığında, bu etiketlemeyi yapmak zorunda olan kişiler vardır (örneğin birisi bir kedi resmine “kedi” etiketini ekler). Bu kişiler (açıklayıcılar) sıklıkla sömürücü uygulamaların öznesidir. Eğitim süreci sırasında verilerin etiketlenmesini gerektirmeyen modeller için (bazı üretken yapay zeka ve diğer temel modellerde olduğu gibi), geliştiricilerin genellikle izin almaması veya tazminat ödememesi nedeniyle veri kümeleri yine de istismar amaçlı oluşturulabilir. veya veri oluşturuculara teşekkür ederiz.

Bu TechCrunch serisinde yer aldığını görmekten çok mutlu olduğum Krystal Kauffman’ın çalışmalarına göz atmanızı tavsiye ederim. Kendisi, geçinmeye yetecek ücret, “kitlesel reddetme” uygulamalarına son verilmesi ve temel insan haklarıyla uyumlu katılım uygulamaları (müdahaleci gözetleme gibi gelişmelere yanıt olarak) dahil olmak üzere, yorumcuların işçi haklarını savunma konusunda ilerleme kaydediyor.

Yapay zekayı sorumlu bir şekilde oluşturmanın en iyi yolu nedir?

İnsanlar genellikle teknolojilerinin sorumlu olduğunu iddia etmek için etik yapay zeka ilkelerine başvuruyor. Ne yazık ki, etik düşünce ancak bunlarla sınırlı olmamak üzere aşağıdakiler de dahil olmak üzere bir dizi kararın alınmasından sonra başlayabilir:

1. Ne inşa ediyorsun?
2. Bunu nasıl inşa ediyorsunuz?
3. Nasıl konuşlandırılacak?

Bu kararların alınmasını beklerseniz sorumlu teknoloji oluşturmak için sayısız fırsatı kaçırmış olursunuz.

Deneyimlerime göre, sorumlu yapay zeka oluşturmanın en iyi yolu, sürecinizin ilk aşamalarından itibaren sorununuzun nasıl tanımlandığının ve kimin çıkarlarını karşıladığının farkında olmaktır; yönelimin önceden var olan güç dinamiklerini nasıl desteklediği veya bunlara meydan okuduğu; ve yapay zekanın kullanımı yoluyla hangi toplulukların güçlendirileceği veya güçsüzleştirileceği.

Anlamlı çözümler yaratmak istiyorsanız bu güç sistemlerini dikkatli bir şekilde yönlendirmelisiniz.

Yatırımcılar sorumlu yapay zekayı nasıl daha iyi teşvik edebilir?

Takımın değerlerini sorun. Değerler en azından kısmen yerel topluluk tarafından tanımlanmışsa ve bu topluluğa karşı bir dereceye kadar sorumluluk varsa, ekibin sorumlu uygulamaları benimsemesi daha olasıdır.