Yapay Zekada Kadınlar: Claire Leibowicz, PAI’de yapay zeka ve medya bütünlüğü uzmanı

TechCrunch, AI odaklı kadın akademisyenlere ve diğerlerine hak ettikleri ve gecikmiş zamanlarını ilgi odağı haline getirmek için, AI devrimine katkıda bulunan olağanüstü kadınlara odaklanan bir dizi röportaj başlatıyor. Yıl boyunca yapay zeka patlaması devam ettikçe, çoğu zaman fark edilmeyen önemli çalışmaları vurgulayan birkaç makale yayınlayacağız. Daha fazla profili buradan okuyun.

Claire Leibowicz, Amazon, Meta, Google, Microsoft ve yapay zeka teknolojisinin “sorumlu” dağıtımına kendini adamış diğerleri tarafından desteklenen endüstri grubu olan Partnership on AI’da (PAI) yapay zeka ve medya bütünlüğü programının başkanıdır. Ayrıca PAI’nin yapay zeka ve medya bütünlüğü yönlendirme komitesini de denetler.

Leibowicz, 2021’de Tablet Magazine’de gazetecilik görevlisiydi ve 2022’de Rockefeller Vakfı’nın AI yönetişimine odaklanan Bellagio Merkezi’nde araştırmacı olarak çalıştı. Harvard’dan psikoloji ve bilgisayar bilimi alanında lisans ve Oxford’dan yüksek lisans derecesine sahip olan Leibowicz, şirketlere, hükümetlere ve kar amacı gütmeyen kuruluşlara yapay zeka yönetimi, üretken medya ve dijital bilgi konularında danışmanlık yaptı.

Soru-Cevap

Kısaca yapay zekaya nasıl başladınız? Sizi sahaya çeken ne oldu?

Çelişkili görünebilir ama ben yapay zeka alanına insan davranışına olan ilgimden dolayı geldim. New York’ta büyüdüm ve oradaki insanların etkileşim kurma biçimleri ve bu kadar çeşitliliğe sahip bir toplumun nasıl şekillendiği beni her zaman büyüledi. Başkalarına güvenmeyi nasıl seçeriz gibi gerçeği ve adaleti etkileyen devasa soruları merak ediyordum. Gruplararası çatışmaya ne sebep olur? İnsanlar neden bazı şeylerin doğru olduğuna inanırken diğerlerinin inanmaz? Akademik hayatımda bu soruları araştırmaya bilişsel bilim araştırmalarıyla başladım ve teknolojinin bu soruların cevaplarını etkilediğini kısa sürede fark ettim. Yapay zekanın insan zekası için nasıl bir metafor olabileceğini de merak uyandırıcı buldum.

Bu beni bilgisayar bilimleri sınıflarına getirdi; burada öğretim üyeleri – doğal dil işleme alanında çığır açan Profesör Barbara Grosz ve felsefesi ile bilgisayar bilimi geçmişini harmanlayan Profesör Jim Waldo’nun sınıflarını doldurmanın önemini vurgulamam gerekiyor. Bilgisayar dışı bilimler ve mühendislik dalları, yapay zeka da dahil olmak üzere teknolojilerin sosyal etkilerine odaklanacak. Ve bu, “Yapay Zeka etiği”nin ayrı ve popüler bir alan olmasından önceydi. Teknik anlayış faydalı olsa da teknolojinin jeopolitik, ekonomi, sosyal katılım ve daha fazlasını içeren geniş alanları etkilediğini, dolayısıyla birçok disiplinden gelen insanların görünüşte teknolojik sorulara ağırlık vermesini gerektirdiğini açıkça belirttiler.

İster üretken yapay zeka araçlarının pedagojiyi nasıl etkilediğini düşünen bir eğitimci olun, ister bir sergi için tahmine dayalı bir rota deneyen bir müze küratörü olun, ister laboratuvar raporlarını okumak için yeni görüntü algılama yöntemlerini araştıran bir doktor olun, yapay zeka alanınızı etkileyebilir. Yapay zekanın birçok alana dokunduğu gerçeği ilgimi çekti: Yapay zeka alanında çalışmanın doğasında entelektüel çeşitlilik vardı ve bu, toplumun birçok yönünü etkileme şansını da beraberinde getirdi.

En çok hangi işten gurur duyuyorsunuz (AI alanında)?

Farklı bakış açılarını şaşırtıcı ve eylem odaklı bir şekilde bir araya getiren, anlaşmazlıkları yalnızca barındırmayan, aynı zamanda teşvik eden yapay zeka çalışmalarından gurur duyuyorum. PAI’ye altı yıl önce kuruluşun ikinci personeli olarak katıldım ve kuruluşun farklı bakış açılarına olan bağlılığında çığır açıcı olduğunu hemen hissettim. PAI, bu tür çalışmaları, zararı azaltan ve yapay zeka alanında pratik benimsemeye ve etkiye yol açan yapay zeka yönetişimi için hayati bir ön koşul olarak gördü. Bunun doğruluğu kanıtlandı ve PAI’nin çok disiplinliliği benimsemesinin şekillendirilmesine yardımcı olmak ve kurumun yapay zeka alanıyla birlikte büyümesini izlemek bana cesaret verdi.

Sentetik medya üzerine son altı yılda yaptığımız çalışmalar, üretken yapay zekanın kamu bilincinin bir parçası haline gelmesinden çok önce başladı ve çok paydaşlı yapay zeka yönetişiminin olanaklarını örnekliyor. 2020’de, yapay zeka tarafından oluşturulan medyayı tespit etmeye yönelik modeller oluşturmaya yönelik bir makine öğrenimi yarışması olan Facebook’un Deepfake Detection Challenge’ını şekillendirmek için sivil toplum, endüstri ve medyadan dokuz farklı kuruluşla birlikte çalıştık. Bu dış bakış açıları, kazanan modellerin adaletini ve hedeflerini şekillendirmeye yardımcı oldu; insan hakları uzmanlarının ve gazetecilerin, derin sahte tespit gibi görünüşte teknik bir soruya nasıl katkıda bulunabileceklerini gösterdi. Geçtiğimiz yıl, sorumlu sentetik medyaya ilişkin normatif bir kılavuz seti (PAI’nin Sentetik Medyaya İlişkin Sorumlu Uygulamaları) yayınladık. Bu kılavuzun şu anda OpenAI’den TikTok’a, Code for Africa, Bumble, BBC ve WITNESS’e kadar son derece farklı geçmişlere sahip 18 destekçisi var. Teknik ve sosyal gerçeklerden yola çıkılarak eyleme geçirilebilir rehberlik üzerine kalemi kağıda dökebilmek bir şeydir, ancak gerçekten kurumsal destek almak başka bir şeydir. Bu durumda kurumlar, sentetik medya alanında nasıl gezindiklerine ilişkin şeffaflık raporları sağlamayı taahhüt ettiler. Somut rehberlik sunan ve bu rehberliğin kurumlar arasında nasıl uygulanacağını gösteren yapay zeka projeleri benim için en anlamlı olanlardan bazıları.

Erkek egemen teknoloji endüstrisinin ve buna bağlı olarak erkek egemen yapay zeka endüstrisinin zorluklarını nasıl aşıyorsunuz?

Kariyerim boyunca hem erkek hem de kadın harika akıl hocalarım oldu. Beni aynı anda destekleyen ve bana meydan okuyan insanları bulmak, yaşadığım her büyümenin anahtarıdır. Ortak ilgi alanlarına odaklanmanın ve yapay zeka alanını harekete geçiren soruları tartışmanın farklı geçmişlere ve bakış açılarına sahip insanları bir araya getirebileceğini düşünüyorum. İlginç bir şekilde, PAI ekibinin yarısından fazlası kadınlardan oluşuyor ve yapay zeka ve toplum ya da sorumlu yapay zeka soruları üzerinde çalışan kuruluşların çoğunun kadrosunda çok sayıda kadın var. Bu genellikle mühendislik ve yapay zeka araştırma ekiplerinde çalışanların tersidir ve yapay zeka ekosisteminde temsil için doğru yönde atılmış bir adımdır.

Yapay zeka alanına girmek isteyen kadınlara ne gibi tavsiyelerde bulunursunuz?

Önceki soruda da değindiğim gibi, AI’da karşılaştığım, çoğunlukla erkek egemen alanların bazıları aynı zamanda en teknik alanlar da oldu. Yapay zeka alanında teknik zekayı diğer okuryazarlık biçimlerine göre önceliklendirmememiz gerekse de, teknik eğitim almanın bu tür alanlarda hem güvenim hem de etkinliğim açısından bir nimet olduğunu gördüm. Teknik rollerde eşit temsile ve daha dengeli temsile sahip sivil haklar ve siyaset gibi diğer alanlarda uzman olan kişilerin uzmanlığına açık olmaya ihtiyacımız var. Aynı zamanda, daha fazla kadının teknik okuryazarlıkla donatılması, yapay zeka alanında temsili dengelemenin anahtarıdır.

Ayrıca yapay zeka alanında aile ve profesyonel yaşam arasında denge kurmayı başaran kadınlarla bağlantı kurmayı da son derece anlamlı buldum. Kariyer ve ebeveynlikle ilgili büyük sorular ve kadınların işyerinde hâlâ karşılaştığı bazı benzersiz zorluklar hakkında konuşacak rol modelleri bulmak, ortaya çıkan bu zorluklarla baş etme konusunda kendimi daha donanımlı hissetmemi sağladı.

Yapay zeka geliştikçe karşı karşıya kalan en acil sorunlardan bazıları nelerdir?

Yapay zeka geliştikçe çevrimiçi ve çevrimdışı doğruluk ve güven soruları giderek daha çetrefilli hale geliyor. Görüntülerden videolara ve metne kadar çeşitli içerikler yapay zeka tarafından oluşturulabildiğine veya değiştirilebildiğine göre, görmek hâlâ inanmak mıdır? Belgelerde kolayca ve gerçekçi bir şekilde oynanabiliyorsa kanıtlara nasıl güvenebiliriz? Gerçek bir kişiyi taklit etmek son derece kolaysa, çevrimiçi ortamda yalnızca insanlara yönelik alanlarımız olabilir mi? Yapay zekanın ifade özgürlüğü ile yapay zeka sistemlerinin zarar verme olasılığı arasında sunduğu ödünleşimleri nasıl yönlendirebiliriz? Daha genel anlamda, bilgi ortamının yalnızca seçilmiş birkaç şirket ve onlar için çalışanlar tarafından şekillendirilmesini değil, aynı zamanda halk da dahil olmak üzere dünyanın dört bir yanından paydaşların bakış açılarını da içermesini nasıl sağlayabiliriz?

Bu spesifik soruların yanı sıra PAI, algoritmik karar verme çağında adaleti ve önyargıyı nasıl değerlendirdiğimiz, emeğin yapay zekayı nasıl etkilediği ve bundan etkilendiği, yapay zeka sistemlerinin sorumlu bir şekilde konuşlandırılmasında nasıl yol gösterileceği ve yapay zeka ve toplumun diğer yönleriyle de ilgilenmektedir. hatta yapay zeka sistemlerinin sayısız bakış açısını daha iyi yansıtmasını nasıl sağlayacağımızı bile. Yapısal düzeyde, yapay zeka yönetişiminin çeşitli bakış açılarını birleştirerek büyük ödünleşimlerde nasıl yol alabileceğini düşünmeliyiz.

Yapay zeka kullanıcılarının bilmesi gereken bazı sorunlar nelerdir?

Öncelikle yapay zeka kullanıcıları şunu bilmelidir ki, eğer bir şey gerçek olamayacak kadar iyi geliyorsa, muhtemelen öyledir.

Geçtiğimiz yıl yaşanan üretken yapay zeka patlaması elbette muazzam bir yaratıcılık ve yeniliği yansıtıyor, ancak aynı zamanda yapay zeka hakkında genel olarak abartılı ve hatalı mesajlar verilmesine de yol açıyor.

Yapay zeka kullanıcıları ayrıca yapay zekanın devrim niteliğinde olmadığını, mevcut sorunları ve fırsatları daha da kötüleştirdiğini ve artırdığını anlamalıdır. Bu, yapay zekayı daha az ciddiye almaları gerektiği anlamına gelmiyor; bunun yerine bu bilgiyi giderek yapay zekanın aşılandığı bir dünyada gezinmek için yararlı bir temel olarak kullanmaları gerektiği anlamına geliyor. Örneğin, insanların seçimden önce altyazıyı değiştirerek bir videoyu yanlış bağlamsallaştırabileceğinden endişeleniyorsanız, deepfake teknolojisini kullanarak yanıltabilecekleri hız ve ölçek konusunda endişelenmelisiniz. İşyerinde gözetim kullanımı konusunda endişeleriniz varsa, yapay zekanın bu gözetimi nasıl daha kolay ve yaygın hale getireceğini de düşünmelisiniz. Yapay zeka sorunlarının yeniliği konusunda sağlıklı bir şüpheciliği sürdürmek ve aynı zamanda mevcut anın neyin farklı olduğu konusunda dürüst olmak, kullanıcıların yapay zeka ile karşılaşmalarına getirebilecekleri yararlı bir çerçevedir.

Yapay zekayı sorumlu bir şekilde oluşturmanın en iyi yolu nedir?

Yapay zekayı sorumlu bir şekilde oluşturmak, yapay zekayı “oluşturmada” kimin rol oynadığına dair fikrimizi genişletmemizi gerektirir. Elbette teknoloji şirketlerini ve sosyal medya platformlarını etkilemek, yapay zeka sistemlerinin etkisini etkilemenin önemli bir yoludur ve bu kurumlar, teknolojiyi sorumlu bir şekilde oluşturmak için hayati öneme sahiptir. Aynı zamanda, sivil toplum, endüstri, medya, akademi ve halktan çeşitli kurumların, kamu çıkarına hizmet eden sorumlu yapay zeka oluşturmak için ne kadar çeşitli kurumların dahil olmaya devam etmesi gerektiğini kabul etmeliyiz.

Örneğin sentetik medyanın sorumlu bir şekilde geliştirilmesini ve kullanılmasını ele alalım.

Teknoloji şirketleri sentetik bir videonun seçim öncesinde kullanıcıları nasıl etkileyebileceğini araştırırken sorumlulukları konusunda endişe duyabilirken, gazeteciler sahtekarların güvenilir haber markalarından geldiğini iddia eden sentetik videolar oluşturmasından endişe duyabilir. İnsan hakları savunucuları, yapay zeka tarafından oluşturulan medyanın videoların etkisini nasıl azalttığına ilişkin sorumluluğu, ihlallerin kanıtı olarak görebilir. Sanatçılar kendilerini üretken medya aracılığıyla ifade etme fırsatından heyecan duyabilir, aynı zamanda yaratımlarının yeni medya üreten yapay zeka modellerini eğitmek için kendi rızaları olmadan nasıl kullanılabileceği konusunda endişe duyabilirler. Bu çeşitli hususlar, farklı paydaşları yapay zekayı sorumlu bir şekilde inşa etmeye yönelik girişimlere ve çabalara dahil etmenin ne kadar hayati olduğunu ve çok sayıda kurumun yapay zekanın topluma entegre olma biçiminden nasıl etkilendiğini ve etkilediğini gösteriyor.

Yatırımcılar sorumlu yapay zekayı nasıl daha iyi teşvik edebilir?

Yıllar önce, Beyaz Saray’ın eski baş veri bilimcisi DJ Patil’in, sosyal medyanın ilk dönemlerinde bana takılıp kalan yaygın “hızlı hareket et ve işleri kır” mantrasının bir revizyonunu tanımladığını duymuştum. Alanın “amaçlı hareket etmesini ve sorunları düzeltmesini” önerdi.

Bunu sevdim çünkü durgunluğu ya da yenilikten vazgeçmeyi değil, kasıtlılığı ve sorumluluğu benimseyerek yenilik yapabilme olasılığını ima ediyordu. Yatırımcılar, portföy şirketlerinin ilerlemeyi engellemeden sorumlu yapay zeka uygulamalarından yararlanmaları için daha fazla zaman ve alan sağlayarak bu zihniyetin teşvik edilmesine yardımcı olmalıdır. Çoğu zaman kurumlar sınırlı süreyi ve sıkı son teslim tarihlerini “doğru” şeyi yapmanın sınırlayıcı faktörü olarak tanımlar ve yatırımcılar bu dinamiği değiştirmek için önemli bir katalizör olabilir.

Yapay zeka üzerinde ne kadar çok çalışırsam, kendimi o kadar derin hümanist sorularla boğuşurken buldum. Ve bu sorular hepimizin cevap vermesini gerektiriyor.