Yapay Zekada Kadınlar: Sandra Watcher, Oxford’da veri etiği profesörü

TechCrunch, AI odaklı kadın akademisyenlere ve diğerlerine hak ettikleri ve gecikmiş zamanlarını ilgi odağı haline getirmek için, AI devrimine katkıda bulunan olağanüstü kadınlara odaklanan bir dizi röportaj başlatıyor. Yıl boyunca yapay zeka patlaması devam ettikçe, çoğu zaman fark edilmeyen önemli çalışmaları vurgulayan birkaç makale yayınlayacağız. Daha fazla profili buradan okuyun.

Sandra Wachter, Oxford İnternet Enstitüsü’nde veri etiği, yapay zeka, robot bilimi, algoritmalar ve düzenleme alanında profesör ve kıdemli araştırmacıdır. Aynı zamanda Birleşik Krallık’ın ulusal veri bilimi ve yapay zeka enstitüsü olan Alan Turing Enstitüsü’nün eski üyesidir.

Watcher, Turing Enstitüsü’ndeyken veri biliminin etik ve yasal yönlerini değerlendirdi ve şeffaf olmayan algoritmaların ırkçı ve cinsiyetçi hale geldiği durumları vurguladı. Ayrıca dezenformasyonla mücadele etmek ve adaleti teşvik etmek için yapay zekayı denetlemenin yollarını da inceledi.

Soru-Cevap

Kısaca yapay zekaya nasıl başladınız? Sizi sahaya çeken ne oldu?

Hayatımda inovasyon ve teknolojinin insanların hayatlarını daha iyi hale getirecek inanılmaz bir potansiyele sahip olduğunu düşünmediğim bir an hatırlamıyorum. Ancak teknolojinin insanların hayatları üzerinde yıkıcı sonuçlar doğurabileceğini de biliyorum. Ve bu yüzden her zaman – özellikle de güçlü adalet duygum nedeniyle – bu mükemmel orta yolu garanti altına almanın bir yolunu bulmaya kararlıydım. İnsan haklarını korurken yeniliği mümkün kılmak.

Her zaman hukukun oynayacak çok önemli bir role sahip olduğunu hissettim. Hukuk, hem insanları koruyan hem de yeniliğe olanak sağlayan bir orta yol olabilir. Bir disiplin olarak hukuk bana çok doğal geldi. Zorlukları severim, bir sistemin nasıl çalıştığını anlamayı, onunla nasıl oynayacağımı görmeyi, boşlukları bulmayı ve ardından bunları kapatmayı severim.

Yapay zeka inanılmaz derecede dönüştürücü bir güçtür. Finans, istihdam, ceza adaleti, göç, sağlık ve sanat alanlarında uygulanmaktadır. Bu iyi de olabilir, kötü de. Ve bunun iyi ya da kötü olması bir tasarım ve politika meselesidir. Doğal olarak bu konuya ilgi duydum çünkü hukukun, yeniliğin mümkün olduğu kadar çok insana fayda sağlamasına anlamlı bir katkıda bulunabileceğini hissettim.

En çok hangi işten gurur duyuyorsunuz (AI alanında)?

Sanırım şu anda en çok gurur duyduğum çalışma, Brent Mittelstadt (filozof), Chris Russell (bilgisayar bilimcisi) ve avukat olarak benimle birlikte yazılan bir çalışmadır.

Önyargı ve adalet üzerine yaptığımız son çalışmamız olan “Adil Makine Öğreniminin Haksızlığı”, birçok “grup adaleti” önleminin pratikte uygulanmasının zararlı etkisini ortaya çıkardı. Özellikle adalet, dezavantajlı gruplara yardım etmek yerine “düzeltme” veya herkesin durumunu daha kötü hale getirme yoluyla sağlanır. Bu yaklaşım, AB ve Birleşik Krallık ayrımcılık yasağı hukuku bağlamında oldukça sorunlu olmasının yanı sıra etik açıdan da sorunludur. Wired’daki bir yazımızda seviye düşürmenin pratikte ne kadar zararlı olabileceğini tartıştık; örneğin sağlık hizmetlerinde grup adaletini uygulamak, kesinlikle gerekenden daha fazla kanser vakasının kaçırılması anlamına gelebilir ve aynı zamanda sistemi genel olarak daha az doğru hale getirebilir.

Bizim için bu çok korkutucuydu ve teknoloji, politika ve aslında her insan için bilinmesi gereken önemli bir şeydi. Aslında Birleşik Krallık ve AB düzenleyicileriyle temasa geçtik ve endişe verici sonuçlarımızı onlarla paylaştık. Bunun politika yapıcılara yapay zekanın bu kadar ciddi zararlara yol açmasını önleyecek yeni politikaları uygulama konusunda gerekli gücü sağlayacağını umuyorum.

Erkek egemen teknoloji endüstrisinin ve buna bağlı olarak erkek egemen yapay zeka endüstrisinin zorluklarını nasıl aşabilirsiniz?

İlginç olan şu ki teknolojiyi hiçbir zaman erkeklere ait bir şey olarak görmedim. Toplum bana teknolojide benim gibi insanlara yer olmadığını ancak okula başladığımda söyledi. Ben 10 yaşımdayken müfredatın kızların örgü ve dikiş yapmasını, erkeklerin ise kuş evleri inşa etmesini zorunlu kıldığını hala hatırlıyorum. Ben de kuş evi yaptırmak istedim ve erkek sınıfına geçmeyi talep ettim ama öğretmenlerim bana “kızların bunu yapmadığını” söylediler. Hatta bu kararı bozmak için okul müdürüne bile gittim ama ne yazık ki o dönemde başarısız oldum.

Bu topluluğun bir parçası olmamanız gerektiğini söyleyen stereotiple mücadele etmek çok zor. Keşke artık böyle şeyler olmuyor diyebilseydim ama bu ne yazık ki doğru değil.

Ancak Brent Mittelstadt ve Chris Russell gibi müttefiklerle çalıştığım için inanılmaz derecede şanslıyım. Doktora derecem gibi inanılmaz mentorların ayrıcalığına sahip oldum. yöneticim ve ben, teknolojiyle ilgilenen herkesin durumunu iyileştirmek için ellerinden gelenin en iyisini yapan, her cinsiyetten benzer düşüncelere sahip insanlardan oluşan, büyüyen bir ağımız var.

Yapay zeka alanına girmek isteyen kadınlara ne gibi tavsiyelerde bulunursunuz?

Her şeyden önce benzer düşüncelere sahip insanlar ve müttefikler bulmaya çalışın. İnsanlarınızı bulmak ve birbirinizi desteklemek çok önemlidir. En etkili çalışmalarım her zaman karşılaştığımız ortak sorunları çözmek için farklı geçmişlere ve disiplinlere sahip açık fikirli insanlarla konuşmaktan kaynaklanmıştır. Kabul edilmiş bilgelik tek başına yeni sorunları çözemez, bu nedenle tarihsel olarak yapay zeka ve diğer teknoloji alanlarına girme konusunda engellerle karşı karşıya kalan kadınlar ve diğer gruplar, gerçekten yenilik yapmak ve yeni bir şeyler sunmak için gereken araçlara sahiptir.

Yapay zeka geliştikçe karşı karşıya kalan en acil sorunlardan bazıları nelerdir?

Ciddi yasal ve politik değerlendirme gerektiren çok çeşitli konuların olduğunu düşünüyorum. Birkaçını saymak gerekirse yapay zeka, ayrımcı ve adaletsiz sonuçlara yol açan önyargılı verilerle boğuşuyor. Yapay zeka doğası gereği şeffaf değildir ve anlaşılması zordur, ancak kimin kredi alacağına, kimin işe gireceğine, kimin hapse girmesi gerektiğine ve kimin üniversiteye gitmesine izin verileceğine karar vermekle görevlidir.

Üretken yapay zekanın ilgili sorunları var ama aynı zamanda yanlış bilgiye de katkıda bulunuyor, halüsinasyonlarla dolu, veri korumayı ve fikri mülkiyet haklarını ihlal ediyor, insanların işlerini riske atıyor ve iklim değişikliğine havacılık endüstrisinden daha fazla katkıda bulunuyor.

Kaybedecek vaktimiz yok; Dün bu sorunları çözmemiz gerekiyordu.

Yapay zeka kullanıcılarının bilmesi gereken bazı sorunlar nelerdir?

Sanırım “Yapay zeka burada ve burada kalmak, gemiye binmek veya geride kalmak için burada” şeklinde belirli bir anlatıya inanma eğilimi var. Bu anlatıyı kimin öne çıkardığını ve bundan kimin çıkar sağladığını düşünmenin önemli olduğunu düşünüyorum. Gerçek gücün nerede olduğunu hatırlamak önemlidir. Güç yenilik yapanlarda değil, yapay zekayı satın alıp uygulayanlardadır.

Bu nedenle tüketiciler ve işletmelerin kendilerine şu soruyu sorması gerekiyor: “Bu teknoloji bana gerçekten yardımcı oluyor mu ve ne açıdan?” Elektrikli diş fırçalarının içinde artık “AI” gömülü. Bu kim için? Buna kimin ihtiyacı var? Burada ne geliştiriliyor?

Başka bir deyişle, kendinize neyin bozuk olduğunu, neyin düzeltilmesi gerektiğini ve yapay zekanın bunu gerçekten düzeltip düzeltemeyeceğini sorun.

Bu tür bir düşünce tarzı pazar gücünü değiştirecek ve inovasyonun sadece kârdan ziyade toplum için faydaya odaklanan bir yöne doğru yönelmesini umuyoruz.

Yapay zekayı sorumlu bir şekilde oluşturmanın en iyi yolu nedir?

Sorumlu yapay zekayı talep eden yasaların mevcut olması. Burada da çok yararsız ve doğru olmayan bir anlatı hakim olma eğilimindedir: bu düzenleme yeniliği bastırır. Bu doğru değil. Düzenleme engelliyor zararlı yenilik. İyi yasalar etik yeniliği teşvik eder ve besler; bu yüzden güvenli arabalarımız, uçaklarımız, trenlerimiz ve köprülerimiz var. Düzenlemeler engellenirse toplum kaybetmez
insan haklarını ihlal eden yapay zekanın yaratılması.

Otomobillere yönelik trafik ve güvenlik düzenlemelerinin de “yeniliği engellediği” ve “özerkliği sınırladığı” söylendi. Bu yasalar, kişilerin ehliyetsiz araç kullanmasını engellemekte, emniyet kemeri ve hava yastığı olmayan araçların piyasaya girmesini engellemekte ve hız sınırına göre araç kullanmayan kişileri cezalandırmaktadır. Araçları ve sürücüleri düzenleyen kanunlarımız olmasaydı, otomotiv endüstrisinin güvenlik sicilinin nasıl görüneceğini bir düşünün. Yapay zeka şu anda benzer bir dönüm noktasında ve ağır sanayi lobi faaliyetleri ve siyasi baskı, hangi yolu izleyeceğinin hala belirsiz olduğu anlamına geliyor.

Yatırımcılar sorumlu yapay zekayı nasıl daha iyi teşvik edebilir?

Birkaç yıl önce “Ne Kadar Adil Yapay Zeka Bizi Daha Zengin Yapabilir?” başlıklı bir makale yazmıştım. İnsan haklarına saygılı, tarafsız, açıklanabilir ve sürdürülebilir olan yapay zekanın yalnızca yasal, etik ve ahlaki açıdan doğru bir şey olmadığına, aynı zamanda karlı olabileceğine de derinden inanıyorum.

Yatırımcıların sorumlu araştırma ve inovasyona yönelmeleri halinde daha iyi ürünler elde edeceklerini anlayacaklarını gerçekten umuyorum. Kötü veriler, kötü algoritmalar ve kötü tasarım seçimleri daha kötü ürünlere yol açar. Etik olanı yapmanız gerektiğine, çünkü doğru olanın bu olduğuna sizi ikna edemesem bile, umarım etik olanın da daha karlı olduğunu göreceksiniz. Etik, aşılması gereken bir engel değil, bir yatırım olarak görülmelidir.