Francine Bennett yapay zekayı daha sorumlu hale getirmek için veri bilimini kullanıyor

TechCrunch, AI odaklı kadın akademisyenlere ve diğerlerine hak ettikleri ve gecikmiş zamanlarını ilgi odağı haline getirmek için, AI devrimine katkıda bulunan olağanüstü kadınlara odaklanan bir dizi röportaj başlatıyor. Yapay zeka patlaması devam ettikçe, yıl boyunca çoğu zaman fark edilmeyen önemli çalışmaları vurgulayan birkaç makale yayınlayacağız. Daha fazla profili buradan okuyun.

Francine Bennett, Ada Lovelace Enstitüsü’nün kurucu yönetim kurulu üyesidir ve şu anda kuruluşun geçici Direktörü olarak görev yapmaktadır. Bundan önce, nadir hastalıklara yönelik tıbbi tedaviler bulmak için yapay zekayı kullanarak biyoteknoloji alanında çalışıyordu. Aynı zamanda bir veri bilimi danışmanlığının kurucu ortağıdır ve İngiliz hayır kurumlarına veri bilimi desteği konusunda yardımcı olan DataKind UK’in kurucu mütevelli heyetinden biridir.

Kısaca yapay zekaya nasıl başladınız? Sizi sahaya çeken ne oldu?

Saf matematikle başladım ve uygulamalı hiçbir şeyle pek ilgilenmiyordum; bilgisayarlarla uğraşmaktan hoşlanıyordum ama uygulamalı matematiğin sadece hesaplama olduğunu ve entelektüel açıdan pek ilgi çekici olmadığını düşünüyordum. Yapay zeka ve makine öğrenimine daha sonra, verinin birçok bağlamda çok daha bol hale gelmesinin, yapay zekayı kullanarak her türlü sorunu yeni yollarla çözmek için heyecan verici olanaklar açtığı benim ve diğer herkes için açık olmaya başladığında geldim. ve makine öğrenimi, sandığımdan çok daha ilginçti.

En çok hangi işten gurur duyuyorsunuz (AI alanında)?

Teknik olarak çok ayrıntılı olmasa da insanlar için bazı gerçek iyileştirmelerin önünü açan çalışmalardan en çok gurur duyuyorum; örneğin, tıp uzmanlarının geleceği iyileştirmesine yardımcı olmak için bir hastanedeki hasta güvenliği olay raporlarında daha önce fark edilmeyen kalıpları bulmak için ML’yi kullanmak Hasta sonuçları. Ve bu yılki Birleşik Krallık’taki Yapay Zeka Güvenliği Zirvesi gibi etkinliklerde merkeze teknolojiden ziyade insanı ve toplumu koymanın önemini temsil etmekten gurur duyuyorum. Bunu ancak otoriteyle yapmanın mümkün olduğunu düşünüyorum çünkü hem teknolojiyle çalışma hem de teknolojiden heyecan duyma ve bunun pratikte insanların hayatlarını gerçekte nasıl etkilediğini derinlemesine anlama deneyimim oldu.

Erkek egemen teknoloji endüstrisinin ve buna bağlı olarak erkek egemen yapay zeka endüstrisinin zorluklarını nasıl aşıyorsunuz?

Esas olarak, cinsiyet yerine kişiyle ve onun becerileriyle ilgilenen yerlerde ve insanlarla çalışmayı seçerek ve bunu norm haline getirmek için sahip olduğum etkiyi kullanmaya çalışarak. Ayrıca elimden geldiğince çeşitli ekiplerle çalışmak; olağanüstü bir ‘azınlık’ olmaktan ziyade dengeli bir ekipte olmak gerçekten farklı bir atmosfer yaratıyor ve herkesin potansiyeline ulaşmasını çok daha mümkün kılıyor. Daha genel anlamda, yapay zeka çok yönlü olduğundan ve yaşamın pek çok kesimine, özellikle de dışlanmış topluluklarda bulunanlara etkisi olması muhtemel olduğundan, yaşamın her kesiminden insanların onu inşa etme ve şekillendirme sürecine dahil olmaları gerektiği açıktır. iyi çalışacağım.

Yapay zeka alanına girmek isteyen kadınlara ne gibi tavsiyelerde bulunursunuz?

Tadını çıkar! Bu çok ilginç, entelektüel açıdan zorlayıcı ve durmadan değişen bir alandır; her zaman yararlı ve yapılacak heyecan verici bir şeyler bulacaksınız ve henüz kimsenin aklına bile gelmeyen pek çok önemli uygulama var. Ayrıca, her bir teknik şeyi bilme ihtiyacı konusunda fazla endişelenmeyin (kelimenin tam anlamıyla kimse her bir teknik şeyi bilemez) – sadece ilginizi çeken bir şeyle başlayın ve oradan çalışın.

Yapay zeka geliştikçe karşı karşıya kalan en acil sorunlardan bazıları nelerdir?

Şu anda yapay zekanın bizim için ne yapmasını istediğimiz ve toplum olarak bizim için neleri yapıp neleri yapamayacağı konusunda ortak bir vizyonun olmadığını düşünüyorum. Şu anda çok yüksek çevresel, finansal ve sosyal etkilere sahip olan çok sayıda teknik ilerleme mevcut ve potansiyel riskler veya istenmeyen sonuçlara ilişkin sağlam temellere dayanan bir anlayış olmadan bu yeni teknolojilerin kullanıma sunulması konusunda büyük bir heyecan var. Teknolojiyi geliştiren ve riskler ve sonuçlar hakkında konuşan insanların çoğu oldukça dar bir demografik gruptan geliyor. Artık yapay zekadan ne görmek istediğimize karar vermek ve bunun gerçekleşmesi için çalışmak için bir fırsat penceremiz var. Diğer teknoloji türlerini ve bunların evrimini nasıl ele aldığımızı ya da neyi daha iyi yapmayı dilediğimizi düşünebiliriz: yeni arabaların çarpışma testinde kullanılan yapay zeka ürünlerinin eşdeğerleri nelerdir; kazara gıda zehirlenmesine neden olan bir restoranı sorumlu tutmak; planlama izni sırasında etkilenen kişilere danışmak; Bir insan bürokrasisinin yapabileceği gibi bir yapay zeka kararına itiraz etmek.

Yapay zeka kullanıcılarının bilmesi gereken bazı sorunlar nelerdir?

Yapay zeka teknolojilerini kullanan kişilerin, araçların ne olduğu ve neler yapabilecekleri konusunda emin olmalarını ve yapay zekadan ne istedikleri hakkında konuşmalarını isterim. Yapay zekayı bilinemeyen ve kontrol edilemeyen bir şey olarak görmek kolaydır, ancak aslında bu sadece bir araç setidir ve ben insanların bu araçlarla yaptıklarının sorumluluğunu üstlenebileceklerini hissetmelerini istiyorum. Ancak bu sadece teknolojiyi kullanan insanların sorumluluğunda olmamalı; hükümet ve endüstri, yapay zekayı kullanan insanların kendilerine güvenmesini sağlayacak koşullar yaratmalı.

Yapay zekayı sorumlu bir şekilde oluşturmanın en iyi yolu nedir?

Veri yapay zekasının insanlar ve toplum için çalışmasını sağlamayı amaçlayan Ada Lovelace Enstitüsü’nde bu soruyu çok soruyoruz. Zor bir durum ve seçebileceğiniz yüzlerce açı var ama benim bakış açıma göre gerçekten iki büyük açı var.

Birincisi bazen inşa etmemeye veya durmamaya istekli olmaktır. Her zaman, inşaatçıların sorunları ve zararları azaltmak için ‘korkuluklar’ eklemeye çalıştıkları ancak kendilerini durmanın mümkün olduğu bir duruma sokmadıkları, büyük bir ivmeye sahip yapay zeka sistemlerini görüyoruz.

İkincisi, inşa ettiğiniz şeyi her türden insanın nasıl deneyimleyeceğini gerçekten anlamak ve denemek ve anlamaktır. Eğer onların deneyimlerine gerçekten nüfuz edebilirseniz, o zaman olumlu türden sorumlu yapay zekaya (iyinin neye benzeyeceğine dair ortak bir vizyona dayalı olarak insanlar için bir sorunu gerçekten çözen bir şey inşa etmeye) ulaşma şansınız çok daha fazla olur. Olumsuzluklardan kaçınmak – günlük yaşamları sizinkinden çok farklı olduğu için yanlışlıkla birinin hayatını daha da kötüleştirmemek.

Örneğin Ada Lovelace Enstitüsü, geliştiricilerin sağlık verilerine erişim koşulu olarak yapması gereken bir algoritmik etki değerlendirmesi geliştirmek için NHS ile ortaklık kurdu. Bu, geliştiricilerin uygulamadan önce yapay zeka sistemlerinin olası toplumsal etkilerini değerlendirmesini ve etkilenebilecek kişi ve toplulukların yaşanmış deneyimlerini ortaya koymasını gerektirir.

Yatırımcılar sorumlu yapay zekayı nasıl daha iyi teşvik edebilir?

Yatırımları ve olası gelecekleri hakkında sorular sorarak, bu yapay zeka sistemi için mükemmel çalışmak ve sorumlu olmak nasıl bir şey? İşler nereye kadar raydan çıkabilir? İnsanlar ve toplum için olası zincirleme etkiler nelerdir? Bir şeyleri inşa etmeyi bırakmamız veya önemli ölçüde değiştirmemiz gerekip gerekmediğini nasıl bileceğiz ve o zaman ne yapacağız? Herkese uyacak tek bir reçete yoktur, ancak yatırımcılar sadece soruları sorarak ve sorumlu olmanın önemli olduğunu işaret ederek şirketlerinin dikkat ve çaba gösterdiği yerleri değiştirebilirler.