ChatGPT’den Daha Siyah mısınız? Öğrenmek için bu testi yapın

Yaratıcı reklam ajansı McKinney, “ChatGPT’den Daha Siyah Mısınız?” adlı bir test oyunu geliştirdi. AI önyargısına ışık tutmak için.

Oyun, bir kişinin Siyah kültürüne ilişkin bilgisini, ChatGPT’nin Siyah topluluğu hakkında bilmek üzere eğitildiği bilgilerle karşılaştırarak test eder. Şu gibi sorular sorar: “Birinin ‘Şimdi bu konuda fazla bir şey söylememesi ne anlama gelir?'” ve “Bir etkinliğe davet edilirseniz cevabınız nedir?” Testi çözdüğümde hem ChatGPT hem de ben ilk soruyu doğru yaptık; birisi “onlara çok fazla gerek yok” derse bu genellikle onlara karşı yumuşak davranmak anlamına gelir. Ancak sıra ikinciye geldiğinde ChatGPT başarısız oldu. Birisi sizi bir etkinliğe davet ettiğinde, Siyah topluluğunun basmakalıp tepkisi şu olur: “Orada başka kim olacak?” Ancak ChatGPT bunun “Davetiniz için teşekkürler!” olduğunu söyledi.

McKinney’de metin yazarı olan Meghan Woods, “İlginç çünkü her şeyi bilen bir robot olarak tanıtılıyor ve açıkça her şeyi bilmiyorsunuz, özellikle de beyazlara özel olmayan şeyler söz konusu olduğunda.” TechCrunch’a oyunun yaratıcılarından biri söyledi.

Woods, sınav fikrinin geçen yıl McKinney’deki yaratıcı beyin fırtınası sırasında ortaya çıktığını söyledi. Woods ve Black liderliğindeki bir ekibin, ChatGPT’nin Siyah kullanıcılarla ne kadar iletişimden uzak olduğunu şakacı bir şekilde göstermek amacıyla bu ürünü yaratması bir yıl sürdü. ChatGPT’ye yönelik kör noktanın, pek çok Siyahi kültürel unsurun mutlaka çevrimiçi olarak belgelenmemesinden kaynaklandığına dikkat çekti; bunun yerine şahsen veya sözlü olarak nesiller boyunca aktarılırlar. Bu, algoritmasının Siyah insanlar hakkında bilgi almak için interneti araştırırken birçok nüansı gözden kaçırdığı anlamına geliyor.

Woods, “Kör noktalar oldukça üzücü olabilir” dedi. “Oldukça tehlikeli.”

Yapay zeka yükselişte olabilir ancak kadınlar, siyahi ve kahverengi inşaatçılar ve alandaki kurucular uzun süredir göz ardı edildiklerinden veya bir kenara itildiklerinden bahsediyorlar. Sonuç olarak yapay zeka inovasyonu, onu farklı kültürlere uygun hale getirecek kültürel anlayış ve karmaşıklıklar olmadan inşa ediliyor. En uç noktada, çeşitliliğin azlığı, arabaların Siyah teni tespit edemeyen yapay zeka kullanılarak geliştirilmesi ve bu da artan sayıda kazaya yol açması anlamına geliyor. Diğer taraftan bu, bir Whitney Houston şarkısı ile diğeri arasında ayrım yapamayan bir sohbet kutusu anlamına geliyor.

Yapay zeka önyargısını tespit etmeye ve azaltmaya yardımcı olan bir şirket olan Destined AI’nin kurucusu Gerald Carter, McKinney testinin bu yapay zeka boşluklarını oyunlaştırma ve bunlara daha fazla farkındalık getirme konusunda iyi bir iş çıkardığını söyledi. “Her düzeyde farklı bakış açıları dahil edilerek birçok nüans ele alınabilir” dedi. “Yapay zekanın tam potansiyeline ulaşması için her yerde, herkes için çalışması gerekiyor.”

ChatGPT’nin ana şirketi OpenAI, yönetim kurulunda çeşitlilik eksikliği nedeniyle eleştirilere maruz kaldı. Woods, birçok durumda aynı cevapları yanlış almaya devam ettiği gerçeğine dayanarak ChatGPT’nin de sınavdan ders alıyormuş gibi görünmediğini söyledi. “Hipotezimiz, ona sorduğumuz şeylerin çoğunu hiçbir zaman tam olarak kavrayamayacağı yönünde.”

Yorum yapmak için OpenAI’ye ulaştık ve geri bildirim aldığımızda bu yazıyı güncelleyeceğiz.

Carter, ChatGPT’nin daha iyi kaynak kullanımı ve daha kapsayıcı veri toplama özelliğiyle daha fazla kültür için daha iyi çalışabileceğini söyledi. Daha acil bir yaklaşım, yapay zeka modelindeki sapmayı izlemek ve kültürel perspektiflere odaklanan araçları kullanarak iyileştirmeler yapmaktır.

Daha büyük şirketler yapay zekayı herkes için faydalı hale getirmeye çalışırken, alandaki siyah ve kahverengi inşaatçılar, bir sonraki yapay zeka dalgasının çeşitli olmasını sağlamak için meseleyi kendi ellerine aldılar.

Örneğin Carter, daha kapsayıcı veriler elde etmelerine yardımcı olmak için şirketlerle birlikte çalışıyor. Erin Reddick, Siyah kültürü ve tarihine daha derin bir bakış açısı sunmak için ChatBlackGPT’yi (OpenAI ile ilişkisi yok) yarattı ve Tamar Huggins, klasik edebiyat metinlerini Afro-Amerikan Yerel İngilizcesi (AAVE) lehçesine çeviren Spark Plug adlı ChatGPT alternatifi için 1,4 milyon dolar topladı. .

Woods, yapay zekayı daha kapsayıcı hale getirmek için daha fazla ne yapılması gerektiğine ilişkin olarak “İşe alma, işte tutma, insanların odada masada olmasını sağlama” dedi. “Klişe geldiğini biliyorum ama bunun bir etki yaratmaya başlayabileceğini düşünüyorum.”