Siyahi kurucular daha kişiselleştirilmiş bir deneyim için özel ChatGPT’ler oluşturuyor

John Pasmore ilk başta ChatGPT konusunda heyecanlıydı.

Serinin kurucusu en az 2008’den beri yapay zeka alanındaydı. Uzmanların dünyanın ChatGPT gibi bir şeyi görmesinin onlarca yıl alacağını söylediği günleri hatırladı. Hızlı ileri saralım – o gün geldi.

Ama bir sorun var.

Dünyanın en güçlü yapay zeka araçlarından biri olan ChatGPT, kültürel nüanslarla mücadele ediyor. Pasmore gibi bir Siyahi için bu oldukça sinir bozucu. Aslına bakılırsa, bu dikkatsizlik, bir gün dünyayı kurtaracaklarının çığırtkanlığını yapan algoritmalarda kendilerini zaten gerektiği gibi temsil etmeyen birçok Siyah insanın öfkesini uyandırdı. Mevcut ChatGPT, eğitimi Avrupa merkezli ve Batılı göründüğünden, belirli topluluklara hitap eden belirli sorular için fazla genelleştirilmiş yanıtlar sunmaktadır. Bu benzersiz bir durum değil; çoğu yapay zeka modeli, farklı ırklardan insanlar düşünülerek tasarlanmamıştır. Ancak birçok Siyah kurucu geride kalmamakta kararlı.

Pasmore gibi Siyahi kurucular OpenAI’nin kültürel kaymasından yararlanmaya çalışırken, geçen yıl özellikle Siyahi ve kahverengi topluluklara hitap etmek için Siyahların sahip olduğu çok sayıda ChatGPT sürümü ortaya çıktı.

Pasmore, ChatGPT hakkında şunları söyledi: “Modele genel olarak kültürümüzün en önemli sanatçılarından bazılarının kim olduğunu sorarsanız, bu size Leonardo da Vinci ve Michelangelo’yu verecektir.” “Hindistan, Çin, Afrika ve hatta Afrikalı Amerikalılar hakkında hiçbir şey söylemeyecek çünkü tarihin Avrupa yörüngesine odaklanan bir önyargısı var.”

Böylece Pasmore, Siyah ve esmer insanların deneyimlerini yansıtacak şekilde uyarlanmış yanıtlar veren bir dil modeli olan Latimer.AI’yi başlattı. Erin Reddick, yine Siyah ve kahverengi topluluklara odaklanan bir sohbet robotu olan ChatBlackGPT’yi başlattı. Küresel olarak, esasen Siyah ve kahverengi öğrenciler için bir ChatGPT olan Kanada merkezli Spark Plug bulunmaktadır. Afrika da bu alanda büyük bir yenilik görüyor; Batılı yapay zeka modellerinin hâlâ gözden kaçırdığı, kıtada konuşulan 2.000’den fazla dil ve lehçeye hitap eden dil modelleri ortaya çıkıyor.

Spark Plug’ın kurucusu Tamar Huggins, TechCrunch’a “Biz kendi hikayelerimizin ve deneyimlerimizin koruyucularıyız” dedi. “Verilerimizin bize ait kalmasını sağlamak için sahip olduğumuz ve kontrol ettiğimiz sistemler ve altyapı oluşturmamız gerekiyor.”

Kişiselleştirilmiş yapay zeka burada

Genelleştirilmiş yapay zeka modelleri, Afro-Amerikan deneyimini kolaylıkla yakalayamıyor çünkü bu kültürün birçok yönü çevrimiçi değil. Mevcut algoritmalar kaynak bulmak için interneti sıyırıyor, ancak Afro-Amerikan kültüründeki birçok gelenek ve lehçe sözlü veya ilk elden aktarılıyor ve bir yapay zeka modelinin topluluk hakkında ne anlayacağına karşı gerçekte ne olduğuna dair nüans konusunda bir boşluk bırakıyor.

Pasmore’un Latimer.AI’yi oluştururken ABD’deki en eski siyahi gazetelerden biri olan Amsterdam News gibi kaynakları kullanmaya çalışmasının ve internetten alınan kullanıcı tarafından oluşturulan veriler üzerinde eğitim vermek yerine doğruluğa odaklanmasının bir nedeni de budur. Bunu yaparak kendi modeli ile ChatGPT’ler arasındaki farkları görmeye başladı.

Bir keresinde ChatGPT’ye, köleleştirilmiş Siyah Amerikalıların kölelikten kaçmak için Kuzey eyaletlerine seyahat ettiği Yeraltı Demiryolunu sormuştu. ChatGPT’nin modeli kaçak kölelerden bahsederken Latimer.AI, “köleleştirilmiş” veya “özgürlük arayan insanlara” atıfta bulunarak ifadeyi ayarladı; bu, daha önce köleleştirilmiş olanları tartışırken sosyal olarak daha uyumlu hale gelen şeyle daha uyumlu.

Pasmore, “Eğitim verileri nedeniyle modelin kullandığı dilde bazı ince farklılıklar var ve modelin kendisi sadece Siyah ve kahverengi insanları düşünüyor” dedi.

Bu arada Erin Reddick’in ChatBlackGPT’si hâlâ beta modunda ve Juneteenth’te piyasaya sürülmesi planlanıyor. Ürünü göründüğü gibi çalışıyor: Siyah kültürü hakkında sorular sorulabilen ve özel yanıtlar alınabilen bir sohbet robotu. “Yaptığımız işin özü gerçek anlamda topluluk odaklıdır” dedi.

Aracı oluşturma sürecinde, kullanıcılara aracın nasıl görünmesini istediklerini ve nasıl çalışmasını istediklerini soruyor. Ayrıca, öğrencilerle birlikte çalışarak hem ders vermelerini hem de onların algoritmasını eğitmelerine yardımcı olmalarını sağlamak amacıyla geçmişte Siyahi kolejler ve üniversiteler (HBCU’lar) gibi eğitim kurumlarıyla birlikte çalışıyor. “Siyahi ve esmer insanların yapay zekayı keşfedebilecekleri güvenli bir alana sahip olmaları için çok yönlü bir öğrenme fırsatı yaratmak” istediğini söyledi.

TechCrunch’a şunları söyledi: “Algoritma siyahi bilgi kaynaklarına öncelik veriyor, böylece ortalama deneyiminizden daha doğrudan ilişkilendirilebilecek bir bilgi birikimiyle konuşabiliyor.” ve Pasmore’un ürünü gibi teknik olarak herkesin onu kullanabileceğini ekledi.

Tamar Huggins, Siyah ve kahverengi topluluklara daha özel bir deneyim sunmak için Spark Plug’ı geliştirdi. Platformu, eğitim materyallerini Siyah Amerikalı topluluklarla ilişkili etnik köken olan Afro-Amerikan Yerel İngilizcesine (AAVE) çeviriyor. Bu lehçe, standart İngilizce gibi çalışılıp yazıya geçirilmek yerine, geleneksel olarak sözlü ve ilk elden aktarılır; bu da onu yalnızca internetten öğrenen bir yapay zeka modelinin (veya kişinin) doğruluğunun kesinlik açısından zayıflayacağı anlamına gelir. AAVE’yi doğru bir şekilde yakalamak, yalnızca GPT’nin onu kullanarak yanıt vermesi açısından değil, aynı zamanda öğrencilerin yapay zekanın ihtiyaç duydukları sonuçları döndürmesini sağlayacak istemleri daha kolay yazabilmeleri için de önemlidir.

Huggins, “Siyahi öğrencilerde yankı uyandıran içerik yaratarak, kendilerini yüksek katılım ve akademik başarı için kritik olan eğitimde görmelerini sağlıyoruz” dedi. “Fırsat verildiğinde, Büyük Teknoloji neredeyse her zaman insanlardan ziyade kâra öncelik verecektir. Böylece yapay zeka alanında kendi şeridimizi yarattık.”

Huggins, AAVE’nin özünü yakalamak için algoritmasını Shakespeare gibi metinlerin yanı sıra Harlem Rönesansı’ndaki Siyah yazarların yazıları ve hatta genç kızının laf kalabalığı üzerine eğitti. Huggins ayrıca Spark Plug’ın çıktılarını incelemek ve doğrulamak için eğitimciler, dilbilimciler ve kültür uzmanlarıyla birlikte çalışıyor.

Her gün daha fazla öğrenci işlerini tamamlamak için ChatGPT’ye başvurduğundan, Pasmore şirketini okullara, özellikle de HBCU’lara genişletmek için çalışıyor.

“Bu, Siyah ve kahverengi çocukların yapmakla görevlendirildiği birçok iş için daha iyi bir yapay zeka arkadaşıdır” dedi.

Diasporayı birleştirmek

Afrika, mevcut yapay zeka hareketinde kendisinin gözden kaçırıldığını görüyor. Örneğin, 2023 Yapay Zeka Endeksi Raporuna göre, dünyadaki toplam AI dergilerinin yalnızca %0,77’si Sahra Altı Afrika’dan kaynaklanırken, Doğu Asya ve Kuzey Amerika sırasıyla %47,1 ve %11,6’dır. Nüfus açısından, Kuzey Amerika ile karşılaştırıldığında, Afrika dünya nüfusunun yaklaşık %17’sini oluştururken, Kuzey Amerika’nın yalnızca %7’si bulunmaktadır. Yapay zeka hakkında bilgi ve uzman toplamanın zamanı geldiğinde, Sahra altı araştırmalarının kullanılma ihtimali oldukça düşük ve bu da küresel yapay zeka araçlarının gelişimini etkileyebilir.

Afrika, Siyah diasporaya daha iyi hizmet edecek daha kapsayıcı dil modelleri oluşturma konusunda çok fazla gelişme görse de, şu anda ChatGPT’den Gemini’ye kadar mevcut yapay zeka modelleri, Afrika’da konuşulan 2.000’den fazla dili tam olarak destekleyemiyor.

Yinka Iyinolakan bu sorunu çözmek için CDIAL.AI’yi oluşturdu. CDIAL.AI, metin yerine konuşma kalıplarına özellikle odaklanarak neredeyse tüm Afrika dillerini ve lehçelerini konuşabilen ve anlayabilen bir sohbet robotudur.

Iyinolakan, TechCrunch’ta birçok Siyah Amerikalının yaptığı aynı düşünceyi yineledi: temel yapay zeka modelleri öncelikle internet verilerine ve en sık konuşulan dillere dayanıyordu. Afro-Amerikan nesil kültürü gibi, pek çok Afrika dili ve geleneği de internette bulunmuyor, çünkü bu, tarihsel olarak yazılı olmaktan ziyade sözlü olarak iletilen bir kültür. Bu, yapay zeka modellerinin Afrika kültürleri hakkında kendilerini eğitmek için yeterli bilgiye sahip olmadığı ve dolayısıyla bir bilgi açığı bıraktığı anlamına geliyor.

Iyinolakan, CDIAL.AI için, “dünyanın ilk çok dilli ses-önce büyük dil modeli” olarak övdüğü modeli oluşturmak amacıyla bilgi ve içgörü toplamak üzere Afrika genelinde 1.200’den fazla ana dili konuşan ve dilbilimciyi bir araya getirdi. Şirket önümüzdeki 12 ay içinde daha fazla dili kapsayacak şekilde genişlemeyi ve metin, ses ve görüntüleri destekleyecek bir model oluşturmayı planlıyor.

Burada yalnız değil. Google kısa süre önce Kenya merkezli Jacaranda Health’e, daha fazla Afrika dilinde çalışabilmesi için makine öğrenimi hizmetlerini geliştirmesi için 1,4 milyon dolar hibe verdi ve Intron Health, yakın zamanda Afrika’da konuşulan 200’den fazla aksan için klinik konuşma tanıma özelliğini ölçeklendirmek amacıyla birkaç milyon dolar topladı. .

Iyinolakan, “Silikon Vadisi, yapay zekanın her şeyin başı ve sonu olduğuna inanmak istiyor” dedi. “Fakat tüm şirketlerin kuzey yıldızı olan yapay zekayı ‘elde etmek’ için dünya bilgisinin üçte birini dahil etmeleri gerekiyor.”

İlerleme kaydediyoruz

Siyahi kurucuların uğraşmaya çalıştığı tek yenilik yapay zeka sohbet robotlarını kullanmak değil.

Steve Jones, onlarca yıldır hazır görüntülemede temsil edilen azınlıkların eksikliği nedeniyle, farklı ırklardan kişilerin hazır görüntülerini oluşturmak için pocstock şirketini kurdu. Kullanıcılar onlardan doktorlardan pop şarkıcılarına kadar her şeyin fotoğrafını çekmelerini istediklerinde, günümüzde modellerin esas olarak beyaz insanların resimlerini yayınlamasının bir nedeni de budur.

“Tüm platformlar ve araçlar eksiksiz, ırksal olarak kapsayıcı ve kültürel açıdan doğru verilerle eğitilmelidir, aksi takdirde [perpetuate] Jones, TechCrunch’a şöyle konuştu: “Daha geniş toplumumuzun şu anda karşı karşıya olduğu önyargı sorunları.” Bu sorunu çözmek için pocstock son beş yılını çeşitlilik verilerini toplayarak ve işletmelerin daha kapsayıcı görüntüleme üretebilmesi için yapay zeka modellerini eğitmeye yardımcı olmak üzere kullandıkları bir veritabanına katkıda bulunan kendi görsel etiketleme sistemini oluşturarak geçirdi.

Yine de bazı iyileştirmeler oluyor. Jones, AI şirketlerine kaynak sağlayan daha büyük stok görüntüleme şirketlerinin içerik çeşitliliğini artırma konusunda daha fazla adım attığını fark ettiğini söyledi. Pasmore ayrıca gelecekte daha parlak bir gelecek görüyor ve kişiselleştirilmiş yapay zekanın zaten gelecek olduğunu ve yapay zeka modellerinin kullanıcılarıyla ne kadar çok etkileşime girerse, belirli bir kişinin istek ve ihtiyaçlarını o kadar çok anlayacağını söylüyor, “bunun da pek çok önyargıyı ortadan kaldırdığını düşünüyorum” .”

Gelecekte, özellikle siyahların sahip olduğu alternatiflerin sayısı arttıkça, kültüre özgü daha fazla yapay zeka modeline yer bile olabilir. Sonuçta dünya çok geniş ve daha incelikli; onu tek bir kara kutuya sığdırmaya çalışmanın hiçbir anlamı yok.

Jones, “Umudum, bir sonraki ekonomik patlamanın mümkün olduğu kadar erken bir zamanda, daha fazla siyahi kurucunun kendi yapay zeka platformlarını geliştirmeye veya yapay zeka ile ilgili yeni işler yaratmaya katılmasıdır” dedi. “Yapay zeka trilyonerler yaratacak ve farklı ırklardan insanların sadece tüketici olarak değil, üretici olarak da yer almasını görmek isterim.”