Veri çalışanları DAIR raporunda teknoloji endüstrisinin istismarını detaylandırıyor

Moderasyon ve açıklama gibi veri çalışmasının temel emeği, bu emeğin meyvelerinden yararlananlardan sistematik olarak gizlenir. Yeni bir proje, dünyanın dört bir yanındaki veri çalışanlarının yaşanmış deneyimlerini ön plana çıkarıyor ve yurtdışındaki teknoloji çalışmalarının maliyetlerini ve fırsatlarını ilk elden gösteriyor.

Sıkıcı, nankör ya da psikolojik olarak zarar veren pek çok görev, işçilerin Amerika ya da Avrupa’daki ücretlerin çok altında bir ücret karşılığında iş almaktan mutlu olduğu daha fakir ülkelere devredildi. Bu işgücü piyasası, elektronik “geri dönüşümü” ve gemi sökümü gibi “sıkıcı, kirli veya tehlikeli” kategorideki diğer işlere katılıyor. Denetleme veya açıklama çalışmasındaki koşulların size zarar vermesi veya kansere yol açması pek olası değildir, ancak bu onları güvenli yapmaz, daha az hoş veya ödüllendirici yapmaz.

Yapay zeka etik araştırma grubu DAIR ve TU Berlin arasındaki bir işbirliği olan Veri İşçileri Araştırması, nominal olarak Marx’ın 19. yüzyılın sonlarına ait “kolektif olarak üretilen ve politik olarak eyleme geçirilebilir” raporlarda çalışma koşullarını tanımlayan çalışmasına modellenmiştir.

Tüm raporlar ücretsiz olarak mevcuttur ve bugün projeyi yürütenlerin tartıştığı çevrimiçi bir etkinlikte açıklandı.

Yapay zeka uygulamalarının sürekli genişleyen kapsamı, zorunluluktan dolayı insan uzmanlığı üzerine inşa ediliyor ve bu uzmanlık bugüne kadar şirketlerin halkla ilişkiler sorunu yaşamadan sunabilecekleri en düşük dolar değeri karşılığında satın alınıyor. Bir gönderiyi şikayet ettiğinizde “harika, bunu Suriye’deki bir adama göndereceğiz ve ona bakması için 3 sent ödenecek” demiyor. Ancak raporların (ve raporu hak eden içeriğin) hacmi o kadar yüksek ki, işin kitlesel olarak ucuz işgücü piyasalarına dış kaynaklardan sağlanması dışındaki çözümler, ilgili şirketler için pek anlamlı değil.

Raporlara bakıldığında bunların büyük oranda anekdot niteliğinde olduğu ve kasıtlı olarak böyle olduğu görülüyor. Bu raporlar niceliksel analizlerden ziyade sistematik antropolojik gözlem düzeyindedir.

Bunun gibi deneyimleri ölçmek çoğu zaman gerçek maliyetleri yakalamakta başarısız olur; sonuçta elde ettiğiniz istatistikler, şirketlerin borazanlamayı (ve dolayısıyla araştırmalarda talep etmeyi) sevdiği türden istatistiklerdir: bölgedeki diğer şirketlere göre daha yüksek ücretler, iş yaratma, aktarılan tasarruflar müşterilere. Ölçülüp sunulması şöyle dursun, ılımlılık çalışanlarının kabuslar yüzünden uykularını kaybetmesi veya yaygın kimyasal madde bağımlılığı gibi şeylerden nadiren bahsediliyor.

Fasica Berhane Gebrekidan’ın zihinsel sağlık ve uyuşturucu sorunlarıyla mücadele eden Kenyalı veri çalışanları hakkındaki raporunu ele alalım. (PDF’nin tamamı burada.)

O ve meslektaşları, kendisini daha etik bir veri çalışması kanalı olarak ilan eden Sama için çalışıyordu, ancak işin gerçekliği, gerçek kişilerin tanımladığı şekliyle, bitmek bilmeyen bir sefalet ve yerel ofisten destek eksikliğiydi.

Yerel dil ve lehçelerdeki biletleri (yani işaretli içerikleri) ele almak üzere işe alınan bu kişiler, hiç bitmeyen bir şiddet, kan, cinsel istismar, nefret söylemi akışına ve performanslarının düşmesin diye hemen görüntülemeleri ve “harekete geçmeleri” gereken diğer içeriklere maruz kalıyorlar Raporda, beklenen seviyelerin altında bu durumun maaş kesintisine yol açtığı belirtiliyor. Bazıları için bu, dakikada birden fazla, bu da günde en az yaklaşık 500 öğeye baktıkları anlamına geliyor. (Yapay zekanın nerede olduğunu merak ediyorsanız muhtemelen eğitim verilerini sağlıyorlardır.)

“Bu kesinlikle ruhumu parçalıyor. Bir insanın hayal edebileceği en kötü şeyleri izledim. Bu işi yaptığım için hayatım boyunca yaralanacağımdan korkuyorum” dedi röportaj yapılan müteahhitlerden biri olan Rahel Gebrekirkos.

Destek personeli “donanımsız, profesyonellikten uzak ve vasıfsızdı” ve moderatörler başa çıkmak için sıklıkla uyuşturucuya başvurdu ve müdahaleci düşüncelerden, depresyondan ve diğer sorunlardan şikayet etti.

Bunlardan bazılarını daha önce de duymuştuk, ancak bunların hâlâ devam ettiğini duymak anlamlıdır. Bu türden birkaç rapor var, ancak diğerleri daha kişisel hikayeler veya farklı formatlarda.

Örneğin Yasser Yousef Alrayes, Suriye’de yüksek öğrenim masraflarını karşılamak için çalışan bir veri yorumcusu. Kendisi ve oda arkadaşı, müşterilerden gelen sinir bozucu talepler nedeniyle çoğu zaman yetersiz tanımlanmış olan metin görüntülerini ayrıştırmak gibi görsel açıklama görevleri üzerinde birlikte çalışıyorlar.

Çalışmalarını sekiz dakikanızı ayırmaya değecek bir kısa film biçiminde belgelemeyi seçti.

Yasser gibi işçiler genellikle birçok organizasyonel katmanın arkasında gizleniyor, alt yüklenicilerin alt yüklenicileri olarak hareket ediyorlar, böylece bir sorun ya da dava olması durumunda sorumluluk çizgileri bulanıklaşıyor.

Projenin liderlerinden DAIR ve TU Berlin’den Milagros Miceli, raporda belirtilen şirketlerden herhangi bir yorum veya değişiklik görmediklerini ancak henüz erken olduğunu söyledi. Ancak sonuçlar, daha fazlasını almak için geri dönmelerini sağlayacak kadar güçlü görünüyor: “Bu çalışmayı ikinci bir veri çalışanı grubuyla sürdürmeyi planlıyoruz” diye yazdı, “büyük olasılıkla Brezilya, Finlandiya, Çin ve Hindistan’dan.”

Hiç şüphe yok ki, bu raporları onları değerli kılan niteliğine, yani anekdot niteliğinde olmalarına önem vermeyecek olanlar olacaktır. Ancak istatistiklerle yalan söylemek kolay olsa da, anekdotlar her zaman en azından bir miktar gerçek taşır, çünkü bu hikayeler doğrudan kaynaktan alınır. Bunlar Kenya’da, Suriye’de veya Venezüella’da bu sorunları yaşayan tek düzine moderatörler olsa bile, onların söyledikleri onlara güvenen herkesi – yani hemen hemen herkesi – ilgilendirmelidir.