Google’ın kuluçka yan kuruluşu Jigsaw, küçük şirketlerin çevrimiçi platformları aracılığıyla paylaşılan aşırı içerikle mücadele etmesine yardımcı olmak için tasarlanmış açık kaynaklı bir terörle mücadele aracına sahip.
Meta, X ve Google’ın da aralarında bulunduğu büyük teknoloji şirketlerinin çoğu, yasa dışı veya zehirli içerikleri ayıklamak için içeriği denetleme konusunda oldukça tecrübeli olsa da, bunu yapmak için gereken kaynaklar, birçok küçük dijital oynatıcının imkanlarının ötesindedir. Bu, özellikle Avrupa Dijital Hizmetler Yasası (DSA) gibi mevzuatın ve terörizme özgü içerik kurallarının, şirketleri yasa dışı içeriğin aceleyle kaldırılması konusunda giderek artan bir baskı altına soktuğu bir dönemde sorunludur.
2016’daki yeniden markalama öncesinde eski adıyla Google Ideas olarak bilinen Jigsaw, dezenformasyon, sansür ve zehirlilik ile aşırılık yanlısı içeriğin çevrimiçi ortamda yayılması gibi toplumsal sorunlarla mücadele eden yeni ürünler geliştirmeye ve denemeye odaklanıyor. Geçtiğimiz Kasım ayında Jigsaw, moderatörlerin her kaynağı ayrı ayrı kontrol etmek yerine platformlarındaki içeriğin üçüncü taraf veritabanlarında işaretlenen içerikle eşleşip eşleşmediğini doğrulamasına yardımcı olan Altitude adlı yeni bir çevrimiçi içerik denetleme aracını duyurdu.
Altitude, Birleşmiş Milletler Terörle Mücadele Komitesi İcra Müdürlüğü (CTED) tarafından 2017 yılında başlatılan bir girişim olan Terörizme Karşı Teknoloji ile ortaklaşa geliştirildi. Terörizme Karşı Teknoloji’nin görevi, teröristlerin interneti zararlı içerik yaymak için kullanmasıyla mücadele etmek amacıyla daha etkili araçlar geliştirme konusunda teknoloji endüstrisini desteklemektir. Araç aynı zamanda, büyük teknoloji şirketlerinin çoğunu üye olarak sayan, sektör liderliğindeki Terörle Mücadele Küresel İnternet Forumu (GIFCT) ile ortaklaşa geliştirildi.
Dokuz ay geçti ve Jigsaw, Altitude’u resmi olarak geliştirmeye ve bakıma devam edecek olan Tech Against Terrorism’e devrediyor. Kod artık GitHub’da Apache 2.0 lisansı altında mevcut; bu da şirketlerin aracı kendileri barındırabileceği ve üçüncü tarafların kodu inceleyebileceği anlamına geliyor.
Rakım nasıl çalışır?
Altitude, üyeleri otomatik içerik denetleme araçlarını (Altitude gibi) güçlendirmek amacıyla özel bilgilerini bir havuzda toplayan GIFCT gibi kuruluşlar tarafından sağlanan “güvenilir” veri kaynaklarının yanı sıra Terörizme Karşı Teknoloji’nin kendi Terörist İçerik Analitik Platformu olan bir veritabanına dayanır. gerçek zamanlı, doğrulanmış terörist içeriği. Güvenilir kaynaklar bu tür içerikleri kendi yöntemlerini kullanarak belirler ve işaretler.
Altitude, bu veritabanlarını kullanarak “terörist ve şiddet içeren aşırı içerik” (TVEC) olarak adlandırdığı içeriği tek bir görünümde birleştiriyor; moderatörler içeriği hızlı bir şekilde görüntüleyebiliyor, inceleyebiliyor ve kaldırabiliyor ve faaliyet gösterdikleri yetki alanı ne olursa olsun yükümlülüklerine uyabiliyor. Hiçbir içeriğin otomatik olarak kaldırılmadığını belirtmekte fayda var. Önemli olan, potansiyel aşırılık yanlısı içeriğin insanların değerlendirmesi için işaretlenmesi ve bunlara ilişkin uyarıların sağlanmasıdır.
Ne Jigsaw ne de Tech Against Terrorism, ilk test dönemi boyunca Altitude’u kullanan platformlardan herhangi birini açıklamadı; ancak bunu kullanması en muhtemel uygulama türleri arasında mesajlaşma uygulamaları, URL kısaltma hizmetleri, video barındırma siteleri, çevrimiçi forumlar yer alıyor. , sosyal ağlar ve macun kutuları.
Jigsaw Pazartesi günü bir blog yazısında şunu yazdı:
Bir yıl boyunca Jigsaw, büyüklükleri farklı olan on bir platformda kurucular, güven ve güvenlik liderleri ve TVEC içerik incelemecileriyle röportajlar gerçekleştirdi. Platformlar arasında resim paylaşım platformları, sosyal medya siteleri, url kısaltma hizmetleri ve dosya ve metin depolama siteleri yer alıyordu. Platformların, TVEC’yi yönetmek için kaynak bulma ve hazırlık ölçeğine göre mevcut olduğunu ve bu hazırlık düzeyinin, kuruluşlarının veya kullanıcı tabanının boyutuyla tam olarak ilişkili olmadığını gördük. Nispeten olgunlaşmış hizmetler bile bazen platformlarındaki zararları proaktif olarak tespit edecek sinyallerden yoksun olabiliyor. Ayrıca, sonuçta tüm araçları şirket içi bir platforma entegre etmeyi tercih edebileceklerini, ancak özel zararlara yönelik ayrı bir arayüzün, kaynakların yetersiz olduğu bir ortamda başlamanın bir yolunu sağlayabileceğini de gördük.
Açık kaynaklı bir proje olarak, herhangi bir şirket Altitude’u kendi platformlarına entegre edebilir veya “ısmarlama katılım desteğine” erişmek için Tech Against Terrorism ile çalışabilir.
Gelecekte Jigsaw ve Tech Against Terrorism, veri kaynaklarına “özel veritabanları” ekleyebileceklerini ve aracı İngilizce’nin ötesine genişletmeyi planladıklarını söylüyor.
Kaynak: https://techcrunch.com/2024/07/22/googles-jigsaw-open-sources-altitude-to-help-online-platforms-weed-out-extremist-content/