W
Haftalık startup ve pazar bülteni TechCrunch Exchange’e hoş geldiniz. Adını aldığı günlük TechCrunch+ sütunundan ilham almıştır. Her cumartesi gelen kutunuza gelmesini ister misiniz? Buradan kaydolun.
Teknolojinin yeniden keşfetme yeteneği Tekerleğin dezavantajları da var: Bu, başkalarının zaten öğrendiği bariz gerçekleri göz ardı etmek anlamına gelebilir. Ancak iyi haber şu ki, yeni kurucular bazen kendi başlarına bu sorunu seleflerine göre daha hızlı çözüyorlar. — Anna
Yapay zeka, güven ve emniyet
Bu yıl Olimpiyat yılı, artık yıl. . . ve ayrıca the seçim yılı. Ancak siz beni ABD’nin temerrüdüyle suçlamadan önce, sadece Biden vs. Trump’ın devamını düşünmüyorum: AB Parlamentosu’nun yanı sıra 60’tan fazla ülkede ulusal seçimler yapılıyor.
Bu oy değişimlerinin her biri teknoloji şirketlerini hangi yönde etkileyebilir; Örneğin, farklı partiler yapay zeka düzenlemeleri konusunda farklı yaklaşımlara sahip olma eğilimindedir. Ancak seçimler bile yapılmadan önce, teknolojinin de onların dürüstlüğünü garanti altına alma konusunda oynayacağı bir rol olacak.
Seçim bütünlüğü muhtemelen Mark Zuckerberg’in Facebook’u kurduğunda ve belki de WhatsApp’ı satın aldığında aklında değildi. Ancak sırasıyla 20 ve 10 yıl sonra güven ve güvenlik artık Meta ve diğer teknoloji devlerinin isteseler de istemeseler de kaçamayacakları bir sorumluluk haline geldi. Bu, dezenformasyonu, dolandırıcılığı, nefret söylemini, CSAM’yi (çocuklara yönelik cinsel istismar materyalleri), kendine zarar vermeyi ve daha fazlasını önlemeye yönelik çalışmak anlamına gelir.
Ancak yapay zeka muhtemelen görevi daha da zorlaştıracak ve bunun nedeni sadece deepfake’ler veya daha fazla sayıda kötü aktörün güçlendirilmesi değil. Grove Ventures’ın genel ortağı Lotan Levkowitz şöyle diyor:
Tüm bu güven ve emniyet platformları bu hash paylaşım veritabanına sahip, böylece kötü olanı oraya yükleyebilirim, tüm topluluklarımla paylaşabilirim ve herkes bunu birlikte durduracaktır; ancak bugün modeli bundan kaçınmaya çalışacak şekilde eğitebilirim. Dolayısıyla, Algoritma tüm bunların aşılmasına yardımcı olabileceğinden, Gen Yapay Zeka nedeniyle daha klasik olan güven ve emniyet çalışmaları bile giderek daha zorlu hale geliyor.
Sonradan düşünceden ön plana
Her ne kadar çevrimiçi forumlar içerik denetimi konusunda zaten bir iki şey öğrenmiş olsa da, Facebook’un doğduğunda takip edeceği bir sosyal ağ taktik kitabı yoktu, bu nedenle göreve gelmesi için biraz zamana ihtiyaç duyması biraz anlaşılabilir. Ancak şirket içi Meta belgelerinden, 2017 yılına kadar çocukları daha iyi koruyabilecek tedbirlerin alınması konusunda şirket içinde hâlâ isteksizlik olduğunu öğrenmek cesaret kırıcı.
Zuckerberg, yakın zamanda ABD Senatosu’nda çocukların çevrimiçi güvenliğine ilişkin duruşmaya katılan beş sosyal medya teknolojisi CEO’sundan biriydi. İfade vermek Meta için açık ara bir ilk değildi ancak Discord’un da dahil edilmesi de dikkate değer; Her ne kadar oyun köklerinin ötesine geçmiş olsa da, birçok çevrimiçi yerde güven ve güvenlik tehditlerinin meydana gelebileceğini hatırlatıyor. Bu, örneğin bir sosyal oyun uygulamasının kullanıcılarını kimlik avı veya korsanlık riskiyle karşı karşıya bırakabileceği anlamına gelir.
Yeni şirketler FAANG’lerden daha hızlı mı sahip çıkacak? Bu garanti değildir: Kurucular genellikle ilk ilkelere göre çalışırlar ki bu hem iyi hem de kötüdür; içerik denetimi öğrenme eğrisi gerçektir. Ancak OpenAI, Meta’dan çok daha genç olduğundan, maruz kaldığı incelemenin bir sonucu olsa bile, çocuk güvenliği üzerine çalışmak üzere yeni bir ekip kurduğunu duymak cesaret verici.
Ancak bazı startuplar harekete geçmek için sorun belirtilerini beklemiyor. Yapay zeka destekli güven ve güvenlik çözümleri sağlayıcısı ve Grove Ventures portföyünün bir parçası olan ActiveFence’in CEO’su Noam Schwartz, bana daha fazla gelen talep gördüğünü söyledi.
“Yeni kurulmuş, hatta ön lansmanı yapılmış şirketlerden ekibimize ulaşan birçok insan gördüm. Tasarım aşamasında ürünlerinin güvenliğini düşünüyorlar [and] tasarım gereği güvenlik adı verilen bir kavramı benimsemek. Bugün, özelliklerinizi geliştirirken güvenlik ve gizliliği düşündüğünüz gibi, onlar da ürünlerinin içinde güvenlik önlemlerini alıyorlar.”
Wired’ın “hizmet olarak güven ve güvenlik” olarak tanımladığı bu alandaki tek girişim ActiveFence değil. Ancak Eylül ayında Spectrum Labs’ı satın aldığından bu yana en büyüklerden biri; bu nedenle müşterilerinin yalnızca halkla ilişkiler krizlerinden ve siyasi incelemelerden korkan büyük isimleri değil, aynı zamanda yeni başlayan küçük ekipleri de içerdiğini duymak güzel. Teknolojinin de geçmişteki hatalardan ders alma fırsatı var.
Kaynak: https://techcrunch.com/2024/02/10/safety-by-design/