Gevşeklik, sinsi yapay zeka eğitim politikası nedeniyle saldırı altında

Teknolojinin yapay zeka hizmetlerinin eğitiminde bireylerden ve işletmelerden gelen verileri ne kadar büyük ölçüde ele geçirdiğiyle ilgili devam eden sorunların ardından, Salesforce’a ait sohbet platformunun yapay zeka vizyonuyla nasıl ilerleme kaydettiği konusunda Slack kullanıcıları arasında bir fırtına çıkıyor.

Şirket, diğerleri gibi, yeni yapay zeka hizmetlerinden bazılarını eğitmek için kendi kullanıcı verilerinden yararlanıyor. Ancak Slack’in verilerinizi kullanmasını istemiyorsanız şirkete e-posta göndermeniz gerektiği ortaya çıktı.

Ve bu katılımın şartları, kimsenin dikkat etmediği, güncelliğini kaybetmiş, kafa karıştırıcı bir gizlilik politikasının içinde gizlenmiş durumda. Slack’te de durum böyleydi, ta ki geliştiriciler arasında oldukça popüler olan bir topluluk sitesinde kırgın bir kişi onlar hakkında paylaşım yapana ve ardından bu gönderi viral hale gelene kadar… burada da olan buydu.

Her şey dün gece Hacker News’te Slack’in yapay zeka hizmetlerini gizlilik ilkelerine doğrudan bağlantı yoluyla nasıl eğittiği sorununu gündeme getiren bir notla başladı; ek bir yoruma gerek yoktu. Bu gönderi, Slack’in kullanıcıları varsayılan olarak yapay zeka eğitimine dahil ettiği ve bu durumdan çıkmak için belirli bir adrese e-posta göndermeniz gerektiği yönünde daha uzun bir sohbeti (ve mevcut Slack kullanıcılarına haber gibi görünen) başlattı.

Bu Hacker News dizisi daha sonra diğer platformlarda çok sayıda konuşma ve soruyu teşvik etti: “Slack AI” adında, kullanıcıların diğer şeylerin yanı sıra yanıt aramasına ve konuşma dizilerini özetlemesine olanak tanıyan yeni, genel olarak adlandırılmış bir ürün var, ancak neden bundan bir kez bile bahsedilmiyor? Gizlilik politikasının kendisi için geçerli olup olmadığını açıkça belirtmek için bile, bu gizlilik ilkeleri sayfasında herhangi bir ad var mı? Ve Slack neden hem “küresel modellere” hem de “Yapay Zeka modellerine” atıfta bulunuyor?

İnsanlar Slack’in yapay zeka gizlilik ilkelerini nerede uyguladığı konusunda kafası karışıkken, “Verileriniz sizin kontrolünüz altında” diye çığırtkanlık yapan bir şirkette, e-postayla e-posta gönderme fikrine şaşıran ve sinirlenen insanlar arasında Slack bunu yapıyor. iyi çıkmayın.

Şok yeni olabilir ama şartlar yeni değil. İnternet Arşivi’ndeki sayfalara göre şartlar en az Eylül 2023’ten beri geçerli. (Şirketten onaylamasını istedik.)

Gizlilik politikası uyarınca Slack, müşteri verilerini özellikle “küresel modelleri” eğitmek için kullanıyor ve Slack bunu kanal ve emoji önerileri ile arama sonuçlarını güçlendirmek için kullanıyor. Slack bize veri kullanımının belirli sınırları olduğunu söylüyor.

“Slack, kanal ve emoji önerileri ve arama sonuçları gibi şeyler için platform düzeyinde makine öğrenimi modellerine sahip. Bir şirket sözcüsü TechCrunch’a “Bu modelleri öğrenebilecekleri, ezberleyebilecekleri veya müşteri verilerinin bir kısmını yeniden üretebilecekleri şekilde oluşturmuyoruz veya eğitmiyoruz” dedi. Ancak politikanın genel kapsamı ve şirketin yapay zeka modellerini eğitmeye yönelik daha geniş planlarını ele aldığı görünmüyor.

Slack, müşterilerin veri eğitimini devre dışı bırakmaları halinde şirketin “küresel olarak eğitilmiş AI/ML modellerinden” faydalanmaya devam edeceklerini söylüyor. Ancak yine de bu durumda şirketin emoji önerileri gibi özellikleri desteklemek için neden müşteri verilerini ilk etapta kullandığı açık değil.

Şirket ayrıca Slack AI’yi eğitmek için müşteri verilerini kullanmadığını da söyledi.

“Slack AI, büyük dil mModelleri (LLM’ler) kullanan ancak bu LLM’leri müşteri verileri konusunda eğitmeyen, ayrıca satın alınan bir eklentidir. Slack AI, doğrudan Slack’in AWS altyapısında barındırılan LLM’leri kullanır, böylece müşteri verileri şirket içinde kalır ve herhangi bir LLM sağlayıcısıyla paylaşılmaz. Bu, müşteri verilerinin o kuruluşun kontrolünde kalmasını ve yalnızca o kuruluşun kullanımı için kalmasını sağlar” dedi bir sözcü.

Bazı karışıklıkların er ya da geç çözülmesi muhtemeldir. Mühendis ve yazar Gergely Orosz’un Threads hakkındaki eleştirel değerlendirmesine yanıt veren Slack mühendisi Aaron Maurer, şirketin “bu gizlilik ilkelerinin Slack AI ile nasıl çalıştığını” yansıtacak şekilde sayfayı güncellemesi gerektiğini kabul etti.

Maurer, bu terimlerin şirketin Slack AI’ye sahip olmadığı bir dönemde yazıldığını ve bu kuralların şirketin arama ve öneriler konusundaki çalışmalarını yansıttığını ekledi. Slack’in yapay zekasıyla şu anda ne yaptığına dair kafa karışıklığı göz önüne alındığında, gelecekteki güncellemelerin şartlarını incelemek faydalı olacaktır.

Slack’teki sorunlar, hızlı hareket eden yapay zeka geliştirme dünyasında kullanıcı gizliliğinin sonradan akla gelen bir düşünce olmaması gerektiğini ve bir şirketin hizmet şartlarının, verilerin nasıl ve ne zaman kullanılacağını veya kullanılıp kullanılmayacağını açıkça belirtmesi gerektiğinin açık bir hatırlatıcısıdır.

Bir AI bülteni başlatıyoruz! Üye olmak Burada 5 Haziran’da gelen kutularınıza almaya başlamak için.