Microsoft, ABD polis teşkilatlarının yüz tanıma için kurumsal yapay zeka aracını kullanmasını yasakladı

Microsoft, politikasını değiştirerek ABD polis teşkilatlarının, şirketin OpenAI teknolojilerini kapsayan, tamamen yönetilen, kurumsal odaklı sarmalayıcısı olan Azure OpenAI Hizmeti aracılığıyla yüz tanıma için üretken yapay zeka kullanmasını yasakladı.

Azure OpenAI Hizmetinin hizmet şartlarına Çarşamba günü eklenen ifade, OpenAI’nin metin ve konuşma analiz modelleriyle entegrasyonlar da dahil olmak üzere, Azure OpenAI Hizmeti ile entegrasyonların ABD’deki yüz tanıma için “polis departmanları tarafından veya onlar için” kullanılmasını yasaklıyor.

Ayrı bir yeni madde işareti, “küresel düzeydeki tüm kolluk kuvvetleri”ni kapsıyor ve “kontrolsüz, olay yerindeki” bir kişiyi tanımlamaya çalışmak için vücut kameraları ve araç kameraları gibi mobil kameralarda “gerçek zamanlı yüz tanıma teknolojisinin” kullanımını açıkça yasaklıyor. -vahşi” ortamlar.

Şartlardaki değişiklikler, askeri ve kolluk kuvvetlerine yönelik teknoloji ve silah ürünleri üreticisi Axon’un, vücut kameralarından gelen sesi özetlemek için OpenAI’nin GPT-4 üretken metin modelini kullanan yeni bir ürünü duyurmasından bir hafta sonra geldi. Eleştirmenler, halüsinasyonlar (günümüzün en iyi üretken yapay zeka modelleri bile gerçekleri icat ediyor) ve eğitim verilerinden kaynaklanan ırksal önyargılar (özellikle beyaz olmayan insanların polis tarafından durdurulma olasılığının çok daha yüksek olduğu göz önüne alındığında endişe verici) gibi potansiyel tuzaklara dikkat çekmekte hızlı davrandılar. beyaz akranlarına göre).

Axon’un, Azure OpenAI Hizmeti aracılığıyla GPT-4 kullanıp kullanmadığı ve eğer öyleyse, güncellenen politikanın Axon’un ürün lansmanına yanıt olarak mı verildiği belli değil. OpenAI daha önce API’leri aracılığıyla yüz tanıma modellerinin kullanımını kısıtlamıştı. Axon, Microsoft ve OpenAI ile iletişime geçtik ve yanıt alırsak bu gönderiyi güncelleyeceğiz.

Yeni şartlar Microsoft’a hareket alanı bırakıyor.

Azure OpenAI Hizmeti kullanımına ilişkin tam yasak yalnızca ABD’yi ilgilendiriyor, uluslararası değil, polis. Ve bu, aşağıdakilerle gerçekleştirilen yüz tanımayı kapsamaz: sabit kameralar kontrollü arka ofis gibi ortamlar (şartlar ABD polisinin yüz tanıma özelliğini kullanmasını yasaklasa da).

Bu, Microsoft’un ve yakın ortağı OpenAI’nin yapay zeka ile ilgili kolluk kuvvetleri ve savunma sözleşmelerine yönelik son yaklaşımıyla örtüşüyor.

Ocak ayında Bloomberg’in raporu, OpenAI’nin siber güvenlik yetenekleri de dahil olmak üzere bir dizi proje üzerinde Pentagon ile birlikte çalıştığını ortaya çıkardı; bu, girişimin yapay zekasını ordulara sağlama konusundaki daha önceki yasağından bir sapma. Başka yerlerde Microsoft, The Intercept’e göre Savunma Bakanlığı’nın (DoD) askeri operasyonları yürütmek üzere yazılım geliştirmesine yardımcı olmak için OpenAI’nin görüntü oluşturma aracı DALL-E’yi kullanmayı teklif etti.

Azure OpenAI Hizmeti, kolluk kuvvetleri de dahil olmak üzere devlet kurumlarına yönelik ek uyumluluk ve yönetim özellikleri ekleyerek Microsoft’un Azure Kamu ürününde Şubat ayında kullanıma sunuldu. Microsoft’un hükümet odaklı bölümü Microsoft Federal’in Kıdemli Başkan Yardımcısı Candice Ling, bir blog yazısında, Azure OpenAI Hizmetinin Savunma Bakanlığı görevlerini destekleyen iş yükleri için Savunma Bakanlığı’na “ek yetkilendirme için sunulacağını” taahhüt etti.

Güncelleme: Yayınlandıktan sonra Microsoft, hizmet koşullarındaki ilk değişikliğin bir hata içerdiğini ve aslında yasağın yalnızca ABD’deki yüz tanıma için geçerli olduğunu söyledi. Hizmeti kullanan polis departmanlarına yönelik genel bir yasak değil.