Mistral AI, yeni denetleme API’si ile OpenAI’yi devralarak 11 dilde zararlı içerikle mücadele ediyor

Fransız yapay zeka girişimi Mistral Yapay Zeka yenisini başlattı içerik denetleme API’si Perşembe günü, AI güvenliği ve içerik filtrelemeyle ilgili artan endişeleri ele alırken OpenAI ve diğer AI liderleriyle rekabet etme yönündeki son hamlesini işaret ediyor.

Mistral’ın ince ayarlı bir versiyonuyla desteklenen yeni moderasyon hizmeti Bakanlık 8B modelicinsel içerik, nefret söylemi, şiddet, tehlikeli faaliyetler ve kişisel bilgileri içeren dokuz farklı kategoride potansiyel olarak zararlı içerikleri tespit etmek üzere tasarlanmıştır. API, hem ham metin hem de konuşma içerik analizi yetenekleri sunar.

Mistral’in ekibi, sürümün duyurusunu yaparken “Güvenlik, yapay zekayı kullanışlı hale getirmede önemli bir rol oynuyor” dedi. “Mistral AI olarak, sistem seviyesindeki korkulukların aşağı yöndeki dağıtımları korumak için kritik öneme sahip olduğuna inanıyoruz.”

Çok dilli moderasyon yetenekleri Mistral’ı OpenAI’nin hakimiyetine meydan okuyacak şekilde konumlandırıyor

Şirketler, teknolojileri etrafında daha güçlü koruma önlemleri alma konusunda artan baskıyla karşı karşıya kaldığından, lansman yapay zeka endüstrisi için çok önemli bir zamanda gerçekleşti. Daha geçen ay Mistral, diğer büyük yapay zeka şirketlerine katılarak anlaşmayı imzaladı. Birleşik Krallık Yapay Zeka Güvenliği Zirvesi Yapay zekayı sorumlu bir şekilde geliştirme sözü veren anlaşma.

Moderasyon API’si zaten Mistral’ın kendisinde kullanılıyor Le Sohbet platformu ve Arapça, Çince, İngilizce, Fransızca, Almanca, İtalyanca, Japonca, Korece, Portekizce, Rusça ve İspanyolca dahil 11 dili destekler. Bu çok dilli yetenek, Mistral’a, denetleme araçları öncelikle İngilizce içeriğe odaklanan bazı rakiplere karşı üstünlük sağlıyor.

Şirket, “Geçtiğimiz birkaç ayda, endüstride ve araştırma topluluğunda, moderasyonun uygulamalar arasında daha ölçeklenebilir ve sağlam olmasına yardımcı olabilecek yeni LLM tabanlı moderasyon sistemlerine yönelik ilginin arttığını gördük” dedi.

Kurumsal ortaklıklar Mistral’ın kurumsal yapay zekada artan etkisini gösteriyor

Bu sürüm, Mistral’in son zamanlarda gerçekleştirdiği yüksek profilli ortaklıklar dizisini takip ediyor. Microsoft Azure, QualcommVe SAP’ningenç şirketi kurumsal yapay zeka pazarında giderek daha önemli bir oyuncu olarak konumlandırıyor. Geçen ay SAP, müşterilere Avrupa düzenlemelerine uygun, güvenli yapay zeka çözümleri sunmak için Mistral Large 2 de dahil olmak üzere Mistral modellerini altyapısında barındıracağını duyurdu.

Mistral’ın yaklaşımını özellikle dikkate değer kılan şey, uç bilişim Ve kapsamlı güvenlik özellikleri. OpenAI ve Anthropic gibi şirketler öncelikli olarak bulut tabanlı çözümlere odaklanırken Mistral’in hem cihaz içi yapay zekayı hem de içerik denetimini etkinleştirme stratejisi, veri gizliliği, gecikme ve uyumlulukla ilgili artan endişeleri gideriyor. Bu, katı veri koruma düzenlemelerine tabi olan Avrupalı ​​şirketler için özellikle cazip olabilir.

Şirketin teknik yaklaşımı da yıllarının ötesinde bir gelişmişlik göstermektedir. Mistral, denetleme modelini yalnızca izole edilmiş metni analiz etmek yerine konuşma bağlamını anlayacak şekilde eğiterek, daha temel filtrelerden geçebilecek zararlı içeriğin incelikli biçimlerini potansiyel olarak yakalayabilen bir sistem yarattı.

denetleme API’si Mistral’in bulut platformu üzerinden, kullanıma dayalı fiyatlandırmayla anında edinilebilir. Şirket, müşteri geri bildirimleri ve gelişen güvenlik gereksinimlerine göre sistemin doğruluğunu iyileştirmeye ve yeteneklerini genişletmeye devam edeceğini söylüyor.

Mistral’ın hamlesi yapay zeka ortamının ne kadar hızlı değiştiğini gösteriyor. Sadece bir yıl önce Paris merkezli bir girişim mevcut değildi. Artık işletmelerin yapay zeka güvenliği hakkındaki düşüncelerinin şekillenmesine yardımcı oluyor. Amerikan teknoloji devlerinin hakim olduğu bir alanda Mistral’in gizlilik ve güvenlik konusundaki Avrupa perspektifi onun en büyük avantajı olabilir.