Ayrıcalıklı: Enkrypt, üretken yapay zeka güvenliği için bir ‘kontrol katmanı’ oluşturmak üzere tohum turunu yükseltir

Boston merkezli Şifreleme AIÜretken yapay zekanın güvenli kullanımı için bir kontrol katmanı sunan startup, bugün Boldcap liderliğindeki başlangıç ​​turunda 2,35 milyon dolar topladığını duyurdu.

Bu miktar bugünlerde yapay zeka şirketlerinin topladığı kadar büyük olmasa da Enkrypt’in sunduğu ürün, üretken yapay zeka modellerinin özel, güvenli ve uyumlu bir şekilde konuşlandırılmasını sağlamaya yardımcı olması açısından oldukça ilgi çekici. Yale’de doktora yapanlar Sahil Agarwal ve Prashanth Harshangi tarafından kurulan şirket, teknolojisinin bu engelleri kolaylıkla aşabileceğini ve işletmelerin yapay zekanın benimsenmesini 10 kata kadar hızlandıracağını iddia ediyor.

Harshangi yaptığı açıklamada, “Güven ve yeniliğin bir araya geldiği, yapay zeka teknolojilerinin devrim niteliğinde oldukları kadar güvenli ve güvenilir oldukları inancıyla konuşlandırılmasını sağlayan bir paradigmayı savunuyoruz” dedi.

Başlangıç ​​turuna Boldcap’ın yanı sıra Berkeley SkyDeck, Kubera VC, Arka VC, Veredas Partners, Builders Fund ve yapay zeka, sağlık hizmetleri ve kurumsal alandaki diğer birçok melek de katıldı.

Enkrypt AI neler sunuyor?

benimsenmesi üretken yapay zeka artıyor, neredeyse her şirket iş akışlarını kolaylaştırmak ve verimliliği artırmak için teknolojiye bakıyor. Bununla birlikte, temel modellerin uygulamalar arasında ince ayarlanması ve uygulanması söz konusu olduğunda, birçok güvenlik engeli de beraberinde gelir. Verilerin her aşamada gizli kaldığından, herhangi bir güvenlik tehdidi olmadığından ve modelin dağıtımdan sonra bile güvenilir ve uyumlu (iç ve dış düzenlemelerle) kaldığından emin olunmalıdır.

Günümüzde çoğu şirket bu engelleri dahili ekiplerin veya üçüncü taraf danışmanların yardımıyla manuel olarak aşmaktadır. Yaklaşım işi yapıyor ancak çok zaman alıyor ve yapay zeka projelerini iki yıla kadar geciktiriyor. Bu, kolaylıkla iş için fırsatların kaçırıldığı anlamına gelebilir.

2023 yılında kurulan Enkrypt, bu boşluğu, görünürlük ve gözetim sağlayan kapsamlı bir hepsi bir arada çözüm olan Sentry ile kapatıyor. LLM kullanımı ve performansı iş fonksiyonları genelinde, güvenlik tehditlerine karşı koruma sağlarken hassas bilgileri korur ve otomatik izleme ve sıkı erişim kontrolleriyle uyumluluğu yönetir.

“Sentry, kullanıcılar ve modeller arasında dağıtılan ve model erişim kontrollerine, veri gizliliğine ve model güvenliğine olanak tanıyan güvenli bir kurumsal ağ geçididir. Ağ geçidi, herhangi bir LLM etkileşimini (harici modellerden veya dahili olarak barındırılan modellerden), veri gizliliği ve LLM güvenliğine yönelik tescilli korkuluklarımızın yanı sıra herhangi bir ihlalin meydana gelmemesini sağlamak için düzenlemelere yönelik kontroller ve görevlerimiz aracılığıyla yönlendirir.” şirket VentureBeat’e söyledi.

Güvenliği sağlamak için, örneğin şirketin tescilli modelleri tarafından tahrik edilen Sentry korkulukları, hızlı enjeksiyon saldırıları uygulamaları ele geçirebilir veya engelleyebilir jailbreak yapmak. Gizlilik için model verilerini temizleyebilir ve hatta hassas kişisel bilgileri anonimleştirebilir. Diğer durumlarda çözüm, üretken AI API’lerini küçük durumlar için test edebilir ve toksik konuları, zararlı ve konu dışı içeriği tespit edip filtrelemek için sürekli denetleme çalıştırabilir.

“Bilgi Güvenliği Baş Görevlileri (CISO’lar) ve ürün liderleri, yöneticilerden bireysel geliştiricilere kadar tüm üretken yapay zeka projelerinin tam görünürlüğünü elde ediyor. Bu ayrıntı düzeyi, işletmenin LLM’lerin kullanımını güvenli, emniyetli ve güvenilir hale getirmek için özel korkuluklarımızı kullanmasına olanak tanır. Bu sonuçta düzenleyici, finansal ve itibar riskinin azalmasıyla sonuçlanıyor,” diye ekledi CEO.

Üretken yapay zeka açıklarında önemli azalma

Şirket henüz gelir öncesi aşamada olsa da paylaşılacak büyük bir büyüme rakamı yokken, Sentry teknolojisinin finans ve yaşam bilimleri gibi düzenlemeye tabi sektörlerdeki orta ve büyük ölçekli işletmeler tarafından test edildiği belirtiliyor.

Bir Fortune 500 kuruluşunun kullanması durumunda Meta’nın Llama2-7B’siSentry, modelin jailbreak güvenlik açıklarına %6 oranında maruz kaldığını tespit etti ve bu oranı on kat azaltarak %0,6’ya düşürdü. Bu, şirketteki departmanlar arasında daha fazla kullanım örneği için LLM’lerin yıllar yerine haftalar içinde daha hızlı benimsenmesine olanak sağladı.

“Kurumlardan gelen özel talep, hassas veri sızıntısı, PII sızıntıları, hızlı enjeksiyon saldırıları, halüsinasyonlar için birden fazla nokta çözümü yerine kapsamlı bir çözüm elde etmek, farklı uyumluluk gereksinimlerini yönetmek ve son olarak kullanım senaryolarını etik ve sorumlu hale getirmekti. Agarwal, çözümün kapsamlı doğasının onu pazarda benzersiz kıldığını vurgulayarak şunları söyledi.

Şimdi, bir sonraki adım olarak Enkrypt, bu çözümü oluşturmayı ve daha fazla kuruluşa sunmayı, farklı model ve ortamlarda yeteneğini ve uygulanabilirliğini göstermeyi planlıyor. Üretken yapay zeka geliştiren veya dağıtan her şirket için güvenlik en iyi uygulamadan ziyade bir zorunluluk haline geldiğinden, bunu başarılı bir şekilde yapmak startup için belirleyici nokta olacaktır.

“Şu anda ürünü olgunlaştırmak için tasarım ortaklarıyla çalışıyoruz. En büyük rakibimiz Yapay zekayı koruyun. Yakın zamanda Laiyer AI’yi satın alarak kapsamlı bir güvenlik ve uyumluluk ürünü de oluşturmayı planlıyorlar” dedi CEO.

Bu ayın başlarında ABD hükümetinin NIST standartlar organı da bir 200’den fazla firmadan oluşan yapay zeka güvenlik konsorsiyumu “Yapay zeka güvenliğinde yeni bir ölçüm biliminin temellerini oluşturmaya odaklanmak.”