Sektör lideri yapay zeka kapsamına ilişkin en son güncellemeler ve özel içerik için günlük ve haftalık bültenlerimize katılın. Daha fazla bilgi edin
Uzun vadeli yapay zeka stratejilerini desteklemek amacıyla büyük dil modellerini (LLM’ler) ölçeklendirmek için işletmeler şunlara güveniyor: artırılmış nesil (RAG) çerçevelerinin alınması Entegrasyona yönelik hızla artan talepleri karşılamak için daha güçlü bağlamsal güvenliğe ihtiyaç duyanlar.
RAG’leri korumak bağlamsal zeka gerektirir
Ancak geleneksel RAG erişim kontrolü teknikleri bağlamsal kontrol sağlayacak şekilde tasarlanmamıştır. RAG’ın yerel erişim kontrolünün olmayışı, yetkisiz kullanıcıların hassas bilgilere erişmesine izin verebileceğinden kuruluşlar için önemli bir güvenlik riski oluşturur.
Rol Tabanlı Erişim Kontrolü (RBAC), bağlamsal isteklere uyum sağlama esnekliğinden yoksundur ve Öznitelik Tabanlı Erişim Kontrolü (ABAC), sınırlı ölçeklenebilirlik ve daha yüksek bakım maliyetleriyle bilinir. İhtiyaç duyulan şey, hızı ve ölçeği engellemeyecek, RAG çerçevelerini korumaya yönelik bağlamsal olarak daha akıllı bir yaklaşımdır.
Kement Güvenliği Yüksek Lisans’larda bu sınırlamaları erkenden görmeye başladı ve bağlamsal erişimi iyileştirmenin zorluklarına yanıt olarak Bağlam Tabanlı Erişim Denetimi’ni (CBAC) geliştirdi. Lasso Security’nin CBAC’ı, bir Yüksek Lisans’a yapılan tüm erişim taleplerinin bağlamını dinamik olarak değerlendirmeye yönelik yenilikçi yaklaşımıyla dikkat çekicidir. Şirket, VentureBeat’e CBAC’ın LLM ve RAG çerçevelerinde kapsamlı güvenlik sağlamak, yetkisiz erişimi önlemek ve yüksek güvenlik standartlarını sürdürmek için erişim, yanıt, etkileşim, davranış ve veri değişikliği taleplerini değerlendirdiğini söyledi. Amaç, belirli bilgilere yalnızca yetkili kullanıcıların erişebilmesini sağlamaktır.
Bağlamsal zeka, sohbet robotlarının, hassas bilgilerin açığa çıkma riskiyle karşı karşıya olduğu LLM’lerden hassas bilgileri ifşa etmemesini sağlamaya yardımcı olur.
“Çözümlerimizi bağlama dayandırmaya çalışıyoruz. Rol tabanlı erişimin veya öznitelik tabanlı erişimin başarısız olduğu nokta, gerçekten çok statik bir şeye, başka bir yerden miras alınan bir şeye ve tasarım gereği yönetilmeyen bir şeye benzemesidir.” Ophir Dror, kurucu ortak ve CPO Lasso Security, yakın tarihli bir röportajda VentureBeat’e söyledi.
Dror, “CBAC, kalıplara veya niteliklere değil, bilgi düzeyine odaklanarak yalnızca doğru bilgilerin doğru kullanıcılara ulaşmasını sağlar ve geleneksel yöntemlerin eşleşemeyeceği bir hassasiyet ve güvenlik düzeyi sağlar” diyor. “Bu yenilikçi yaklaşım, kuruluşların sıkı erişim kontrollerini sürdürürken RAG’ın tüm gücünden yararlanmasına olanak tanıyor ve verileri yönetme ve koruma şeklimizde gerçek anlamda devrim yaratıyor” diye devam etti.
Almayla Artırılmış Üretim (RAG) nedir?
2020’de Facebook AI Research, University College London ve New York Üniversitesi’nden araştırmacılar şu makaleyi yazdı: Bilgi Yoğun NLP Görevleri için Erişimle Artırılmış ÜretimAlmayla Artırılmış Üretimi (RAG) şu şekilde tanımlıyoruz: “Önceden eğitilmiş, parametrik bellek oluşturma modellerine, geri almayla artırılmış nesil (RAG) olarak adlandırdığımız genel amaçlı bir ince ayar yaklaşımı aracılığıyla parametrik olmayan bir bellek kazandırıyoruz. Parametrik belleğin önceden eğitilmiş bir seq2seq transformatörü olduğu ve parametrik olmayan belleğin, önceden eğitilmiş bir sinir alıcıyla erişilen, Wikipedia’nın yoğun bir vektör dizini olduğu RAG modelleri oluşturuyoruz.”
Gartner, son raporlarında şöyle yazıyor: “Geri almayla artırılmış nesil (RAG), kurumsal verileri ve bilgileri LLM işleme için kullanılabilir hale getirerek genel büyük dil modellerinin (LLM’ler) sınırlamalarını aşmanın pratik bir yoludur.” Almayla Artırılmış Üretime Başlarken. Gartner’ın aşağıdaki grafiği RAG’ın nasıl çalıştığını açıklıyor:
Lasso Security, RAG ile CBAC’yi nasıl tasarladı?
“CBAC’ı bağımsız olarak veya ürünlerimize bağlı olarak çalışacak şekilde geliştirdik. Active Directory ile entegre edilebilir veya minimum kurulumla bağımsız olarak kullanılabilir. Bu esneklik, kuruluşların LLM altyapılarında kapsamlı değişiklikler yapmadan CBAC’ı benimseyebilmelerini sağlıyor” dedi Dror.
Tasarlanırken bağımsız bir çözüm olarak Lasso Security sahip olmak aynı zamanda onu entegre olacak şekilde tasarladı gen AI güvenlik paketiçalışanların gen yapay zeka tabanlı sohbet robotlarını, uygulamaları, aracıları, dode asistanlarını ve entegre modelleri kullanmasına yönelik koruma sağlayan üretim ortamlarında. LLM’leri nasıl dağıttığınıza bakılmaksızın, Lasso Security, LLM’ye veya LLM’den veri aktarımını içeren her etkileşimi izler. Ayrıca, her türlü anormalliği veya kurumsal politika ihlallerini hızlı bir şekilde tespit ederek her zaman güvenli ve uyumlu bir ortam sağlar.
Dror, CBAC’ın, erişim kontrolü politikalarını belirlemek için çok çeşitli bağlamsal ipuçlarını sürekli olarak izlemek ve değerlendirmek üzere tasarlandığını, böylece şu anda ilgili ve kapsam dışı bilgiler içeren belge ve raporlarda bile yalnızca yetkili kullanıcıların belirli bilgilere erişim ayrıcalıklarına sahip olmasını sağladığını açıkladı. veri.
“Bunun bir anormallik mi yoksa yasal bir istek mi olduğunu belirlemek için kullandığımız birçok farklı buluşsal yöntem var. Ve ayrıca yanıt olarak her iki yola da bakacağız. Ancak temel olarak, eğer düşünürseniz, bu kişinin bu soruyu sorması gerekip gerekmediği ve bu kişinin, bu modelin bağlı olduğu çeşitli verilerden bu soruya bir cevap alması gerekip gerekmediği sorusu ortaya çıkıyor.
CBAC’ın özü, kullanıcı davranış kalıplarından ve geçmiş verilerden elde edilen bağlamsal içgörülere dayanarak sürekli olarak öğrenen ve uyum sağlayan bir dizi denetimli makine öğrenimi (ML) algoritmasıdır. “Yaklaşımımızın özü bağlamdır. Bu kişi kim? Rolleri nedir? Bu soruyu sormaları mı gerekiyor? Bu cevabı almaları mı gerekiyor? Bu faktörleri değerlendirerek LLM ortamlarında yetkisiz erişimi önlüyor ve veri güvenliğini sağlıyoruz” dedi Dror VentureBeat’e.
CBAC güvenlik zorluklarını üstleniyor
Dror, “Artık, bir RAG sohbet robotu tasarlamak da dahil olmak üzere, zaten çok ileri gitmiş ve bir RAG inşa etmiş birçok şirketin olduğunu görüyoruz ve artık kimin neyi sorabileceği, kimin neyi görebileceği, kimin neyi alabileceği sorunlarıyla karşılaşıyorlar,” dedi Dror. söz konusu.
Dror, RAG’ın hızla benimsenmesinin aynı zamanda Yüksek Lisans’ın sınırlamalarını ve bunların neden olduğu sorunları daha acil hale getirdiğini söylüyor. Halüsinasyonlar ve Yüksek Lisans’ları yeni verilerle eğitmenin zorluğu da gün yüzüne çıktı ve bu da RAG’ın izin sorununu çözmenin ne kadar zor olduğunu gösterdi. CBAC, bu zorlukların üstesinden gelmek ve erişim kontrolüne daha dinamik bir yaklaşımın gerçekleştirilebilmesi için gerekli bağlamsal öngörüleri sağlamak üzere icat edildi.
RAG’ın kuruluşların mevcut ve gelecekteki Yüksek Lisans ve daha geniş yapay zeka stratejilerinin temel taşı olması nedeniyle, bağlamsal zeka, performansı etkilemeden bunların nasıl korunacağı ve ölçeklendirileceği konusunda bir dönüm noktası olacaktır.
Kaynak: https://venturebeat.com/security/lasso-security-sets-new-standard-in-llm-safety-with-context-based-access-controls/