Menlo Ventures’ın yapay zeka güvenliğinin geleceğine yönelik vizyonu

Bulut platformlarının kurumsal bilgi işlem altyapısı sağlayacak şekilde hızla ölçeklenmesi gibi, Menlo Girişimleri görür modern yapay zeka yığını Genel bulut platformlarıyla aynı büyüme yörüngesini ve değer yaratma potansiyelini takip ediyoruz.

Risk sermayesi şirketi, bugün kullanımda olan temel yapay zeka modellerinin genel bulut hizmetlerinin ilk günlerine oldukça benzediğini ve yapay zeka ile güvenliğin doğru kesişimini sağlamanın, gelişen pazarın pazar potansiyeline ulaşmasını sağlamak için kritik öneme sahip olduğunu söylüyor.

Menlo Ventures’ın son blog yazısı, “Bölüm 1: Yapay Zeka için Güvenlik: Yapay Zeka Yığınını Güvenceye Almak İçin Yarışan Yeni Startup’lar Dalgası”, firmanın yeni pazar büyümesine yardımcı olmak için yapay zeka ve güvenliği bir araya getirdiğini nasıl gördüğünü açıklıyor.

“Çizdiğim benzetmelerden biri, bu temel modellerin artık hepimizin aşina olduğu AWS ve Azure gibi genel bulutlara çok benzediğidir. Ancak 12 ila 15 yıl önce, hizmet katmanı olarak altyapı henüz yeni başlıyorken, yeni temel oluşturulduktan sonra ortaya çıkan muazzam değer yaratımını gördünüz” dedi. Rama SekharMenlo Venture’un siber güvenlik, yapay zeka ve bulut altyapısı yatırımlarına odaklanan yeni ortağı VentureBeat’e şunları söyledi:

Sekhar, “Temel model sağlayıcıların altyapı yığınının en altında olduğu yerde de çok benzer bir şeyin gerçekleşeceğini düşünüyoruz” dedi.

Daha hızlı üretken yapay zeka büyümesini desteklemek için yapay zeka güvenlik paradoksunu çözün

VentureBeat’in Sekhar ile röportajı boyunca ve Feyza Haskaraman, müdür, Siber Güvenlik, SaaS, Tedarik Zinciri ve Otomasyon, yapay zeka modellerini, kendi kendine öğrenmek için gerçek zamanlı, sürekli hassas kurumsal veri akışına dayanan yeni, modern bir yapay zeka yığınının merkezinin temeli olarak görmenin temel noktaları belirginleşti . Sekhar ve Haskaraman, yapay zekanın çoğalmasının, tehdit yüzeylerinin boyutunda katlanarak bir artışa yol açtığını ve yüksek lisans eğitimlerinin birincil hedef olduğunu açıkladı.

Sekhar ve Haskaraman, LLM’ler de dahil olmak üzere modellerin mevcut araçlarla güvence altına alınmasının imkansız olduğunu, bunun işletmelerde bir güven boşluğu yarattığını ve üretken yapay zekanın benimsenmesini yavaşlattığını söylüyor. Bu güven açığını, işletmelerde yapay zekaya yönelik heyecanın gerçek benimsemeye karşı ne kadar abartıldığına bağlıyorlar. Saldırganların yapay zeka tabanlı tekniklerle ticari becerilerini keskinleştirmesiyle güven açığı genişliyor ve bu da işletmelerin neden giderek daha fazla endişe duyduğunun altını çiziyor. yapay zeka savaşını kaybetmek.

Yapay zeka neslinin pazar potansiyeline ulaşması için kapatılması gereken büyük güven boşlukları var. Sekhar ve Haskaraman, yapay zekanın güvenliğini iyileştirme konusundaki zorlukları çözmenin, boşlukları kapatmaya yardımcı olacağına inanıyor. Menlo Ventures’ın anketi, kanıtlanmamış yatırım getirisi, veri gizliliği köşeleri ve kurumsal verilerin yapay zeka ile kullanılmasının zor olduğu algısının, daha üretken yapay zeka benimsenmesinin önündeki en büyük üç engel olduğunu ortaya çıkardı.

Yapay zekanın güvenlik açısından iyileştirilmesi, veri gizliliği endişelerinin çözülmesine doğrudan yardımcı olacaktır. Güvenlik entegrasyonu için yapay zekayı doğru şekilde kullanmak, diğer ikisinin çözümüne de katkıda bulunabilir. Sekhar ve Haskaraman, OpenAI’nin yapay zeka modellerinin giderek siber saldırıların hedefi haline geldiğine dikkat çekti. Daha geçen Kasım ayında OpenAI’nin onaylanmış API ve ChatGPT trafiğini etkileyen ve birden fazla kesintiye neden olan bir DoS saldırısı.

Yönetişim, Gözlemlenebilirlik ve Güvenlik önemli konulardır

Menlo Venture, yönetişim, gözlemlenebilirlik ve güvenliğin, yapay zeka güvenliğinin ölçeklendirmek için ihtiyaç duyduğu temeller olduğu inancıyla her şeyi yaptı. Bunlar, pazar haritalarının dayandığı masa bahisleridir.

Yönetişim araçları bugün hızlı bir büyüme görüyor. VentureBeat ayrıca, tamamen bulut tabanlı olan ve onlara pazara sunma süresi ve küresel ölçekte avantajlar sağlayan yapay zeka tabanlı yönetişim ve uyumluluk girişimlerinin olağanüstü bir şekilde büyüdüğünü gördü. Menlo Ventures, Credo ve Cranium’u içeren bir yönetim aracıdır ve işletmelerin, ister şirket içinde ister şirket dışında yapılmış olsun, AI hizmetlerini, araçlarını ve sahiplerini takip etmelerine yardımcı olur. İnsanların bir işletme için risklerin ne olduğunu anlamalarına yardımcı olan emniyet ve güvenlik önlemleri için risk değerlendirmeleri yaparlar. Bir kuruluştaki herkesin yapay zekanın nasıl kullanıldığını bildiğinden emin olmak, büyük dil modellerini (LLM’ler) korumak ve gözlemlemek için yapılması gereken ilk ve en önemli şeydir.

Menlo Ventures, gözlemlenebilirlik araçlarının izleme modelleri için kritik olduğunu düşünüyor aynı zamanda işletmelere erişim, girdiler ve çıktılara ilişkin günlükleri toplama yeteneği sağlar. Bu araçların amacı kötüye kullanımı tespit etmek ve aynı zamanda tam denetlenebilirlik sağlamaktır. Menlo Ventures diyor Helikon güvenlik kullanım durumuna özel araçlar ve CalypsoAI çözüm yığınının bir parçası olarak bu gereksinimleri karşılayan girişimlere örnektir.

Güvenlik çözümleri güven sınırları veya korkuluklar oluşturmaya odaklanır. Sekhar ve Haskaraman, örneğin model tüketimi söz konusu olduğunda hem iç hem de dış modeller için sıkı kontrolün gerekli olduğunu yazıyor. Menlo Ventures özellikle AI Güvenlik Duvarı ile ilgileniyor sağlayıcılar dahil Sağlam Zeka Ve Hızlı GüvenlikGiriş ve çıkış geçerliliğini denetleyen, hızlı enjeksiyonlara karşı koruma sağlayan ve Kişisel olarak tanımlanabilir bilgileri (PII)/hassas verileri tespit eden. İlgilenilen diğer şirketler arasında Özel yapay zeka Ve Akşam vaktiKuruluşların girdi ve çıktılardan PII verilerini tanımlamasına ve çıkarmasına yardımcı olan. İlgilenilen diğer şirketler arasında göle Ve Olumsuz Kuruluşların korkuluklarının sağlamlığını araştırmasına yardımcı olmak için kırmızı ekip faaliyetlerini otomatikleştirmeyi amaçlıyoruz. Bunun da ötesinde, tehdit algılama ve yanıt çözümleri Gizli katman Ve Kement Güvenliği LLM’lere saldıran anormal ve potansiyel olarak kötü niyetli davranışları tespit etmeye yönelik çalışmalar da ilgi çekicidir. DinamoFL Ve FedML birleşik öğrenme için, tonik Ve Gretel hassas verilerin Yüksek Lisans ve Özel Yapay Zeka’ya beslenmesi endişesini ortadan kaldırmak için sentetik veriler oluşturmak veya Kobalt İyi LLM veri depolarındaki hassas bilgilerin tanımlanmasına ve çıkarılmasına yardımcı olmak da aşağıdaki Yapay Zeka Güvenliği Pazar Haritasının bir parçasıdır.

DevOps’ta ilk önce yapay zeka için güvenliği çözme

Açık kaynak, herhangi bir kurumsal uygulamanın büyük bir yüzdesini oluşturur ve yazılım tedarik zincirlerinin güvenliğini sağlamak, Menlo Ventures’ın işletmelerin sahip olduğu güven açığını kapatma fırsatlarını aramaya devam ettiği başka bir alandır.

Sekhar ve Haskaraman, yapay zeka güvenliğinin, kurumsal uygulamaların yapısında doğuştan yer alacak şekilde DevOps sürecine çok iyi bir şekilde yerleştirilmesi gerektiğine inanıyor. VentureBeat’in onlarla yaptığı röportaj, yapay zekanın sağladığı değer ve savunmanın, geniş ölçekte genişleyen yapay zeka benimsenmesinin önünde duran mevcut güven açığını kapatmaya yardımcı olacak şekilde yapay zeka güvenliğinin nasıl baskın hale gelmesi gerektiğini belirledi.