Bunu ChatGPT ile paylaşmak istediğinizden emin misiniz? Metomic veri sızıntılarını durdurmaya nasıl yardımcı olur?

AI’yı aç‘S SohbetGPT çoğumuzun çalışma biçiminde devrim yaratacak, hayatımız boyunca karşınıza çıkacak en güçlü araçlardan biridir.

Ancak işletmede kullanımı hala bir ikilemdir: İşletmeler bunu biliyor üretken yapay zeka rekabetçi bir güçtür ancak hassas bilgilerin platformlara sızdırılmasının sonuçları ciddidir.

Ancak çalışanlar, kuruluşlar bu soruyu çözene kadar beklemekten memnun değil: Birçoğu zaten ChatGPT kullanıyor ve yanlışlıkla sızdırıyor hassas veri – işverenlerinin bunu yaptıklarına dair hiçbir bilgisi olmadan.

Şirketlerin bir bekçiye ihtiyacı var ve Metomik biri olmayı hedefliyor: Veri güvenliği yazılımı şirketi bugün yeni tarayıcı eklentisini yayınladı ChatGPT için MetomicOpenAI’nin güçlü ortamında kullanıcı etkinliğini izleyen büyük dil modeli (Yüksek Lisans).

Metomic CEO’su Rich Vibert, VentureBeat’e “Bu uygulamaların sınırı yok, burası veri paylaşım faaliyetlerinin vahşi batısı” dedi. “Aslında hiç kimsenin görünürlüğü yok.”

Sızdıran bilançolardan ‘eksiksiz müşteri profillerine’

Araştırma şunu gösterdi Çalışanların %15’i Şirket verilerini düzenli olarak ChatGPT’ye yapıştırın; bunların başında kaynak kodu (%31), dahili iş bilgileri (%43) ve kişisel olarak tanımlanabilir bilgiler (PII) (%12) gelmektedir. Modele veri aktaran üst düzey departmanlar arasında Ar-Ge, finansman ve satış ve pazarlama yer alıyor.

“Bu yepyeni bir sorun” diyen Vibert, işletmeler arasında “büyük bir korku” bulunduğunu da sözlerine ekledi. “Doğal olarak çalışanların bu araçlara neler katabileceği konusunda endişeleniyorlar. Giriş için herhangi bir engel yok; yalnızca bir tarayıcıya ihtiyacınız var.”

Metomic, çalışanların bilançolar, “tüm kod parçacıkları” ve şifreler dahil kimlik bilgileri gibi finansal verileri sızdırdığını tespit etti. Ancak Vibert, en önemli veri ifşalarından birinin müşteri sohbet transkriptlerinden geldiğini söyledi.

Müşteri sohbetlerinin saatlerce, hatta günlerce ve haftalarca sürebileceğini, “satırlar, satırlar ve satırlarca metin” biriktirebileceğini söyledi. Müşteri destek ekipleri giderek daha fazla SohbetGPT Tüm bunları özetlemek gerekirse, yalnızca isimler ve e-posta adresleri değil, kredi kartı numaraları ve diğer finansal bilgiler de dahil olmak üzere hassas verilerle doludur.

Vibert, “Temel olarak eksiksiz müşteri profilleri bu araçlara yerleştiriliyor” dedi.

Rakiplerin ve bilgisayar korsanlarının bu bilgilere kolayca erişebileceğini ve bu bilgilerin kaybının da sözleşmenin ihlaline yol açabileceğini belirtti.

Şüphelenmeyen kullanıcılardan kaynaklanan kasıtsız sızıntıların ötesinde, şirketten ayrılan diğer çalışanlar da gen yapay zeka araçlarını kullanın Verileri (örneğin müşteri iletişim bilgileri veya oturum açma kimlik bilgileri) yanlarında götürmek amacıyla. Ayrıca, çalışanların şirket bilgilerini çalarak veya sızdırarak şirkete kasıtlı olarak zarar vermeye çalıştıkları, içeriden gelen kötü niyetli kişiler sorunu da var.

Bazı şirketler, çalışanları arasında ChatGPT ve diğer rakip platformların kullanımını tamamen engellemek için harekete geçmiş olsa da Vibert, bunun kesinlikle geçerli bir seçenek olmadığını söylüyor.

“Bu araçlar kalıcı olacak” dedi ve ChatGPT’nin “muazzam değer” ve büyük rekabet avantajı sunduğunu ekledi. “Tüm iş gücünü katlanarak daha verimli hale getiren nihai üretkenlik platformudur.”

Çalışan gözüyle veri güvenliği

Metomic’in ChatGPT entegrasyonu bir tarayıcının içinde yer alıyor ve bir çalışanın platformda ne zaman oturum açtığını tespit ediyor ve yüklenen verileri gerçek zamanlı olarak tarıyor.

Kişisel bilgiler, güvenlik bilgileri veya IP gibi hassas veriler tespit edilirse, insan kullanıcılar tarayıcıda veya Slack gibi başka bir platformda bilgilendirilir ve bunları değiştirebilir veya çıkarabilirler. hassas veri veya ‘yarın bana hatırlat’ veya ‘bu hassas bir konu değil’ gibi yönlendirmelere yanıt verin.

Güvenlik ekipleri, çalışanlar hassas verileri yüklediğinde de uyarı alabilir.

Vibert, platformun faaliyetleri veya araçları engellemediğini, bunun yerine işletmelere riske maruz kalmalarını en aza indirmek için bunların nasıl kullanıldığına ilişkin görünürlük ve kontrol sağladığını vurguladı.

“Bu, çalışanların gözünden veri güvenliğidir” dedi. “Bu, kontrollerin çalışanların eline geçmesi ve verilerin analiz ekibine geri iletilmesi anlamına geliyor.”

Vibert, aksi takdirde güvenlik ve analiz ekiplerinin elemesinin imkansız olabileceği “sadece gürültü, gürültü ve gürültü” olabileceğini belirtti.

“BT ekipleri SaaS gen yapay zeka paylaşımına ilişkin bu genel sorunu çözemez” dedi. “Bu, uyarı yorgunluğunu tamamen yeni seviyelere getiriyor.”

Şaşırtıcı miktarda SaaS uygulaması kullanılıyor

Günümüzün işletmeleri çok sayıda SaaS aracı kullanıyor: Tek tahminle 991 — ancak bunların yalnızca dörtte biri bağlantılı.

Vibert, “Kurumlar genelinde kullanılan SaaS uygulamalarının sayısında büyük bir artış görüyoruz” dedi.

Metomic’in platformu, iş ortamındaki diğer SaaS araçlarına bağlanır ve sektöre veya coğrafyaya özgü düzenlemeler gibi bağlama dayalı ortak kritik veri risklerini tanımak için 150 veri sınıflandırıcıyla önceden oluşturulmuştur. Kuruluşlar ayrıca en savunmasız bilgilerini belirlemek için veri sınıflandırıcıları da oluşturabilir.

Vibert, “İnsanların verileri bir araca veya diğerine nereye koyduğunu bilmek gerçekten işe yaramıyor; tüm bunları bir araya getirdiğinizde,” dedi.

Kendisi, BT ekiplerinin yalnızca verilerin ötesine geçerek belirli departmanlar ve hatta belirli çalışanlar arasındaki “veri sıcak noktalarına” bakabileceğini açıkladı. Örneğin, bir pazarlama ekibinin ChatGPT’yi nasıl kullandığını belirleyebilir ve bunu Slack veya Notion gibi diğer uygulamalarla karşılaştırabilirler. Benzer şekilde platform, verilerin yanlış yerde olup olmadığını veya ilgili olmayan kişilerin erişimine açık olup olmadığını belirleyebilir.

Vibert, “Önemli olan riskleri bulma fikridir” dedi.

ChatGPT’nin yalnızca bir tarayıcı sürümünün olmadığını, birçok uygulamanın yalnızca yerleşik modele sahip olduğunu belirtti. Örneğin, veriler Slack’e aktarılabilir ve yol boyunca bir şekilde ChatGPT’ye ulaşabilir.

Vibert, “Tedarik zincirinin nerede bittiğini söylemek zor” dedi. “Bırakın kontrolleri, görünürlüğün bile yokluğu.”

İleriye dönük olarak, SaaS uygulamalarının sayısı artmaya devam edecek; ChatGPT ve diğer güçlü yapay zeka araçları ve LLM’lerin kullanımı da artacak.

Vibert’in belirttiği gibi: “Önümüzde uzun bir yolculuğun sıfır günü bile değil.”