The New York Times ve Scarlett Johansson gibi ünlüler ve gazeteler, üretken yapay zeka devriminin poster çocuğu olan OpenAI’ye yasal olarak meydan okurken, çalışanlar çoktan oylarını vermiş gibi görünüyor. ChatGPT ve benzeri üretkenlik ve yenilik araçlarının popülaritesi artıyor. GlassDoor’a göre çalışanların yarısı ChatGPT kullanıyor ve %15’i şirket ve müşteri verilerini GenAI uygulamalarına yapıştırıyor. LayerX’in “GenAI Veri Maruziyeti Risk Raporu”na göre.
Organizasyonlar için ChatGPT, Claude, Gemini ve benzeri araçların kullanımı bir nimettir. Bu makineler çalışanlarını daha üretken, yenilikçi ve yaratıcı kılmaktadır. Ama aynı zamanda koyun postuna bürünmüş bir kurda da dönüşebilirler. Çok sayıda CISO, kurumun karşı karşıya kalabileceği veri kaybı risklerinden endişe duymaktadır. Neyse ki teknoloji endüstrisinde işler hızlı ilerliyor ve ChatGPT ve diğer tüm GenAI araçları aracılığıyla veri kaybını önleyecek ve işletmeleri kendilerinin en hızlı ve en üretken versiyonları haline getirecek çözümler zaten mevcut.
Yapay Zeka Kuşağı: Bilgi güvenliği ikilemi
ChatGPT ve diğer tüm GenAI araçlarıyla, e-posta taslakları hazırlamaktan karmaşık ürünler tasarlamaya ve karmaşık hukuk veya muhasebe sorunlarını çözmeye kadar çalışanların işletme için yapabileceklerinin sınırı gökyüzüdür. Ancak kuruluşlar üretken yapay zeka uygulamaları konusunda bir ikilemle karşı karşıya. Verimlilik avantajları basit olsa da veri kaybı riskleri de vardır.
Çalışanlar, üretken yapay zeka araçlarının potansiyeli konusunda heyecanlanıyor ancak bunları kullanırken dikkatli değiller. Çalışanlar içerik ve raporları işlemek veya oluşturmak için GenAI araçlarını kullandıklarında ürün kodu, müşteri verileri, finansal bilgiler ve iç iletişimler gibi hassas bilgileri de paylaşıyorlar.
Koddaki hataları düzeltmeye çalışan bir geliştiriciyi hayal edin. Sonsuz sayıda kod yazmak yerine, bunu ChatGPT’ye yapıştırıp hatayı bulmasını isteyebilirler. ChatGPT onlara zaman kazandıracak ancak aynı zamanda özel kaynak kodunu da saklayabilir. Bu kod daha sonra modeli eğitmek için kullanılabilir; bu, bir rakibin onu gelecekteki yönlendirmelerden bulabileceği anlamına gelir. Veya OpenAI sunucularında saklanabilir ve güvenlik önlemlerinin ihlal edilmesi durumunda potansiyel olarak sızdırılabilir.
Diğer bir senaryo ise bir finansal analistin şirketin rakamlarını girerek analiz veya tahmin konusunda yardım istemesidir. Veya bir satış elemanı veya müşteri hizmetleri temsilcisi, hassas müşteri bilgilerini yazarak kişiselleştirilmiş e-postalar oluşturma konusunda yardım istiyor. Tüm bu örneklerde, normalde kuruluş tarafından yoğun bir şekilde korunacak olan veriler, bilinmeyen dış kaynaklarla serbestçe paylaşılıyor ve kötü niyetli ve kötü niyetli faillerin eline kolaylıkla geçebiliyor.
İsminin gizli kalmasını isteyen büyük bir kuruluşun Güvenlik Bilgilerinden Sorumlu Başkanı (CISO), “İşi mümkün kılan bir kişi olmak istiyorum, ancak kuruluşumun verilerini korumayı düşünmem gerekiyor” dedi. “ChatGPT mahalledeki yeni havalı çocuk, ancak çalışanların onunla hangi verileri paylaştığını kontrol edemiyorum. Çalışanlar hüsrana uğrar, yönetim kurulu hüsrana uğrar, ancak beklemede olan patentlerimiz, hassas kodlarımız var, önümüzdeki iki yıl içinde halka arz yapmayı planlıyoruz; bu riske atabileceğimiz bir bilgi değil.”
Bu CISO’nun endişesi verilere dayanıyor. LayerX tarafından yakın zamanda yayınlanan bir rapor şunu ortaya çıkardı: Çalışanların %4’ü hassas verileri haftalık olarak GenAI’ye yapıştırın. Buna dahili iş verileri, kaynak kodu, PII, müşteri verileri ve daha fazlası dahildir. ChatGPT’ye yazıldığında veya yapıştırıldığında, bu veriler esas olarak çalışanların bizzat kendileri aracılığıyla sızdırılır.
Bu tür veri kaybını kontrol edecek uygun güvenlik çözümleri mevcut olmadığında, kuruluşların bir seçim yapması gerekir: Üretkenlik ve yenilik mi, yoksa güvenlik mi? GenAI’nin tarihteki en hızlı benimsenen teknoloji olması nedeniyle, çok yakında kuruluşlar, Gen AI ile hızlanmak ve yenilik yapmak isteyen çalışanlara “hayır” diyemeyecek. Bu buluta “hayır” demek gibi bir şey olurdu. Veya e-posta…
Yeni tarayıcı güvenliği çözümü
Yeni bir güvenlik sağlayıcıları kategorisi, GenAI’nin kullanılmasıyla ilişkili güvenlik risklerini ortadan kaldırmadan benimsenmesini sağlama misyonundadır. Bunlar tarayıcı güvenlik çözümleridir. Buradaki fikir, çalışanların GenAI araçlarıyla tarayıcı aracılığıyla veya tarayıcılarına indirdikleri uzantılar aracılığıyla etkileşime girmesidir, yani risk buradadır. Tarayıcıda konuşlandırılan tarayıcı güvenlik çözümleri, çalışanların GenAI uygulamasına yazdığı verileri izleyerek çalışanlara uyarılar sunabilir, onları risk konusunda eğitebilir veya gerekirse hassas bilgilerin GenAI araçlarına yapıştırılmasını engelleyebilir. gerçek zamanlı.
LayerX’in CEO’su ve kurucu ortağı Or Eshed, “GenAI araçları çalışanlar tarafından oldukça tercih edildiğinden, güvenlik teknolojisinin de aynı derecede yardımsever ve erişilebilir olması gerekiyor” diyor. kurumsal tarayıcı uzantısı şirket. “Çalışanlar, eylemlerinin riskli olduğunun farkında değil; bu nedenle güvenliğin, üretkenliklerinin engellenmediğinden ve yaptıkları riskli eylemler konusunda eğitilmelerinden emin olması gerekiyor, böylece kırgın olmak yerine öğrenebilirler. Aksi takdirde güvenlik ekipleri GenAI veri kaybını önleme ve diğer güvenlik kontrollerini uygulamada zorlanacak. Ancak başarılı olurlarsa bu bir kazan-kazan-kazan durumudur.”
Bu yeteneğin arkasındaki teknoloji, hassas bilgileri ve potansiyel olarak kötü niyetli etkinlikleri tespit etmek için incelenen çalışan eylemlerinin ve tarama etkinliklerinin ayrıntılı bir analizine dayanmaktadır. İşin ilerlemesini engellemek ya da çalışanları işyerinde üretkenlik çarklarına takmakla meşgul etmek yerine, amaç herkesi mutlu ve çalışır durumda tutmak, bir yandan da herhangi bir GenAI aracına hiçbir hassas bilginin yazılmamasını ya da yapıştırılmamasını sağlamaktır; bu da daha mutlu panolar ve daha mutlu yönetimler anlamına gelir. hissedarlar da. Ve elbette mutlu bilgi güvenliği ekipleri.
Tarih tekerrür ediyor
Her teknolojik yenilik tepkiden nasibini almıştır. İnsanların ve iş dünyasının doğası budur. Ancak tarih, yeniliği benimseyen kuruluşların, işleri olduğu gibi tutmaya çalışan diğer oyuncuları geride bırakma ve rekabet etme eğiliminde olduğunu gösteriyor.
Bu saflık ya da “herkes için özgür” yaklaşımını gerektirmez. Aksine, inovasyona 360°’den bakmayı ve tüm temelleri kapsayan ve veri kaybı risklerini ele alan bir plan tasarlamayı gerektirir. Neyse ki işletmeler bu çabada yalnız değiller. GenAI aracılığıyla veri kaybını önlemek için çözümler sunan yeni bir güvenlik sağlayıcı kategorisinin desteğine sahipler.
VentureBeat haber odası ve editör kadrosu bu içeriğin oluşturulmasında yer almamıştır.
Kaynak: https://venturebeat.com/business/employees-are-leaking-data-over-genai-tools-heres-what-enterprises-need-to-do/