Snowflake, doğru veri analitiği için ajansal bir yapay zeka sistemi olan Cortex Analyst’i piyasaya sürdü

Kar tanesi karmaşık veri çalışmaları için güçlü dil modellerini dağıtmaya hazırdır. Bugün şirket, self-servis analitik için tamamen yeni bir ajansal yapay zeka sistemi olan Cortex Analyst’i halka açık ön izlemede başlattığını duyurdu.

Birinci duyuruldu şirketin çalışması sırasında Haziran ayında veri bulutu zirvesiCortex Analyst, işletmelere verileriyle konuşmak için etkileşimli bir arayüz sağlayan, tam olarak yönetilen bir hizmettir. Kullanıcıların tek yapması gereken iş sorularını sade bir İngilizceyle sormaktır ve aracı yapay zeka sistemi, istemlerin SQL’e dönüştürülmesinden, verilerin sorgulanmasından kontrollerin çalıştırılmasına ve gerekli yanıtların sağlanmasına kadar gerisini halleder.

Snowflake’in AI başkanı Barış Gültekin, VentureBeat’e teklifin, içgörülerin yaklaşık %90 doğrulukla iletilmesini sağlamak için birlikte çalışan birden fazla büyük dil modeli (LLM) aracısının bir kombinasyonunu kullandığını söyledi. Bunun mevcut bilgilerin doğruluğundan çok daha iyi olduğunu iddia ediyor Yüksek Lisans destekli metinden SQL’e tekliflerDatabricks’inki de dahil olmak üzere analitik iş akışlarını kolayca hızlandırabilir ve iş kullanıcılarının kritik kararlar almak için ihtiyaç duydukları içgörülere anında erişmesini sağlar.

Cortex Analyst ile analitiği basitleştirme

İşletmeler yapay zeka destekli üretim ve tahmine ağırlık vermeye devam ederken bile veri analitiği, iş başarısında dönüştürücü bir rol oynamaya devam ediyor. Kuruluşlar, pazarlama ve satış gibi alanlarda kararlar almak için tablolar halinde düzenlenen geçmiş yapılandırılmış verilerden değerli bilgiler elde eder.

Ancak şu anda gerçek şu ki, analitik ekosisteminin tamamı büyük ölçüde verileri görselleştirmek ve bilgi sağlamak için çizelgeler, grafikler ve haritalar kullanan iş zekası (BI) gösterge tabloları tarafından yönlendiriliyor. Yaklaşım iyi çalışıyor ancak kullanıcıların belirli metrikleri daha derinlemesine inceleme konusunda zorluk yaşaması ve takip öngörüleri için çoğu zaman bunalıma giren analistlere bağımlı olması nedeniyle zaman zaman oldukça katı da olabiliyor.

“Bir kontrol paneliniz olduğunda ve yanlış bir şey gördüğünüzde, neler olduğunu anlamak için hemen üç farklı soruyla takip ediyorsunuz. Bu soruları sorduğunuzda bir analist devreye girecek, analizi yapacak ve yaklaşık bir hafta içinde cevabı verecektir. Ancak o zaman daha fazla takip sorunuz olabilir, bu da analitik döngüsünü açık tutabilir ve karar verme sürecini yavaşlatabilir” dedi Gültekin.

Bu boşluğu çözmek için birçok kişi araştırmaya başladı. büyük dil modellerinin potansiyeli yapılandırılmamış verilerden içgörülerin ortaya çıkarılmasında harika olmuştur (uzun PDF’leri düşünün). Buradaki fikir, ham yapılandırılmış veri şemasını modellerden geçirmek, böylece metinden SQL’e tabanlı bir konuşma deneyimine güç vererek kullanıcıların verileriyle anında konuşmasına ve ilgili iş sorularını sormasına olanak tanımaktı.

Ancak, LLM destekli bu teklifler ortaya çıktıkça Snowflake büyük bir soruna dikkat çekti: düşük doğruluk. Şirketin gerçek dünyadaki kullanım durumlarını temsil eden dahili kıyaslamalarına göre, GPT-4o gibi en son teknolojiye sahip modeller doğrudan kullanıldığında, analitik içgörülerin doğruluğu yaklaşık %51 seviyesinde kalırken, metinden SQL’e özel bölümler, Databricks’in Genie’si de dahil olmak üzere %79 doğruluğa ulaştı.

“İşle ilgili sorular sorarken en önemli şey doğruluktur. Yüzde elli bir doğruluk kabul edilemez. Birlikte yakın çalışan bir dizi büyük dil modelinden faydalanarak (Cortex Analisti için) bunu neredeyse ikiye katlayarak yaklaşık %90’a çıkarmayı başardık” diye konuştu Gültekin.

Bir kurumsal uygulamaya entegre edildiğinde Cortex Analyst, iş sorgularını doğal dilde alır ve bunları, Snowflake veri bulutundaki işletmelerin verilerine dayanan doğru, halüsinasyonsuz yanıtlar bulmak için farklı seviyelerde oturan LLM temsilcilerinden geçirir. Bu aracılar, sorunun amacını analiz etmekten ve sorunun yanıtlanıp yanıtlanamayacağını belirlemekten SQL sorgusunu oluşturup çalıştırmaya ve kullanıcıya geri gönderilmeden önce yanıtın doğruluğunu kontrol etmeye kadar farklı görevleri yerine getirir.

“Sorunun yanıtlanabilir mi, yoksa belirsiz mi olduğunu ve erişilebilir verilerle yanıtlanamayacağını anlayan sistemler kurduk. Soru belirsizse kullanıcıdan soruyu yeniden belirtmesini ve önerilerde bulunmasını isteriz. Ancak sorunun büyük dil modeli tarafından yanıtlanabileceğini öğrendikten sonra, soruyu bir dizi LLM’ye, SQL üreten aracılı modellere aktarırız, bu SQL’in doğru olup olmadığına dair gerekçeler sunarız, yanlış SQL’i düzeltiriz ve ardından teslim etmek için o SQL’i çalıştırırız. cevap” diye açıklıyor Gültekin.

Yapay zeka başkanı, Cortex Analyst’e güç veren modellerin kesin özelliklerini paylaşmadı ancak Snowflake, bunların bir kombinasyonunu kullandığını doğruladı. kendi Arktik modeli ayrıca gelenler Mistral ve Meta.

Tam olarak nasıl çalışıyor?

Cortex Analyst’in arkasındaki LLM temsilcilerinin, kullanıcının veri yapısının tüm şemasını anlamasını ve doğru, bağlama duyarlı yanıtlar vermesini sağlamak için şirket, müşterilerin kurulum aşamasında veri varlıklarına ilişkin anlamsal açıklamalar sağlamalarını şart koşuyor. Bu, ham şemalarla ilgili büyük bir sorunu giderir ve modellerin, kullanıcının kelime dağarcığı ve özel jargon dahil olmak üzere sorunun amacını yakalamasını sağlar.

“Gerçek dünya uygulamalarında tuhaf adlara sahip on binlerce tablonuz ve yüz binlerce sütununuz var. Örneğin, ‘Rev 1 ve Rev 2’, gelir anlamına gelebilecek şeyin yinelemeleri olabilir. Müşterilerimiz bu metrikleri ve anlamlarını semantik açıklamalarda belirterek sistemin yanıt verirken bunları kullanmasını sağlayabilirler.” diye konuştu.

Şu an itibariyle şirket, herhangi bir uygulamaya entegre edilebilecek bir REST API olarak Cortex Analyst’e erişim sağlıyor ve geliştiricilere, iş kullanıcılarının hizmete nasıl ve nerede dokunacağını ve sonuçlarla etkileşimde bulunacağını özelleştirme esnekliği sağlıyor. Ayrıca Cortex Analyst’i merkezi motor olarak kullanarak özel uygulamalar oluşturmak için Streamlit’i kullanma seçeneği de mevcut.

Özel önizlemede ilaç devi Bayer’in de aralarında bulunduğu yaklaşık 40-50 kuruluş, verileriyle konuşmak ve analitik iş akışlarını hızlandırmak için Cortex Analyst’i kullandı. Özellikle işletmelerin bankalarını zorlamadan LLM’leri benimsemeye odaklanmaya devam etmesi nedeniyle, kamuya açık önizlemenin bu sayıyı artırması bekleniyor. Hizmet, aslında tüm uygulama zorluklarını ve genel gider masraflarını aşmadan, şirketlere analitik için Yüksek Lisans’ın gücünü verecek.

Snowflake ayrıca önümüzdeki günlerde etkileşimli bir deneyim için çok turlu konuşma desteği ve daha karmaşık tablolar ve şemalar da dahil olmak üzere daha fazla özelliğe sahip olacağını doğruladı.