Hizmet Olarak RAG platformu Ragie, kurumsal veriler ile yapay zeka arasında köprü kurmak için harekete geçiyor

Alma Artırılmış Nesil (RAG), kurumsal yapay zeka iş akışlarının önemli bir parçası haline geldi, ancak gerçekte uygulanması ne kadar kolay?

Startup’ın karşılaştığı zorluk bu Ragie çözmeye çalışıyor. Şirket, bugün genel kullanıma sunulan bir sürümle kendi adını taşıyan hizmet olarak RAG platformunu resmi olarak başlatıyor. Ragie ayrıca Craft Ventures, Saga VC, Chapter One ve Valor liderliğinde 5,5 milyon dolarlık bir başlangıç ​​yatırımı yapacağını da duyurdu. Ragie’nin vaadi, işletmeler için uygulanması kolay ancak güçlü, yönetilen bir RAG platformu olmasıdır. RAG, güncel ve ilgili bilgiler sağlamak için kurumsal verileri üretken yapay zeka büyük dil modelleriyle (LLM’ler) birleştirir.

Ragie yeni bir şirket olmasına rağmen teknolojisi halihazırda şirketin temel unsuru olarak kullanılıyor. Zamk Mayıs ayında başlatılan AI sohbet platformu. Ragie’nin kurucuları RAG uygulamaları üzerinde çalışıyorlardı ve veri hatlarını hızlı bir şekilde bir araya getirmede büyük bir sorun olduğunu fark ettiler. Glue onlara ulaştığında Ragie’yi başlatmak ve Glue’nun sorununu çözmek için iyi bir fırsat gibi göründü.

Ragie CEO’su Bob Remeika, VentureBeat’e şunları söyledi: “RAG ile deneyler yapıyorduk ve iş sisteme veri girme konusunda gerçekten büyük bir engelleyicinin olduğunu fark ettik.”

Remeika, Ragie’nin özünde bir veri alma hattı olduğunu açıkladı. Geliştiricilerin, Google Drive, Notion ve Confluence gibi ortak işletme konumlarını içerebilen veri kaynaklarına kolayca bağlanmalarına olanak tanır. Ragie sistemi bu veri kaynaklarını alır ve ardından verileri vektör alımı ve RAG uygulamaları için optimize eder.

Ragie, geliştiricilerin yapay zeka uygulamalarını oluşturmaları ve denemeleri için ücretsiz bir plan sunuyor. Geliştiriciler uygulamalarını üretime dağıtmaya hazır olduklarında Ragie, belirli limitlerle ayda 500 ABD doları tutarında sabit bir ücret talep ediyor. Ragie, 3.000 belgeyi aşan müşteriler için kurumsal düzeyde fiyatlandırmayı tartışacak.

Yalnızca bir vektör veritabanının ötesinde kurumsal bir RAG hizmet hattına geçiş

Bugün RAG’ı desteklemek için farklı türde teknoloji yaklaşımları sunan satıcı sıkıntısı yok.

Neredeyse tüm büyük veritabanı satıcıları, üretken yapay zeka ve RAG için gerekli olan vektör verilerini destekler. Bazı satıcılar DataStax’ı örneğin RAGstack ve Veri tuğlaları vektör veritabanı özelliklerinden daha fazlasını entegre eden optimize edilmiş RAG yığınları ve araçları sağlar. Ragie’nin yapmayı amaçladığı şey biraz farklı.

Remeika’ya göre Ragie’nin vaadi yönetilen hizmet yaklaşımıdır. Kuruluşların ve onlar için çalışan geliştiricilerin, bir RAG boru hattını mümkün kılmak için farklı parçaları bir araya getirmeleri gerekmediği yer. Daha ziyade Ragie hizmeti, geliştiricilerin bir RAG uygulaması için veri hattını etkinleştirmek üzere programatik bir arayüz aracılığıyla bağlantı kurduğu anahtar teslim bir yaklaşımdır.

Ragie, kurumsal RAG dağıtımlarını basitleştirmek için nasıl çalışıyor?

Ragie platformu, kurumsal uygulamaların ihtiyaç duyduğu birçok unsuru entegre eder.

Ragie şu şekilde çalışıyor:

Veri Alma: Ragie, şirketlerin Google Drive, Notion ve Confluence gibi çeşitli veri kaynaklarına bağlanarak sistemlerine veri almalarına olanak tanıyor.

Veri Çıkarma: Platform, yalnızca belgelerden metin çıkarmanın ötesine geçiyor; aynı zamanda içeriğin zengin bir şekilde anlaşılmasını sağlamak için resimlerden, çizelgelerden ve tablolardan bağlamı da çıkarıyor.

Parçalama ve Kodlama: Ragie, alınan verileri daha küçük parçalara böler ve bunları vektörler halinde kodlar; bunlar daha sonra bir vektör veritabanında depolanır.

İndeksleme: Ragie, verilerin verimli ve ilgili şekilde alınmasını sağlamak için yığın indeksleri, özet indeksleri ve hibrit indeksler dahil olmak üzere birden fazla indeks türü oluşturur.

Geri Alma ve Yeniden Sıralama: Bir kullanıcı sorgusu geldiğinde, Ragie ilgili parçaları alır ve ardından kullanıcıya geri göndermeden önce sonuçların alaka düzeyini daha da artırmak için LLM tabanlı bir yeniden sıralama sistemi kullanır.

Remeika’ya göre veri alımı, işlenmesi ve geri alınmasına yönelik bu çok katmanlı yaklaşım, Ragie’yi farklı kılıyor ve oluşturulan içerikte halüsinasyon riskinin azaltılmasına yardımcı oluyor.

Kurumsal RAG için anlamsal parçalama, özet dizinler ve yeniden sıralama neden önemlidir?

Yapay zekanın kurumsal kullanımı söz konusu olduğunda, uygunluk ve doğruluk birincil hedeflerdir. Sonuçta RAG’ın amacı da budur; en alakalı verileri yapay zekanın gücüyle bir araya getirmek.

Bu amaçla Ragie, platformun erişim kısmında inovasyona özel bir teknik vurgu yaptı.

Ragie’nin kurucu ortağı ve CTO’su Mohammed Rafiq, “Oluşturma için en alakalı parçaları alabilmemizi sağlamak için çok çaba harcıyoruz ve bu da birden fazla dizin, özet dizin, hiyerarşik dizin ve yeniden sıralama oluşturmayı gerektiriyor” dedi. VentureBeat.

Ragie’nin araştırdığı yenilik alanlarından biri de anlamsal parçalama kavramıdır. Semantik parçalama, bir miktar örtüşme ile sabit bir parça boyutu kullanmanın daha geleneksel yöntemiyle karşılaştırıldığında, alınan verileri parçalara ayırmaya yönelik farklı bir yaklaşımı ifade eder.

Rafiq, Ragie’nin kurumsal RAG uygunluğunu geliştirmek için birden fazla indeksleme türü kullandığını açıkladı. İlk katmanda veri yığınlarının vektörlere kodlanması ve vektör veritabanında saklanmasıyla oluşturulan yığın indeksleri bulunur. Bunun da ötesinde, alınan sonuçların alaka düzeyini artırmak ve nihai yanıtların yalnızca bir belgeden değil, çeşitli belgelerden gelmesini sağlamak için kullanılan, alınan her belge için özet dizinler bulunur.

Platform aynı zamanda hibrit indeksleri de entegre ediyor. Rafiq, hibrit endeksin Ragie’nin erişim için hem anahtar kelimeye dayalı hem de semantik, vektör tabanlı bir yaklaşım sağlamasına olanak tanıdığını açıkladı. Hibrit endeksin, Ragie’nin en alakalı içeriği nasıl arayabileceği ve sıralayabileceği konusunda esneklik sağladığını belirtti.

Genel olarak temel amaç, kurumsal geliştiricilerin RAG ile geliştirme yapmasına yardımcı olmaktır.

Remeika, “Yaptığımız şey, mühendislerin yapay zeka uygulamalarını gerçekten hızlı bir şekilde oluşturmalarına gerçekten yardımcı olmak” dedi.