Vectara’nın yeni RAG destekli sohbet modülünü piyasaya sürmesiyle birlikte sohbet edecek soru-cevaptan çok daha fazlası var

Üretken yapay zeka çağında sohbet robotları her zamankinden daha yaygın hale geldi; ancak aslında daha yararlı ve doğrular mı?

Gen AI platform oluşturucu Vektara Bugün, işletmelerin son derece hassas sohbet robotları oluşturmasına ve dağıtmasına yardımcı olmayı amaçlayan platformu için yeni bir modülle çıktı. Vectara’nın platformu, Erişim Artırılmış Nesil (RAG) yaklaşımını benimsiyor. Bumerang vektör yerleştirmeleri en güncel bilgileri sağlamak ve halüsinasyon riskini azaltmak. İlk önce Vectara gizlice ortaya çıktı Ekim 2022’de ve giderek büyüyor Kullanıcı gereksinimlerini karşılayacak platform yetenekleri. Bir sohbet modülünün eklenmesi platformu daha da genişletir.

Vectara’nın kurucu ortağı ve Baş Mimarı Tallat Shafaat, VentureBeat’e şunları söyledi: “Sohbet özelliğimizi kullandığınızda, aldığınız yanıtı oluşturmak için aslında RAG kullanılıyor.” “Yani cevap körü körüne gelmiyor, RAG platformunu kullanan kendi belgelerinizden geliyor.”

Modern bir chatbot, soru-cevaptan daha fazlasıdır, konuşkan bir yapay zekadır

Peki yeni Vectara Chat modülünün şirketin bugüne kadar yaptıklarından farkı nedir? Vectara’nın kurucu ortağı ve CEO’su Amr Awadallah’a göre her şey ölçek ve kalıcılıkla ilgili.

Awadallah, VentureBeat’e şunları söyledi: “Geçmişte, eğer bizi kullanıyorsanız API’miz daha çok Soru-Cevap odaklıydı; bir soru sorarsanız yanıt alırsınız.”

Kullanıcı bir takip sorusu sormak isterse orijinal soruyu yeniden sormak zorunda kalacaktı çünkü Vectara, konuşma geçmişine sahip olmayan durumsuz bir oturum yaklaşımını benimsiyordu. Awadallah, Vectara müşterilerinin durumsal bir konuşmayı sürdürmek için kalıcılık katmanlarını oluşturmak zorunda kaldıklarını belirtti. Bu durum artık Vectara sitesinde durumu korumak için kalıcı belleğe sahip olan Vectara Chat modülünün kullanılmasıyla değişecek.

Awadallah, “Başlattığımız şey, her konuşmanın geçmişini tutan API’mizin bir uzantısı olan bir yetenektir” dedi. “Böylece soruları yeniden yazmanıza, yeniden ifade etmenize ve geçmişteki şeylere atıfta bulunmanıza gerek yok.”

Dağıtım açısından Awadallah, Vectara’nın kuruluşların sohbet modülünü dağıtmasını ve kullanmasını kolaylaştıran hem bir API hem de basit araçlar sağladığını söyledi. Bir sohbet widget’ı, yalnızca birkaç satır JavaScript ve HTML ile bir web sitesine veya uygulamaya bırakılabilir.

Daha da ileri giderek Shafaat, planın Vectara Chat’i daha fazla kurumsal yönetim özelliğiyle genişletmek olduğunu ekledi. Örneğin, sohbet özelliğini kullanan müşterileri olan bir hesap sahibi, insanların farklı şeyler hakkında ne hissettiğini ve yapılan sorgu türlerini öğrenmek için müşteri sohbet geçmişlerine anlamsal bir şekilde bakabilecektir. Vectara ayrıca kullanıcı sohbetleri hakkında sorular sormak için Vectara Chat modülüne karşı RAG tabanlı sorguları da etkinleştirecek.

Yapay zeka genindeki halüsinasyonları ve önyargıları azaltmak

Gen AI’nın kurumsal kullanımıyla ilgili temel endişe, halüsinasyon riskidir. RAG yaklaşımı, Vectara’nın sohbet modülüne yanlış yanıt verme riskini azaltmaya yardımcı olmak için kullandığı pek çok yaklaşımdan biri.

Awadallah, Vectara yaklaşımının doğruluğu sağlamaya yardımcı olmak için alıntılarla açıklanabilirlik sağladığını belirtti. Sistem ayrıca, şirketin öncülüğünü yaptığı ve maksimum marjinal uygunluk olarak bilinen bir yaklaşım aracılığıyla önyargı azaltma yeteneklerini de entegre ediyor.

“Maksimum marjinal uygunluk, geri getirdiğimiz sonuçların çeşitliliğini artırıyor” diye açıkladı.

Awadallah, tartışma konusu olan, farklı görüşlerin olduğu sorularda, tüm bakış açılarını getirebilecek iyi bir algoritmanın olmaması durumunda sistemin taraflı yanıt vereceğini söyledi.

Awadallah, “Birincil bakış açısını ancak daha az alakalı olsalar bile ikincil bakış açılarını elde ettiğimizden emin oluyoruz” diye açıkladı.