Citi yöneticisi: Üretken yapay zeka bankacılıkta dönüştürücüdür ancak müşteri desteği açısından risklidir

Üretken yapay zeka, içeride derin ve olumlu bir değişim yarattı Citi Veriye dayalı karar almaya doğru ilerliyoruz ancak şimdilik ülkenin en büyük üç bankası, risklerin hâlâ çok yüksek olması nedeniyle dışarıya yönelik bir chatbot kullanmamaya karar verdi.

Citi’nin analitik teknolojisi ve inovasyon başkanı Promiti Dutta’nın bu sözleri, sırasında yaptığı bir konuşma sırasında geldi. VB’nin New York’taki Yapay Zeka Etki Turu Cuma gününde.

“Dört buçuk yıl önce Citi’ye katıldığımda, yapay zeka hakkında konuşmadan önce bile veri bilimi veya analitiği genellikle sonradan aklıma gelen bir düşünceydi. Moderatörlüğünü yaptığım bir sohbet sırasında şöyle düşünüyorduk: ‘İşletmenin zaten aklında olan bir noktayı kanıtlamak için analizi kullanacağız” dedi. “Yapay zeka genlerinin ortaya çıkışı bizim için büyük bir paradigma değişimiydi” dedi. “Aslında verileri ve analitiği her şeyin ön planına koyuyor. Birdenbire herkes her şeyi Gen AI ile çözmek istedi. “

Citi’nin üretken yapay zeka uygulamalarından oluşan “üç paketi”

Bunun, kuruluş genelindeki çalışanların yapay zeka projeleri önermeye başladığı eğlenceli bir ortam yarattığını söyledi. Bankanın teknoloji liderleri her şeyin yapay zekayla çözülmesi gerekmediğini fark etti: “Fakat hayır demedik, aslında bunun olmasına izin verdik. En azından verilerin onlar için neler yapabileceği konusunda konuşmaya başlayabiliriz” dedi Dutta. Verilerle ilgili kültürel merakın başlamasını memnuniyetle karşıladı. (Aşağıdaki videodaki yorumlarının tamamını görün.)

Banka, üretken yapay zeka projesi önceliklerini “zaman değerini artırabilecek ve bunlara kesinlik katabilecek anlamlı sonuçlara” göre sıralamaya başladı.

Arzu edilen projeler üç ana gruba ayrılır. Bunlardan ilki, büyük dil modellerinin (LLM’ler) çağrı merkezi temsilcilerine Citi’nin müşteriler hakkında bildikleri hakkında özet notlar sunabildiği veya konuşma sırasında notları daha kolay bir şekilde not edip temsilcinin bilgi bulmasını sağlayan “temsilci desteği” idi. Müşteri ihtiyaçlarına daha kolay cevap verebiliyoruz. Bunun müşteriye dönük olmadığını ancak yine de müşteriye bilgi sağladığını söyledi.

İkincisi, LLM’ler, metinleri özetleyerek ve çalışanların aradıkları belgeleri bulmalarına yardımcı olarak, risk ve kontrol gibi konularla ilgili kapsamlı uyumluluk belgelerinin okunması gibi manuel görevleri otomatikleştirebilir.

Son olarak Citi, analistlerin ve diğer Citi çalışanlarının veriye dayalı içgörüleri daha kolay elde etmesine olanak sağlamak için verileri tek bir yerde merkezileştiren dahili bir arama motoru oluşturdu. Bankanın artık üretken yapay zekayı ürüne entegre ettiğini, böylece çalışanların anında analiz oluşturmak için doğal dili kullanabileceğini söyledi. Aracın bu yılın sonlarında binlerce çalışanın kullanımına sunulacağını söyledi.

Dışa bakan Yüksek Lisanslar hala çok riskli

Ancak, üretken yapay zekanın harici olarak kullanılması söz konusu olduğunda (örneğin, bir destek sohbet robotu aracılığıyla müşterilerle etkileşim kurmak için) banka bunun prime time için hala çok riskli olduğuna karar verdiğini söyledi.

Geçen yıl, yüksek lisansların nasıl halüsinasyon gördüğüne dair pek çok tanıtım yapıldı; bu, yaratıcı yapay zekanın doğasında var olan bir özelliktir; bu, yazarların yaratıcılık aradığı belirli kullanım durumlarında bir varlık olabilir, ancak amaç kesinlik olduğunda sorunlu olabilir: Dutta, “İşler çok çabuk ters gidebilir ve hâlâ öğrenilecek çok şey var” dedi.

“Her bir müşteri etkileşiminin gerçekten önemli olduğu ve yaptığımız her şeyin müşterilerimizde güven oluşturmak zorunda olduğu bir sektörde, herhangi bir etkileşimde yanlış giden hiçbir şeyi göze alamayız” dedi.

Kendisi, bazı endüstrilerde yüksek lisansların müşterilerle harici iletişim için kabul edilebilir olduğunu, örneğin bir yüksek lisans eğitiminin yanlış ayakkabı önerebileceği bir alışveriş deneyiminde olduğunu söyledi. Bir müşterinin bundan çok fazla üzülmesinin muhtemel olmadığını söyledi. “Fakat size istemediğiniz ya da ihtiyaç duymadığınız bir kredi ürünü almanızı söylersek bize olan ilginizi biraz kaybedersiniz çünkü ‘Ah, bankam gerçekten kim olduğumu anlamıyor’ der gibi olursunuz.

Bankanın, önceden yazılmış doğal dil işleme (NLP) yanıtları da dahil olmak üzere, üretken yapay zekanın 2022 sonlarında ortaya çıkmasından önce standart hale gelen konuşma yapay zekasının unsurlarını kullandığını söyledi.

Citi, Yüksek Lisans’ların ne kadar şey yapabileceğini öğrenme sürecinde

Kendisi, bankanın gelecekte LLM’leri dışarıdan kullanmayı reddetmediğini ancak bunun için “çalışması” gerektiğini söyledi. Bankanın döngüde her zaman bir insanın bulunduğundan emin olması gerekir, böylece banka teknolojinin neyi yapamayacağını öğrenir ve “teknoloji olgunlaştıkça oradan ayrılır.” Bankaların da oldukça sıkı düzenlemelere tabi olduğunu ve yeni teknolojiyi uygulamaya koymadan önce çok sayıda test ve prova sürecinden geçmeleri gerektiğini belirtti.

Ancak bu yaklaşım, Fargo sanal asistanında üretken yapay zeka kullanan ve müşterilerin günlük bankacılık sorularına akıllı telefonlarında ses veya metin kullanarak yanıt veren bir banka olan Wells Fargo ile çelişiyor. Banka, Fargo’nun bir hedefe ulaşma yolunda olduğunu söylüyor Yılda 100 milyon etkileşim çalıştırma oranıBankanın CIO’su Chintan Mehta, Ocak ayında moderatörlüğünü yaptığım bir başka konuşmada şunu söyledi. Fargo, farklı görevleri yerine getirirken akışında birden fazla LLM’den yararlandığını söyledi. Wells Fargo ayrıca yüksek lisans eğitimlerini kendi bünyesine entegre ediyor. Müşterilere hedef belirleme ve planlama konusunda tavsiyeler sağlayan Livesync ürünü.

Üretken yapay zekanın bankayı dönüştürmesinin bir başka yolu da bankayı şirket içinde kalmak yerine bulut kaynaklarını nerede kullanacağını yeniden değerlendirmeye zorlamaktır. Dutta, bankanın geçmişte bulut araçlarından büyük ölçüde kaçınmış olmasına ve altyapısını şirket içinde tutmayı tercih etmesine rağmen, bunu gerçekleştirmek için Azure’un bulut hizmetleri aracılığıyla OpenAI’nin GPT modellerini kullanmayı araştırdığını söyledi. Bankanın aynı zamanda Llama ve bankanın şirket içi GPU’larda kullanılmak üzere şirket içi modeller getirmesine olanak tanıyan diğerleri gibi açık kaynaklı modelleri de araştırdığını söyledi.

Yüksek Lisanslar Citi’de iç dönüşümü teşvik ediyor

Dutta, banka içi bir görev gücünün, bankanın genel müdürü Jane Fraser’a kadar uzanan bir süreçte tüm üretken yapay zeka projelerini incelediğini söyledi. Fraser ve yönetim ekibi bu projelerin gerçekleşmesi için finansal ve diğer kaynak yatırımları gerektirdiğinden uygulamalı olarak çalışıyorlar. Dutta, görev gücünün herhangi bir projenin sorumlu bir şekilde yürütülmesini ve müşterilerin üretken yapay zeka kullanımı sırasında güvende olmasını sağladığını söyledi. Görev gücü şu tür sorular soruyor: “Bu bizim model risk yönetimimiz için ne anlama geliyor, veri güvenliğimiz için ne anlama geliyor, verilerimize başkaları tarafından nasıl erişildiği açısından ne anlama geliyor?”

Dutta, üretken yapay zekanın, bankanın en üst ve en alt basamaklarından heyecanın olduğu, potada çok fazla elin olduğu ve belki de bu coşkuyu dizginleme ihtiyacının olduğu noktaya kadar benzersiz bir ortam yarattığını söyledi.

Dutta’nın konuşmasına yanıt veren Microsoft’un küresel sorumlu yapay zeka mühendisliği başkanı Sarah Bird, Citi’nin üretken yapay zekaya yönelik kapsamlı yaklaşımının en iyi uygulamaları yansıttığını söyledi.

Microsoft LLM hatalarını düzeltmek için çalışıyor

Yüksek Lisans’ların bir gerçeğin kaynağına dayandırıldıktan sonra bile hala hata yapabileceği durumları düzeltmek için çok fazla çalışma yapıldığını söyledi. Örneğin, birçok uygulama, LLM’lerin soruları gerçek zamanlı olarak yanıtlamak için doğru bilgileri almak üzere bir veri deposunu sorgulayabildiği, erişim artırılmış nesil (RAG) ile oluşturuluyor, ancak bu süreç hala mükemmel değil.

Bird, “Orada olmaması gereken ek bilgiler ekleyebilir” dedi ve bunun birçok uygulamada kabul edilemez olduğunu kabul etti.

Dutta’nın ardından benim de moderatörlüğünü yaptığım bir konuşma sırasında Bird, Microsoft’un bu tür temellendirme hatalarını ortadan kaldırmanın yollarını aradığını söyledi. “Bu aslında çok fazla ilerleme gördüğümüz bir alan ve biliyorsunuz, bu alanda hala gidilecek daha çok yol var, ancak bunun ne kadar etkili olduğunu büyük ölçüde artırabilecek pek çok teknik var.” Microsoft’un bunun için test yapmak için çok zaman harcadığını ve topraklama hatalarını tespit etmenin başka yollarını bulduğunu söyledi. Microsoft “mümkün olan şeyler açısından gerçekten hızlı bir ilerleme görüyor ve sanırım önümüzdeki yıl çok daha fazlasını görebiliriz.”

Tam açıklama: Microsoft, VentureBeat’in AI Etki Turu’nun bu New York etkinlik durağına sponsor oldu, ancak Citi ve NewYork-Presbyterian’dan konuşmacılar VentureBeat tarafından bağımsız olarak seçildi. Yapay Zeka Etki Turu’ndaki bir sonraki duraklarımıza göz atın ve bir sonraki etkinliklere davet için nasıl başvurulacağını öğrenin. 27 Mart’ta Boston’da Ve 10 Nisan’da Atlanta’da.