Meta, kullanıcının amacını anlamak için üretken yapay zekadan nasıl yararlanıyor?

Meta — Facebook, Instagram, WhatsApp, Threads ve daha fazlasının ana şirketi — dünyanın en büyük öneri sistemlerinden birini işletiyor.

Yakın zamanda yayımlanan iki makalede araştırmacılar, üretken modellerin kullanıcı amacını daha iyi anlamak ve buna yanıt vermek için nasıl kullanılabileceğini ortaya çıkardı.

Önerilere üretken bir sorun olarak bakarak, içerik açısından daha zengin ve klasik yaklaşımlardan daha etkili yeni yöntemlerle bu sorunu çözebilirsiniz. Bu yaklaşımın, belgelerin, ürünlerin veya diğer türden nesnelerin alınmasını gerektiren herhangi bir uygulama için önemli kullanımları olabilir.

Yoğun vs üretken erişim

Oluşturmaya standart yaklaşım öneri sistemleri belgelerin yoğun temsillerini hesaplamak, depolamak ve almaktır. Örneğin, kullanıcılara öğe önermek için bir uygulamanın hesaplayabilen bir modeli eğitmesi gerekir. gömmeler hem kullanıcılar hem de öğeler için. Daha sonra geniş bir öğe yerleştirme deposu oluşturması gerekir.

Çıkarım anında öneri sistemi, yerleştirmeleri kullanıcınınkine benzeyen bir veya daha fazla öğe bularak kullanıcının niyetini anlamaya çalışır. Bu yaklaşım, öğe sayısı arttıkça artan miktarda depolama ve hesaplama kapasitesi gerektirir çünkü her öğe yerleştirmenin depolanması gerekir ve her öneri işlemi, kullanıcı yerleştirmesinin tüm öğe deposuyla karşılaştırılmasını gerektirir.

Üretken erişim, bir veritabanında arama yapmak yerine kullanıcının amacını anlamaya ve sıradaki bir sonraki öğeyi tahmin ederek önerilerde bulunmaya çalışan daha yeni bir yaklaşımdır. Üretken alma, öğe yerleştirmelerinin depolanmasını gerektirmez ve öğe listesi büyüdükçe çıkarımı ve depolama maliyetleri sabit kalır.

Üretken erişimin çalışmasını sağlamanın anahtarı, her bir öğe hakkında bağlamsal bilgileri içeren “anlamsal kimlikleri” (SID’ler) hesaplamaktır. Üretken erişim sistemleri gibi KAPLAN iki aşamada çalışın. İlk olarak, bir kodlayıcı modeli, açıklamasına ve özelliklerine göre her öğe için benzersiz bir yerleştirme değeri oluşturacak şekilde eğitilir. Bu yerleştirme değerleri SID’ler haline gelir ve öğeyle birlikte saklanır.

İkinci aşamada ise bir Trafo modeli Bir giriş sırasındaki bir sonraki SID’yi tahmin etmek için eğitilir. Giriş SID’lerinin listesi, kullanıcının geçmiş öğelerle olan etkileşimlerini temsil eder ve modelin tahmini, önerilecek öğenin SID’sidir. Üretken erişim, bireysel öğe yerleştirmeleri arasında depolama ve arama ihtiyacını azaltır. Aynı zamanda veriler içindeki daha derin anlamsal ilişkileri yakalama yeteneğini de geliştirir ve önerilerin çeşitliliğini ayarlamak için sıcaklığın değiştirilmesi gibi üretken modellerin diğer faydalarını sağlar.

Gelişmiş üretken erişim

Daha düşük depolama ve çıkarım maliyetlerine rağmen, üretken erişim bazı sınırlamalara sahiptir. Örneğin, eğitim sırasında gördüğü öğelere gereğinden fazla uyma eğilimi gösterir, bu da model eğitildikten sonra kataloğa eklenen öğelerle baş etmede sorun yaşadığı anlamına gelir. Tavsiye sistemlerinde buna genellikle “öngörülen soğuk çalıştırma sorunu“, yeni olan ve etkileşim geçmişi olmayan kullanıcılar ve öğelerle ilgilidir.

Bu eksiklikleri gidermek için Meta, adı verilen hibrit bir öneri sistemi geliştirdi. LİGERÜretken erişimin hesaplama ve depolama verimliliklerini, yoğun alımın sağlam yerleştirme kalitesi ve sıralama yetenekleriyle birleştiren.

Eğitim sırasında LIGER, modelin önerilerini geliştirmek için hem benzerlik puanını hem de sonraki belirteç hedeflerini kullanır. Çıkarım sırasında LIGER, üretken mekanizmaya dayalı olarak birkaç adayı seçer ve bunları birkaç soğuk başlangıç ​​öğesiyle tamamlar; bunlar daha sonra oluşturulan adayların yerleştirmelerine göre sıralanır.

Araştırmacılar, “yoğun ve üretken erişim yöntemlerinin birleşiminin, öneri sistemlerini geliştirmek için muazzam bir potansiyel barındırdığını” ve modeller geliştikçe “gerçek dünya uygulamaları için giderek daha pratik hale geleceklerini, daha kişiselleştirilmiş ve duyarlı kullanıcı deneyimlerine olanak tanıyacaklarını” belirtiyorlar.

Ayrı bir makalede araştırmacılar, adı verilen yeni bir çok modlu üretken erişim yöntemini tanıtıyorlar. Çok modlu tercih ayırt etme (Mender), üretken modellerin, kullanıcının farklı öğelerle olan etkileşimlerinden örtülü tercihleri ​​almasını sağlayan bir tekniktir. Mender, SID’leri temel alan üretken erişim yöntemlerinin üzerine kuruludur ve önerileri kullanıcı tercihleriyle zenginleştirebilecek birkaç bileşen ekler.

Mender, kullanıcı etkileşimlerini belirli tercihlere dönüştürmek için geniş bir dil modeli (LLM) kullanıyor. Örneğin, kullanıcı bir incelemede belirli bir öğeyi övdüyse veya şikayet ettiyse, model bunu o ürün kategorisine ilişkin bir tercih halinde özetleyecektir.

Ana öneri modeli, giriş sırasındaki bir sonraki anlamsal kimliği tahmin ederken hem kullanıcı etkileşimlerinin sırasına hem de kullanıcı tercihlerine göre koşullandırılacak şekilde eğitilmiştir. Bu, öneri modeline bağlam içi öğrenmeyi genelleştirme ve gerçekleştirme ve bunlar üzerinde açıkça eğitim almadan kullanıcı tercihlerine uyum sağlama yeteneği verir.

Araştırmacılar, “Katkılarımız, metinsel kullanıcı tercihleri ​​yoluyla tavsiyeleri yönlendirmek için organik verileri kullanma becerisinin kilidini açan yeni bir üretken erişim modelleri sınıfının önünü açıyor” diye yazıyor.

Kurumsal uygulamalara yönelik çıkarımlar

Üretken erişim sistemleri tarafından sağlanan verimliliğin kurumsal uygulamalar için önemli etkileri olabilir. Bu gelişmeler, azaltılmış altyapı maliyetleri ve daha hızlı çıkarım dahil olmak üzere anında pratik faydalara dönüşmektedir. Teknolojinin, katalog boyutundan bağımsız olarak sabit depolama ve çıkarım maliyetlerini sürdürme yeteneği, onu büyüyen işletmeler için özellikle değerli kılmaktadır.

Avantajlar, e-ticaretten kurumsal aramaya kadar birçok sektöre yayılmaktadır. Üretken erişim hâlâ başlangıç ​​aşamasındadır ve olgunlaştıkça uygulamaların ve çerçevelerin ortaya çıkmasını bekleyebiliriz.