Yüksek Lisans ilerlemesi yavaşlıyor; bu yapay zeka için ne anlama gelecek?

Turing testini tutarlı bir şekilde geçebilecek bir yazılımı ne zaman göreceğimiz konusunda spekülasyon yapardık. Artık sadece bu inanılmaz teknolojinin var olduğunu değil, aynı zamanda hızla daha iyi ve daha yetenekli olmaya devam edeceğini de kabul etmeye başladık.

O zamandan bu yana ne kadar çok şey olduğunu unutmak kolaydır SohbetGPT 30 Kasım 2022’de gösterime girdi. O zamandan beri yenilik ve güç halktan gelmeye devam etti. büyük dil modelleri Yüksek Lisans. Görünüşe göre her birkaç haftada bir sınırları zorlayan yeni bir şey görüyorduk.

Şimdi ilk kez bu hızın önemli ölçüde yavaşlayabileceğine dair işaretler var.

Trendi görmek için OpenAI’nin sürümlerini göz önünde bulundurun. GPT-3’ten GPT-3.5’e geçiş çok büyüktü ve OpenAI’yi kamuoyunun bilincine taşıdı. GPT-4’e geçiş de etkileyiciydi; güç ve kapasite açısından ileriye doğru dev bir adım. Daha sonra biraz hız katan GPT-4 Turbo geldi ve ardından GPT-4’ün mevcut görüntü tanıma yeteneklerinin kilidini açan GPT-4 Vision geldi. Ve sadece birkaç hafta önce şunun yayınlandığını gördük: GPT-4oGelişmiş çok modluluk sunan ancak ek güç açısından nispeten az olan.

Claude 3 gibi diğer Yüksek Lisanslar Antropik ve Google’dan Gemini Ultra da benzer bir trend izledi ve artık GPT-4 ile benzer hız ve güç kriterleri etrafında birleşiyor gibi görünüyor. Henüz plato bölgesinde değiliz ancak bir yavaşlamaya giriyor gibiyiz. Ortaya çıkan model: Her nesilde güç ve menzilde daha az ilerleme.

Bu, çözüm inovasyonunun geleceğini şekillendirecek

Bu çok önemli! Tek kullanımlık bir kristal küreniz olduğunu hayal edin: Size her şeyi anlatacaktır ama siz ona yalnızca tek bir soru sorabilirsiniz. Yapay zekada neler olacağına dair bir şeyler okumaya çalışıyorsanız, bu soru pekala şu olabilir: Ne kadar hızlı olacak? Yüksek Lisans’lar güç ve yetenek bakımından artmaya devam ediyor?

Çünkü Yüksek Lisanslar ilerledikçe yapay zekanın daha geniş dünyası da gidiyor. LLM gücündeki her önemli gelişme, ekiplerin neler oluşturabileceği ve daha da önemlisi güvenilir bir şekilde çalışmaya başlayabilmesi konusunda büyük bir fark yarattı.

Chatbot’un etkinliğini düşünün. Orijinal GPT-3’te kullanıcı istemlerine verilen yanıtlar tesadüfi olabilir. Daha sonra ikna edici bir sohbet robotu oluşturmayı çok daha kolay hale getiren ve daha iyi ancak yine de düzensiz yanıtlar sunan GPT-3.5’i aldık. GPT-4’e kadar, aslında talimatları takip eden ve bir düzeyde mantık yürüten bir Yüksek Lisans’tan sürekli olarak hedeflenen çıktılar görmemiştik.

görmeyi bekliyoruz Yakında GPT-5ancak OpenAI beklentileri dikkatli bir şekilde yönetiyor gibi görünüyor. Bu sürüm, ileriye doğru büyük bir adım atarak yapay zeka inovasyonunda yeni bir artışa neden olarak bizi şaşırtacak mı? Aksi takdirde, diğer halka açık LLM modellerinde de ilerlemenin azaldığını görmeye devam edeceğiz, daha geniş yapay zeka alanı için derin sonuçlar olacağını tahmin ediyorum.

Bunun nasıl sonuçlanabileceği aşağıda açıklanmıştır:

• Daha fazla uzmanlık: Mevcut Yüksek Lisanslar, konular ve işlevsel alanlar arasındaki incelikli sorguları ele alacak kadar güçlü olmadığında, geliştiriciler için en belirgin yanıt uzmanlaşmadır. Nispeten dar kullanım senaryolarını ele alan ve çok spesifik kullanıcı topluluklarına hizmet eden daha fazla yapay zeka aracısının geliştirildiğini görebiliriz. Aslında OpenAI başlatılıyor GPT’ler Her şeyi okuyabilen ve tepki verebilen tek bir sisteme sahip olmanın gerçekçi olmadığının kabulü olarak okunabilir.
• Yeni kullanıcı arayüzlerinin yükselişi: Şu ana kadar yapay zekada baskın kullanıcı arayüzü (UI) tartışmasız chatbot oldu. Öyle mi kalacak? Çünkü chatbotların bazı belirgin avantajları olmasına rağmen, görünürdeki açıklıkları (kullanıcı herhangi bir istemi yazabilir) aslında hayal kırıklığı yaratan bir kullanıcı deneyimine yol açabilir. Yapay zekanın devrede olduğu ancak kullanıcıyı yönlendiren daha fazla korkuluk ve kısıtlamanın olduğu daha fazla format görebiliriz. Örneğin bir belgeyi tarayan ve kullanıcıya birkaç olası öneri sunan bir yapay zeka sistemini düşünün.
• Açık kaynaklı Yüksek Lisanslar açığı kapatıyor: Yüksek Lisans geliştirmenin inanılmaz derecede maliyetli görülmesi nedeniyle, Mistral, Llama ve net bir ticari iş modeline sahip olmayan diğer açık kaynak sağlayıcıların büyük bir dezavantaja sahip olacağı görülüyor. Ancak OpenAI ve Google artık büyük ilerlemeler kaydedemiyorsa bu o kadar da önemli olmayabilir. Rekabet, özelliklere, kullanım kolaylığına ve çok modlu yeteneklere kaydığında, kendilerini koruyabilirler.
• Veri yarışı yoğunlaşıyor: Yüksek Lisans’ların aynı yetenek aralığına girmeye başladığını görmemizin olası bir nedeni şu olabilir: eğitim verileri tükeniyor. Kamuya açık metin tabanlı verilerin sonuna yaklaştıkça, LLM şirketlerinin başka kaynaklar araması gerekecek. OpenAI’nin Sora’ya bu kadar odaklanmasının nedeni bu olabilir. Eğitim için resimlere ve videolara dokunmak, yalnızca modellerin metin dışı girdileri işleme biçiminde potansiyel olarak büyük bir gelişme sağlamakla kalmayacak, aynı zamanda sorguların anlaşılmasında daha fazla nüans ve incelik anlamına da gelecektir.
• Yeni LLM mimarilerinin ortaya çıkışı: Şu ana kadar tüm önemli sistemlerde trafo mimarileri ama umut vaat eden başkaları da var. Ancak transformatör yüksek lisans eğitimlerinden gelen hızlı ilerlemeler nedeniyle bunlar hiçbir zaman tam anlamıyla araştırılmadı veya bunlara yatırım yapılmadı. Eğer bunlar yavaşlamaya başlarsa, daha fazla enerji ve ilgi görebiliriz. Mamba ve diğer transformatörsüz modeller.

Son düşünceler: Yüksek Lisans’ın geleceği

Tabii ki bu spekülatif. Yüksek Lisans yeteneğinin veya yapay zeka inovasyonunun bundan sonra nerede ilerleyeceğini kimse bilmiyor. Ancak açık olan şey, ikisinin yakından ilişkili olduğudur. Bu da yapay zeka alanında çalışan her geliştirici, tasarımcı ve mimarın bu modellerin geleceğini düşünmesi gerektiği anlamına geliyor.

Yüksek Lisans’lar için ortaya çıkabilecek olası bir model: Özellik ve kullanım kolaylığı düzeylerinde giderek daha fazla rekabet etmeleri. Zamanla, teknoloji dünyasının başka yerlerinde gördüğümüze benzer şekilde, bir miktar metalaşmanın başladığını görebiliriz. Veritabanlarını ve bulut hizmet sağlayıcılarını düşünün. Piyasadaki çeşitli seçenekler arasında önemli farklılıklar olsa da ve bazı geliştiricilerin net tercihleri ​​olsa da çoğu, bunların genel olarak birbirinin yerine geçebileceğini düşünüyor. Hangisinin en güçlü ve yetenekli olduğu konusunda net ve mutlak bir “kazanan” yoktur.

Cai GoGwilt, kurucu ortağı ve baş mimarıdır. Demir kaplı.