AI çip girişimi Groq, Nvidia’ya meydan okumak için 640 milyon dolar kazandı

Üretken AI modellerini geleneksel işlemcilerden daha hızlı çalıştırmak için çipler geliştiren bir girişim olan Groq, Pazartesi günü Blackrock liderliğindeki yeni bir finansman turunda 640 milyon dolar topladığını söyledi. Neuberger Berman, Type One Ventures, Cisco, KDDI ve Samsung Catalyst Fund da katıldı.

Groq’un toplamını 1 milyar doların üzerine çıkaran ve şirkete 2,8 milyar dolar değer kazandıran dilim, başlangıçta biraz daha düşük bir değerlemeyle (2,5 milyar dolar) 300 milyon dolar toplamayı planladığı bildirilen Groq için büyük bir kazanç. Bu, Groq’un Tiger Global Management ve D1 Capital Partners liderliğindeki bir turda 300 milyon dolar topladığı Nisan 2021’deki önceki değerlemesini (~1 milyar dolar) iki katından fazla artırdı.

Groq’un bugün yaptığı açıklamaya göre, meta baş yapay zeka bilimcisi Yann LeCun, Groq’un teknik danışmanı olarak görev yapacak ve Intel’in dökümhane işletmesinin eski başkanı ve HP’nin eski CIO’su Stuart Pann da baş işletme sorumlusu olarak girişime katılacak. LeCun’un atanması, Meta’nın kendi yapay zeka çiplerine yaptığı yatırımlar göz önüne alındığında biraz beklenmedik; ancak bu, hiç şüphesiz Groq’a kıyasıya bir alanda güçlü bir müttefik sağlıyor.

2016 yılında gizlilikten çıkan Groq, LPU (dil işleme birimi) çıkarım motoru adını verdiği şeyi yaratıyor. Şirket, LPU’larının mimari olarak OpenAI’nin ChatGPT ve GPT-4o’suna benzer mevcut üretken yapay zeka modellerini 10 kat daha hızlı ve onda bir enerjiyle çalıştırabileceğini iddia ediyor.

Groq CEO’su Jonathan Ross’un şöhret iddiası, Google’ın modelleri eğitmek ve çalıştırmak için kullanılan özel AI hızlandırıcı çipi olan tensör işleme biriminin (TPU) icat edilmesine yardımcı olmasıdır. Ross, yaklaşık on yıl önce Groq’u kurmak için Google’ın ana şirketi Alphabet’in X moonshot laboratuvarında girişimci ve eski mühendis olan Douglas Wightman ile birlikte çalıştı.

Groq, GroqCloud adında, Meta’nın Llama 3.1 ailesi, Google’ın Gemma, OpenAI’nin Whisper’ı ve Mistral’ın Mixtral’ı gibi “açık” modellerin yanı sıra müşterilerin çiplerini bulut örneklerinde kullanmalarına olanak tanıyan bir API sunan LPU destekli bir geliştirici platformu sağlar. (Groq ayrıca geçen yılın sonlarında başlattığı yapay zeka destekli sohbet robotları için bir oyun alanı olan GroqChat’e de ev sahipliği yapıyor.) Temmuz ayı itibarıyla GroqCloud’un 356.000’den fazla geliştiricisi vardı; Groq, turdan elde edilecek gelirin bir kısmının kapasiteyi ölçeklendirmek ve yeni modeller ve özellikler eklemek için kullanılacağını söylüyor.

Groq’un COO’su Stuart Pann, TechCrunch’a “Bu geliştiricilerin çoğu büyük şirketlerde çalışıyor” dedi. “Tahminlerimize göre Fortune 100’ün %75’inden fazlası temsil ediliyor.”

Üretken yapay zeka patlaması devam ederken, Groq, hem rakip yapay zeka yongası şirketlerinin hem de yapay zeka donanım sektörünün zorlu oyuncusu Nvidia’nın artan rekabetiyle karşı karşıya.

Nvidia, üretken yapay zeka modellerini eğitmek ve dağıtmak için kullanılan yapay zeka çipleri pazarının tahminen %70 ila %95’ini kontrol ediyor ve firma, hakimiyetini korumak için agresif adımlar atıyor.

Nvidia, geçmişte olduğu gibi iki yılda bir yerine her yıl yeni bir AI çip mimarisi yayınlamayı taahhüt etti. Ve bildirildiğine göre, yapay zeka donanımı da dahil olmak üzere bulut bilişim firmaları ve diğerleri için ısmarlama çipler tasarlamaya odaklanan yeni bir iş birimi kuruluyor.

Groq, Nvidia’nın ötesinde Amazon, Google ve Microsoft ile rekabet ediyor; bunların tümü buluttaki yapay zeka iş yükleri için özel çipler sunuyor veya yakında sunacak. Amazon’un Trainium, Inferentia ve Graviton işlemcileri AWS aracılığıyla edinilebilir; Google Cloud müşterileri yukarıda bahsedilen TPU’ları ve zamanla Google’ın Axion çipini kullanabilecek; ve Microsoft yakın zamanda Cobalt 100 CPU’su için Azure örneklerini önizleme olarak başlattı; Maia 100 AI Accelerator örnekleri ise önümüzdeki birkaç ay içinde kullanıma sunulacak.

Bazı analistlere göre Groq, önümüzdeki beş yıl içinde yıllık satışları 400 milyar dolara ulaşabilecek yapay zeka çip pazarında Arm, Intel, AMD ve giderek artan sayıda startup’ı rakip olarak görebilir. Üretken yapay zekaya yönelik kapasite talebini karşılamak için bulut satıcılarının artan sermaye harcamaları sayesinde özellikle Arm ve AMD’nin yapay zeka yongası işleri hızla gelişiyor.

D-Matrix geçen yılın sonlarında türünün ilk örneği olan çıkarım hesaplama platformu olarak nitelendirdiği platformu ticarileştirmek için 110 milyon dolar topladı. Haziran ayında Etched, günümüzün baskın üretken yapay zeka modeli mimarisi olan transformatörü hızlandırmak için özel olarak tasarlanmış bir işlemci için 120 milyon dolar ile gizlilikten çıktı. SoftBank’ın Masayoshi Son’unun Nvidia ile rekabet edebilecek bir çip girişimi için 100 milyar dolar toplamayı planladığı bildiriliyor. Ve OpenAI’nin bir AI çip yapımı girişimi başlatmak için yatırım firmalarıyla görüştüğü söyleniyor.

Groq, kendi nişini oluşturmak için şirketlere ve devlet desteğine yoğun yatırım yapıyor.

Mart ayında Groq, Groq Systems adında yeni bir iş birimi oluşturmak için çeşitli iş odaklı yapay zeka çözümleri sunan Palo Alto merkezli bir firma olan Definitive Intelligence’ı satın aldı. Groq Systems’in yetki alanı dahilinde, Groq çiplerini mevcut veri merkezlerine eklemek veya Groq işlemcilerini kullanarak yeni veri merkezleri inşa etmek isteyen ABD devlet kurumları ve egemen ülkeler de dahil olmak üzere kuruluşlara hizmet verilmektedir.

Daha yakın zamanda Groq, çözümlerini Carahsoft’un bayi ortakları aracılığıyla kamu sektörü müşterilerine satmak için bir devlet BT yüklenicisi olan Carahsoft ile ortaklık kurdu ve startup’ın on binlerce LPU’sunu Avrupa firması Earth Wind & Power’ın Norveç’ine kurmak için bir niyet mektubu var. veri merkezi.

Groq ayrıca Orta Doğu’daki gelecekteki veri merkezlerine LPU’lar kurmak için Suudi Arabistanlı danışmanlık firması Aramco Digital ile işbirliği yapıyor.

Mountain View, Kaliforniya merkezli Groq, aynı zamanda müşteri ilişkileri kurarken çipinin yeni nesline doğru ilerliyor. Geçtiğimiz Ağustos ayında şirket, Groq’un birinci nesil 13nm çiplerine göre performans ve verimlilik artışı sağlaması beklenen 4nm LPU’ların üretimi için Samsung’un dökümhane işletmesiyle sözleşme yapacağını duyurmuştu.

Groq, 2025’in ilk çeyreği sonuna kadar 108.000’den fazla LPU dağıtmayı planladığını söyledi.