Sektör lideri yapay zeka kapsamına ilişkin en son güncellemeler ve özel içerik için günlük ve haftalık bültenlerimize katılın. Daha fazla bilgi edin
GPU bulut şirketi Lambda müşterilere erişim sağlayacak Tek Tıklama Kümelerini resmi olarak başlatacak Nvidia H100 GPU’lar ve Kuantum 2 InfiniBand talep üzerine kümeler.
Nvidia, talep üzerine iki ila 64 düğüm sağlamak için Lambda ile çalıştı. Kümeler, özellikle GPU’ların 7/24 çalışmasına ihtiyaç duymadıkları durumlarda, şirketlerin yalnızca ihtiyaç duydukları bilgi işlem gücüne erişmelerine olanak tanır.
Lambda’nın kurucu ortaklarından biri ve gelirden sorumlu başkan yardımcısı Robert Brooks, VentureBeat’e hizmetin, ihtiyaç duydukları GPU gücünü yalnızca ihtiyaç duyduklarında artırmak için kendi modellerini geliştiren şirketler için işe yaradığını söyledi.
Brooks, “Eğitim, donanım ve yazılım açısından gerçekten hesaplama açısından bir mühendislik mücadelesidir” dedi. “Şu anda bir yapay zeka şirketi kurarsanız, büyük bir GPU kümesi elde etmek için çok para kazanmanız gerekir ve bunu başlatmaya başlamak bile zaman alır.”
Lambda, GPU sağlayıcılarıyla sunucuları kullanabilecekleri belirli bir süre almak için pazarlık yapmak gibi, GPU’ların kiralanmasıyla ilgili sorunların çoğuyla ilgilenir. Brooks, Lambda’nın donanımı, özellikle de büyük ölçekli araştırmalar için kullanılan InfiniBand işlemcileri, kiracı ve yeni model eğitim projelerine hazır hale getirmenin bir yolunu bulduğunu söyledi.
Çoğu şirket, önceden eğitilmiş kullanıma hazır yapay zeka modellerini kullanmayı ve bunları kendi verileri ve yönetişim politikalarıyla hassas şekilde ayarlamayı tercih ediyor. En büyük nedenlerden biri temel modellerin inşası ve eğitimi ile ilgili maliyettir. Nvidia GPU’ları çok pahalıve bazı şirketlerin GPU’larını barındırabilecek bir veri merkezine erişimi olmayabilir.
Yapay zeka ile çalışan daha küçük şirketler, modellerini eğitmek için gereken işlemcilere erişim sağlama umuduyla ya GPU alanı kiralıyor ya da bulut sağlayıcılarla çalışıyor. Sırasında AWS gibi bulut sağlayıcıları Ve Microsoft Azure teklifi Brooks, yalnızca AI modellerine değil, aynı zamanda Nvidia GPU’lara da erişim olduğunu, bu durumlarda odak noktasının eğitimden ziyade, AI modelinin aslında öğrenme yerine konuşlandırıldığı çıkarım olduğunu söyledi. GPU kümelerini kullanma sözleşmeleri genellikle bir yıl veya daha uzun sürer.
Brooks, Lambda’nın Tek Tıklama kümelerinin, modelleri yalnızca daha kısa bir süre için eğitmesi gereken ve birkaç aydan fazla kullanamayacakları GPU’lar için uzun vadeli sözleşmeler imzalayamayan şirketleri hedeflediğini söyledi.
Şirketler, Lambda kümesinde ihtiyaç duydukları sayıda düğümü en az iki hafta boyunca rezerve edebilirler. Fiyatlandırma bağlıdır düğüm sayısına ve ihtiyaç duyulan süreye bağlıdır.
Lambda, 2012 yılında kuruldu. Şubat ayında 320 milyon dolar topladıdeğerlemesini 1,5 milyar dolara çıkardı.
Kaynak: https://venturebeat.com/ai/nvidias-coveted-h100-gpus-will-be-available-on-demand-through-lambda/