Nvidia, 25 kat daha düşük maliyet ve enerji tüketimine sahip yeni nesil Blackwell GPU’larını tanıtıyor

Nvidia AI işleme görevlerinde 25 kat daha iyi enerji tüketimi ve daha düşük maliyetlere sahip yeni nesil Blackwell grafik işleme birimlerini (GPU’lar) tanıttı.

Nvidia GB200 Grace Blackwell Superchip (aynı pakette birden fazla yongadan oluştuğu anlamına gelir) olağanüstü performans kazanımları vaat ediyor ve LLM çıkarım iş yükleri için önceki yinelemelere kıyasla 30 kata kadar performans artışı sağlıyor.

Konuşmada Nvidia GTC 2024 Nvidia CEO’su Jensen Huang, açılış konuşmasında binlerce mühendisten oluşan bir kalabalığa Blackwell’i tanıttı ve bunun bilişimde dönüştürücü bir çağın habercisi olacağını söyledi. Oyun ürünlerinin daha sonra tanıtılması muhtemeldir.

Açılış konuşması sırasında Huang, elindeki prototiplerin 10 milyar dolar ve 5 milyar dolar değerinde olduğu konusunda şaka yaptı. Çipler Grace Blackwell sisteminin bir parçasıydı.

Huang, “Otuz yıldır, derin öğrenme ve yapay zeka gibi dönüştürücü atılımlara olanak sağlamak amacıyla hızlandırılmış bilgi işlemin peşindeyiz” dedi. “Üretken yapay zeka çağımızın belirleyici teknolojisidir. Blackwell GPU’lar bu yeni sanayi devrimine güç veren motordur. Dünyanın en dinamik şirketleriyle çalışarak her sektör için yapay zeka vaadini gerçekleştireceğiz.”

Gelişmelerin ayrıntılarıyla ilgili olarak Nvidia, Blackwell tabanlı bilgisayarların, her yerdeki kuruluşların trilyon parametreli büyük dil modelleri üzerinde önceki model Hopper’a göre 25 kat daha az maliyet ve enerji tüketimiyle gerçek zamanlı üretken yapay zeka oluşturup çalıştırmalarına olanak sağlayacağını söyledi. İşleme, 10 trilyona kadar parametreye sahip yapay zeka modellerine ölçeklendirilecek.

Bu sayılar önemlidir, çünkü Nvidia, çip tasarımcısının çıkarım yapması gibi alt uçtaki rekabetle karşı karşıyadır. Grok ve üst düzey CPU satıcıları gibi Beyinler – AMD ve Intel’den bahsetmiyorum bile. Groq, yapay zeka eğitiminin aksine, çıkarım yapmak için çiplere odaklanan, Mountain View, California merkezli bir rakiptir.

Adını Ulusal Bilimler Akademisi’ne alınan ilk Siyah akademisyen olan matematikçi David Harold Blackwell’den alan Blackwell platformu, Nvidia Hopper GPU mimarisinin yerini alarak hızlandırılmış hesaplamada yeni standartlar belirliyor.

Başlangıçta oyun grafiklerini hedefleyen GPU’lar, yapay zeka işlemenin arkasındaki ana motordur ve bu, Nvidia’nın 2,2 trilyon dolarlık bir piyasa değerine ulaşmasını sağlamıştır. CNBC’den Jim Cramer gibi isimlerin geek geçmişi olan Nvidia GTC’den canlı yayın yapmasının nedeni de bu.

Platform, veri işleme, mühendislik simülasyonu, elektronik tasarım otomasyonu, bilgisayar destekli ilaç tasarımı, kuantum hesaplama ve üretken yapay zeka dahil olmak üzere çeşitli sektörlerde çığır açan yeniliklerin kilidini açmaya hazır altı öncü teknoloji sunuyor.

Dünyanın en güçlü çipi

Huang, Blackwell’in dünyanın en güçlü çipi olacağını söyledi. 208 milyar transistöre sahip Blackwell mimarili GPU’lar, büyük miktarda işlem gücünü kolaylaştıran özel yapım, iki retikül limitli 4NP TSMC işlemi kullanılarak üretilir.

Blackwell ikinci nesil bir transformatör motoruna sahiptir. Yeni mikro tensör ölçeklendirme desteği ve gelişmiş dinamik aralık yönetimi algoritmalarıyla donatılan Transformer Engine, yenilikçi 4 bit kayan noktalı yapay zeka çıkarım yetenekleriyle bilgi işlem ve model boyutlarını iki katına çıkarır.

Nvidia ayrıca beşinci nesil NVLink ağ teknolojisini de tanıttı. Trilyonlarca parametreli yapay zeka modellerinin performansını artıran en yeni NVLink yinelemesi, GPU başına çığır açan çift yönlü aktarım sağlayarak kesintisiz yüksek hızlı iletişimi teşvik ediyor.

NVLink, GPU başına 1,8 TB/s çift yönlü aktarım hızı sunarak günümüzün en karmaşık LLM’leri için 576’ya kadar GPU arasında kesintisiz yüksek hızlı iletişim sağlar.

Ve bir RAS Motoru var. Güvenilirlik, kullanılabilirlik ve servis kolaylığı sağlayan Blackwell destekli GPU’lar, sistem çalışma süresini en üst düzeye çıkarmak ve işletme maliyetlerini en aza indirmek için özel motorları ve yapay zeka tabanlı önleyici bakım yeteneklerini entegre eder.

Aynı zamanda güvenli bir yapay zeka çözümüne de sahiptir. Gelişmiş gizli bilgi işlem yetenekleri, performanstan ödün vermeden yapay zeka modellerini ve müşteri verilerini korur ve gizliliğe duyarlı sektörlere hizmet verir.

En yeni formatlara yönelik destekle veritabanı sorgularını hızlandıran özel sıkıştırmayı açma motoru, veri analizini ve veri bilimi performansını geliştirerek veri işlemede devrim yaratıyor.

Bu süper çip, 1,4 exaflop yapay zeka performansı ve 30 TB hızlı belleğe sahip, raf ölçekli bir sistem olan NVIDIA GB200 NVL72’nin temel taşını oluşturuyor.

Amazon, Google, Meta, Microsoft ve OpenAI dahil olmak üzere büyük bulut sağlayıcıları, sunucu üreticileri ve önde gelen yapay zeka şirketlerinde yaygın bir şekilde benimsenmesi beklenen Blackwell platformu, endüstriler arasında bilgi işlemde devrim yaratmaya hazırlanıyor.

Blackwell, Nvidia için ortaya çıkan tüm endüstri fırsatları olan veri işleme, mühendislik simülasyonu, elektronik tasarım otomasyonu, bilgisayar destekli ilaç tasarımı, kuantum hesaplama ve üretken yapay zeka alanlarında bilgi işlem müşterilerini hedef alacak.

Nvidia GB200 Grace Blackwell Superchip, iki Nvidia B200 Tensor Core GPU’yu 900 GB/sn ultra düşük güçlü çipten çipe bağlantı üzerinden Nvidia Grace CPU’ya bağlar. GB200 Superchip, LLM çıkarım iş yükleri için Nvidia H100 Tensor Core GPU’ya kıyasla 30 kata kadar performans artışı sağlar ve maliyet ve enerji tüketimini 25 kata kadar azaltır.

GB200, en yoğun bilgi işlem yükleri için çok düğümlü, sıvı soğutmalı, raf ölçekli bir sistem olan Nvidia GB200 NVL72’nin önemli bir bileşenidir. Beşinci nesil NVLink ile birbirine bağlanan 72 Blackwell GPU ve 36 Grace CPU içeren 36 Grace Blackwell Süper Çipini birleştiriyor.

Ek olarak GB200 NVL72, hiper ölçekli yapay zeka bulutlarında bulut ağı hızlandırmayı, şekillendirilebilir depolamayı, sıfır güven güvenliğini ve GPU hesaplama esnekliğini etkinleştirmek için Nvidia BlueField-3 veri işleme birimlerini içerir. Platform, 1,4 exaflop yapay zeka performansı ve 30 TB hızlı belleğe sahip tek bir GPU görevi görüyor ve en yeni DGX SuperPOD için bir yapı taşı oluşturuyor.

Nvidia, dünyanın en güçlü x86 tabanlı üretken yapay zeka platformlarını desteklemek için sekiz B200 GPU’yu yüksek hızlı ara bağlantılar aracılığıyla birbirine bağlayan bir sunucu anakartı olan HGX B200’ü sunuyor. HGX B200, Nvidia Quantum-2 InfiniBand ve Spectrum-X Ethernet ağı aracılığıyla 400 Gb/s’ye kadar ağ oluşturma hızlarını destekler
platformlar.

GB200 ayrıca kurumsal geliştiricilere gelişmiş üretken yapay zeka modelleri oluşturmak ve dağıtmak için gereken altyapı ve yazılıma özel erişim sağlayan, önde gelen bulut hizmet sağlayıcılarıyla ortaklaşa tasarlanmış bir yapay zeka platformu olan Nvidia DGX Cloud’da da mevcut olacak. AWS, Google Cloud ve Oracle Cloud Infrastructure, bu yılın sonuna doğru yeni Nvidia Grace Blackwell tabanlı bulut sunucularını barındırmayı planlıyor.

Cisco, Dell Technologies, Hewlett Packard Enterprise, Lenovo ve Supermicro’nun, Aivres, ASRock Rack, ASUS, Eviden, Foxconn, Gigabyte, Inventec, Pegatron, QCT, Wistron, Wiwynn gibi Blackwell ürünlerini temel alan geniş bir sunucu yelpazesi sunması bekleniyor. ve ZT Sistemleri.