Flow Computing adlı Finlandiyalı bir girişim, silikon mühendisliğinde şimdiye kadar duyulan en çılgın iddialardan birini ortaya koyuyor: Tescilli yardımcı çipini ekleyerek herhangi bir CPU, yazılım ayarlamalarıyla performansını anında ikiye katlayabilir, 100 kata kadar artırabilir.
Eğer işe yararsa, sektörün yapay zeka üreticilerinin doyumsuz bilgi işlem talebine ayak uydurmasına yardımcı olabilir.
Flow, biraz ulusal bir laboratuvara benzeyen, Finlandiya devlet destekli bir araştırma kuruluşu olan VTT’nin bir yan kuruluşudur. Ticarileştirdiği ve Paralel İşlem Birimi olarak adlandırdığı çip teknolojisi, bu laboratuvarda yapılan araştırmaların sonucudur (VTT bir yatırımcı olmasına rağmen, IP Flow’a aittir).
Flow’un ilk itiraf ettiği iddia, görünüşte gülünç. CPU’lardan mimariler ve kod tabanları genelinde sihirli bir şekilde ekstra performans elde edemezsiniz. Eğer öyleyse, Intel, AMD ya da her kim bunu yıllar önce yapardı.
Ancak Flow öyle bir şey üzerinde çalışıyor ki sahip olmak teorik olarak mümkündü; ancak kimse bunu başaramadı.
Merkezi İşlem Birimleri, vakum tüplerinin ve delikli kartların ilk günlerinden bu yana uzun bir yol kat etti, ancak bazı temel yönlerden hala aynılar. Birincil sınırlamaları, paralel işlemciler yerine seri işlemciler olarak aynı anda yalnızca tek bir şeyi yapabilmeleridir. Elbette, bu şeyi birden fazla çekirdek ve yol boyunca saniyede milyarlarca kez değiştiriyorlar – ancak bunların hepsi CPU’nun tek hatlı yapısına uyum sağlamanın yolları. (Buna karşılık GPU, birçok ilgili hesaplamayı aynı anda yapar ancak belirli işlemlerde uzmanlaşmıştır.)
Flow kurucu ortağı ve CEO’su Timo Valtonen, “CPU, bilgi işlemdeki en zayıf halkadır” dedi. “Bu onun görevine bağlı değil ve bunun değişmesi gerekecek.”
CPU’lar çok hızlı hale geldi, ancak nanosaniye düzeyinde yanıt verme yeteneğinde bile, bir görevin bir sonraki başlamadan önce tamamlanması gereken temel sınırlama nedeniyle talimatların nasıl yürütüldüğü konusunda muazzam miktarda israf var. (Burada basitleştiriyorum, çip mühendisi değilim.)
Flow’un yaptığını iddia ettiği şey, bu sınırlamayı ortadan kaldırarak CPU’yu tek şeritli bir caddeden çok şeritli bir otoyola dönüştürmektir. CPU hâlâ tek seferde tek bir görevi yapmakla sınırlıdır, ancak Flow’un PPU’su, kendi deyimiyle, görevleri daha önce mümkün olandan daha hızlı bir şekilde işlemcinin içine ve dışına taşımak için aslında nanosaniye ölçeğinde trafik yönetimini kalıp üzerinde gerçekleştirir.
CPU’yu mutfakta çalışan bir şef olarak düşünün. Şef ancak bu kadar hızlı çalışabilir, peki ya bu kişinin, şefin ellerine bıçakları ve aletleri alıp veren, hazırlanan yiyecekleri temizleyen ve yeni malzemeler koyan, gerçek şef işi olmayan tüm görevleri ortadan kaldıran insanüstü bir asistanı olsaydı? Şefin hâlâ yalnızca iki eli var ama artık şef on kat daha hızlı çalışabiliyor.
Bu mükemmel bir benzetme değil, ancak en azından Flow’un sektörle yaptığı dahili testlere ve demolara göre (ve herkesle konuşuyorlar) size burada olup bitenler hakkında bir fikir veriyor. PPU saat frekansını artırmaz veya sistemi ekstra ısı veya güce yol açacak şekilde zorlamaz; başka bir deyişle şeften iki kat daha hızlı doğraması istenmiyor. Halihazırda gerçekleşmekte olan CPU döngülerini daha verimli kullanır.
Valtonen, bu tür şeylerin yepyeni olmadığını söylüyor. “Bu konu üst düzey akademik çevrelerde incelendi ve tartışıldı. Zaten paralelleştirme yapabilirsiniz ancak bu eski kodu bozar ve işe yaramaz.”
Yani yapılabilir. Dünyadaki tüm kodları sıfırdan yeniden yazmadan bu yapılamazdı, bu da onu başlangıç dışı kılıyor. Benzer bir sorun, sistemin geri kalanıyla veri şeffaflığını korurken yüksek düzeyde bellek sıkıştırması elde eden başka bir İskandinav bilgi işlem şirketi ZeroPoint tarafından da çözüldü.
Başka bir deyişle Flow’un büyük başarısı, yüksek hızlı trafik yönetimi değil, bunu test ettiği herhangi bir CPU veya mimarideki herhangi bir kodu değiştirmek zorunda kalmadan yapmasıdır. PPU’yu kalıpla entegre etmenin ötesinde herhangi bir değişiklik yapılmadan herhangi bir çip üzerinde rastgele kodun iki kat daha hızlı yürütülebileceğini söylemek biraz mantıksız geliyor.
Flow’un bir işletme olarak başarısının önündeki temel zorluk burada yatmaktadır: Bir yazılım ürününden farklı olarak Flow’un teknolojisinin çip tasarımı düzeyinde dahil edilmesi gerekir, bu da geriye dönük olarak çalışmadığı anlamına gelir ve PPU’lu ilk çip mutlaka oldukça farklı bir yol olacaktır. yolun aşağısı. Flow, teknolojinin FPGA tabanlı test kurulumlarında çalıştığını ancak çip üreticilerinin söz konusu kazanımları görmek için oldukça fazla kaynak ayırması gerektiğini gösterdi.
Bu kazanımların boyutu ve CPU iyileştirmelerinin son birkaç yılda yinelenen ve kesirli olduğu gerçeği, çip üreticilerinin Flow’un kapısını acilen çalmasına neden olabilir. Tek bir düzen değişikliğiyle bir nesildeki performansınızı gerçekten iki katına çıkarabilirseniz, bu hiç düşünmeden yapılır.
Daha fazla performans kazanımı, PPU-CPU kombinasyonuyla daha iyi çalışacak şekilde yazılımın yeniden düzenlenmesi ve yeniden derlenmesiyle elde edilir. Flow, teknolojisinden yararlanmak için değiştirilen (tamamen yeniden yazılması gerekmese de) kodlarda 100 kata kadar artış görüldüğünü söylüyor. Şirket, Flow özellikli çipler için optimizasyon yapmak isteyen yazılım üreticileri için bu görevi kolaylaştırmak amacıyla yeniden derleme araçları sunmaya çalışıyor.
Flow’un teknolojisi hakkında bilgi alan ve bu konularda dışarıdan bir bakış açısı olarak anılan Tirias Research’ten analist Kevin Krewell, temellerden çok endüstrinin alımı konusunda endişeliydi.
Oldukça haklı olarak yapay zeka hızlandırmanın şu anda en büyük pazar olduğunu ve Nvidia’nın popüler H100’ü gibi özel silikonlarla hedeflenebilecek bir şey olduğunu belirtti. PPU ile hızlandırılmış bir CPU her alanda kazanımlara yol açsa da yonga üreticileri durumu çok fazla zorlamak istemeyebilir. Ve bu şirketlerin büyük ölçüde kanıtlanmamış bir teknolojiye önemli miktarda kaynak yatırmaya istekli olup olmadıkları sorusu var, oysa bu seçimden dolayı altüst olacak beş yıllık bir planları var.
Flow’un teknolojisi, her çip üreticisi için olmazsa olmaz bir bileşen haline gelerek onu servete ve şöhrete mi taşıyacak? Yoksa az para harcayan çip üreticileri aynı yolda kalmaya ve sürekli büyüyen bilgi işlem pazarından rant elde etmeye devam mı edecek? Muhtemelen ikisinin arasında bir yerde; ancak Flow burada da tüm startuplar gibi büyük bir mühendislik başarısı yakalamış olsa bile şirketin geleceğinin müşterilerine bağlı olduğunu gösteriyor.
Flow, FOV Ventures, Sarsia, Stephen Industries, Superhero Capital ve Business Finland’ın katılımıyla Butterfly Ventures liderliğindeki 4 milyon Euro’luk (yaklaşık 4,3 milyon $) tohum öncesi finansmanla şimdi gizlilikten çıkıyor.
Kaynak: https://techcrunch.com/2024/06/11/flow-claims-it-can-100x-any-cpus-power-with-its-companion-chip-and-some-elbow-grease/