Meta’nın AI stratejisinin içinde: Zuckerberg bilgi işlem, açık kaynak ve eğitim verilerini vurguluyor

Bu haftaki Büyük Teknoloji kazanç çağrılarının tümü, her şirketin yapay zeka çabalarına ilişkin bilgiler sundu. Google odaklanmış arama ve bulut alanındaki üretken yapay zeka çabaları hakkında; Microsoft kazılmış yapay zekayı teknoloji yığınına entegre etme hakkında ayrıntılı bilgi; ve Amazon konuştu cips, Bedrock ve evet, Rufus — yapay zeka destekli yeni bir alışveriş asistanı. Ancak bence Meta, yapay zeka stratejisine en derinlemesine dalışı sunma konusunda hepsini geride bıraktı.

Açık kaynaklı yapay zekaya sürekli odaklanması ve Facebook ve Instagram’daki herkese açık gönderiler ve yorumlardan elde edilen devasa, sürekli büyüyen yapay zeka eğitim verileri sayesinde Meta Yapay Zeka başucu kitabı birçok açıdan benzersizdir.

Yani ilginçti ki Meta’nın dün 2023 4. çeyrek kazanç açıklaması, CEO Mark Zuckerberg ilk olarak yapay zeka gelişiminin en rekabetçi alanlarından biri olan Compute’daki rahat konumunu duyurdu.

Zuckerberg, Meta’nın en popüler ve en gelişmiş yapay zeka ürün ve hizmetlerini geliştirmede lider olma konusunda uzun vadeli açık bir taktik kitabına sahip olduğunu ve bunun yanı sıra çabanın gerektireceğini ifade ettiği “tam genel zekayı” oluşturduğunu söyledi. Bunun ilk önemli yönünün “birinci sınıf bilgi işlem altyapısı” olduğunu söyledi.

Zuckerberg tekrarlamaya devam etti yakın zamanda açıkladığı şey yakın zamanda yayınlanan bir Instagram Reel’inde: Bu yılın sonuna kadar Meta’nın yaklaşık 350 bin H100’e sahip olacağı – diğer GPU’lar da dahil olmak üzere toplamın yaklaşık 600 bin H100 eşdeğeri hesaplama olacağı. Meta’nın tüm bunlara sahip olmasının nedeni nedir? Sürpriz, sürpriz — Instagram Reels.

“Reels’ten öğrendiğimiz dersler sayesinde artık iyi bir konumdayız” diye açıkladı. “Başlangıçta Reels için GPU kümelerimizi yeterince inşa etmedik ve bunu yaparken, hem Reels’i hem de ortaya çıkmasını beklediğimiz başka bir Reels boyutlu AI hizmetini desteklemek için yeterli kapasite oluşturmamız gerektiğine karar verdim, böylece zor durumda kalmayacağız. yine bu durum.”

Meta “kazanmak için oynuyor” diyen Zuckerberg, gelecekteki modellerin eğitiminin ve çalıştırılmasının daha da yoğun bilgi işlem gerektireceğine dikkat çekti.

“Bunun tam olarak ne kadar olacağına dair henüz net bir beklentimiz yok, ancak trend, son teknolojiye sahip büyük dil modellerinin her yıl kabaca 10 kat daha fazla bilgi işlem miktarıyla eğitilmesi yönünde” dedi. . “Eğitim kümelerimiz genel altyapımızın yalnızca bir parçası ve geri kalanının o kadar hızlı büyümeyeceği açık.” Şirketin bu alanda agresif bir şekilde yatırım yapmaya devam etmeyi planladığını şöyle açıkladı: “En gelişmiş kümeleri oluşturmak için aynı zamanda yeni veri merkezleri tasarlıyoruz ve iş yükümüze göre özelleştirilmiş kendi özel silikonumuzu tasarlıyoruz.”

Açık kaynak yapay zeka stratejisi ön planda ve merkezdeydi

Daha sonra Zuckerberg, Meta’nın asla tereddüt etmeyen açık kaynak stratejisine odaklandı; her ne kadar Meta geçtiğimiz yıl boyunca yasa koyucular ve düzenleyiciler tarafından bu konuda eleştirilmiş ve hatta cezalandırılmış olsa da; Lama’nın ilk versiyonubunun yalnızca araştırmacıların kullanımına açık olması gerekiyordu.

“Uzun süredir devam eden stratejimiz, belirli ürün uygulamalarımızı tescilli tutarken, kaynak genel altyapıyı oluşturmak ve açık hale getirmek oldu” dedi. “Yapay zeka söz konusu olduğunda genel altyapı, şu anda eğitim aşamasında olan ve şu ana kadar harika görünen Llama 3 dahil olmak üzere Llama modellerimizi ve geliştirdiğimiz PyTorch gibi endüstri standardı araçları içeriyor. Açık kaynağa yönelik bu yaklaşım, sektörde pek çok yeniliğin önünü açtı ve bu bizim de derinden inandığımız bir şey.”

Zuckerberg ayrıca Meta’nın işine yönelik açık kaynak yaklaşımı hakkında önemli ayrıntılar verdi ve bu ifadeler halihazırda sosyal medyada geniş çapta paylaşıldı:

“Birçok stratejik fayda var. Birincisi, açık kaynaklı yazılımlar genellikle daha güvenli ve güvenlidir, ayrıca topluluktan gelen sürekli geri bildirim, inceleme ve geliştirme nedeniyle işletimi daha verimlidir. Bu çok önemli çünkü güvenlik yapay zekadaki en önemli konulardan biri. Verimlilik iyileştirmeleri ve bilgi işlem maliyetlerinin düşürülmesi de biz dahil herkese fayda sağlar. İkincisi, açık kaynak yazılım çoğu zaman bir endüstri standardı haline gelir ve şirketler bizim sistemimizi kullanarak geliştirme konusunda standart hale geldiğinde, yeni yenilikleri ürünlerimize entegre etmek daha kolay hale gelir.

Bu inceliktir, ancak hızlı bir şekilde öğrenme ve gelişme yeteneği büyük bir avantajdır ve bir endüstri standardı olmak bunu mümkün kılar. Üçüncüsü, açık kaynak geliştiriciler ve araştırmacılar arasında oldukça popülerdir. İnsanların geniş çapta benimsenecek açık sistemler üzerinde çalışmak istediklerini biliyoruz, dolayısıyla bu, Meta’ya en iyi kişileri almamıza yardımcı oluyor; bu da herhangi bir yeni teknoloji alanında liderlik yapmak için çok önemli. Ve yine, genellikle benzersiz verilere sahibiz ve yine de benzersiz ürün entegrasyonları oluşturuyoruz; bu nedenle, Llama gibi altyapıyı açık kaynak olarak sağlamak, ana avantajlarımızı azaltmaz. Bu nedenle uzun süredir devam eden stratejimiz açık kaynaklı genel altyapı oldu ve bunun ileriye dönük olarak bizim için doğru yaklaşım olmaya devam etmesini bekliyorum.”

Son olarak Zuckerberg’in, ürünlerinde Meta’nın “benzersiz veri ve geri bildirim döngülerini” vurgulaması beni büyüledi.

Modelleri önceden eğiten devasa külliyat söz konusu olduğunda Zuckerberg, Facebook ve Instagram’da “yüz milyarlarca herkese açık olarak paylaşılan görsel ve on milyarlarca herkese açık video bulunduğunu ve bunların Common Crawl veri kümesinden ve insanlardan daha büyük olduğunu tahmin ettiğimizi” belirtti. Hizmetlerimizdeki yorumlarda da çok sayıda herkese açık metin gönderisini paylaşın.”

Ortak Tarama veri kümesi 2008’den bu yana düzenli olarak toplanan petabaytlarca web verisini içerir – ham web sayfası verileri, meta veri özetleri ve metin alıntıları. Çok büyük. Dolayısıyla Meta’nın potansiyel olarak daha da büyük olan kendi büyük topluluğuna erişebilmesi fikri kelimenin tam anlamıyla büyük.

Ancak Zuckerberg daha da ileri gitti: “Ön eğitim külliyatından bile daha önemli olan, ürünlerimiz genelinde yapay zeka hizmetleriyle etkileşime giren yüz milyonlarca insanla doğru geri bildirim döngüleri oluşturma yeteneğidir. Ve bu geri bildirim, özellikle son birkaç yıldır sistemimizi yeni kurallar etrafında yeniden tasarlamak zorunda kaldığımız dönemde, Reels ve reklamlarla yapay zeka sistemlerimizi bu kadar hızlı bir şekilde geliştirmemizin büyük bir parçası.”

Dün bir Bloomberg haberi, Meta’nın Lama modelinin başarısının, gerçek lamaların resmi olmayan maskot açık kaynaklı yapay zeka olaylarının sayısı.

Ancak Meta’nın kazanç raporu dikkate alınacak olursa, Meta’nın açıklamasına göre Meta, sevimli, tüylü bir devegilden çok daha ileri gitmeye istekli görünüyor; milyarlarca dolar daha ileri. sermaye harcaması ipuçları 2024 için son derece rekabetçi, her zamankinden daha hızlı bir yapay zeka yarışını kazanmak.