Openai CEO’su Sam Altman, AI’nın faydalarının yaygın olarak dağıtılamayabileceğini kabul ediyor

Kişisel blogundaki yeni bir makalede, Openai CEO’su Sam Altman, şirketin “dünyadaki herkesin çok fazla yapay zeka kullanmasını sağlamak” ve diğer “garip ses” fikirlerinin yanı sıra bir “hesaplama bütçesine” açık olduğunu söyledi. Teknolojinin faydaları yaygın olarak dağıtılmaktadır.

“Teknolojik ilerlemenin tarihsel etkisi, önem verdiğimiz metriklerin çoğunun (sağlık sonuçları, ekonomik refah, vb.) Ortalama ve uzun vadede daha iyi olduğunu göstermektedir, ancak eşitlik teknolojik olarak belirlenmiş görünmüyor ve bu hakkı elde etmiyor Yeni fikirler gerektiriyor, ”diye yazdı Altman. “Özellikle, sermaye ve emek arasındaki güç dengesi kolayca dağılabilir gibi görünüyor ve bu erken müdahale gerektirebilir.”

Altman’ın “hesaplama bütçesi” konsepti gibi bu soruna çözümler, yürütmekten daha kolay önerilebilir. Zaten, AI işgücü piyasasını etkiliyor, bu da iş kesintileri ve departman küçültme ile sonuçlanıyor. Uzmanlar, kitlesel işsizliğin, doğru hükümet politikaları ve yeniden yapılanma ve yükseltme programlarının eşlik etmemesi durumunda AI teknolojisinin yükselişinin olası bir sonucu olduğu konusunda uyardı.

Altman ilk kez değil, yapay genel zekanın (AGI) – “[an AI] İnsan düzeyinde, birçok alanda giderek daha karmaşık sorunlarla başa çıkabilen sistem ”yakındır. Ne olursa olsun, bu AGI mükemmel olmayacak, Altman “çok fazla insan gözetimi ve yönü gerektirebileceği” anlamında uyarıyor

“[AGI systems] En büyük yeni fikirlere sahip olmayacak, ”diye yazdı Altman,“ Ve bazı şeylerde harika olacak ama diğerlerinde şaşırtıcı derecede kötü olacak. ”

Ancak AGI’nın gerçek değeri, bu sistemleri büyük bir ölçekte çalıştırmaktan geleceğini iddia etti. Openai rakibi Antropic’in CEO’su Dario Amodei’ye benzer şekilde Altman, “bilgi çalışmasının her alanında” görevle mücadele eden binlerce hatta milyonlarca hiper özellikli AI sistemi öngörüyor.

Kişi bunun farkına varmak pahalı bir vizyon olacağını varsayabiliriz. Gerçekten de Altman, AI performansında “keyfi miktarda para harcayabileceğinizi ve sürekli ve öngörülebilir kazançlar elde edebileceğinizi” gözlemledi. Bu yüzden Openai’nin bir finansman turunda 40 milyar dolara kadar yükselmek için görüşmelerde olduğu ve muazzam bir veri ağında ortaklarla 500 milyar dolara kadar harcama sözü verdiği bildiriliyor.

Yine de Altman, “belirli bir AI seviyesi” kullanma maliyetinin her 12 ayda bir yaklaşık 10 kat düştüğünü de ortaya koyuyor. Başka bir deyişle, AI teknolojisinin sınırını zorlamak daha ucuz hale gelmez, ancak kullanıcılar yol boyunca giderek daha yetenekli sistemlere erişecektir.

Çin AI Startup Deepseek ve diğerlerinden yetenekli, ucuz AI modelleri bu fikri destekliyor gibi görünüyor. Eğitim ve geliştirme maliyetlerinin de düştüğünü gösteren kanıtlar var, ancak hem Altman hem de Amodei, AGI seviyesi AI ve ötesine ulaşmak için büyük yatırımların gerekli olacağını savundu.

Openai’nin AGI seviyesi sistemlerini nasıl yayınlamayı planladığına gelince (aslında bunları yaratabileceğini varsayarak) Altman, şirketin muhtemelen “AGI güvenliği ile ilgili popüler olmayan bazı büyük kararlar ve sınırlamalar” alacağını söyledi. Openai bir keresinde bir keresinde rekabet etmeyi durdurmayı ve “değere uygun herhangi bir“ değere hizalanmış ”,“ güvenlik bilincine sahip ”proje, AGI inşa etmeye yaklaşan, güvenlik endişesi dışında yardımcı olacağını taahhüt etti.

Tabii ki, Openai’nin kar amacı gütmeyen bir kuruluş olmayı amaçladığı zamandı. Şirket, kurumsal yapısını daha geleneksel, kar odaklı bir kuruluşa dönüştürme sürecindedir. Openai’nin 2029 yılına kadar 100 milyar dolar gelir elde etmeyi hedeflediği ve Nestle’nin mevcut yıllık satışlarına eşit olduğu bildiriliyor.

Bu durumda Altman, Openai’nin daha güçlü bir AI inşa ettiği amacının “bireysel güçlendirmeye daha fazla eğilimi” olacağını ve “otoriter hükümetler tarafından kitlesel gözetim ve özerklik kaybı yoluyla nüfuslarını kontrol etmek için kullanılmasını” sağlayacak şekilde ekleyeceğini de sözlerine ekledi. Altman kısa süre önce, teknolojilerini açık kaynaklama söz konusu olduğunda Openai’nin tarihin yanlış tarafında olduğunu düşündüğünü söyledi. Openai geçmişte açık kaynaklı teknolojiye sahip olsa da, şirket genellikle tescilli, kapalı kaynaklı bir kalkınma yaklaşımını desteklemiştir.

“AI ekonominin ve toplumun tüm alanlarına sızacak; Her şeyin akıllı olmasını bekleyeceğiz, ”dedi Altman. “Birçoğumuz, insanlara açık kaynaklı daha fazlası da dahil olmak üzere, tarihsel olarak olduğumuzdan daha fazla kontrol sağlamayı ve güvenlik ve bireysel güçlendirme arasında değiş tokuş gerektirecek bir denge olduğunu kabul etmeyi umuyoruz.”

Altman’ın blog yazısı, bu haftaki Paris’teki AI Eylem Zirvesi’nden önce geliyor ve bu da diğer teknoloji notlarını AI’nın geleceği için kendi vizyonlarını özetlemeye itti.

Bir dipnotta Altman, Openai’nin aslında AGI terimini kullanarak yakın zamanda yakın ortak ve yatırımcı Microsoft ile ilişkisini sona erdirmeyi planlamadığını da sözlerine ekledi. Microsoft ve Openai’nin, 100 milyar dolar kâr elde edebilen AI sistemleri – AI sistemleri – bir kez karşılaştıktan sonra Openai’nin daha olumlu yatırım şartlarını müzakere etmesine izin verecek şekilde sözleşmeli bir tanıma sahip oldukları bildirildi. Ancak Altman, Openai’nin “tamamen beklediğini söyledi[s] Uzun vadede Microsoft ile ortak olmak. ”