Chatgpt bir zamanlar varsayıldığı kadar güç aç olmayabilir

Openai’nin chatbot platformu olan Chatgpt, bir zamanlar varsayıldığı kadar güç aç olmayabilir. Ancak yeni bir araştırmaya göre, iştahı büyük ölçüde chatgpt’in nasıl kullanıldığına ve sorguları cevaplayan AI modellerine bağlı.

Kâr amacı gütmeyen bir AI araştırma enstitüsü olan Epoch AI tarafından yapılan yeni bir analiz, tipik bir ChatGPT sorgusunun ne kadar enerji tükettiğini hesaplamaya çalıştı. Yaygın olarak belirtilen bir stat, chatgpt’in tek bir soruyu cevaplamak için yaklaşık 3 saatlik güç veya Google aramasından 10 kat daha fazla güç gerektirmesidir.

Epoch bunun fazla tahmin olduğuna inanıyor.

Openai’nin chatgpt için en son varsayılan modelini kullanan GPT-4O, referans olarak, ortalama ChatGPT sorgusunun yaklaşık 0.3 watt saat tükettiğini buldu-birçok ev aleti daha az.

Analizi yapan Epoch veri analisti Joshua You, TechCrunch’a verdiği demeçte, “Enerji kullanımı, normal cihazları kullanmak veya evinizi ısıtmak veya evinizi soğutmaya ya da bir araba kullanmaya kıyasla çok önemli değil.

Yapay zekanın enerji kullanımı – ve genel olarak konuşması – AI şirketleri altyapı ayak izlerini hızla genişletmeye çalıştıkça tartışmalı tartışmalardır. Geçen hafta, 100’den fazla kuruluştan oluşan bir grup, yeni AI veri merkezlerinin doğal kaynakları tüketmemesini ve kamu hizmetlerini yenilenemez enerji kaynaklarına güvenmeye zorlamak için açık bir mektup yayınladı.

TechCrunch, analizinin eski eski araştırmalar olarak nitelendirdiği şeyden kaynaklandığını söylediniz. Örneğin, Openai’nin modellerini çalıştırmak için daha eski, daha az verimli çipler kullandığını varsaydığı 3 watt saatlik tahmine gelen raporun yazarının dikkat çektiğini belirttiniz.

“AI’nın önümüzdeki yıllarda çok fazla enerji tüketeceğini, ancak bugün AI’ya giden enerjiyi gerçekten doğru bir şekilde tanımlamadığını doğru bir şekilde kabul eden birçok kamu söylemi gördüm” dediniz. “Ayrıca, bazı meslektaşlarım, sorgu başına en çok bildirilen 3 saatlik tahminin oldukça eski araştırmalara dayandığını ve bazı peçete matematiğine dayanan çok yüksek göründüğünü fark ettiler.”

Verilen, Epoch’un 0.3 watt saatlik figürü de bir yaklaşımdır; Openai, kesin bir hesaplama yapmak için gereken ayrıntıları yayınlamamıştır.

Analiz ayrıca, görüntü oluşturma veya giriş işlemesi gibi chatgpt özelliklerinin katıldığı ek enerji maliyetlerini de dikkate almaz. “Uzun giriş” ChatGPT sorgularının – örneğin, uzun dosyalara sahip sorguların – muhtemelen tipik bir sorudan daha fazla elektrik tükettiğini kabul ettiniz.

Bununla birlikte, temel chatgpt güç tüketiminin artmasını beklediğini söylediniz.

“[The] AI daha gelişmiş olacak, bu yapay zeka eğitimi muhtemelen çok daha fazla enerji gerektirecek ve bu gelecek yapay zeka çok daha yoğun kullanılabilir – insanların bugün chatgpt nasıl kullandıklarından daha fazla görev ve daha karmaşık görevleri ele almak ”dedi.

Son aylarda AI verimliliğinde dikkate değer atılımlar olsa da, AI’nın konuşlandırıldığı ölçeğin muazzam, güce aç altyapı genişlemesini sürdürmesi bekleniyor. Bir RAND raporuna göre, önümüzdeki iki yıl içinde, AI veri merkezlerinin Kaliforniya’nın 2022 güç kapasitesinin (68 GW) neredeyse tamamına ihtiyacı olabilir. 2030 yılına kadar, bir sınır modelinin eğitimi, sekiz nükleer reaktöre (8 GW) eşdeğer güç çıkışını talep edebilir.

Tek başına chatgpt, muazzam ve genişleyen bir insan sayısına ulaşır ve sunucusunu benzer şekilde büyük bir talep eder. Openai, birkaç yatırım ortağı ile birlikte, önümüzdeki birkaç yıl içinde yeni AI veri merkezi projelerine milyarlarca dolar harcamayı planlıyor.

Openai’nin dikkati – AI endüstrisinin geri kalanıyla birlikte – genellikle başarabilecekleri, ancak çalıştırmak için daha fazla hesaplama gerektiren görevler açısından daha yetenekli olan akıl yürütme modellerine de değişiyor. Sorgulara neredeyse anında yanıt veren GPT-4O gibi modellerin aksine, akıl yürütme modelleri, daha fazla bilgi işlem ve dolayısıyla güç emen bir süreç olan cevaplamadan önce saniyeler ila dakika “düşünün”.

“Akıl yürütme modelleri, eski modellerin yapamayacağı görevleri giderek daha fazla alacak ve daha fazlasını üretecek [data] Bunu yapmak ve her ikisi de daha fazla veri merkezi gerektirir ”dediniz.

Openai, O3-Mini gibi daha fazla güç tasarrufu muhakeme modelleri yayınlamaya başladı. Ancak, en azından bu noktada, verimlilik kazanımlarının akıl yürütme modellerinin “düşünme” sürecinden ve dünya çapında artan kullanımdan artan güç taleplerini dengeleyeceği pek olası görünmüyor.

İnsanların ChatGPT gibi AI enerji ayak izi kullanım uygulamaları hakkında endişelenmelerini veya gerçekçi olduğu ölçüde gerekli hesaplamayı en aza indiren modelleri seçmelerini önerdiniz.

“Daha küçük AI modellerini kullanmayı deneyebilirsiniz. [OpenAI’s] GPT-4O-Mini, ”dediniz,“ ve onları bir ton veri işlenmesi veya üretmeyi gerektirecek şekilde kullanın. ”