Paylaş
Yapay zeka alanında, büyük bir soru ortaya çıkıyor: AI ne kadar elektrik tüketiyor?
Genel bilgi, yapay zekanın omurgası olan makine öğreniminin önemli enerji kaynakları gerektirdiğini kabul eder. Genellikle saatte megavatlar olarak ölçülür. Ancak, tam enerji maliyetini belirlemek zor bir görev olmaya devam ediyor, hatta teknoloji devleri bile kapsamlı veriler sağlayamıyor veya isteksizler.
Uzmanlar, mevcut tahminlerin, önde gelen şirketlerin (Meta, Microsoft ve OpenAI gibi) ilgili bilgileri açıklamaktan kaçınma eğilimi ve makine öğrenme modellerindeki büyük değişkenlik nedeniyle yapay zekanın enerji kullanımının yalnızca kısmi bir görünümünü sunduğuna dikkat çekiyorlar. Microsoft’tan Judy Priest gibi bazıları, enerji kullanımını ve karbon etkisini nicelendirmenin gerekliliğini kabul ederken, somut rakamlar hala belirsizliğini koruyor.
Yapay zekanın enerji tüketimi üzerine ışık tutan önemli bir nokta, bir modeli eğitmekle ve onu kullanıma almak arasındaki farktır. Özellikle eğitim, geleneksel veri merkezi faaliyetlerinin elektrik taleplerini önemli ölçüde aşan belirgin bir şekilde enerji yoğun bir süreç olarak ortaya çıkar. Örneğin, GPT-3 gibi büyük bir dil modelinin eğitimi, yaklaşık olarak 1,300 megavat-saat (MWh) elektrik tüketimi gerektiriyor ve bu, 130 orta Amerikan evinin yıllık enerji tüketimine eşdeğerdir. Bir saatlik Netflix içeriğini akışta izlemek ise sadece 0.8 kWh (0.0008 MWh) elektrik gerektirir. Dolayısıyla, yalnızca GPT-3’ün eğitim enerji harcamasını eşleştirmek için çarpıcı bir şekilde 1,625,000 saatlik içeriği izlemek gerekecektir.
Mevcut en gelişmiş yapay zeka sistemlerinin güncel enerji tüketimini tahmin etmek, ciddi bir zorluk teşkil ediyor. Yıllar içinde AI modellerinin sürekli olarak boyutlarının büyüdüğü göz önüne alındığında, enerji taleplerinin buna uygun şekilde artması olasılığı bulunmaktadır. Daha büyük modellerin verimli bir şekilde çalışması için doğal olarak daha fazla enerji gereklidir. Ancak, bununla birlikte, şirketlerin bu sistemlerin enerji verimliliğini artırmaya yönelik stratejiler uygulayabilecekleri bir dengeleyici faktör bulunmaktadır, bu da enerji maliyetlerinin yukarı yönlü seyrini hafifletebilir.
Fransız-Amerikan yapay zeka şirketi Hugging Face’de araştırmacı olarak çalışan Sasha Luccioni, güncel tahminlerin alınmasının zor olduğunu söylüyor. Yapay zeka teknolojileri para kazandıkça, şirketler bilgilerini saklamaya daha çok önem veriyorlar. Birkaç yıl önce, OpenAI gibi şirketler eğitim metodolojilerini açıkça paylaşıyorlardı, ne tür donanımlar kullandıklarını ve eğitim sürelerini anlatıyorlardı. Ama Luccioni’ye göre, son yapay zeka modelleri olan ChatGPT ve GPT-4 hakkında böyle bir şeffaflık yok.
Luccioni, “ChatGPT hakkında çok önemli bilgilerden yoksunuz, modelin boyutunu, içindeki parametre sayısını ve nasıl çalıştığını bilmiyoruz. Bu, bir arabada motorun altında neler olduğunu tahmin etmeye benzer; gerçekte ne olduğunu bilmiyoruz, belki altında üç rakun vardır” diyor.
Yapay zeka enerji tüketimi hakkında çok az şey bilinmesinin nedenlerini açıklarken, Sasha Luccioni, rekabetin yanı sıra şirketlerin eleştirilmekten kaçınmak için enerji kullanımı istatistiklerini açıklamak istememesinin de etkili olduğunu düşünüyor. Özellikle yapay zekanın enerji tüketimi ile kripto paraların enerji yoğunluğu arasında yapılan karşılaştırmalar, eleştiriye yol açıyor. Luccioni, “Her şeyin bedava olmadığını anlama konusunda artan bir farkındalık var” diyor.
Ancak, yapay zekanın enerji etkisini anlamak sadece eğitim aşamasıyla sınırlı değil; tüketici kullanımı için sistemin devreye alındığı çıkarım aşamasına kadar uzanır. Luccioni, Hugging Face ve Carnegie Mellon Üniversitesi’nden iş birlikçileriyle birlikte bu yönü inceledi ve çeşitli yapay zeka modellerinde çıkarım enerji tüketimine dair çığır açan tahminler içeren (hala hakem incelemesine tabi) bir makale yayınladı.
Çalışmaları, cevap vermekten görüntü oluşturmaya kadar farklı uygulamaları kapsayan 88 farklı modeli içeriyordu. Titiz testler aracılığıyla, görevleri 1.000 kez gerçekleştirme enerji maliyetini hesapladılar. Yazılı örnekleri sınıflandırmak veya metin üretmek gibi birçok görev için enerji tüketimi oldukça düşüktü, bu, bir saatlik Netflix akışı sırasında tüketilen enerjinin bir kısmına eşitti. Ancak, görüntü oluşturma modelleri ön plana çıktı ve anlamlı ölçüde daha fazla enerji tüketti, 1.000 çıkarımda ortalama olarak 2.907 kWh tüketti. Bu durumu perspektife koymak gerekirse, tek bir yapay zeka görüntüsü oluşturmak için gereken enerji, bir akıllı telefonu şarj etmek için gereken enerjiyle neredeyse eşdeğerdir.
Ancak, vurgu “olabilir” üzerindedir, çünkü bu rakamlar tüm kullanım durumlarına genelleme yapmaz. Luccioni ve meslektaşları, 64 x 64 piksel boyutunda küçük resimler üreten küçük modellerden 4K görüntüler oluşturan daha büyük modellere kadar on farklı sistem test ettiler ve bu da büyük bir değer yayılımına neden oldu. Araştırmacılar, farklı yapay zeka modellerini daha iyi karşılaştırabilmek için kullanılan donanımı standartlaştırdılar. Ancak, bu genellikle yazılım ve donanımın enerji verimliliği için optimize edildiği gerçek dünya uygulamalarını yansıtmaz.
“Kesinlikle bu, herkesin kullanım durumunu temsil etmiyor, ama en azından elimizde bazı rakamlar var,” diyor Luccioni. “Buradan başlayalım” diyerek bir işaret koymak istedim.”
“Jeneratif yapay zeka devrimi, bizim tamamen bilmediğimiz bir gezegen maliyetiyle geliyor.”
Çalışma, mutlak rakamlar olmasa da, yararlı göreceli veriler sunuyor. Örneğin, yapay zeka modellerinin çıktı üretmek için girdi sınıflandırmaktan daha fazla güce ihtiyaç duyduğunu gösteriyor. Ayrıca, görsellerle ilgili her şeyin metinden daha fazla enerji gerektirdiğini gösteriyor. Luccioni, bu verilerin koşullu doğasının sinir bozucu olabileceğini belirtiyor, ancak bunun başlı başına bir hikaye anlattığını söylüyor. “Jeneratif yapay zeka devrimi, tamamen bilmediğimiz bir gezegen maliyetiyle geliyor ve benim için yayılım özellikle belirleyici,” diyor. “Kısacası, sadece bilmiyoruz.”
Gezegen maliyetini daha iyi anlamak istiyorsak, başka yaklaşımlar da var. Model çıkarımına odaklanmak yerine, daha geniş bir perspektife mi bakmalıyız? Bitcoin’in enerji tüketimini nicelendirmedeki çalışmalarıyla tanınan VU Amsterdam’da doktora öğrencisi olan Alex de Vries, dikkatini yapay zeka sektörünün küresel enerji tüketimini tahmin etmeye çevirdi. Yapay zeka donanımının endüstri standardı olarak kabul edilen Nvidia GPU’larından faydalanarak, de Vries, yapay zeka alanındaki gelecekteki enerji taleplerini çıkarsamak için kritik enerji özellikleri ve satış projeksiyonları sağlayan Nvidia’dan büyük bir enerji artışı öngörüyor.
De Vries’in hesaplamalarına göre, 2027’ye gelindiğinde, yapay zeka sektörü yılda 85 ila 134 teravatsaat arasında bir enerji tüketimiyle şaşırtıcı rakama ulaşabilir. Yapay zeka elektrik tüketiminin 2027’ye gelindiğinde küresel elektrik tüketiminin yarım bir yüzdesini oluşturabileceğini belirtiyor.
Onun tahminleri, Uluslararası Enerji Ajansı (IEA) tarafından yapılan yakın tarihli bir raporla uyumludur. IEA, yapay zeka ve kripto para teknolojilerinin artan talepleri nedeniyle veri merkezlerinin elektrik tüketiminde önemli bir artış öngörüyor. IEA, 2022’de mevcut veri merkezi enerji tüketimini yaklaşık 460 teravatsaat olarak tahmin ediyor ve 2026’ya gelindiğinde bu rakamın 620 ila 1.050 teravatsaat arasında bir seviyeye çıkacağını öngörüyor, bu da sırasıyla İsveç veya Almanya gibi ülkelerin enerji taleplerine denk geliyor.
Ancak, de Vries bu rakamları yorumlarken dikkatli olunması gerektiğini vurguluyor. 2010 ile 2018 arasında veri merkezi enerji tüketimi nispeten istikrarlı kalmış olmasına rağmen, yapay zeka için bu eğilim farklı olabilir. Daha büyük modellerin ve artan veri girişlerinin sürekli takibi, verimliliğe yönelik kazanımların artan hesaplama talepleri tarafından aşılmasıyla ciddi bir tehdit oluşturabilir.
Bu endişeler ışığında, de Vries, çeşitli uygulamalarda yapay zekanın gerekliliğinin temel bir yeniden değerlendirilmesini savunuyor. Değerli kaynakların israf edilmesini önlemek için yapay zeka teknolojilerine inherent olan kısıtlamaların ele alınmasının önemini vurguluyor. Benzer şekilde, Sasha Luccioni, yapay zeka modelleri için enerji yıldızı derecelendirmelerinin tanıtılmasını önererek, tüketicilerin enerji verimliliği konusunda bilinçli kararlar almasını sağlamayı amaçlıyor.
Microsoft gibi bazı şirketler, yapay zekayı sürdürülebilirlik çözümlerini ilerletmek için bir araç olarak öne sürerken, endüstri genelindeki enerji taleplerinin azaltılması sorumluluğu bireysel kurumsal girişimlerden öteye uzanıyor. Dünya yapay zekanın artan enerji tüketiminin sonuçlarıyla mücadele ederken, sürdürülebilir bir gelecek sağlamak için acil eylem ve yenilikçi stratejiler hayati öneme sahiptir.
Sonraki Yazı
Ne düşünüyorsunuz?
Fikrini bilmek güzel. Yorum bırakın.