Araştırmacılar tarafından yapılan çalışmalarda yapay zeka modellerinin yakın devirde neredeyse ülkeler kadar güç tüketeceği ortaya çıktı.
Yapay zeka dayanaklı sistemleri, hem eğitilirken hem de çalışırken büyük ölçüde güç tüketiyor. Son yapılan çalışmalarda büyük lisan modellerinin güç kullanımı ve karbon ayak izi incelendi. Bu modellerden biri olan ChatGPT‘nin geliştirilirken 10 bin NVIDIA GPU üzerinde çalıştığı ve yılda 1.287 megawatt saat elektrik tükettiği belirtildi.
Teknolojik gelişmelerle birlikte yapay zeka alanında yaşanan birçok gelişme oluyor. Son aylarda yapay zeka sistemleri büyük bir gelişim gösterdi. Lakin bu gelişim ile birlikte güç tüketimleri de artmaya başladı. Güç tüketimlerinin nasıl dengeleneceği üzere değerli bir mevzu üzerinde yapılan çalışmalarda bu oranda artmaya başladı.
Yapay zeka araçlarına güç sağlamak için gereken gücün, birtakım küçük ülkelerin toplam güç taleplerini aşabileceğini belirten müellif Alex de Vries‘in Joule mecmuasındaki bir yazısına nazaran, Google’ın 2021’deki toplam elektrik tüketiminin yüzde 10-15’ini yapay zeka oluşturuyordu. Bu durum, gelecekte yapay zeka sistemlerinin daha fazla güç tüketebileceğini işaret ediyor.
Interesting Engineering’in haberine nazaran OpenAI’ın 2022’nin sonlarında tanıttığı ChatGPT ile birlikte yapay zeka çiplerine olan talep arttı. Yapay zeka çip üreticisi NVIDIA, Temmuz 2023’te sona eren çeyrekte 16 milyar dolarlık rekor bir gelir açıklaması yaparak bu talebin ne kadar büyük olduğunu gösterdi. Ayrıyeten, Google ve Amazon üzere şirketler kendi yapay zeka çiplerini geliştirirken, Microsoft’un şirket içi çip donanımını tanıtma planları da ortaya çıktı.
Bu gelişmeler, yapay zeka sanayisinin güç ayak izinde kıymetli bir artışa neden olabilir. SemiAnalysis‘e nazaran, ChatGPT gibisi bir sohbet botunun her Google aramasına entegre edilmesi için 512.820 adet NVIDIA A100 HGX sunucusuna, yani 4 milyondan fazla GPU’ya muhtaçlık duyulacağı varsayım ediliyor. Bu da günlük 80 GWh ve yıllık 29,2 TWh’lik bir elektrik tüketimine muadil.
Yazar, yapay zeka araçlarının eğitim ve çıkarım evrelerine dikkat çekiyor. Eğitim evresinin ağır güç tüketimiyle bilinen yapay zeka modellerinin, çıkarım evresinde da yüksek güç taleplerine muhtaçlık duyabileceğine vurgu yapıyor. Örneğin, OpenAI’nin ChatGPT’yi desteklemek için toplam 28.936 GPU’ya sahip 3.617 NVIDIA HGX A100 sunucusuna gereksinim duyuyor.
Yazar, donanım ve yazılım verimliliğindeki gelişmelerin yapay zeka ile ilgili elektrik tüketimindeki uzun vadeli değişiklikleri büsbütün telafi etmeye yetmeyeceğini belirtiyor. Fakat, MIT araştırmacıları tarafından yapılan çalışmaların, yapay zeka modellerinin güç tüketimini yüzde12-15 oranında azaltmayı başardığını söyleyerek umut vadediyor.
