Yapay zeka destekli sistemleri, hem eğitilirken hem de çalışırken büyük miktarda enerji tüketiyor. Son yapılan çalışmalarda büyük dil modellerinin enerji kullanımı ve karbon ayak izi incelendi. Bu modellerden biri olan ChatGPT‘nin geliştirilirken 10 bin NVIDIA GPU üzerinde çalıştığı ve yılda 1.287 megawatt saat elektrik tükettiği belirtildi.
Teknolojik gelişmelerle birlikte yapay zeka alanında yaşanan birçok gelişme oluyor. Son aylarda yapay zeka sistemleri büyük bir gelişim gösterdi. Ancak bu gelişim ile birlikte enerji tüketimleri de artmaya başladı. Enerji tüketimlerinin nasıl dengeleneceği gibi önemli bir konu üzerinde yapılan çalışmalarda bu oranda artmaya başladı.
Yapay zeka araçlarına güç sağlamak için gereken enerjinin, bazı küçük ülkelerin toplam enerji taleplerini aşabileceğini belirten yazar Alex de Vries‘in Joule dergisindeki bir yazısına göre, Google’ın 2021’deki toplam elektrik tüketiminin yüzde 10-15’ini yapay zeka oluşturuyordu. Bu durum, gelecekte yapay zeka sistemlerinin daha fazla enerji tüketebileceğini işaret ediyor.
Interesting Engineering’in haberine göre OpenAI’ın 2022’nin sonlarında tanıttığı ChatGPT ile birlikte yapay zeka çiplerine olan talep arttı. Yapay zeka çip üreticisi NVIDIA, Temmuz 2023’te sona eren çeyrekte 16 milyar dolarlık rekor bir gelir açıklaması yaparak bu talebin ne kadar büyük olduğunu gösterdi. Ayrıca, Google ve Amazon gibi şirketler kendi yapay zeka çiplerini geliştirirken, Microsoft’un şirket içi çip donanımını tanıtma planları da ortaya çıktı.
Bu gelişmeler, yapay zeka endüstrisinin enerji ayak izinde önemli bir artışa neden olabilir. SemiAnalysis‘e göre, ChatGPT benzeri bir sohbet botunun her Google aramasına entegre edilmesi için 512.820 adet NVIDIA A100 HGX sunucusuna, yani 4 milyondan fazla GPU’ya ihtiyaç duyulacağı tahmin ediliyor. Bu da günlük 80 GWh ve yıllık 29,2 TWh’lik bir elektrik tüketimine eşdeğer.
Yazar, yapay zeka araçlarının eğitim ve çıkarım aşamalarına dikkat çekiyor. Eğitim aşamasının yoğun enerji tüketimiyle bilinen yapay zeka modellerinin, çıkarım aşamasında da yüksek enerji taleplerine ihtiyaç duyabileceğine vurgu yapıyor. Örneğin, OpenAI’nin ChatGPT’yi desteklemek için toplam 28.936 GPU’ya sahip 3.617 NVIDIA HGX A100 sunucusuna ihtiyaç duyuyor.
Yazar, donanım ve yazılım verimliliğindeki gelişmelerin yapay zeka ile ilgili elektrik tüketimindeki uzun vadeli değişiklikleri tamamen telafi etmeye yetmeyeceğini belirtiyor. Ancak, MIT araştırmacıları tarafından yapılan çalışmaların, yapay zeka modellerinin güç tüketimini yüzde12-15 oranında azaltmayı başardığını söyleyerek umut vadediyor.
