AI算力正夯，科技巨頭如何突破資料中心耗電的困境？

常見資料中心有哪些？

資料中心（Data Center）是存放電腦系統、相關硬體設備，儲存公司任何數位資料的實體設施，包含 IT 系統所需的運算基礎設施（如伺服器、資料儲存硬碟和網路設備）。

資料中心有多種類型：託管資料中心、企業資料中心、雲端資料中心、超大規模資料中心和邊緣資料中心……等。這邊舉三種常見的類型介紹：

企業資料中心：通常由企業自建或外包給專業服務商運營，用於存儲和管理企業內部的數據和應用程序。規模較小，主要服務於企業自身IT需求，獨立性相對較強。

雲端資料中心：提供雲端計算和儲存服務的分散式資料中心，通常委由第三方如大型網絡公司或提供雲端服務的廠商運營，無須親自管理設施。規模較大，可以同時滿足多家客戶的需求，並提供高可靠性和高性能的服務。

超大規模資料中心：專門為全球組織和個人提供大量的運算能力和儲存容量，可滿足數百萬至數十億使用者的各種需求，擁有處理和儲存大量資料的能力，並支援雲端運算、大數據分析、人工智慧和物聯網等關鍵技術。

人工智慧需求水漲船高，近幾年企業紛紛投入AI資料中心，科技巨頭如微軟、Google等公司建置的雲端資料中心與超大規模資料中心，不僅提供公司內部使用，更提供租借服務，讓租借AI算力成為新商機。

AI算力需求暴增，科技巨頭減碳成果倒退一大步

隨著AI技術快速發展，能耗的需求也不斷增加。美國電力研究院（Electric Power Research Institute, EPRI）的報告顯示，透過聊天機器人ChatGPT查詢資料的耗能程度，比直接使用Google搜尋資料要高出10倍。

AI資料中心運作過程需消耗大量電力，也需要使用強大的散熱系統來確保運行穩定。以正在擴建中的特斯拉德州超級工廠為例，建成後將成為全球最大的 AI 訓練基礎設施，該資料中心及冷卻設施的用電量今年將達到130MW的規模，並將持續增加到 500MW。

根據智庫洛磯山研究所（Rocky Mountain Institute, RMI）的預估，到2030年，美國資料中心的電力需求將比2022年成長一倍，達到35GW，相當於近三分之一（4000萬）美國家庭的用電量，這也使得承諾100%使用綠電的亞馬遜、微軟、Google及Meta都面臨碳排量上升的壓力，Google更在今年宣布放棄不再維持17年以來的營運碳中和承諾。

資料中心也要綠色轉型 穩定運作仰賴潔淨能源、強韌電網

資料中心是用電密度十分高的產業，避免與企業、民生「搶電」至關重要。

AI 工作負載的能耗非常不穩定，因每 15 分鐘或每 30 分鐘，就須停止工作以保存進度，進行「檢查點」作業（checkpointing，將當前的作業狀態寫回存儲），在約一分鐘的檢查時間內，用電量將從100% 驟降至10% 左右，並在完成保存後再次恢復到原有的用電量。在降壓運轉時，也需要考慮到，若結束檢查點的同時，資料中心旁邊的居民打開空調，該如何確保AI裝置不會影響用電？

為了穩定能源消耗量並朝綠色轉型邁進，必須仰賴電網穩定度，然而，這可能也會受限於各能源類型（如天然氣、核能和再生能源）的發電比例，以及電網併網問題。同時，為了脫離對灰電的依賴，現在許多科技大廠包含亞馬遜、Google、微軟，都積極投資潔淨或無碳能源。

根據高盛的數據，未來十年內歐洲的電力需求可能會因資料中心的快速擴張而增加四至五成，為建構更永續的電網，市場上迫切需要能源及電網相關的解決方案。根據高盛分析，未來十年輸電和配電支出還須近8000億歐元（約新台幣28兆元）；太陽能、陸域及離岸風電投資則需近8500億歐元（約新台幣30兆元）。

國際相關規範與倡議驅動，技術突破成關鍵減碳解方

在資料中心急速發展下，為了兼顧永續性，2021年，歐盟發起了自願性的倡議《氣候中和資料中心公約》（Climate Neutral Data Centre Pact），吸引超過100間企業響應，承諾用可衡量的目標證明能源效率、採購100%無碳能源、維修和再利用伺服器，以及尋找熱回收方法，以幫助資料中心產業在2030年達到氣候中和。

歐盟執委會也在今年通過了一項新的授權法規，將用來評估歐盟資料中心的能源績效和永續相關資訊，加強資料中心永續性的監管力道。

另一方面，軟硬體效率的提升也是資料中心實現減碳的關鍵技術。根據《中央社》，今年AI晶片龍頭輝達推出新的圖形處理器（GPU）系列，耗能比之前的型號降低25倍；同時，採用高效率冷卻系統、透過機器學習優化伺服器運作，以及將電力需求負載進行時間和空間上的轉移，都是營運商不斷優化資料中心減碳成果的重要技術。

回頭來看，雖然AI和大數據可協助企業即時將回饋修正最佳化，進而改善生產效能與能源效率（如智慧製造、智慧能源、智慧建築、智慧交通與物流等應用），來貢獻使用端的減碳成效，但如何在資料中心建造及營運過程中，同時兼具穩定性及永續性或許才是營運商面臨的最大挑戰。

參考資料

• Amazon Web Services,什麼是資料中心？–雲端資料中心介紹
• Nexcess（2023年6月19日），Beginner's Guide to Data Center Types: What You Need To Know
• Pure Storage,什麼是超大規模設備？
• Interesting Engineering（2024年7月7日），Supercomputer with 350,000 GPUs: Elon Musk to build AI beast
• Powering Intelligence: Analyzing Artificial Intelligence and Data Center Energy Consumption
• RMI（2024年5月3日），How Data Centers Can Set the Stage for Larger Loads to Come
• 彭博（2024年6月21日），What It Really Takes to Build an AI Datacenter
• 科技新報（2024年2月26日），AI 推升資料中心用電量，「負載轉移」成降碳排解方
• Goldman Sachs（2024年5月14日），AI is poised to drive 160% increase in data center power demand
• 台達基金會（2024年4月），崛起中的吃電巨獸 資料中心 AI及虛擬貨幣用電攀升
• 歐盟執委會（2024年3月15日），Commission adopts EU-wide scheme for rating sustainability of data centres
• 中央社（2024年6月13日），全球AI浪潮資料中心成要角 如何運作？用電需求有多少？一篇看懂

本文授權轉載自《低碳生活部落格》，內容由台達電子文教基金會及台灣環境資訊協會共同企劃。（原文標題：AI算力正夯，科技巨頭如何突破資料中心耗電的困境？）

低碳生活部落格

「低碳生活部落格」是由台達電子文教基金會企劃，致力推行環境保護、科技創新與教育推廣，以促進人類社會的永續發展。基金會希冀提升全民的環保意識，引領節能標準與氣候調適策略，接軌國際減碳潮流，並藉由開放創新的方式培育人才，成為邁向永續發展的基石。