AI算力正夯,科技巨頭如何突破資料中心耗電的困境?

經濟適用的清潔能源

根據研究,使用ChatGPT查詢資料的耗能程度,比Google標準搜尋高出10倍。隨著AI技術快速發展、各大公司投入這股熱潮,能耗需求也不斷增加。雖然AI和大數據可協助企業即時將回饋修正最佳化,進而改善生產效能與能源效率來減碳,但如何在資料中心建造及營運過程中,同時兼具穩定性及永續性恐怕是營運商面臨的最大挑戰。

特斯拉德州超級工廠正在建造資料中心所需的巨型冷卻風扇。 圖/Smoke-away《X》
特斯拉德州超級工廠正在建造資料中心所需的巨型冷卻風扇。 圖/Smoke-away《X》

常見資料中心有哪些?

資料中心(Data Center)是存放電腦系統、相關硬體設備,儲存公司任何數位資料的實體設施,包含 IT 系統所需的運算基礎設施(如伺服器、資料儲存硬碟和網路設備)。

資料中心有多種類型:託管資料中心、企業資料中心、雲端資料中心、超大規模資料中心和邊緣資料中心……等。這邊舉三種常見的類型介紹:

企業資料中心:通常由企業自建或外包給專業服務商運營,用於存儲和管理企業內部的數據和應用程序。規模較小,主要服務於企業自身IT需求,獨立性相對較強。

雲端資料中心:提供雲端計算和儲存服務的分散式資料中心,通常委由第三方如大型網絡公司或提供雲端服務的廠商運營,無須親自管理設施。規模較大,可以同時滿足多家客戶的需求,並提供高可靠性和高性能的服務。

超大規模資料中心:專門為全球組織和個人提供大量的運算能力和儲存容量,可滿足數百萬至數十億使用者的各種需求,擁有處理和儲存大量資料的能力,並支援雲端運算、大數據分析、人工智慧和物聯網等關鍵技術。

人工智慧需求水漲船高,近幾年企業紛紛投入AI資料中心,科技巨頭如微軟、Google等公司建置的雲端資料中心與超大規模資料中心,不僅提供公司內部使用,更提供租借服務,讓租借AI算力成為新商機。

資料中心是存放硬體設備、儲存公司數位資料的實體設施。 圖/Hugovanmeijeren/Wikimedia Commons(CC BY-SA 3.0)
資料中心是存放硬體設備、儲存公司數位資料的實體設施。 圖/Hugovanmeijeren/Wikimedia Commons(CC BY-SA 3.0)

AI算力需求暴增,科技巨頭減碳成果倒退一大步

隨著AI技術快速發展,能耗的需求也不斷增加。美國電力研究院(Electric Power Research Institute, EPRI)的報告顯示,透過聊天機器人ChatGPT查詢資料的耗能程度,比直接使用Google搜尋資料要高出10倍。

AI資料中心運作過程需消耗大量電力,也需要使用強大的散熱系統來確保運行穩定。以正在擴建中的特斯拉德州超級工廠為例,建成後將成為全球最大的 AI 訓練基礎設施,該資料中心及冷卻設施的用電量今年將達到130MW的規模,並將持續增加到 500MW。

根據智庫洛磯山研究所(Rocky Mountain Institute, RMI)的預估,到2030年,美國資料中心的電力需求將比2022年成長一倍,達到35GW,相當於近三分之一(4000萬)美國家庭的用電量,這也使得承諾100%使用綠電的亞馬遜、微軟、Google及Meta都面臨碳排量上升的壓力,Google更在今年宣布放棄不再維持17年以來的營運碳中和承諾。

AI資料中心運作過程需消耗大量電力,圖為Google在奧勒岡州達拉斯的資料中心。 圖/Visitor7/Wikimedia Commons(CC BY-SA 3.0)
AI資料中心運作過程需消耗大量電力,圖為Google在奧勒岡州達拉斯的資料中心。 圖/Visitor7/Wikimedia Commons(CC BY-SA 3.0)

資料中心也要綠色轉型 穩定運作仰賴潔淨能源、強韌電網

資料中心是用電密度十分高的產業,避免與企業、民生「搶電」至關重要。

AI 工作負載的能耗非常不穩定,因每 15 分鐘或每 30 分鐘,就須停止工作以保存進度,進行「檢查點」作業(checkpointing,將當前的作業狀態寫回存儲),在約一分鐘的檢查時間內,用電量將從100% 驟降至10% 左右,並在完成保存後再次恢復到原有的用電量。在降壓運轉時,也需要考慮到,若結束檢查點的同時,資料中心旁邊的居民打開空調,該如何確保AI裝置不會影響用電?

為了穩定能源消耗量並朝綠色轉型邁進,必須仰賴電網穩定度,然而,這可能也會受限於各能源類型(如天然氣、核能和再生能源)的發電比例,以及電網併網問題。同時,為了脫離對灰電的依賴,現在許多科技大廠包含亞馬遜、Google、微軟,都積極投資潔淨或無碳能源。

根據高盛的數據,未來十年內歐洲的電力需求可能會因資料中心的快速擴張而增加四至五成,為建構更永續的電網,市場上迫切需要能源及電網相關的解決方案。根據高盛分析,未來十年輸電和配電支出還須近8000億歐元(約新台幣28兆元);太陽能、陸域及離岸風電投資則需近8500億歐元(約新台幣30兆元)。

國際相關規範與倡議驅動,技術突破成關鍵減碳解方

在資料中心急速發展下,為了兼顧永續性,2021年,歐盟發起了自願性的倡議《氣候中和資料中心公約》(Climate Neutral Data Centre Pact),吸引超過100間企業響應,承諾用可衡量的目標證明能源效率、採購100%無碳能源、維修和再利用伺服器,以及尋找熱回收方法,以幫助資料中心產業在2030年達到氣候中和。

歐盟執委會也在今年通過了一項新的授權法規,將用來評估歐盟資料中心的能源績效和永續相關資訊,加強資料中心永續性的監管力道。

另一方面,軟硬體效率的提升也是資料中心實現減碳的關鍵技術。根據《中央社》,今年AI晶片龍頭輝達推出新的圖形處理器(GPU)系列,耗能比之前的型號降低25倍;同時,採用高效率冷卻系統、透過機器學習優化伺服器運作,以及將電力需求負載進行時間和空間上的轉移,都是營運商不斷優化資料中心減碳成果的重要技術。

回頭來看,雖然AI和大數據可協助企業即時將回饋修正最佳化,進而改善生產效能與能源效率(如智慧製造、智慧能源、智慧建築、智慧交通與物流等應用),來貢獻使用端的減碳成效,但如何在資料中心建造及營運過程中,同時兼具穩定性及永續性或許才是營運商面臨的最大挑戰。

參考資料

本文授權轉載自《低碳生活部落格》,內容由台達電子文教基金會及台灣環境資訊協會共同企劃。(原文標題:AI算力正夯,科技巨頭如何突破資料中心耗電的困境?)


「一個人為社會付出很辛苦,但一群人就不會寂寞。」每個人都可以用自己的方式成為倡議家!

追蹤【倡議+】粉絲團:FacebookInstagram

收聽【倡議家電台】Podcast:在Apple Podcast收聽、在Spotify收聽、在KKBOX收聽、在Google Podcast收聽,或搜尋「倡議家電台」。

https://pgw.udn.com.tw/gw/photo.php?u=https://uc.udn.com.tw/photo/author/photo/9584.jpg

低碳生活部落格

「低碳生活部落格」是由台達電子文教基金會企劃,致力推行環境保護、科技創新與教育推廣,以促進人類社會的永續發展。基金會希冀提升全民的環保意識,引領節能標準與氣候調適策略,接軌國際減碳潮流,並藉由開放創新的方式培育人才,成為邁向永續發展的基石。

作者文章

組團騎車上學去! 國外流行的單車巴士是什麼?

組團騎車上學去! 國外流行的單車巴士是什麼?

當信仰遇上永續:東南亞最大清真寺的綠色革命

當信仰遇上永續:東南亞最大清真寺的綠色革命

AI算力正夯,科技巨頭如何突破資料中心耗電的困境?

AI算力正夯,科技巨頭如何突破資料中心耗電的困境?

五顏六色的危機!不同顏色的塑膠,原來裂解時間大不同?

五顏六色的危機!不同顏色的塑膠,原來裂解時間大不同?

最新文章

可口可樂減塑打折!下修環保目標 引發環團不滿

可口可樂減塑打折!下修環保目標 引發環團不滿

日本最佳賞楓時間大延後!126年來最熱秋天 紅葉季延至12月才登場

日本最佳賞楓時間大延後!126年來最熱秋天 紅葉季延至12月才登場

黑五狂買後又狂退貨?衝動購物下的隱藏成本 該由商家還是消費者負擔?

黑五狂買後又狂退貨?衝動購物下的隱藏成本 該由商家還是消費者負擔?

全球塑膠公約談判破局!主席宣布公約難產、確定延會

全球塑膠公約談判破局!主席宣布公約難產、確定延會

川普效應影響?美國沃爾瑪也加入反覺醒行列、逐步放棄DEI政策

川普效應影響?美國沃爾瑪也加入反覺醒行列、逐步放棄DEI政策

UNIQLO首度表態!創辦人柳井正:我們不使用新疆棉

UNIQLO首度表態!創辦人柳井正:我們不使用新疆棉