調查:ChatGPT 耗電量極高 1 個月耗電量等同 17.5 萬丹麥人月耗電量

Published by
Christy

研究機構 Towards Data Science 分析指 OpenAI 在 1 月運行 ChatGPT 時平均耗電 23,364,000 千瓦,相等於 17.5 萬個丹麥人的每月耗電量,稱大型語言模型會為環境帶來昂貴的代價。

 

早前大型語言模型 BLOOM 利用 16 顆 Nvidia A100 40GB GPU 在 Google 雲端平台運行 18 日,平均每小時處理 558 個請求,而平均每小時用電量則為 914 千瓦。Towards Data Science 指由於 BLOOM 與 ChatGPT-3 的模型大小相約,參數分別為 176b 及 175b,因此以 BLOOM 的耗電量為 ChatGPT-3 作參考。

 

據估計 ChatGPT 在今年 1 月的連接次數達 5.9 億次。假設 ChatGPT 每次連接的查詢次數不多於 10 次,而每次查詢的耗電量與 BLOOM 相同,每小時皆為 0.00396 千瓦。Towards Data Science 計算出 ChatGPT 在今年 1 月的平均耗電量高達 23,364,000 千瓦,相等於 17.5 萬個丹麥人的每月耗電量。

 

此外,Towards Data Science 亦指出 OpenAI 在訓練 GPT-3 時每小時消耗了 1,287 兆瓦,並排放出 552 噸二氧化碳,對大自然造成嚴重傷害。


資料來源:Towards Data ScienceTowards Data Science

Published by
Christy