研究機構 Towards Data Science 分析指 OpenAI 在 1 月運行 ChatGPT 時平均耗電 23,364,000 千瓦，相等於 17.5 萬個丹麥人的每月耗電量，稱大型語言模型會為環境帶來昂貴的代價。
早前大型語言模型 BLOOM 利用 16 顆 Nvidia A100 40GB GPU 在 Google 雲端平台運行 18 日，平均每小時處理 558 個請求，而平均每小時用電量則為 914 千瓦。Towards Data Science 指由於 BLOOM 與 ChatGPT-3 的模型大小相約，參數分別為 176b 及 175b，因此以 BLOOM 的耗電量為 ChatGPT-3 作參考。
據估計 ChatGPT 在今年 1 月的連接次數達 5.9 億次。假設 ChatGPT 每次連接的查詢次數不多於 10 次，而每次查詢的耗電量與 BLOOM 相同，每小時皆為 0.00396 千瓦。Towards Data Science 計算出 ChatGPT 在今年 1 月的平均耗電量高達 23,364,000 千瓦，相等於 17.5 萬個丹麥人的每月耗電量。
此外，Towards Data Science 亦指出 OpenAI 在訓練 GPT-3 時每小時消耗了 1,287 兆瓦，並排放出 552 噸二氧化碳，對大自然造成嚴重傷害。
資料來源：Towards Data Science、Towards Data Science
分享到 :
最新影片
