大公產品

首页 > 简体站 > 正文

話你知/ChatGPT營運成本高 內容生成貴搜尋器2倍

時間:2023-02-09 04:24:16來源:大公报

  OpenAI開發的ChatGPT在全球掀起AI聊天機器人浪潮,但內容生成涉及高昂成本。根據模型數據,假設每次生成平均回答50個詞,在使用8x英偉達A100顯卡的情況下,中信証券估計ChatGPT每次生成答案的成本約1.3美仙(約0.1港元),較Google搜索引擎多2倍。如果Google一成搜索結果由大型語言模型生成,將會使到Google每年額外增加約12億美元運營成本。

  ChatGPT的英文版本數據是截至2021年止,中文版本數據則截至2020年止,數據庫版本滯後的原因是語言類大模型的技術限制。

  滿負荷運行 ChatGPT暫停服務

  ChatGPT目前在GPT大模型上加入標註數據訓練模式,讓實時數據的引入非常困難。如果重新訓練模型,估計每次訓練需要超過1000塊英偉達A100顯卡,並且工作時間長達半個月至一個月,成本在百萬美元以上。

  另外,由於ChatGPT的使用量過多,繼周二免費版頁面出現「現在滿負荷運行」後,周三繼續見「滿負荷運行」提示。網頁指出,由於許多人使用服務,網絡不勝負荷,開發人員正在處理。

  ChatGPT早前表示,如果用戶希望能夠暢順使用服務,可通過付費訂閱ChatGPT Plus。實驗訂閱計劃的訂價為每月20美元。

最新要聞

最受歡迎