OpenAI開發的ChatGPT在全球掀起AI聊天機器人浪潮,但內容生成涉及高昂成本。根據模型數據,假設每次生成平均回答50個詞,在使用8x英偉達A100顯卡的情況下,中信証券估計ChatGPT每次生成答案的成本約1.3美仙(約0.1港元),較Google搜索引擎多2倍。如果Google一成搜索結果由大型語言模型生成,將會使到Google每年額外增加約12億美元運營成本。
ChatGPT的英文版本數據是截至2021年止,中文版本數據則截至2020年止,數據庫版本滯後的原因是語言類大模型的技術限制。
滿負荷運行 ChatGPT暫停服務
ChatGPT目前在GPT大模型上加入標註數據訓練模式,讓實時數據的引入非常困難。如果重新訓練模型,估計每次訓練需要超過1000塊英偉達A100顯卡,並且工作時間長達半個月至一個月,成本在百萬美元以上。
另外,由於ChatGPT的使用量過多,繼周二免費版頁面出現「現在滿負荷運行」後,周三繼續見「滿負荷運行」提示。網頁指出,由於許多人使用服務,網絡不勝負荷,開發人員正在處理。
ChatGPT早前表示,如果用戶希望能夠暢順使用服務,可通過付費訂閱ChatGPT Plus。實驗訂閱計劃的訂價為每月20美元。