You are browsing the Hong Kong website, Regulated by Hong Kong SFC (CE number: BJA907). Investment is risky and you must be cautious when entering the market.
如何看待OpenAI開放ChatGPT商用API?

本文來自格隆匯專欄:中信證券研究,作者:陳俊雲 許英博 賈凱方 劉鋭

近日OpenAI發佈了Beta版本的ChatGPT API,並按照使用量收費,單次調用價格亦較前一代下降90%。我們分析認為,OpenAI將其在千億參數模型中所學習到的能力通過類似於蒸餾(distillation)的方式濃縮進了百億參數的模型中,並有效降低了模型在推理端成本,從而找到可以盈利的商業化途徑。我們判斷這一模式亦有望在未來成為各大AI公司在提供AI服務時的商業化範式,推動更多AI產品在中短期的商業化落地,從而在全球範圍內加速AI產業化進程。我們持續看好ChatGPT及AI領域的相關產業投資機會,並建議持續聚焦芯片、算力設施、模型架構&工程實踐、應用場景等核心環節。

事件背景:

北京時間2023年3月2日凌晨,OpenAI發佈了Beta版本的ChatGPT API,並以收費形式提供給用户使用。根據OpenAI官網介紹,本次開放的API背後模型被命名為GPT-3.5 turbo,使用了與ChatGPT相同的模型。此外,與ChatGPT API一同開放的模型還有聲音轉文字模型Whispe的API。根據OpenAI官網,截至北京時間3月3日,目前已經有五家公司宣佈接入了ChatGPT API,分別為即時通訊軟件Snapchat、學習平台Quizlet、購物網站Instacart、購物軟件 shop以及教育軟件speak。

OpenAI商業模式:以LLMaaS(Large Language Model as a Service)提供雲端推理服務,通過用户訂閲以及用量計費。

根據openAI CEO Sam Altman在2022年12月底的採訪,目前OpenAI2022年的總收入約為1億美元,並預計在2024年達到10億美元。目前OpenAI的主要收入來源包括訂閲費、API許可費、與微軟深度合作所產生的商業化收入等。在API許可費方面,OpenAI將GPT-3等模型開放給別的商業公司使用,根據用量收取費用(文字類模型按照文字生成量、圖片類模型按照圖片生成張數)。在調用過程中,其他公司並不會接觸模型的細節與源代碼,而是通過OpenAI提供的API接口進行調試以及使用。本次公佈的ChatGPT API接口被OpenAI定價為0.2美分每1000tokens(約合500-600單詞),相比於前一代的Davinci模型成本下降了90%。

ChatGPT成本優化:主要通過“蒸餾”提取小模型方式實現模型參數減少、計算複雜度降低等。

從本次OpenAI對ChatGPT API的定價出發,結合我們之前對ChatGPT模型成本的測算,0.2美分每1000tokens的定價對應為百億參數級別的模型。而ChatGPT在訓練過程中所使用得Reward Model(獎勵模型,記錄了人類偏好)應為千億參數級別的模型,這也意味着OpenAI將其在千億參數模型中所學習到的能力通過類似於蒸餾(distillation)的方式濃縮進了百億參數的模型中。根據截至目前ChatGPT API用户在推特等社交媒體的反饋結果看,這個百億參數模型的能力以及追平甚至超越了先前的大尺寸模型。通過這種蒸餾提煉的方法,OpenAI有效降低了模型在推理端的成本,找到可以盈利的商業化途徑。

未來大模型商業化範式展望:先預訓練完整大模型,而後通過蒸餾提取小模型等手段降低推理成本,並服務各類細分場景需求。

OpenAI團隊本次通過開放ChatGPT API商用所展現出更加成熟的對模型成本優化的流程:即先訓練千億參數級別甚至更大的大語言模型,再通過蒸餾等技術手段將大模型學習到的能力濃縮到小模型中開放給客户商用。根據小模型所服務的垂直領域不同,也會在小模型之上再進行微調(Fine tune)。根據我們之前報吿的測算,大語言模型在訓練端的成本消耗遠遠不及推理時的消耗,訓練一個千億參數級別的大模型僅需要耗費約一個月的時間以及150萬美元。通過這一流程OpenAI避免了超大語言模型在推理時成本過高的問題,我們認為這一流程也將在未來成為各大AI公司在提供AI服務時的商業化範式,模型蒸餾過程中所損失的精度對於大多數用户來説並不那麼敏感。OpenAI本次在模型技術流程上的改良在中短期維度加速更多AI產品在商業化落地,並加速刺激除聊天外更多領域的AI需求。

風險因素:

AI核心技術發展不及預期風險;科技領域政策監管持續收緊風險;全球宏觀經濟復甦不及預期風險;宏觀經濟波動導致歐美企業IT支出不及預期風險;全球雲計算市場發展不及預期風險;企業數據泄露、信息安全風險;行業競爭持續加劇風險等。

投資策略:

OpenAI通過開放API接口,以LLMaaS對外提供服務,同時通過“蒸餾”方式實現模型推理成本降低等方式&舉措,有望在未來成為各大AI公司在提供AI服務時的主流商業化範式,推動更多AI產品在中短期的商業化落地,在全球範圍內加速AI產業化進程。我們持續看好ChatGPT及AI領域的產業投資機會,並建議持續聚焦芯片、算力設施、模型架構&工程實踐、應用場景等核心環節。

本文摘自中信證券3月5日研究報吿《前瞻研究重大事項點評——如何看待OpenAI開放ChatGPT商用API?》,報吿分析師:

Follow us
Find us on Facebook, Twitter , Instagram, and YouTube or frequent updates on all things investing.Have a financial topic you would like to discuss? Head over to the uSMART Community to share your thoughts and insights about the market! Click the picture below to download and explore uSMART app!
Disclaimers
uSmart Securities Limited (“uSmart”) is based on its internal research and public third party information in preparation of this article. Although uSmart uses its best endeavours to ensure the content of this article is accurate, uSmart does not guarantee the accuracy, timeliness or completeness of the information of this article and is not responsible for any views/opinions/comments in this article. Opinions, forecasts and estimations reflect uSmart’s assessment as of the date of this article and are subject to change. uSmart has no obligation to notify you or anyone of any such changes. You must make independent analysis and judgment on any matters involved in this article. uSmart and any directors, officers, employees or agents of uSmart will not be liable for any loss or damage suffered by any person in reliance on any representation or omission in the content of this article. The content of this article is for reference only. It does not constitute an offer, solicitation, recommendation, opinion or guarantee of any securities, financial products or instruments.The content of the article is for reference only and does not constitute any offer, solicitation, recommendation, opinion or guarantee of any securities, virtual assets, financial products or instruments. Regulatory authorities may restrict the trading of virtual asset-related ETFs to only investors who meet specified requirements.
Investment involves risks and the value and income from securities may rise or fall. Past performance is not indicative of future performance.
uSMART
Wealth Growth Made Easy
Open Account