隨着DeepSeek爆火出圈,阿里雲、百度雲、騰訊雲、華爲雲、火山引擎等雲廠商先後宣佈接入,據媒體的不完全統計,截至2月11日已經有160餘家企業集體官宣上架或接入了DeepSeek。
在海量的併發需求之下,對各廠商系統承載力和推理速度都造成了不小的負擔,甚至不少廠商上的DeepSeek服務接連出現:“服務器繁忙,請稍後重試”的回覆。
與此同時,衆多應用企業和開發者也在測試各家對DeepSeek的支持能力,自發進行評測並羅列出了一份測試榜單:綜合對比之下,火山引擎首 token 響應時間:1.01 秒,推理速度:35.50 tokens/s、生成速度:37.76 tokens/s,總體生成平均速度:33.01 tokens/s,明顯領先於其他友商。
對此,火山引擎智能算法負責人吳迪在朋友圈表示,表格所呈現的推理速度和延遲差異,反映不同AI系統的技術能力。
吳迪表示,“很多人知道火山引擎的AI技術能力強,但難以進行對比和驗證,現在各雲平臺在R1模型同時起跑,給了大家一份可以被檢驗的清晰答卷。火山引擎的推理延遲最低,平均生成速度是其他雲平臺的3~5倍。”
吳迪朋友圈
根據中文通用大模型綜合性評測基準SuperCLUE在2月12日發佈的穩定性評測榜單顯示,火山引擎在穩定性上同樣位居榜首。
SuperCLUE穩定性測評總榜