DoNews10月16日消息，據(jù)騰訊科技報(bào)道，零一萬(wàn)物今日正式發(fā)布了新的預(yù)訓(xùn)練模型 Yi-Lightning。在 Yi-Lightning的發(fā)布會(huì)上，李開(kāi)復(fù)提到：“據(jù)我了解，目前“AI六小虎”在融資方面都有足夠的資金支持，可以承擔(dān)起預(yù)訓(xùn)練模型的運(yùn)行成本。因此，只要這些公司能夠吸引到足夠的優(yōu)秀人才，并有決心進(jìn)行預(yù)訓(xùn)練模型的開(kāi)發(fā)，資金和芯片資源都不會(huì)成為障礙?！?/p>
據(jù)了解， Yi-Lightning 與零一萬(wàn)物上半年發(fā)布的千億參數(shù)模型 Yi-Large 相比，在性能更進(jìn)一步的前提下，推理速度方面有著極大提升。
根據(jù)官方發(fā)布的評(píng)測(cè)數(shù)據(jù)顯示，在 8xH100 算力基礎(chǔ)下，以同樣的任務(wù)規(guī)模進(jìn)行測(cè)試，Yi-Lightning 的首包時(shí)間（從接收到任務(wù)請(qǐng)求到系統(tǒng)開(kāi)始輸出響應(yīng)結(jié)果之間的時(shí)間）僅為 Yi-Large 的一半，最高生成速度也提升了近四成，實(shí)現(xiàn)了旗艦?zāi)Ｐ偷男阅苌?jí)。
在國(guó)際權(quán)威盲測(cè)榜單 LMSYS 上，Yi-Lightning 排名第六，暫時(shí)位列GPT-4o-2024-05-13、Anthropic Claude 3.5 Sonnet之前。
根據(jù)李開(kāi)復(fù)介紹，模型性能與推理速度的提升，一方面因?yàn)榱阋蝗f(wàn)物重視AI Infra能力的提升，2024年以來(lái)，中國(guó)大模型行業(yè)從狂奔進(jìn)入到了“長(zhǎng)跑階段”，而大模型公司的核心競(jìng)爭(zhēng)力模型＋AI 基礎(chǔ)設(shè)施＋應(yīng)用，缺一不可。
另外一方面，Yi-Lightning更新了模型架構(gòu)，不再應(yīng)用稠密模型架構(gòu)，而是采用了 Mixture of Experts（MoE）混合專家模型架構(gòu)，并在模型訓(xùn)練過(guò)程中做了新的嘗試。
針對(duì)于行業(yè)長(zhǎng)期熱議的大模型公司并沒(méi)有建立起真正的PMF問(wèn)題，李開(kāi)復(fù)進(jìn)一步強(qiáng)調(diào)，核心在于基礎(chǔ)模型能力需要真正強(qiáng)大及大模型成本還不足夠低。
此外，李開(kāi)復(fù)強(qiáng)調(diào)，要激活一個(gè)健康的生態(tài)系統(tǒng)，關(guān)鍵在于擁有頂級(jí)的模型，并且這些模型的價(jià)格要足夠低，以促進(jìn)應(yīng)用的發(fā)展。如果模型太貴，可能會(huì)導(dǎo)致應(yīng)用開(kāi)發(fā)公司破產(chǎn)。
