国产一区高清|日韩精品一区人妻|曰夲AV一区二区|美日韩一区二区三区|国产喷水在线观看|狼友网站成人大全|欧美日韩制服中文视频在线|久草加勒比手机在线|婷婷色综合无码专区|japanese 精品视频在线观看

??低曂瞥龆嗄B(tài)大語言模型量化技術(shù),提升模型部署效率

天眼查App顯示,近日,杭州海康威視數(shù)字技術(shù)股份有限公司公開了一項(xiàng)重要的發(fā)明專利,名為“多模態(tài)大語言模型量化方法、裝置、設(shè)備、存儲介質(zhì)及產(chǎn)品”。該專利涉及模型部署技術(shù)領(lǐng)域,旨在通過模塊劃分和量化調(diào)整,提升多模態(tài)語言大模型的部署效果。

根據(jù)專利摘要,該技術(shù)將待量化的大模型劃分為多模態(tài)處理分塊和語言模型分塊,并根據(jù)多模態(tài)處理分塊中各處理子模塊的量化誤差構(gòu)建處理子模塊序列。隨后,基于該序列對多模態(tài)處理分塊中的各處理子模塊進(jìn)行量化,并進(jìn)一步確定語言子模塊序列,對語言模型分塊中的各語言子模塊進(jìn)行量化。

該技術(shù)的創(chuàng)新之處在于,它能夠依據(jù)多模態(tài)語言大模型的計(jì)算特性進(jìn)行針對性的模塊劃分,并基于模塊劃分順序進(jìn)行量化調(diào)整,確保量化過程符合模型的實(shí)際計(jì)算特性。這不僅提升了量化部署的效果,還為多模態(tài)語言大模型的應(yīng)用提供了更高效的技術(shù)支持。

該專利的公開標(biāo)志著??低曉谌斯ぶ悄茴I(lǐng)域的技術(shù)創(chuàng)新邁出了重要一步,未來有望在智能安防、自動駕駛等多個領(lǐng)域發(fā)揮重要作用。

風(fēng)險(xiǎn)警告:本文根據(jù)網(wǎng)絡(luò)內(nèi)容由AI生成,內(nèi)容僅供參考,不應(yīng)作為專業(yè)建議或決策依據(jù)。用戶應(yīng)自行判斷和驗(yàn)證信息的準(zhǔn)確性和可靠性,本站不承擔(dān)可能產(chǎn)生的任何風(fēng)險(xiǎn)和責(zé)任。內(nèi)容如有問題,可聯(lián)系本站刪除。

Copyright ? DoNews 2000-2025 All Rights Reserved
蜀ICP備2024059877號-1