DoNews8月16日消息，8月16日，聯(lián)發(fā)科正式宣布與百度聯(lián)合發(fā)起飛槳和文心大模型硬件生態(tài)共創(chuàng)計劃，雙方將共同推進聯(lián)發(fā)科硬件平臺與飛槳和文心大模型的適配。目前雙方正在合作優(yōu)化文心大模型在終端設(shè)備上的執(zhí)行效果，將實現(xiàn)大模型在終端和云端的協(xié)同工作，為用戶帶來突破性的生成式AI應(yīng)用體驗。
作為推動AI進一步發(fā)展的先進技術(shù)，與單純在云端部署生成式AI應(yīng)用和服務(wù)相比，終端側(cè)部署生成式AI在節(jié)約服務(wù)器成本、保護用戶信息安全、提升實時性和實現(xiàn)個性化用戶體驗等方面具備明顯優(yōu)勢。雙方的合作將支持基于聯(lián)發(fā)科芯片的智能手機、汽車、智能家居、物聯(lián)網(wǎng)等終端設(shè)備上運行文心大模型，賦能終端設(shè)備提供更安全、可靠和差異化的使用體驗。
聯(lián)發(fā)科與百度合作已久，雙方合作完成了Paddle Lite 輕量化推理引擎基于聯(lián)發(fā)科 NeuroPilot 人工智能通用軟件平臺的適配。
NeuroPilot是聯(lián)發(fā)科為開發(fā)者提供的基于本地端側(cè)的AI運算解決方案，它為內(nèi)建CPU、GPU 和 APU（獨立AI 處理器）等異構(gòu)運算單元的MediaTek SoC平臺提供完整且強大的軟件解決方案。NeuroPilot支持開發(fā)者在現(xiàn)有和未來的聯(lián)發(fā)科硬件平臺以及包括智能手機、汽車、智能家居、物聯(lián)網(wǎng)等產(chǎn)品線實現(xiàn)“一次編寫，全場景通用”，幫助開發(fā)者在MediaTek平臺上高效開發(fā)和部署基于神經(jīng)網(wǎng)絡(luò)模型的AI應(yīng)用程序。
AI開發(fā)者可以使用主流的TensorFlow、Pytorch、TF Lite、Caffe、Caffe2以及其他自定義的第三方通用AI框架來構(gòu)建神經(jīng)網(wǎng)絡(luò)模型，并接入到NeuroPilot系統(tǒng)，充分發(fā)揮聯(lián)發(fā)科AI系統(tǒng)的強勁算力，顯著提高模型運行在設(shè)備上的效率，并降低功耗和內(nèi)存消耗。
生成式人工智能浪潮下，大模型正成為新一輪科技革命和產(chǎn)業(yè)變革的重要驅(qū)動力量。聯(lián)發(fā)科將持續(xù)攜手百度飛槳和文心大模型，加速終端側(cè)生成式AI的部署，共同打造軟硬一體的人工智能大模型平臺，讓科技惠及大眾，為千行百業(yè)賦能。
