聯(lián)發(fā)科與阿里聯(lián)手,,大模型加速“上手機(jī)”
2024-03-28 18:00
小號(hào)
默認(rèn)
大號(hào)
《科創(chuàng)板日?qǐng)?bào)》記者獲悉,,智能手機(jī)芯片廠商聯(lián)發(fā)科,已成功在天璣9300等旗艦芯片上部署通義千問18億,、40億參數(shù)大模型,,實(shí)現(xiàn)大模型在手機(jī)芯片端深度適配,讓通義千問在離線情況下依然可以運(yùn)行多輪AI對(duì)話,。 | 相關(guān)閱讀(科創(chuàng)板日?qǐng)?bào))
56

董元元
旅居全球各地
這又是端側(cè)大模型發(fā)展的典型雙贏合作,。自從2023年5月份,Google推出了可以在旗艦手機(jī)上離線運(yùn)行的PaLM2輕量版 Gecko,。從這一刻起,,能夠在端側(cè)運(yùn)行的大語言模型成了廠商們的重要任務(wù)。畢竟LLM要落地,,移動(dòng)終端是最好的載體之一,,同時(shí)端側(cè)也有著巨大的市場(chǎng)空間,。
于是,,廠商們紛紛開啟狂飆模式,,踏上LLM的優(yōu)化之路,要把自家的云端大模型先行裝進(jìn)手機(jī),。也就是在這期間,,高通提出了混合Al概念:AI處理必須分布在云端和終端進(jìn)行,才能實(shí)現(xiàn)AI的規(guī)?;瘮U(kuò)展并發(fā)揮其最大潛能,。端側(cè)的市場(chǎng)規(guī)模,加上混合AI趨勢(shì),,就連微軟也與Meta 結(jié)盟共同推出了可以部署在端側(cè)的開源大語言模型 Llama 2,。
在人工智能大模型大發(fā)展的當(dāng)下,越來越多的跨界合作成為必然,。這次全球最大的智能手機(jī)芯片供應(yīng)商聯(lián)發(fā)科,,與國內(nèi)最大的AI大模型之一阿里的通義千問強(qiáng)強(qiáng)聯(lián)手,無論是增強(qiáng)聯(lián)發(fā)科芯片本身的產(chǎn)品力,,還是幫助通義千問更好的迭代和研發(fā)都起到1+1>2的效果,。