《電子技術(shù)應(yīng)用》
您所在的位置:首頁(yè) > 人工智能 > 業(yè)界動(dòng)態(tài) > 聯(lián)發(fā)科天璣AI開(kāi)發(fā)套件:加速生成式AI大模型終端部署

聯(lián)發(fā)科天璣AI開(kāi)發(fā)套件:加速生成式AI大模型終端部署

2024-05-07
來(lái)源:聯(lián)發(fā)科技

近日,主題為“AI予萬(wàn)物”的聯(lián)發(fā)科天璣開(kāi)發(fā)者大會(huì)2024(MDDC)在深圳成功舉辦。眾多移動(dòng)生態(tài)領(lǐng)域的領(lǐng)先廠商與開(kāi)發(fā)者匯聚一堂,共同探討端側(cè)生成式AI技術(shù)及生成式AI手機(jī)的未來(lái)發(fā)展,并分享了天璣AI生態(tài)戰(zhàn)略與終端生成式AI應(yīng)用開(kāi)發(fā)一站式解決方案——“天璣AI開(kāi)發(fā)套件”。此外,聯(lián)發(fā)科攜手業(yè)界生態(tài)伙伴共同發(fā)布《生成式AI手機(jī)產(chǎn)業(yè)白皮書(shū)》,并針對(duì)全球開(kāi)發(fā)者推出“天璣AI先鋒計(jì)劃”。這一舉措既為生成式AI手機(jī)的定義與發(fā)展提供了新的思考與期待,也整合了產(chǎn)業(yè)各方資源,為全球開(kāi)發(fā)者提供優(yōu)質(zhì)平臺(tái)與資源,助力全場(chǎng)景生成式AI應(yīng)用的普及與發(fā)展。

1.jpg

當(dāng)前生成式AI應(yīng)用的體驗(yàn)升級(jí)已成為行業(yè)和用戶的共同期待,智能終端是生成式AI普及的關(guān)鍵載體。智能手機(jī)憑借移動(dòng)便攜性、個(gè)人專屬化、多模態(tài)感知以及強(qiáng)勁的AI算力和通信功能,毫無(wú)疑問(wèn)將成為端側(cè)生成式AI應(yīng)用落地的最佳選擇。伴隨生成式AI與智能手機(jī)融合加速,智能手機(jī)迎來(lái)了繼觸控屏幕之后的又一個(gè)革新機(jī)遇,在聯(lián)發(fā)科等行業(yè)先行者的推動(dòng)下,屬于“生成式AI手機(jī)”的時(shí)代已經(jīng)到來(lái)。


天璣AI先鋒計(jì)劃啟動(dòng),助力開(kāi)發(fā)者打造創(chuàng)新用戶體驗(yàn)

目前,由于生成式AI模型積累不足、硬件多樣移植難度大、開(kāi)發(fā)界面不統(tǒng)一等問(wèn)題,生成式AI普及仍面臨由點(diǎn)向面發(fā)展的巨大挑戰(zhàn)。為促進(jìn)產(chǎn)業(yè)共創(chuàng)實(shí)現(xiàn)生態(tài)共贏,聯(lián)發(fā)科在天璣開(kāi)發(fā)者大會(huì)上聯(lián)合阿里云、百川智能、傳音、零一萬(wàn)物、OPPO、榮耀、vivo、小米面向全球開(kāi)發(fā)者啟動(dòng)“天璣AI先鋒計(jì)劃”,提供基于模型化、算力化和軟硬件等方面的開(kāi)發(fā)資源和支持,并提供廣泛的商業(yè)機(jī)遇。通過(guò)天璣AI先鋒計(jì)劃,開(kāi)發(fā)者可以充分發(fā)揮天璣移動(dòng)平臺(tái)的優(yōu)勢(shì),加速端側(cè)生成式AI應(yīng)用的開(kāi)發(fā)與落地,為用戶打造獨(dú)具創(chuàng)新的AI體驗(yàn)。

2.jpg


為實(shí)現(xiàn)這一長(zhǎng)期計(jì)劃和全場(chǎng)景生成式AI愿景,聯(lián)發(fā)科在大會(huì)上提出了天璣生態(tài)戰(zhàn)略,從芯片、模型、應(yīng)用三個(gè)層面,聯(lián)合產(chǎn)業(yè)伙伴和開(kāi)發(fā)者共同探索端側(cè)AI技術(shù)路線,推進(jìn)顛覆性的端側(cè)AI應(yīng)用和服務(wù)創(chuàng)新。


聯(lián)合產(chǎn)業(yè)伙伴發(fā)布《生成式AI手機(jī)產(chǎn)業(yè)白皮書(shū)》,共同定義“生成式AI手機(jī)”

在天璣開(kāi)發(fā)者大會(huì)上,聯(lián)發(fā)科聯(lián)合Counterpoint并攜手阿里云通義千問(wèn)、百川大模型、虎牙、酷狗音樂(lè)、零一萬(wàn)物、OPPO、Soul、騰訊AI Lab、騰訊混元、vivo行業(yè)頭部伙伴聯(lián)合發(fā)布《生成式AI手機(jī)產(chǎn)業(yè)白皮書(shū)》,共同定義了“生成式AI手機(jī)”的概念和典型特征。《白皮書(shū)》提到:生成式AI手機(jī)是利用大規(guī)模、預(yù)訓(xùn)練的生成式AI模型,實(shí)現(xiàn)多模態(tài)內(nèi)容生成、情境感知,并具備不斷增強(qiáng)的類人能力。生成式AI手機(jī)開(kāi)啟了智能手機(jī)發(fā)展的新周期,長(zhǎng)遠(yuǎn)看,智能手機(jī)將會(huì)發(fā)展為移動(dòng)智能體。

3.jpg

4.jpg

同時(shí),《白皮書(shū)》這樣定義了生成式AI手機(jī)的典型特征:在未來(lái),生成式AI手機(jī)將具備強(qiáng)大的AI算力,支持大模型的本地部署,或是通過(guò)云端協(xié)同的方式執(zhí)行復(fù)雜的生成式AI任務(wù),無(wú)需完全依賴云端服務(wù)器。同時(shí)將具備多模態(tài)能力,處理文本、圖像、語(yǔ)音等多種形式的內(nèi)容輸入,以生成各種形式的輸出,確保流暢、無(wú)縫的用戶體驗(yàn),設(shè)備能夠以自然而直觀的交互方式,快速響應(yīng)用戶的請(qǐng)求。而為了實(shí)現(xiàn)這一目標(biāo),生成式AI手機(jī)將需要強(qiáng)大的硬件支持,包括但不限于基于領(lǐng)先工藝和先進(jìn)架構(gòu)設(shè)計(jì)的移動(dòng)計(jì)算平臺(tái),集成或者獨(dú)立的神經(jīng)網(wǎng)絡(luò)運(yùn)算單元(如APU/NPU/TPU),大容量和高帶寬的內(nèi)存,以及穩(wěn)定和高速的連接,硬件級(jí)和系統(tǒng)級(jí)的安全防御。

5.jpg

從《白皮書(shū)》中可以預(yù)見(jiàn),未來(lái)的手機(jī)將成為一個(gè)能夠理解并預(yù)測(cè)用戶需求、提供創(chuàng)造性解決方案的智能伙伴,搭載多個(gè)AI智能體的生成式AI手機(jī)將成為用戶訪問(wèn)數(shù)字生態(tài)的超級(jí)入口,端側(cè)的AI應(yīng)用將進(jìn)入人們?nèi)粘I畹馁?gòu)物、旅游、游戲等場(chǎng)景,扮演購(gòu)物達(dá)人、私人顧問(wèn)、互動(dòng)NPC等專屬角色,實(shí)現(xiàn)用戶體驗(yàn)的優(yōu)化與飛躍。


天璣AI開(kāi)發(fā)套件,為廣大開(kāi)發(fā)者提供“快、全、強(qiáng)、易”的專業(yè)開(kāi)發(fā)體驗(yàn)

很多開(kāi)發(fā)者都面臨著終端生成式AI應(yīng)用開(kāi)發(fā)起步期的多元挑戰(zhàn),聯(lián)發(fā)科不僅研發(fā)出領(lǐng)先的天璣芯片,更重要的是,幫助開(kāi)發(fā)者在搭載天璣芯片的終端上打造出更具創(chuàng)新性的生成式AI用戶體驗(yàn),從而推動(dòng)整個(gè)AI新生態(tài)的繁榮與發(fā)展。會(huì)上,聯(lián)發(fā)科隆重推出了“天璣AI開(kāi)發(fā)套件”,為廣大開(kāi)發(fā)者提供終端生成式AI應(yīng)用開(kāi)發(fā)的一站式解決方案。天璣AI開(kāi)發(fā)套件包含四大模塊,包括快速高效的GenAI最佳實(shí)踐、覆蓋全球主流大模型的GenAI Model Hub、高效提升性能的GenAI優(yōu)化技術(shù)和Neuron Studio一站式視覺(jué)化開(kāi)發(fā)環(huán)境等四大模塊,為廣大開(kāi)發(fā)者提供“快、全、強(qiáng)、易”的專業(yè)開(kāi)發(fā)體驗(yàn),賦能終端生成式AI應(yīng)用開(kāi)發(fā)全流程。

6.jpg

其中,GenAI 最佳實(shí)踐,它可以提升大模型的終端部署速度,從原先的數(shù)周加速到一天即可完成部署。在模型的量化、編譯、推理方面,為開(kāi)發(fā)者提供先進(jìn)的INT4量化技術(shù)、內(nèi)存壓縮技術(shù)、Token加速技術(shù)、最優(yōu)緩存配置,還可以開(kāi)放端側(cè)部署源碼。讓開(kāi)發(fā)者在與時(shí)間賽跑的創(chuàng)新競(jìng)賽中,搶得先機(jī),更好地把握創(chuàng)新機(jī)遇。

7.jpg

全面的GenAI Model Hub ,是聯(lián)發(fā)科為開(kāi)發(fā)者打造的模型庫(kù),目前已適配包括:Meta Llama、百川大模型、阿里云通義千問(wèn)在內(nèi)的全球主流大模型。開(kāi)發(fā)者可以輕松獲取并使用這些不斷新增的大模型,進(jìn)而大幅降低模型部署的難度和復(fù)雜性。

8.jpg

強(qiáng)大的GenAI優(yōu)化技術(shù),是生成式AI應(yīng)用體驗(yàn)的關(guān)鍵。目前已導(dǎo)入了多項(xiàng)業(yè)界最新、最快的軟件優(yōu)化技術(shù),包括“推測(cè)解碼加速”和“LoRA Fusion”等等,可顯著提升AI應(yīng)用的生成速度,功能包所占用的存儲(chǔ)空間也可以大幅減少。

9.jpg

易用的Neuron Studio 集成開(kāi)發(fā)環(huán)境,跳出傳統(tǒng)的代碼開(kāi)發(fā)環(huán)境,可為開(kāi)發(fā)者提供高度集成的,一站式、可視化開(kāi)發(fā)環(huán)境 ,帶來(lái)“所見(jiàn)即所得”般更易用的開(kāi)發(fā)體驗(yàn),讓開(kāi)發(fā)過(guò)程變得更加直觀、易用。

10.jpg

目前天璣AI開(kāi)發(fā)套件,已覆蓋包括智能手機(jī)、智能汽車、物聯(lián)網(wǎng)、個(gè)人電腦等智能終端設(shè)備,推動(dòng)這些領(lǐng)域的AI應(yīng)用快速創(chuàng)新和落地。

從應(yīng)用落地成果來(lái)看,聯(lián)發(fā)科憑借其優(yōu)秀的AI平臺(tái)能力,已攜手阿里云通義千問(wèn)、Cocos、Honor of Kings、虎牙直播、酷狗音樂(lè)、美圖、全民K歌、RWKV、Soul、騰訊AI Lab、小紅書(shū)等數(shù)十家生態(tài)伙伴共創(chuàng)體驗(yàn)更精彩的生成式AI應(yīng)用。

11.jpg


天璣9300+全大核旗艦亮相,AI芯更強(qiáng)

本屆MDDC2024上,聯(lián)發(fā)科還重磅發(fā)布旗艦5G生成式AI移動(dòng)平臺(tái)天璣9300+,以先進(jìn)架構(gòu)和強(qiáng)勁算力為生成式AI手機(jī)提供硬件支持。天璣9300+率先支持AI推測(cè)解碼加速技術(shù),同時(shí)支持天璣AI LoRA Fusion 2.0技術(shù),為用戶帶來(lái)高速和個(gè)性化的生成式AI體驗(yàn)。天璣9300+還支持AI框架ExecuTorch,可加速端側(cè)生成式AI應(yīng)用的開(kāi)發(fā)進(jìn)程。此外,這款旗艦芯支持多種前沿主流AI大模型,包括阿里云通義千問(wèn)大模型、百川大模型、文心大模型、谷歌Gemini Nano、零一萬(wàn)物終端大模型、Meta Llama 2 & Llama 3等。用一句話概括天璣9300+就是,不僅擁有卓越的全大核性能和低功耗設(shè)計(jì),還具備多項(xiàng)業(yè)界領(lǐng)先的生成式AI技術(shù),以及聯(lián)發(fā)科與生態(tài)伙伴共創(chuàng)的優(yōu)質(zhì)游戲體驗(yàn),無(wú)疑是當(dāng)下生成式AI手機(jī)的最優(yōu)選擇。

12.jpg

顯然,聯(lián)發(fā)科的天璣生態(tài)戰(zhàn)略凸顯出卓越的前瞻性、技術(shù)領(lǐng)先地位以及顯著的產(chǎn)品優(yōu)勢(shì)。通過(guò)參與天璣開(kāi)發(fā)者大會(huì),聯(lián)發(fā)科從生成式AI產(chǎn)業(yè)的先驅(qū)及參與者,躍升為該領(lǐng)域發(fā)展的引領(lǐng)者。全方位推動(dòng)生成式AI在終端側(cè)的廣泛普及和持續(xù)發(fā)展,攜手產(chǎn)業(yè)合作伙伴共同開(kāi)創(chuàng)生成式AI的新生態(tài)。

訂閱網(wǎng)站文章尾圖1.jpg

本站內(nèi)容除特別聲明的原創(chuàng)文章之外,轉(zhuǎn)載內(nèi)容只為傳遞更多信息,并不代表本網(wǎng)站贊同其觀點(diǎn)。轉(zhuǎn)載的所有的文章、圖片、音/視頻文件等資料的版權(quán)歸版權(quán)所有權(quán)人所有。本站采用的非本站原創(chuàng)文章及圖片等內(nèi)容無(wú)法一一聯(lián)系確認(rèn)版權(quán)者。如涉及作品內(nèi)容、版權(quán)和其它問(wèn)題,請(qǐng)及時(shí)通過(guò)電子郵件或電話通知我們,以便迅速采取適當(dāng)措施,避免給雙方造成不必要的經(jīng)濟(jì)損失。聯(lián)系電話:010-82306118;郵箱:aet@chinaaet.com。
亚洲一区二区欧美_亚洲丝袜一区_99re亚洲国产精品_日韩亚洲一区二区
亚洲区在线播放| 亚洲精品男同| 亚洲精选一区二区| 亚洲激情六月丁香| 欧美色欧美亚洲高清在线视频| 一区二区三区色| 亚洲视频在线观看网站| 国产日韩欧美精品| 麻豆av福利av久久av| 亚洲免费成人av| 亚洲视频在线观看免费| 亚洲免费成人| 国产视频一区欧美| 欧美第一黄网免费网站| 亚洲午夜激情免费视频| 欧美一级视频| 亚洲人成绝费网站色www| 国产精品大片wwwwww| 久久精品99久久香蕉国产色戒| 亚洲国产精品日韩| 99综合精品| 狠狠操狠狠色综合网| 欧美日韩亚洲一区| 久久久久成人精品| 一区二区欧美视频| 99国产成+人+综合+亚洲欧美| 亚洲人精品午夜| 亚洲欧美日韩精品久久久| 亚洲第一天堂av| 国产精品不卡在线| 蜜桃av噜噜一区| 免费h精品视频在线播放| 蜜臀久久99精品久久久画质超高清| 老司机一区二区| 午夜精品久久久久久久久久久久 | 午夜久久黄色| 亚洲娇小video精品| 亚洲激情另类| 日韩一区二区精品| 亚洲一区二区在线| 91久久久亚洲精品| 99在线|亚洲一区二区| 亚洲大胆视频| 亚洲女人av| 欧美在线|欧美| 亚洲一区三区在线观看| 亚洲日本中文字幕区| 99精品免费| 亚洲激情第一区| 一本色道久久88综合亚洲精品ⅰ | 久久综合色综合88| 欧美精选午夜久久久乱码6080| 欧美一区二区私人影院日本 | 欧美在线观看视频一区二区三区 | 亚洲区一区二| 亚洲私人黄色宅男| 欧美一区二区在线| 9l国产精品久久久久麻豆| 先锋影音久久久| 欧美a级理论片| 久久久久久久97| 欧美一区二区大片| 另类尿喷潮videofree| 欧美日韩国产成人在线| 欧美电影资源| 国产精品久久777777毛茸茸| 国产一区91精品张津瑜| 国产精品无码专区在线观看| 欧美日韩一区二区精品| 国产日韩精品综合网站| 亚洲狠狠婷婷| 亚洲欧美日韩国产一区二区三区| 亚洲国产一区二区精品专区| 亚洲视频久久| 中文国产一区| 久久人人精品| 久久视频国产精品免费视频在线| 欧美精品色一区二区三区| 欧美国产成人在线| 欧美激情综合五月色丁香| 国产精品乱人伦一区二区 | 亚洲免费网址| 一本色道久久88综合日韩精品| 久久九九精品| 国产精品伦一区| 亚洲欧洲在线一区| 久久高清免费观看| 欧美专区日韩视频| 亚洲深夜福利在线| 欧美v日韩v国产v| 国产午夜精品一区二区三区视频| 日韩天天综合| 亚洲人体影院| 久久久女女女女999久久| 国产精品美女| 亚洲美女一区| 日韩视频不卡| 久久影视精品| 亚洲欧美在线免费观看| 亚洲欧美日韩在线综合| 在线免费不卡视频| 国产精品一区二区女厕厕| 欧美96在线丨欧| 欧美日韩亚洲成人| 在线视频国内自拍亚洲视频| 香蕉av777xxx色综合一区| 亚洲主播在线| 欧美日韩在线视频一区二区| 一片黄亚洲嫩模| 一区二区三区欧美日韩| 一区二区三区久久精品| 亚洲国产视频a| 狂野欧美激情性xxxx| 国产在线国偷精品产拍免费yy| 伊人夜夜躁av伊人久久| 亚洲人成久久| 亚洲精品一级| 欧美成人激情在线| 影音先锋在线一区| 亚洲第一色中文字幕| 一区二区不卡在线视频 午夜欧美不卡在 | 亚洲在线国产日韩欧美| 欧美日韩一区二区三区免费| 亚洲日本理论电影| 日韩一本二本av| 欧美巨乳波霸| 日韩一区二区高清| 国产精品99久久久久久宅男 | 欧美一区二区视频在线观看2020| 久久福利资源站| 国产午夜精品一区二区三区视频| 欧美一区二区三区啪啪| 久久久噜噜噜久噜久久| 黑丝一区二区三区| 亚洲国产一区二区视频| 久久婷婷色综合| 亚洲第一精品夜夜躁人人躁| 亚洲精品日韩一| 欧美肉体xxxx裸体137大胆| 艳女tv在线观看国产一区| 亚洲一区二三| 国产欧美视频一区二区三区| 欧美伊人久久大香线蕉综合69| 久久久久一区二区| 在线看片一区| 亚洲午夜精品| 国产人成一区二区三区影院| 久久国产高清| 欧美精品 国产精品| 一区二区高清| 欧美在线观看日本一区| 在线观看亚洲一区| 一本一本久久a久久精品综合麻豆 一本一本久久a久久精品牛牛影视 | 久久综合激情| 亚洲精品中文字幕有码专区| 亚洲免费视频一区二区| 老司机精品福利视频| 91久久精品国产91久久| 亚洲天堂av综合网| 国产无遮挡一区二区三区毛片日本| 久久国产精品99久久久久久老狼 | 亚洲伦理在线免费看| 欧美日一区二区三区在线观看国产免 | 久久久久久久精| 亚洲欧洲日夜超级视频| 亚洲在线播放| 韩日视频一区| 一区二区欧美精品| 国产一区二区精品久久99| 亚洲美女尤物影院| 国产精品亚洲综合一区在线观看| 亚洲国产电影| 国产精品国产三级国产普通话99| 欧美在线看片| 欧美日韩午夜在线| 久久国内精品自在自线400部| 亚洲在线观看视频| 国内精品久久久久久久影视蜜臀| 亚洲乱码精品一二三四区日韩在线 | 亚洲福利电影| 欧美天天综合网| 久久精品国产亚洲一区二区三区| 欧美精品一区二区久久婷婷 | 久久成人综合网| 欧美日韩直播| 亚洲观看高清完整版在线观看| 欧美视频二区36p| 亚洲国产精品久久91精品| 午夜视频在线观看一区二区三区| 国产精品福利片| 亚洲电影免费| 欧美一级久久久| 亚洲女人天堂成人av在线| 激情六月婷婷综合| 久久国产精品亚洲77777| 一区二区三区 在线观看视频| 国产色产综合色产在线视频| 9l国产精品久久久久麻豆| 国产日韩欧美在线看| 国产精品99久久久久久久vr |