《電子技術應用》
您所在的位置:首頁 > 模擬設計 > 業界動態 > 北電數智前進·AI異構計算平臺 為大模型提供算力最優解

北電數智前進·AI異構計算平臺 為大模型提供算力最優解

2024-12-10
來源:科技快報

現如今,以大模型為代表的生成式人工智能技術正如一股強勁的東風,吹動著新質生產力的帆船破浪前行。這股技術浪潮不僅重塑了各行各業的面貌,也對算力供給提出了前所未有的挑戰與需求。實現“國產算力自主可控”,確保信息安全和經濟持續健康發展,已成為當下亟待解決的關鍵課題。

北電數智“前進·AI異構計算平臺”支持對英偉達集群及多款國產芯片的廣泛納管,幫助用戶實現對不同品牌和類型AI加速卡的統一管理,以確保各類AI芯片的無縫集成和優化利用。廣泛的納管能力也讓用戶能夠根據具體需求,靈活地調整資源配置,優化算力供給滿足各類訓練推理任務。

“前進·AI異構計算平臺”具有卓越的算力調度能力,可為不同場景提供多樣化的調度策略,以精準匹配各類計算任務的不同需求。“潮汐調度”是該平臺的一大特色亮點,其可根據計算任務的特性和資源需求的變化動態地分配和回收計算資源,尤其適用于渲染應用等場景,以最大化資源的利用率并減少執行時間;此外,“前進·AI異構計算平臺”提供的“訓推混布”策略可幫助大模型使用方實現同一算力集群既支持在線推理服務部署任務,又支持離線訓練任務,從而顯著提高算力資源的利用率,減少資源浪費,大幅降低運營成本。

3.png

作為全國首個在生產環境下可實現規模化測試的全棧迭代驗證平臺,北電數智基于“前進·AI異構計算平臺”打造的國產算力PoC平臺落地北京數字經濟算力中心。目前,國產算力PoC平臺已完成十余款芯片的評測支持和二十多款主流模型的適配。為更好推進國產芯片對模型的支持力度,北電數智自主構建了完備的融合算子庫,算子能自動調優,在分鐘級時間內可完成對各種平臺的算子適配和優化,可將延遲水平降低3倍以上。

針對具體行業,北電數智也正面向影視、金融、政務、工業等多個垂類場景開展測試驗證服務,為不同行業的垂類模型落地樹立標桿案例,持續探尋國產算力和行業、模型、應用的最佳適配組合,推動模型落地。

4.png

未來,「前進·AI異構計算平臺」能繼續發揮其獨特的優勢和作用,推動國產算力從“可用”向“好用”邁進。同時,北電數智也將繼續加大研發投入、加強人才培養、構建創新生態,為國產算力的自主可控和人工智能技術的持續健康發展貢獻更多的智慧和力量。


Magazine.Subscription.jpg

本站內容除特別聲明的原創文章之外,轉載內容只為傳遞更多信息,并不代表本網站贊同其觀點。轉載的所有的文章、圖片、音/視頻文件等資料的版權歸版權所有權人所有。本站采用的非本站原創文章及圖片等內容無法一一聯系確認版權者。如涉及作品內容、版權和其它問題,請及時通過電子郵件或電話通知我們,以便迅速采取適當措施,避免給雙方造成不必要的經濟損失。聯系電話:010-82306118;郵箱:aet@chinaaet.com。
主站蜘蛛池模板: 青青青激情视频在线最新| 亚洲精品电影在线| 国产jizz在线观看| 国产精品视频你懂的| jizz中国jizz欧洲/日韩在线| 无码中文人妻在线一区二区三区| 乳揉みま痴汉电车动漫中文字幕 | 男人j桶进女人p无遮挡在线观看 | 全彩成人18h漫画在线| 2021年国产精品久久| 天天欲色成人综合网站| 中文午夜人妻无码看片| 日本成本人三级在线观看2018| 亚洲AV午夜精品一区二区三区| 欧美日韩中文视频| 亚洲精品无码少妇30P| 玉蒲团之偷情宝鉴电影| 全彩无翼口工漫画大全3d| 美国一级毛片完整高清| 国产91久久精品一区二区| 花季传媒app免费版网站下载安装| 国产在线麻豆精品| 国产精品va一级二级三级| 国产福利高颜值在线观看| 综合网激情五月| 国产精品青青青高清在线| 99国产欧美久久久精品蜜芽| 天天爽亚洲中文字幕| 一个人免费视频观看在线www| 岳双腿间已经湿成一片视频| 中国一级特黄毛片| 成人短视频完整版在线播放| 丰满人妻一区二区三区免费视频| 日本免费看视频| 久久国产加勒比精品无码| 日韩人妻无码精品无码中文字幕| 久久精品成人国产午夜| 日韩大片高清播放器| 久久精品国产99国产精品澳门| 日韩精品免费一级视频| 久久精品国产精品国产精品污|