《電子技術應用》
您所在的位置:首頁 > 人工智能 > 解決方案 > 算力突圍:破解人工智能的基礎設施困局

算力突圍:破解人工智能的基礎設施困局

2025-05-28
作者:是德科技高級副總裁Marie Hattar
來源:是德科技
關鍵詞: 是德科技 人工智能

9.jpg

人工智能正在改變世界。然而,它需要大量的處理能力。需求每一百天就會翻一番。這推動了人工智能基礎設施的投資熱潮。

數據中心是未來人工智能創新的基礎,其性能備受矚目。由于涉及的規模和復雜性,確保數據中心的穩健性和可靠性是一項艱巨的任務。從芯片到GPU,再到服務器、網絡組件和軟件,基礎設施的每一個元素都必須在網絡層面進行單獨和綜合評估,以確保其無縫運行并消除任何薄弱環節。這給服務提供商帶來了沉重的負擔;然而,考慮到其中的利害關系,每一次效率的提高都意義重大。

在深入探討測試的必要性之前,我們先來看看人工智能是如何給數據中心帶來負擔的。當前人工智能技術的迅猛發展,源于其應用所依賴的復雜算法與模型體系;與特定任務軟件相比,它們消耗了更多的計算資源,因此也消耗了更多的能源。這是因為訓練支持生成式人工智能的大語言模型(LLM)需要龐大的計算資源。而且,隨著人工智能解決方案變得越來越精細和復雜,對更多處理資源和數據存儲的需求并沒有緩解的跡象。

例如,Sam Altman最近聲稱,由于公司“缺少GPU”,OpenAI最新模型的推廣速度放緩。更重要的是,高盛預測,到2030年,人工智能將推動數據中心電力增長165%。這使得基礎設施成為業界關注的焦點,因為業界正在尋找各種方法來創建一個能夠支持未來迭代的技術環境。

10.jpg

前方道路上的坑洼

人工智能數據中心需要滿足和管理對計算資源前所未有的需求;這些集群必須高效地支持智能時代,并提供必要的計算、內存和網絡性能。測試在幫助克服挑戰方面具有舉足輕重的作用。要驗證、優化和提高人工智能數據中心的性能,需要能夠再現人工智能工作負載的復雜性和規模的系統級仿真器。隨著基礎設施的發展,系統級評估對于確保性能的穩健性和可靠性至關重要。

●規模:數據中心運營的各個方面都必須增長,包括電力、冷卻、基礎設施、存儲和帶寬。實現這一目標的一個關鍵方面是解決分布式計算環境中的延遲問題。人工智能集群(在GPU上分配任務)很容易因尾部延遲(系統最慢組件的滯后時間)而出現性能瓶頸。有效的擴展需要通過工作負載均衡來檢測并盡量減少這種情況。

然而,僅僅符合標準是不夠的,還必須對組件的性能進行評估,看它是如何處理網絡協議數據和前向糾錯的。例如,符合標準的收發器可能會因為沒有在協議/網絡層進行適當測試而失效。

測試可幫助服務商識別系統效率低下的問題,優化資源分配,并確保系統在所有節點上都能保持高性能。通過微調,數據中心可以在發展過程中提高效率,改善運營和資源利用率。

●專用硬件:人工智能專用硬件對于提供更多計算資源至關重要。例如,NVIDIA的最新超級芯片將性能提高了30倍,同時能耗降低了25倍。不僅是芯片,人工智能要求所有組件全面提速——從互連架構、內存模塊、網絡推理卡到交換機,均需提升運行速度,同時能效要求也需同步提升。

然而,這些技術進步需要超越合規性測試的嚴格評估,以驗證峰值負載下的性能表現。系統級驗證對確保設備在實際運行環境中穩定可靠至關重要。壓力測試可確保人工智能設備的性能,而互連架構與網絡結構的優化(通過網絡驗證)能避免瓶頸;內存與存儲評估則保障快速數據訪問。通過整合全方位測試,服務提供商可實現高效擴展。

●智能工作負載:要滿足計算需求,就必須采用分解式架構,以便動態分配資源。測試可以驗證智能管理,并應結合仿真技術,對網絡結構以及動態資源分配和自動縮放進行基準測試。

要確保網絡性能,就必須使用真實世界模型進行壓力測試、制定基準并找出尾部延遲,所有這些都能改善工作負載分配。這使服務商能夠實現性能目標,同時根據當前和預測的需求動態管理資源。在堆棧中添加先進的軟件對于最大限度地提高性能至關重要。

可靠性是關鍵

人工智能模型將繼續推動更多計算資源的指數級增長,這也推動了基礎設施現代化的軍備競賽。然而,要想讓高盛的預測成為現實,就必須在組件和系統層面進行嚴格評估,以發現效率低下的問題,確保數據中心的每個方面都穩健、可靠,并在必要的規模上進行優化。

2.jpg

本站內容除特別聲明的原創文章之外,轉載內容只為傳遞更多信息,并不代表本網站贊同其觀點。轉載的所有的文章、圖片、音/視頻文件等資料的版權歸版權所有權人所有。本站采用的非本站原創文章及圖片等內容無法一一聯系確認版權者。如涉及作品內容、版權和其它問題,請及時通過電子郵件或電話通知我們,以便迅速采取適當措施,避免給雙方造成不必要的經濟損失。聯系電話:010-82306118;郵箱:aet@chinaaet.com。
主站蜘蛛池模板: 国产乱女乱子视频在线播放| 国产精品极品美女免费观看| 久久久亚洲欧洲日产国码农村| 欧美国产日本高清不卡| 人人妻人人澡人人爽人人精品| 美女胸又大又www又黄的网站| 国产又黄又刺激又爽视频黄| 亚洲va欧美va| 国产精品嫩草影院在线| 97久久精品人妻人人搡人人玩| 天天摸天天看天天做天天爽| 一级毛片特级毛片国产| 无码国内精品人妻少妇蜜桃视频 | 男人和女人在床做黄的网站| 午夜一级免费视频| 翁熄止痒婉艳隔壁老李头| 国产中文欧美日韩在线| 韩国电影中文字幕| 国产成人亚洲精品91专区手机 | 亚洲V欧美V国产V在线观看| 欧美人牲交a欧美精区日韩| 亚洲日本天堂在线| 欧美老熟妇乱大交xxxxx| 亚洲精品国产成人| 激情欧美人xxxxx| 人人妻人人妻人人片色av| 男女性爽大片视频男女生活| 免费观看a级毛片| 精品一区二区三人妻视频| 免费黄色片网址| 粉色视频在线播放| 免费污片在线观看| 第一福利在线视频| 免费观看a级毛片| 秋葵视频在线免费观看| 免费精品国产自产拍观看| 精品国产亚洲一区二区三区| 厨房里摸着乳丰满在线观看| 美女叫男人吻她的尿口道视频| 啊轻点灬大ji巴太粗太长了情侣 | 亚洲成A人片在线观看无码3D|