在研究與開發(fā)醫(yī)療設(shè)備算法的過程中，始終需要具有高端算力的專用 PC 來探索最先進的算法。
并行計算平臺和編程模型 CUDA 的出現(xiàn)，推動了 NVIDIA GPU 在許多醫(yī)療設(shè)備、醫(yī)療器械和模型中的集成，實現(xiàn)了高性能算法工作負載的軟件開發(fā)循環(huán)。如今，AI 已被應(yīng)用于醫(yī)學(xué)影像工作流程，并且自然而然地擴展到了其他使用醫(yī)學(xué)影像的領(lǐng)域，例如具有視頻或圖像采集功能的醫(yī)療設(shè)備等。為了將 AI 集成到醫(yī)療設(shè)備中，需要投入更多的計算資源來加快新功能的開發(fā)。
NVIDIA 正在推出 NVIDIA Clara AGX 開發(fā)套件來滿足這一需求，從而推動針對醫(yī)療器械的高級算法和 AI 技術(shù)的研究。Clara AGX 開發(fā)套件包含：Jetson AGX Xavier、Mellanox Connect X-6 NIC、RTX 6000 GPU 和 HDMI 2.0 輸入。Clara AGX SDK 提供必要的 OS、驅(qū)動程序和存儲庫、容器化運行時，以及 AI 技術(shù)示例。這一硬件和軟件的組合創(chuàng)建了一個獨特的平臺，通過該平臺，醫(yī)療設(shè)備制造商、軟件開發(fā)者和醫(yī)學(xué)研究界能夠更輕松地將 AI 先進技術(shù)應(yīng)用于醫(yī)療器械。
用于 AI 技術(shù)開發(fā)的可擴展計算
Clara AGX 開發(fā)套件建立在 Jetson AGX Xavier 基礎(chǔ)之上，包含一個基于 Jetson 產(chǎn)品系列的豐富且多樣化存儲庫和工具的生態(tài)系統(tǒng)。Jetson AGX Xavier 模塊將運行功率低至 10W、算力高達 32 TOPS 的 AI 自主機器變成現(xiàn)實。作為全球領(lǐng)先 AI 計算平臺的一部分，該模塊受益于 NVIDIA 豐富的 AI 工具和工作流，開發(fā)者可使用它快速訓(xùn)練和部署神經(jīng)網(wǎng)絡(luò)。Jetpack SDK 是一款用于構(gòu)建 AI 應(yīng)用的綜合解決方案，它通過標準 Linux 操作系統(tǒng)、為主板組件提供支持的 BSP 以及對 CUDA 的支持（并因此帶來了整個 CUDA 加速生態(tài)系統(tǒng)），為 Clara AGX 開發(fā)套件提供支持。此外，Clara AGX SDK 包含用于構(gòu)建流數(shù)據(jù)處理流程的 Rivermax 和 DeepStream、支持通過 EGX 進行部署的容器化運行時，以及用于為特定用例建模的參考應(yīng)用。
雖然 Jetson 平臺在技術(shù)上非常適合產(chǎn)品化，但新一代算法的開發(fā)需要 NVIDIA 獨立 GPU 提供更多計算資源。高性能的 RTX GPU 能夠減少優(yōu)化代碼所需的時間，并且可以在不影響性能的情況下進行算法實驗。
Clara AGX 開發(fā)套件中包含 NVIDIA RTX 6000 GPU，其峰值性能超過 200 INT8 AI TOPS。RTX 6000 可以運行最復(fù)雜、要求最高的 AI 應(yīng)用中的多個并發(fā)推理流程，從而促進最新 AI 模型的研發(fā)。
當研發(fā)完成且最終 AI 模型已準備就緒時，開發(fā)者可以優(yōu)化這些模型，并將它們部署到一個完全可擴展的架構(gòu)上。追求低功耗用例的開發(fā)者可以使用 Jetson 產(chǎn)品系列，該系列產(chǎn)品滿足了小型產(chǎn)品對功耗和尺寸要求。此外，開發(fā)者也可以在結(jié)合 Jetson 和 RTX GPU 的產(chǎn)品系統(tǒng)上，部署高性能用例。NVIDIA 正通過一套應(yīng)用軟件提供一個完整且可擴展的產(chǎn)品系列。
適用于高帶寬傳感器的可擴展連接
醫(yī)療器械以及許多其他嵌入式系統(tǒng)都需要通過 GPU Direct 或 RDMA 流在各類上游傳感器和 GPU 之間建立高帶寬連接。Clara AGX 開發(fā)套件讓客戶能夠通過兩種不同的媒介實現(xiàn)這類專用連接。
第一種是通過集成 NVIDIA Mellanox ConnectX-6 NIC 實現(xiàn)對 100G 以太網(wǎng)和 10G 以太網(wǎng)的支持。該先進設(shè)備能夠以全線速將 GPU Direct 連接到 RTX 6000 GDDR DRAM。Clara AGX 開發(fā)套件可減輕網(wǎng)絡(luò)堆棧的負擔，從而使串流的傳感器數(shù)據(jù)包能夠?qū)崿F(xiàn)最高的吞吐量和性能，同時最大程度地減少對 CPU 利用率的影響。
第二種是用戶可以采用兩個支持自定義 PCIe 卡或其它 NIC 的 PCIe Gen4x8 插槽。第一個 PCIe 端口用于連接 NVIDIA Mellanox ConnectX-6 NIC 中的集成交換機。該端口支持將 RDMA 數(shù)據(jù)直接傳輸?shù)?RTX6000 GDDR DRAM 中，其用例包括具有多個 4k60 12G SDI 輸入的自定義視頻采集卡。第二個 PCIe 端口用于直接連接 Jetson AGX Xavier 模塊。該端口可以連接外部主機或通過自定義卡實現(xiàn)專用輸出。
合作伙伴開發(fā)者計劃
NVIDIA 還為 Clara AGX 開發(fā)套件推出了合作伙伴開發(fā)者計劃，包含 NVIDIA 硬件和協(xié)作網(wǎng)絡(luò)。如欲進一步了解如何獲取 Clara AGX 開發(fā)套件，請點擊鏈接進行申請。
如欲了解有關(guān) Clara AGX 的更多信息，請觀看 Mathias Blake、Juha Tukkinen 和 Brian Feeley 在 NVIDIA GTC 2020 秋季站上所做的深入展示《構(gòu)建 AI 驅(qū)動的醫(yī)療器械》。三位專家探討了 AI 革命將如何為醫(yī)療設(shè)備創(chuàng)造巨大價值，以及 Clara AGX 將如何助力這場變革。