歡迎訪問鄭州普星電(diàn)子科(kē)技(jì )有(yǒu)限公(gōng)司網站!
工(gōng)控領域産(chǎn)品方案提供商(shāng)
提供高品質(zhì)工(gōng)控産(chǎn)品和完善解決方案

全國(guó)咨詢服務(wù)熱線(xiàn)

0371-86065102  15838050922

随着邊緣運算對效能(néng)的需求日益增長(cháng),如何在終端有(yǒu)效率的承載及處理(lǐ)大量數據已成為(wèi)工(gōng)業廠房及醫(yī)療應用(yòng)的一大瓶頸。加上空間成本寸土寸金,×能(néng)有(yǒu)效降低營運及維護成本的作(zuò)法,便是安(ān)裝(zhuāng)××能(néng)邊緣服務(wù)器以精(jīng)簡占地面積及簡化布署的架構。DFI 搭載第三代 Intel® Xeon® 處理(lǐ)器的 ICX610-C621A-C621A 服務(wù)器級ATX 主闆為(wèi) AI 應用(yòng)提供可(kě)靠的效能(néng),并透過豐富的擴展槽來提供充沛的帶寬,将邊緣運算的裝(zhuāng)置布署化繁為(wèi)簡,以×精(jīng)簡的架構提高生産(chǎn)力。

 

産(chǎn)業 : 工(gōng)廠自動化 / 智能(néng)醫(yī)療
應用(yòng) : 邊緣計算服務(wù)器、AOI自動光學(xué)檢測、AI 醫(yī)療影像辨識
解決方案 : ICX610-C621A-C621A 服務(wù)器級ATX 主闆 (應用(yòng)建議)

 

邊緣運算的明顯優勢

在工(gōng)業及醫(yī)療産(chǎn)業,機器視覺乃工(gōng)業4.0 之母,亦是維持××生産(chǎn)力的重要環節。身為(wèi)人工(gōng)智能(néng)×常扮演的應用(yòng)面向,負責機器視覺的運算裝(zhuāng)置在效能(néng)的要求上尤其吃重,它需要無遲滞的接收來自終端設備傳來的影像數據,快速而準确的分(fēn)析後做出回應,并同時儲存結果及記錄對應的影像,對裝(zhuāng)置的對外帶寬及運算核心能(néng)耐是一大考驗。

而在邊緣運算的框架下,這些數據必須盡其可(kě)能(néng)的在終端實時處理(lǐ)及分(fēn)析,不宜再全數回傳至雲端進行,使軟件、硬件及數據數據皆得以×接近邊緣的方式運作(zuò)。此舉除了可(kě)以減少傳輸帶寬,也能(néng)避免因為(wèi)數據延遲拖累生産(chǎn)效率,用(yòng)×快的反應速度來實時與設備溝通。

邊緣運算要運算哪些内容?影像、聲音、以及來自各種裝(zhuāng)置的感測數據。在講求生産(chǎn)效率的産(chǎn)線(xiàn)以及精(jīng)準度的醫(yī)療應用(yòng),這些内容必需極其精(jīng)細,才有(yǒu)可(kě)能(néng)産(chǎn)生準确的結果,精(jīng)細的内容則意味着龐大的數據量需要處理(lǐ)。

一言以敝之,隻靠雲端架構難以應付終端的運算需求,在終端布署大量而繁雜的運算設備又(yòu)會對空間及維護成本上造成難題。邊緣運算服務(wù)器于是順理(lǐ)成章的擔當此重任,在×接近數據的地方接收數據、處理(lǐ)數據、回傳數據,可(kě)謂身兼數職。在整個應用(yòng)場域裏,我們可(kě)以把它當做是×靠近終端裝(zhuāng)置的節點,在接口的整合能(néng)力、軟件的彈性支持及虛拟化能(néng)力也會是重要考慮,這次我們先把焦點放在「效能(néng)」。
 

邊緣運算在工(gōng)業場域的架構示意

邊緣運算于工(gōng)廠自動化應用(yòng)的範例架構。終端裝(zhuāng)置與邊緣運算服務(wù)器溝通并回傳數據,服務(wù)器分(fēn)析數據後,回傳對應的控制指令,并于本地儲存數據,若有(yǒu)必要再回傳至雲端。雲端主機應盡可(kě)能(néng)的減少實時性的分(fēn)析需求,以免造成溝通上的延遲。

 

邊緣運算服務(wù)器 - 「效能(néng)」為(wèi)決勝點

邊緣運算服務(wù)器需具(jù)備微型數據中(zhōng)心及邊緣雲的能(néng)耐,不脫處理(lǐ)速度、傳輸速度與儲存效率。運算着重實時與精(jīng)準,傳輸必須低延遲,而在數據的存取上得有(yǒu)足夠的帶寬與空間,這些都剛好是服務(wù)器等級主闆的特長(cháng)。

以 DFI ICX610-C621A-C621A 為(wèi)例, 結合多(duō)核心多(duō)線(xiàn)程的第三代 Intel® Xeon® 處理(lǐ)器為(wèi)多(duō)任務(wù)好手,能(néng)滿足來自多(duō)台終端設備的數據處理(lǐ)需求,數量驚人的内外部傳輸埠口也提供了充裕的傳輸通道,同時可(kě)管理(lǐ)為(wèi)數衆多(duō)的儲存裝(zhuāng)置,這些邊緣服務(wù)器的功能(néng)在此張主闆上全都能(néng)一次達成。

ICX610-C621A-C621A 專為(wèi) Intel® Ice Lake 平台量身打造, 支持第三代 Intel® Xeon® 處理(lǐ)器。此代 Xeon® 處理(lǐ)器于 AI 的運算能(néng)力極為(wèi)突出,包含以下三方面的提升:

  • Intel® Deep Learning Boost
  • Intel® AVX-512
  • 支援PCIe 4.0

 

Intel® Deep Learning Boost 搭配 Intel® AVX-512

Intel®Deep Learning Boost 并非于此代 Xeon® 處理(lǐ)器才問世,但這個立基于 Intel® AVX512 VNNI 指令集的技(jì )術随着處理(lǐ)器的更新(xīn)而益發強勁,在深度學(xué)習及視覺分(fēn)析效能(néng)方面都有(yǒu)顯著提升。在 AI 應用(yòng)的訓練階段,效能(néng)便獲得60% 的提升,而在實際進行推論時,也比××代快 30 倍以上。

用(yòng)更嚴謹的數據來判斷及解析,VNNI 暴增了低精(jīng)度運算在 AI 深度學(xué)習及推論的效能(néng)成長(cháng)。透過低精(jīng)度運算的優化,在進行 AI 應用(yòng)時處理(lǐ)器的資料吞吐量大幅增加,平均可(kě)創造約 2.19 倍的差距,這意味着在時間上快了約 45%。

45% 的速度提升代表什麽?試想在産(chǎn)在線(xiàn)原本辨識一處産(chǎn)品缺陷的耗時為(wèi) 25 毫秒(miǎo)(注 1),節省了近一半的時間後會小(xiǎo)于 15 毫秒(miǎo),積沙成塔下,同樣的時間内能(néng)辨識的産(chǎn)品數量就會變多(duō),大量布署下能(néng)節省的工(gōng)時及産(chǎn)力提升更是不言而谕。

而在醫(yī)療應用(yòng)上,辨識速度的提升對于受檢者而言,亦可(kě)大幅降低容易造成不适的生理(lǐ)掃描或幅射曝露時間,提供更優質(zhì)的檢測體(tǐ)驗。

效能(néng)參考 - FP32 vs Int8

上方圖表,是以當前×熱門的對象辨識模型 Yolo_v3 以及醫(yī)療領域的 Brain Tumor Segmentation 來做 AI推論效能(néng)的實測。透過低精(jīng)度運算 (Int8) 的優化,在 Yolo_v3 的測試裏,與 FP32 差了将近 3.5 倍,而 Brain Tumor Segmentation 則為(wèi) 1.6 倍。

 

 

效能(néng)參考 - FP32 vs Int8

智能(néng)交通領域的車(chē)牌辨識應用(yòng)也常常需要邊緣伺服器來做運算節點。辨識的速度愈快,系統便能(néng)更即時的做出對應的反應,停車(chē)場域在匣口及停車(chē)位的管控上也更來得順暢及輕松許多(duō)。

Int8 由于資料體(tǐ)積小(xiǎo),因此需要的整體(tǐ)儲存容量及讀取頻寬也會減少,自然能(néng)降低處理(lǐ)延遲以及增加吞吐量。在這個應用(yòng)範例裏,Int8 的吞吐量是 FP32 的 6 倍之譜,延遲更是接近隻有(yǒu)八分(fēn)之一。

 

PCIe 4.0 帶寬大躍進

PCIe 4.0 則是提升了單個插槽所能(néng)承載的×大帶寬, 結合數量的加乘,能(néng)承載的數據量不容小(xiǎo)觑。ICX610-C621A 的 PCIe x16 插槽有(yǒu) 3 個,PCIe x8 則有(yǒu) 8 個,若單純隻就一條 PCIe x16 插槽能(néng)處理(lǐ)的未壓縮影像數據來看,單個插槽便能(néng)處理(lǐ) 2 個 8K 的×高采樣頻率影像(注 2)。這已經是用(yòng)×嚴苛的标準來計算,若是經過壓縮、流量較低的 4K 或 Full-HD 影像,能(néng)處理(lǐ)的串流數量将會十分(fēn)驚人。

在有(yǒu)多(duō)條生産(chǎn)線(xiàn)、多(duō)路影像需辨識的工(gōng)業場域,單台邊緣服務(wù)器上配有(yǒu)愈多(duō)的擴充插槽,愈能(néng)減少處理(lǐ)節點的設置數量,達成布署上的精(jīng)簡,使單台邊緣服務(wù)器即能(néng)管理(lǐ)為(wèi)數衆多(duō)的周邊裝(zhuāng)置,并同時身兼本地雲暫存這些裝(zhuāng)置的産(chǎn)生數據。

結合了以上優勢的 ICX610-C621A,在周邊埠口的設置上也采用(yòng)了大艦巨炮策略。光是 10GbE 以太網絡便有(yǒu)兩組, 且在已經×大化 PCIe 插槽數量的前提下,仍然配置了六組 SATA 以及一個 NVMe 插槽,内存的部份則利用(yòng)四信道、八支模塊來達到×高 512GB 的容量。從數據的撷取至運算,乃至後方的儲存,全數皆以×高的帶寬規格串連,打造邊緣運算界的高速公(gōng)路。

ICX610-C621A 規格:

  • 3rd Gen Intel® Xeon® Scalable Processor Family
  • 8 ECC-RDIMM up to 512GB
  • 2 x 10GbE
  • IPMI OOB Remote Management
  • Single Display: VGA resolution up to 1920x1200 @ 60Hz
  • Multiple Expansion: 3 PCIe x16, 2 PCIe x8, 1 x M.2 M key
  • Rich I/O: 2 Intel GbE, 1 Dedicated IPMI, 2 COM, 5 USB 3.1 Gen1, 5 USB 2.0
  • 15-Year CPU Life Cycle Support Until Q2'' 36 (Based on Intel IOTG Roadmap)

 

*( 注 2) 7680x4320 分(fēn)辨率,每秒(miǎo) 60 張,色深 16bit,色彩取樣 4:4:4。

ICX610-C621A 規格

DFI 服務(wù)器級産(chǎn)品線(xiàn)精(jīng)簡 AIoT 架構中(zhōng)的邊緣運算節點布署

物(wù)聯網的部署複雜度日以遽增,接收的數據不但愈來愈多(duō)元,需要處理(lǐ)的信息量也不可(kě)同日而語。DFI 服務(wù)器産(chǎn)品線(xiàn)以效能(néng)、高可(kě)靠性及豐沛的帶寬為(wèi)出發點,将物(wù)聯網的布署化繁為(wèi)簡,降低節點部署的困難程度,在節省成本的同時亦提高生産(chǎn)力。

全國(guó)咨詢服務(wù)熱線(xiàn)

0371-86065102  15838050922
鄭州普星電(diàn)子科(kē)技(jì )有(yǒu)限公(gōng)司-做可(kě)信賴的工(gōng)控産(chǎn)品

咨詢服務(wù)電(diàn)話

0371-86065102
15838050922
18638711060

地址:河南省鄭州市金水區(qū)文(wén)化路85号A時代廣場8樓
郵箱:zzpuxing@163.com

COPYRIGHT BY 鄭州普星電(diàn)子科(kē)技(jì )有(yǒu)限公(gōng)司 ALLRIGHT RESERVED 京ICP證000000号

免責聲明本站部分(fēn)内容來自網絡如有(yǒu)侵權請告知我們立即删除!

在線(xiàn)客服

聯系方式

0371-86065102
15838050922
18638711060

電(diàn)子郵箱

zzpuxing@163.com
點擊收起