全國咨詢服務熱線
随着邊緣運算對效能的需求日益增長，如何在終端有效率的承載及處理大(dà)量數據已成爲工(gōng)業廠房及醫療應用的一(yī)大(dà)瓶頸。加上空間成本寸土寸金，×能有效降低營運及維護成本的作法，便是安裝××能邊緣服務器以精簡占地面積及簡化布署的架構。DFI 搭載第三代 Intel® Xeon® 處理器的 ICX610-C621A-C621A 服務器級ATX 主闆爲 AI 應用提供可靠的效能，并透過豐富的擴展槽來提供充沛的帶寬，将邊緣運算的裝置布署化繁爲簡，以×精簡的架構提高生(shēng)産力。
産業 : 工(gōng)廠自動化 / 智能醫療
應用 : 邊緣計算服務器、AOI自動光學檢測、AI 醫療影像辨識
解決方案 : ICX610-C621A-C621A 服務器級ATX 主闆 (應用建議)
在工(gōng)業及醫療産業，機器視覺乃工(gōng)業4.0 之母，亦是維持××生(shēng)産力的重要環節。身爲人工(gōng)智能×常扮演的應用面向，負責機器視覺的運算裝置在效能的要求上尤其吃重，它需要無遲滞的接收來自終端設備傳來的影像數據，快速而準确的分(fēn)析後做出回應，并同時儲存結果及記錄對應的影像，對裝置的對外(wài)帶寬及運算核心能耐是一(yī)大(dà)考驗。
而在邊緣運算的框架下(xià)，這些數據必須盡其可能的在終端實時處理及分(fēn)析，不宜再全數回傳至雲端進行，使軟件、硬件及數據數據皆得以×接近邊緣的方式運作。此舉除了可以減少傳輸帶寬，也能避免因爲數據延遲拖累生(shēng)産效率，用×快的反應速度來實時與設備溝通。
邊緣運算要運算哪些内容？影像、聲音、以及來自各種裝置的感測數據。在講求生(shēng)産效率的産線以及精準度的醫療應用，這些内容必需極其精細，才有可能産生(shēng)準确的結果，精細的内容則意味着龐大(dà)的數據量需要處理。
一(yī)言以敝之，隻靠雲端架構難以應付終端的運算需求，在終端布署大(dà)量而繁雜(zá)的運算設備又(yòu)會對空間及維護成本上造成難題。邊緣運算服務器于是順理成章的擔當此重任，在×接近數據的地方接收數據、處理數據、回傳數據，可謂身兼數職。在整個應用場域裏，我(wǒ)們可以把它當做是×靠近終端裝置的節點，在接口的整合能力、軟件的彈性支持及虛拟化能力也會是重要考慮，這次我(wǒ)們先把焦點放(fàng)在「效能」。
邊緣運算于工(gōng)廠自動化應用的範例架構。終端裝置與邊緣運算服務器溝通并回傳數據，服務器分(fēn)析數據後，回傳對應的控制指令，并于本地儲存數據，若有必要再回傳至雲端。雲端主機應盡可能的減少實時性的分(fēn)析需求，以免造成溝通上的延遲。
邊緣運算服務器需具備微型數據中(zhōng)心及邊緣雲的能耐，不脫處理速度、傳輸速度與儲存效率。運算着重實時與精準，傳輸必須低延遲，而在數據的存取上得有足夠的帶寬與空間，這些都剛好是服務器等級主闆的特長。
以 DFI ICX610-C621A-C621A 爲例， 結合多核心多線程的第三代 Intel® Xeon® 處理器爲多任務好手，能滿足來自多台終端設備的數據處理需求，數量驚人的内外(wài)部傳輸埠口也提供了充裕的傳輸通道，同時可管理爲數衆多的儲存裝置，這些邊緣服務器的功能在此張主闆上全都能一(yī)次達成。
ICX610-C621A-C621A 專爲 Intel® Ice Lake 平台量身打造， 支持第三代 Intel® Xeon® 處理器。此代 Xeon® 處理器于 AI 的運算能力極爲突出，包含以下(xià)三方面的提升:
Intel® Deep Learning Boost 搭配 Intel® AVX-512
Intel®Deep Learning Boost 并非于此代 Xeon® 處理器才問世，但這個立基于 Intel® AVX512 VNNI 指令集的技術随着處理器的更新而益發強勁，在深度學習及視覺分(fēn)析效能方面都有顯著提升。在 AI 應用的訓練階段，效能便獲得60% 的提升，而在實際進行推論時，也比××代快 30 倍以上。
用更嚴謹的數據來判斷及解析，VNNI 暴增了低精度運算在 AI 深度學習及推論的效能成長。透過低精度運算的優化，在進行 AI 應用時處理器的資(zī)料吞吐量大(dà)幅增加，平均可創造約 2.19 倍的差距，這意味着在時間上快了約 45%。
45% 的速度提升代表什麽？試想在産在線原本辨識一(yī)處産品缺陷的耗時爲 25 毫秒（注 1），節省了近一(yī)半的時間後會小(xiǎo)于 15 毫秒，積沙成塔下(xià)，同樣的時間内能辨識的産品數量就會變多，大(dà)量布署下(xià)能節省的工(gōng)時及産力提升更是不言而谕。
而在醫療應用上，辨識速度的提升對于受檢者而言，亦可大(dà)幅降低容易造成不适的生(shēng)理掃描或幅射曝露時間，提供更優質的檢測體(tǐ)驗。
上方圖表，是以當前×熱門的對象辨識模型 Yolo_v3 以及醫療領域的 Brain Tumor Segmentation 來做 AI推論效能的實測。透過低精度運算 (Int8) 的優化，在 Yolo_v3 的測試裏，與 FP32 差了将近 3.5 倍，而 Brain Tumor Segmentation 則爲 1.6 倍。
智能交通領域的車(chē)牌辨識應用也常常需要邊緣伺服器來做運算節點。辨識的速度愈快，系統便能更即時的做出對應的反應，停車(chē)場域在匣口及停車(chē)位的管控上也更來得順暢及輕松許多。
Int8 由于資(zī)料體(tǐ)積小(xiǎo)，因此需要的整體(tǐ)儲存容量及讀取頻(pín)寬也會減少，自然能降低處理延遲以及增加吞吐量。在這個應用範例裏，Int8 的吞吐量是 FP32 的 6 倍之譜，延遲更是接近隻有八分(fēn)之一(yī)。
PCIe 4.0 則是提升了單個插槽所能承載的×大(dà)帶寬， 結合數量的加乘，能承載的數據量不容小(xiǎo)觑。ICX610-C621A 的 PCIe x16 插槽有 3 個，PCIe x8 則有 8 個，若單純隻就一(yī)條 PCIe x16 插槽能處理的未壓縮影像數據來看，單個插槽便能處理 2 個 8K 的×高采樣頻(pín)率影像（注 2）。這已經是用×嚴苛的标準來計算，若是經過壓縮、流量較低的 4K 或 Full-HD 影像，能處理的串流數量将會十分(fēn)驚人。
在有多條生(shēng)産線、多路影像需辨識的工(gōng)業場域，單台邊緣服務器上配有愈多的擴充插槽，愈能減少處理節點的設置數量，達成布署上的精簡，使單台邊緣服務器即能管理爲數衆多的周邊裝置，并同時身兼本地雲暫存這些裝置的産生(shēng)數據。
結合了以上優勢的 ICX610-C621A，在周邊埠口的設置上也采用了大(dà)艦巨炮策略。光是 10GbE 以太網絡便有兩組， 且在已經×大(dà)化 PCIe 插槽數量的前提下(xià)，仍然配置了六組 SATA 以及一(yī)個 NVMe 插槽，内存的部份則利用四信道、八支模塊來達到×高 512GB 的容量。從數據的撷取至運算，乃至後方的儲存，全數皆以×高的帶寬規格串連，打造邊緣運算界的高速公路。
ICX610-C621A 規格：
*( 注 2) 7680x4320 分(fēn)辨率，每秒 60 張，色深 16bit，色彩取樣 4:4:4。
物(wù)聯網的部署複雜(zá)度日以遽增，接收的數據不但愈來愈多元，需要處理的信息量也不可同日而語。DFI 服務器産品線以效能、高可靠性及豐沛的帶寬爲出發點，将物(wù)聯網的布署化繁爲簡，降低節點部署的困難程度，在節省成本的同時亦提高生(shēng)産力。
全國咨詢服務熱線
0371-86065102 15838050922咨詢服務電話(huà)
地址：河南(nán)省鄭州市金水區文化路85号A時代廣場8樓
郵箱：zzpuxing@163.com
COPYRIGHT BY 鄭州來耕電子科技有限公司 ALLRIGHT RESERVED
免責聲明本站部分(fēn)内容來自網絡如有侵權請告知(zhī)我(wǒ)們立即删除!