作者 | 宋慧

出品 | CSDN 云計(jì)算

2023 年初，英特爾重磅發(fā)布了企業(yè)級(jí)芯片領(lǐng)域重要的產(chǎn)品——第四代英特爾? 至強(qiáng)? 可擴(kuò)展處理器。當(dāng)時(shí)報(bào)道中，我們就重點(diǎn)提到了其中重要的七大內(nèi)置加速器，這也是英特爾為千行百業(yè)多種創(chuàng)新場(chǎng)景去提供算力支持的底氣。

在第四代至強(qiáng)處理器發(fā)布后，英特爾的技術(shù)團(tuán)隊(duì)也馬不停蹄，繼續(xù)在用戶的真實(shí)場(chǎng)景里探索、優(yōu)化加速器的最佳實(shí)例。近期，英特爾工程師團(tuán)隊(duì)詳細(xì)對(duì)媒體分享了其中幾個(gè)加速器在實(shí)踐中的設(shè)計(jì)思路，以及目前在國內(nèi)用戶系統(tǒng)中實(shí)際應(yīng)用的案例。

首先，除了第四代至強(qiáng)處理器發(fā)布時(shí)推出的七大加速器，之后英特爾還推出了集成 vRAN Boost 的第四代英特爾至強(qiáng)可擴(kuò)展處理器，這通用芯片將物理層加速功能完全集成到至強(qiáng)系統(tǒng)芯片（SoC）中，無需外置加速卡。英特爾 vRAN Boost 使得運(yùn)營(yíng)商能夠在通用虛擬化平臺(tái)上整合所有基站層，這種虛擬基站，采用通用的處理器實(shí)現(xiàn)基站功能，將帶來可觀的性價(jià)比提升，所以英特爾 vRAN Boost 也是繼七大加速器之后，第四代至強(qiáng)處理器的新增助力。

這里，我們?cè)倭幸幌缕叽蠹铀倨鞯脑敿?xì)資料：

• 英特爾? 高級(jí)矩陣擴(kuò)展（英特爾? AMX）：可大幅提高深度學(xué)習(xí)訓(xùn)練和推理性能，性能可提升至 10 倍，非常適合自然語言處理、推薦系統(tǒng)和圖像識(shí)別等工作負(fù)載。
• 英特爾? 動(dòng)態(tài)負(fù)載均衡器（英特爾? DLB）：實(shí)現(xiàn)了在多個(gè) CPU 內(nèi)核 / 線程上高效地分配網(wǎng)絡(luò)處理，根據(jù)系統(tǒng)負(fù)載的變化而動(dòng)態(tài)地在多個(gè) CPU 內(nèi)核上分配網(wǎng)絡(luò)數(shù)據(jù)以進(jìn)行處理，并能夠還原在多個(gè) CPU 內(nèi)核上同時(shí)處理網(wǎng)絡(luò)數(shù)據(jù)包的順序，顯著提升網(wǎng)絡(luò)工作負(fù)載的系統(tǒng)級(jí)處理性能，時(shí)延降低 96%。
• 英特爾? 數(shù)據(jù)流加速器（英特爾? DSA）：專為卸載常見的、會(huì)導(dǎo)致數(shù)據(jù)中心規(guī)模部署開銷的數(shù)據(jù)移動(dòng)任務(wù)所設(shè)計(jì)，能夠幫助加速 CPU、內(nèi)存和緩存，以及所有附加的內(nèi)存、存儲(chǔ)和網(wǎng)絡(luò)設(shè)備之間的數(shù)據(jù)移動(dòng)，可將存儲(chǔ)、網(wǎng)絡(luò)和數(shù)據(jù)密集型工作負(fù)載的性能提升至 1.7 倍。
• 英特爾? 存內(nèi)分析加速器（英特爾? IAA）：可在提高查詢吞吐量的同時(shí)減少內(nèi)存占用，非常適合內(nèi)存數(shù)據(jù)庫、開源數(shù)據(jù)庫以及 RocksDB 和 ClickHouse 等數(shù)據(jù)存儲(chǔ)工作，性能可提升至 3 倍。
• 英特爾? 數(shù)據(jù)保護(hù)與壓縮加速技術(shù)（英特爾? QAT）：作為內(nèi)置加速器，其可通過卸載加密、解密和壓縮釋放處理器內(nèi)核，從而讓系統(tǒng)能夠支持更多客戶端運(yùn)行或?qū)崿F(xiàn)降低能耗的目的。得益于英特爾? QAT 加速器，第四代英特爾? 至強(qiáng)? 可擴(kuò)展處理器已成為為單一數(shù)據(jù)流壓縮并加密數(shù)據(jù)性能最高的 CPU。
• 英特爾? 安全技術(shù)：通過英特爾 軟件防護(hù)擴(kuò)展（英特爾? SGX）和英特爾? 全內(nèi)存機(jī)密技術(shù)（英特爾? TME）對(duì)工作負(fù)載進(jìn)行保護(hù)；借助英特爾? 密碼操作硬件加速（英特爾? Crypto Acceleration）加速加密運(yùn)算；利用英特爾? 內(nèi)存故障管理技術(shù)（英特爾? MRT）實(shí)現(xiàn)預(yù)測(cè)性安全保護(hù)；并通過英特爾? 平臺(tái)固件彈性技術(shù)（英特爾? PFR）完成平臺(tái)安全啟動(dòng)。
• 英特爾? 至強(qiáng)? CPU Max 系列：集成高帶寬內(nèi)存，能夠在無需變更代碼的情況下為科學(xué)計(jì)算工作負(fù)載加速。

其中，英特爾? 高級(jí)矩陣擴(kuò)展（以下簡(jiǎn)稱 AMX），是創(chuàng)新性地第一次在 CPU 平臺(tái)上應(yīng)用了用于矩陣運(yùn)算的單元。以往如果要做大數(shù)據(jù)、人工智能等數(shù)據(jù)密集型的業(yè)務(wù)，CPU 上的計(jì)算單元（如 AVX-512）運(yùn)算單元為向量型，第四代至強(qiáng) CPU 引入了硬件矩陣的積存器 Tiles，同時(shí)還有配合硬件寄存器的運(yùn)算單元，最終實(shí)現(xiàn)每一個(gè) CPU 指令都可以進(jìn)行矩陣運(yùn)算。AMX 計(jì)算單元支持兩種數(shù)據(jù)精度，分別是 8bit 的整形數(shù)據(jù)與 16bit 的浮點(diǎn)數(shù)據(jù)（BF16）。最終在 AI 訓(xùn)練和推理中，AMX 就可以支持不同數(shù)據(jù)精度如 BF16、INT8，去高效完成 AI 任務(wù)。

具體應(yīng)用案例，則是用在阿里的地址標(biāo)準(zhǔn)化研究，以及其中的語義分析中。英特爾與阿里合作采用了第四代至強(qiáng)的 AMX（INT8 數(shù)據(jù)類型的精度），同時(shí)有軟件運(yùn)算時(shí)層級(jí)融合技術(shù)，以及英特爾開發(fā)的高性能運(yùn)算優(yōu)化庫，最終相比基于第三代 Ice Lake 的整機(jī)，性能提升到原來的 2.48 倍。另外，還有阿里手淘首頁搜索業(yè)務(wù)、部署于騰訊云的太極機(jī)器學(xué)習(xí)平臺(tái)支撐的搜索業(yè)務(wù)等，得益于AMX，性能均獲得了 2-3 倍的提升。

另外，針對(duì)大數(shù)據(jù)、內(nèi)存分析類型數(shù)據(jù)庫等數(shù)據(jù)場(chǎng)景，則有英特爾? 存內(nèi)分析加速器（英特爾? IAA，以下簡(jiǎn)稱 IAA）可以應(yīng)用。IAA 從底層操作系統(tǒng)到虛擬化層形成了完整的軟件棧，以用戶態(tài) QPL 庫去操作 IAA 硬件，并針對(duì) Clickhouse、MongoDB 做優(yōu)化，最終可以用于數(shù)據(jù)壓縮、解壓、查詢、過濾等工作負(fù)載。例如，以往 Clickhouse 常用 LZ4軟件壓縮算法，而英特爾采用 IAA Deflate 硬件加速，查詢性能提升40%，同時(shí)壓縮率提升 42%，最終幫助用戶提升性能，節(jié)省磁盤、帶寬、內(nèi)存的成本和使用。

以上僅是少數(shù)應(yīng)用案例，英特爾的七大加速器針對(duì)各類行業(yè)、技術(shù)應(yīng)用場(chǎng)景的優(yōu)化設(shè)計(jì)還有許多，一篇文章無法全面概述。而所有這些設(shè)計(jì)和追求，最終是為了實(shí)現(xiàn)更高效率、更低成本和能耗的數(shù)字化轉(zhuǎn)型及創(chuàng)新應(yīng)用落地。這種軟硬協(xié)同、優(yōu)化加速的設(shè)計(jì)思路，值得開發(fā)者多多關(guān)注參考，CSDN 將持續(xù)報(bào)道數(shù)字化轉(zhuǎn)型的核心技術(shù)。