在云廠商自研芯片的浪潮中，亞馬遜云科技無疑是最早踐行這一趨勢的先驅(qū)。自其邁出自研芯片的第一步起，便如同一顆石子投入平靜的湖面，激起了層層漣漪，引領(lǐng)著云服務(wù)和云上算力向著更高性能、更低成本的方向演進(jìn)。

早在2012年，自研Amazon Nitro系統(tǒng)的計(jì)劃已經(jīng)開啟。目前亞馬遜云科技已推出四大自研芯片產(chǎn)品家族：六代Amazon Nitro系統(tǒng)、四代通用處理器芯片Amazon Graviton、兩代機(jī)器學(xué)習(xí)訓(xùn)練芯片Amazon Trainium和兩代機(jī)器學(xué)習(xí)推理芯片Amazon Inferentia。

自2018 re:Invent 上推出第一代芯片以來，Amazon Graviton家族已經(jīng)歷了四代迭代。在企業(yè)降本增效的大趨勢下，基于Amazon Graviton的Amazon EC2實(shí)例以及托管服務(wù)正成為越來越多客戶的選擇。

目前，亞馬遜云科技基于Amazon Graviton的Amazon EC2實(shí)例種類達(dá)150多個(gè)，在全球已經(jīng)部署的的Amazon Graviton處理器數(shù)量超過200萬個(gè)，并擁有超過50,000客戶，其中也涵蓋了Amazon EC2前100客戶90%以上。

今天我們就來看看Amazon Graviton在性能、商業(yè)落地方面的最新進(jìn)展。

很多人可能好奇，作為云計(jì)算開創(chuàng)者的亞馬遜云科技為什么要自己做芯片？我們可以從一個(gè)側(cè)面探尋其動(dòng)因。

在2022年的亞馬遜云科技芯片創(chuàng)新日（Silicon Innovation Day）活動(dòng)上，亞馬遜高級(jí)副總裁兼杰出工程師James Hamilton回顧了亞馬遜云科技自2012年開始的自研芯片歷程。

Hamilton 表示，“最終，單臺(tái)服務(wù)器的核心功能將集成為一個(gè)芯片系統(tǒng)。如果服務(wù)器上所有的創(chuàng)新將全部集中在芯片上。而我們不制造芯片，那么我們就沒有創(chuàng)新?！?/p>

Hamilton強(qiáng)調(diào)了亞馬遜云科技將繼續(xù)加大在硬件研發(fā)方面的投入，推動(dòng)下一代處理器的創(chuàng)新，以滿足全球客戶日益增長的需求。他堅(jiān)信，隨著技術(shù)的不斷發(fā)展，亞馬遜云科技將繼續(xù)保持在云計(jì)算和硬件設(shè)計(jì)的前沿，引領(lǐng)行業(yè)走向更加高效、智能的未來。

回到Amazon Graviton，經(jīng)過5年多的迭代，這一系列通用處理器芯片已經(jīng)在技術(shù)、場景、商業(yè)各方面展現(xiàn)出日趨成熟的表現(xiàn)。

技術(shù)成熟：性能提升功耗下降無止盡

很多人不知道的是，在云計(jì)算廠商的身份外，亞馬遜云科技自主完成所有自研芯片的開發(fā)工作，所有芯片均由Annapurna Labs團(tuán)隊(duì)設(shè)計(jì)和制造。

Annapurna Labs是亞馬遜云科技于2015年收購的半導(dǎo)體微電子公司。早在收購之前，雙方就在Nitro系統(tǒng)的開發(fā)方面緊密合作。對(duì)Annapurna Labs的收購加速了Nitro系統(tǒng)的開發(fā)，并加強(qiáng)了亞馬遜云科技在硬件領(lǐng)域的創(chuàng)新實(shí)力。

目前，Annapurna Labs團(tuán)隊(duì)成員分布在全球多個(gè)地點(diǎn)，包括以色列的特拉維夫、加拿大的多倫多，以及德克薩斯州奧斯汀的實(shí)驗(yàn)室。

“我們的宗旨是為客戶提供更多選擇、更低成本和更高性能?！?Annapurna Labs芯片工程總監(jiān)Rami Sinno表示。“通過自主完成所有芯片的開發(fā)，避免依賴第三方，我們能夠加速產(chǎn)品的交付進(jìn)程。”

亞馬遜云科技首席工程師Ali Saidi負(fù)責(zé)Amazon Graviton系列處理器的技術(shù)開發(fā)

負(fù)責(zé)Amazon Graviton技術(shù)開發(fā)的亞馬遜云科技首席工程師Ali Saidi及其團(tuán)隊(duì)在Graviton系列的設(shè)計(jì)、制造和包裝方面不斷創(chuàng)新。譬如，在Graviton3中，研發(fā)團(tuán)隊(duì)將七個(gè)小型定制晶片和約550億個(gè)晶體管整合到一個(gè)中央處理器（CPU）中。

圍繞更佳性價(jià)比這一目標(biāo)，每一代的Amazon Graviton都會(huì)比上一代有兩位數(shù)的性能提升，且實(shí)現(xiàn)單位算力功耗的持續(xù)下降。譬如：

2021年推出的Amazon Graviton3，單核性能比Amazon Graviton2提升25%，浮點(diǎn)性能提升2倍，與同類型其他Amazon EC2實(shí)例相比，可節(jié)省60%的能源消耗。同時(shí)還首次在云計(jì)算芯片中采用性能更強(qiáng)、功耗更低的DDR5內(nèi)存。

2023年推出的Amazon Graviton4較上一代產(chǎn)品性能提升高達(dá)30%，獨(dú)立核心增加50%以上，內(nèi)存帶寬提升75%以上。

此外，通過Amazon Graviton4，亞馬遜云科技實(shí)現(xiàn)首次面向?qū)嶋H應(yīng)用設(shè)計(jì)CPU架構(gòu)，即從傳統(tǒng)的MicroBenchmark基準(zhǔn)測試評(píng)價(jià)體系，轉(zhuǎn)向以實(shí)際工作負(fù)載進(jìn)行評(píng)價(jià)標(biāo)準(zhǔn)。通過真實(shí)工作負(fù)載雷達(dá)圖，可以更好地衡量實(shí)際工作負(fù)載的優(yōu)化效果。

場景成熟：支撐廣泛的應(yīng)用場景

歷經(jīng)四代產(chǎn)品迭代，目前Amazon Graviton支持廣泛的應(yīng)用場景，包括高性能計(jì)算、機(jī)器學(xué)習(xí)、人工智能、容器化應(yīng)用構(gòu)建、數(shù)據(jù)分析等等。比如：

在機(jī)器學(xué)習(xí)領(lǐng)域，Amazon Graviton在運(yùn)行TensorFlow、PyTorch等深度學(xué)習(xí)框架時(shí)有出色表現(xiàn)，適合模型訓(xùn)練和推理任務(wù)，尤其在需要大量數(shù)據(jù)處理和矩陣計(jì)算的場景下。

在容器化應(yīng)用構(gòu)建領(lǐng)域，Amazon Graviton對(duì)多種容器編排工具（如ECS、EKS、Kubernetes等）和鏡像倉庫（如ECR、Docker Hub等）的支持，方便用戶在Amazon Graviton上部署和管理容器化應(yīng)用，適合微服務(wù)架構(gòu)和DevOps環(huán)境。

在數(shù)據(jù)分析領(lǐng)域，Amazon Graviton可以在EMR、Spark等大數(shù)據(jù)分析框架上運(yùn)行，支持批處理和流式數(shù)據(jù)分析等場景，適合實(shí)時(shí)數(shù)據(jù)分析和處理大規(guī)模數(shù)據(jù)集。流行的Spark框架在Graviton3上可以獲得16.7%的成本節(jié)約。

亞馬遜自身也是Amazon Graviton芯片的典型用戶之一。2021年P(guān)rime Day期間，亞馬遜首次使用Amazon Graviton2支持的Amazon EC2實(shí)例。2024年P(guān)rime-Day期間，亞馬遜使用了超過25萬個(gè)Graviton芯片為超過5800種不同的亞馬遜電商服務(wù)提供支持。

商業(yè)成熟：新實(shí)例中“三分天下有其一”

第三方數(shù)據(jù)顯示，在2023年推出的M7g系列實(shí)例中，采用Amazon Graviton的實(shí)例已經(jīng)與英特爾、AMD三分天下，這進(jìn)一步驗(yàn)證了Graviton芯片在通用實(shí)例中的受歡迎程度。

根據(jù)云成本管理和優(yōu)化平臺(tái)Vantage的一項(xiàng)調(diào)查，2024第一季度，在Amazon EC2 M7系列通用實(shí)例的成本支出方面，采用Graviton的M7g系列已經(jīng)超過三分之一（34.5%）。

2024年第二季度，在Amazon RDS、Amazon ElastiCache和Amazon OpenSearch托管服務(wù)中，客戶選擇使用基于Amazon Graviton已超越了英特爾，越來越多客戶選擇基于Graviton的托管服務(wù)。

由于Amazon Graviton系列芯片對(duì)性價(jià)比的不斷提升和廣泛的應(yīng)用場景，其也深受中國企業(yè)的青睞。

比如，全球領(lǐng)先IoT云平臺(tái)涂鴉智能已經(jīng)將整個(gè)公司40%以上的工作負(fù)載遷移到Amazon EC2 M6g和C6g新一代實(shí)例。跟上一代同配置的X86實(shí)例相比，CPU性能提升了100%，服務(wù)器單價(jià)降低20%，整體性價(jià)比提升2.5倍。

加速出海的互聯(lián)網(wǎng)科技公司大宇無限通過使用 Amazon EMR on EKS，以及亞馬遜云科技基于 ARM 架構(gòu)的 Graviton2 實(shí)例，將運(yùn)行大數(shù)據(jù)作業(yè)的整體性能提升了 30%，成本降低了 20%。

如今，亞馬遜云科技的自研芯片之路已經(jīng)走過十余年。透過已經(jīng)全面成熟的Amazon Graviton系列芯片，亞馬遜云科技實(shí)現(xiàn)深度整合硬件與軟件，不僅大幅提升了云服務(wù)的體驗(yàn)與效率，更為全球用戶帶來了前所未有的云端算力性價(jià)比，開啟了云計(jì)算領(lǐng)域的新篇章。

END

本文為「智能進(jìn)化論」原創(chuàng)作品。