北京——2021年12月1日，在亞馬遜云科技re:Invent全球大會上，亞馬遜云科技宣布推出三款由自研芯片支(zhi)持的(de)(de)(de)新(xin)Amazon Elastic Compute Cloud (Amazon EC2)實(shi)(shi)例，幫助(zhu)客(ke)戶顯著提升(sheng)在(zai)Amazon EC2上運行的(de)(de)(de)工作(zuo)負載的(de)(de)(de)性能(neng)、成本(ben)和能(neng)源效率。新(xin)C7g 實(shi)(shi)例由Amazon Graviton3 處(chu)理器支(zhi)持，與由 Amazon Graviton2 處(chu)理器支(zhi)持的(de)(de)(de)當(dang)前一代 C6g 實(shi)(shi)例相比，性能(neng)提高25%。由Amazon Trainium芯片(pian)支(zhi)持的(de)(de)(de)新(xin)Trn1實(shi)(shi)例為(wei)在(zai)Amazon EC2中訓(xun)練絕大多數機器學習模(mo)型提供最佳性價(jia)比，及最快(kuai)的(de)(de)(de)訓(xun)練速度。基于(yu)自(zi)研(yan)Amazon Nitro SSDs(固(gu)態驅(qu)動器)的(de)(de)(de)新(xin)存儲優化型Im4gn/Is4gen/ I4i實(shi)(shi)例為(wei)在(zai)Amazon EC2上運行的(de)(de)(de)I/O密集型工作(zuo)負載提供最佳存儲性能(neng)。這些(xie)基于(yu)亞(ya)馬(ma)遜云科技自(zi)研(yan)芯片(pian)的(de)(de)(de)新(xin)Amazon EC2實(shi)(shi)例的(de)(de)(de)發布(bu)，將幫助(zhu)客(ke)戶支(zhi)持其關鍵業務(wu)應用程序。
亞馬(ma)遜云(yun)科(ke)(ke)技(ji)Amazon EC2副總裁(cai)David Brown表示：“我(wo)們(men)對自(zi)研芯片(pian)的(de)持續投入升級，已(yi)經讓(rang)客戶在(zai)(zai)當(dang)今一些關鍵工(gong)作負(fu)載(zai)中(zhong)獲得(de)了巨大的(de)性價(jia)比優勢。客戶希望我(wo)們(men)在(zai)(zai)每一代(dai)新(xin)的(de)EC2實例上不斷(duan)突破邊(bian)界。亞馬(ma)遜云(yun)科(ke)(ke)技(ji)的(de)持續創新(xin)讓(rang)客戶有機(ji)會使用(yong)這些全新(xin)的(de)、改變游戲規則(ze)的(de)實例運行其重要的(de)工(gong)作負(fu)載(zai)，獲得(de)更好的(de)性價(jia)比。”
C7g實例由新(xin)的Amazon Graviton3處理器支持，與由Amazon Graviton2處理器支持的當前一(yi)代C6g實例相比(bi)，性(xing)能(neng)提(ti)高多達25%
基(ji)(ji)于(yu)Amazon Graviton2的(de)計算(suan)實例(li)自2020年推(tui)出以來(lai)，被眾(zhong)多客戶如DirecTV、Discovery、Epic Games、Formula 1、Honeycomb.io、Intuit、Lyft、MercardoLibre、NextRoll、Nielsen、SmugMug、Snap、Splunk和(he)(he)Sprinklr等在(zai)生(sheng)產中使用并已(yi)經獲得顯著(zhu)的(de)性(xing)能(neng)提(ti)升和(he)(he)成本節省。基(ji)(ji)于(yu)Graviton2的(de)系列實例(li)共有(you)12種，包括通(tong)用型(xing)、計算(suan)優化型(xing)、內(nei)(nei)存(cun)優化型(xing)、存(cun)儲優化型(xing)、突發性(xing)能(neng)型(xing)和(he)(he)加速(su)計算(suan)型(xing)實例(li)，讓客戶擁有(you)云上至深至廣的(de)計算(suan)選擇(ze)，并兼顧性(xing)價比(bi)(bi)和(he)(he)能(neng)效。隨(sui)著(zhu)客戶在(zai)云中開展更(geng)多計算(suan)密集(ji)型(xing)工(gong)(gong)作負載如高性(xing)能(neng)計算(suan)(HPC)、游(you)戲和(he)(he)機器學習(xi)推(tui)理，相應的(de)計算(suan)、存(cun)儲、內(nei)(nei)存(cun)和(he)(he)網絡需(xu)求也隨(sui)之增長(chang)，客戶需(xu)要尋(xun)求更(geng)佳的(de)性(xing)價比(bi)(bi)和(he)(he)能(neng)效來(lai)運行這些工(gong)(gong)作負載。
由Amazon Graviton3處理(li)器(qi)支持的(de)(de)C7g實(shi)例(li)(li)(li)與由 Graviton2 處理(li)器(qi)支持的(de)(de)當前一(yi)代 C6g 實(shi)例(li)(li)(li)相比(bi)(bi)，可(ke)將計(ji)算密集型工(gong)作(zuo)負載性(xing)(xing)(xing)能(neng)提(ti)(ti)(ti)高(gao)(gao)(gao)多達25%。Amazon Graviton3處理(li)器(qi)與Graviton2相比(bi)(bi)，為(wei)科學(xue)計(ji)算、機器(qi)學(xue)習(xi)和媒體編碼(ma)工(gong)作(zuo)負載提(ti)(ti)(ti)供高(gao)(gao)(gao)達2倍(bei)的(de)(de)浮點運算性(xing)(xing)(xing)能(neng)，為(wei)加密工(gong)作(zuo)負載速度提(ti)(ti)(ti)升高(gao)(gao)(gao)達2倍(bei)，為(wei)機器(qi)學(xue)習(xi)工(gong)作(zuo)負載提(ti)(ti)(ti)供高(gao)(gao)(gao)達3倍(bei)的(de)(de)性(xing)(xing)(xing)能(neng)。Amazon Graviton3處理(li)器(qi)的(de)(de)能(neng)效(xiao)也更(geng)高(gao)(gao)(gao)，在相同(tong)(tong)性(xing)(xing)(xing)能(neng)下，與同(tong)(tong)類型EC2實(shi)例(li)(li)(li)對(dui)比(bi)(bi)，可(ke)節省高(gao)(gao)(gao)達60%的(de)(de)能(neng)源消耗。C7g實(shi)例(li)(li)(li)是云(yun)中第一(yi)個采用(yong)最新DDR5內(nei)存(cun)(cun)的(de)(de)實(shi)例(li)(li)(li)，與基于Amazon Graviton2的(de)(de)實(shi)例(li)(li)(li)相比(bi)(bi)，它提(ti)(ti)(ti)高(gao)(gao)(gao)了(le)50%的(de)(de)內(nei)存(cun)(cun)帶寬，從而(er)提(ti)(ti)(ti)高(gao)(gao)(gao)了(le)科學(xue)計(ji)算等內(nei)存(cun)(cun)密集型應(ying)用(yong)的(de)(de)性(xing)(xing)(xing)能(neng)。與基于Amazon Graviton2的(de)(de)實(shi)例(li)(li)(li)相比(bi)(bi)，C7g實(shi)例(li)(li)(li)的(de)(de)網(wang)絡帶寬也高(gao)(gao)(gao)出(chu)20%。C7g 實(shi)例(li)(li)(li)支持 Elastic Fabric Adapter (EFA)，允(yun)許(xu)應(ying)用(yong)程序直接與網(wang)絡接口卡通信，提(ti)(ti)(ti)供更(geng)低且更(geng)一(yi)致的(de)(de)延遲，提(ti)(ti)(ti)高(gao)(gao)(gao)需要大規(gui)模并行處理(li)(如 HPC 和視頻編碼(ma))的(de)(de)應(ying)用(yong)程序的(de)(de)性(xing)(xing)(xing)能(neng)。C7g實(shi)例(li)(li)(li)現已(yi)提(ti)(ti)(ti)供預覽版。欲了(le)解(jie)更(geng)多C7g實(shi)例(li)(li)(li)的(de)(de)信息，請訪(fang)問aws.amazon.com/ec2/instance-types/c7g。
由Amazon Trainium芯片(pian)支持的Trn1實例為在Amazon EC2中(zhong)訓(xun)練絕大(da)多(duo)數(shu)機器學習模型(xing)提供最(zui)佳性價比，及(ji)最(zui)快的訓(xun)練速度
越(yue)來(lai)越(yue)多客戶(hu)正在(zai)構(gou)建、訓練和(he)部署機(ji)器(qi)(qi)學(xue)習(xi)模(mo)型(xing)，支持能夠(gou)重塑其業務和(he)客戶(hu)體(ti)驗的(de)(de)(de)(de)(de)應(ying)用程序。為(wei)了確保提高準確性(xing)，這些機(ji)器(qi)(qi)學(xue)習(xi)模(mo)型(xing)必須構(gou)建在(zai)越(yue)來(lai)越(yue)多的(de)(de)(de)(de)(de)訓練數據上，導致其訓練成本越(yue)來(lai)越(yue)高。這可(ke)能會(hui)限(xian)制客戶(hu)能夠(gou)部署的(de)(de)(de)(de)(de)機(ji)器(qi)(qi)學(xue)習(xi)模(mo)型(xing)數量。亞馬(ma)遜云科(ke)技為(wei)機(ji)器(qi)(qi)學(xue)習(xi)提供(gong)至深至廣的(de)(de)(de)(de)(de)計算服務選擇(ze)，包括采用NVIDIA A100 Tensor Core GPU的(de)(de)(de)(de)(de)EC2 P4d實(shi)例(li)和(he)采用Habana Labs Gaudi 加速器(qi)(qi)的(de)(de)(de)(de)(de) EC2 DL1 實(shi)例(li)。但是，即使擁有當今最快(kuai)的(de)(de)(de)(de)(de)加速實(shi)例(li)，訓練持續(xu)變(bian)大的(de)(de)(de)(de)(de)機(ji)器(qi)(qi)學(xue)習(xi)模(mo)型(xing)仍然是非常昂(ang)貴(gui)和(he)耗時的(de)(de)(de)(de)(de)。
由Amazon Trainium芯片支持(chi)的(de)(de)Trn1實例為在(zai)Amazon EC2中進(jin)行深(shen)度(du)學(xue)習模型(xing)訓(xun)練提供最(zui)(zui)佳性(xing)價比以(yi)及最(zui)(zui)快的(de)(de)訓(xun)練速(su)(su)度(du)，與(yu)(yu)P4d實例相比，通過Trn1實例訓(xun)練深(shen)度(du)學(xue)習模型(xing)的(de)(de)成(cheng)本降低(di)多達40%。Trn1實例提供800Gbps EFA網絡(luo)帶寬(比最(zui)(zui)新基于(yu)GPU的(de)(de)EC2實例高(gao)兩(liang)倍(bei))，并與(yu)(yu)Amazon FSx for Lustre高(gao)性(xing)能(neng)(neng)存儲集(ji)成(cheng)，讓客戶(hu)可以(yi)啟動(dong)具有EC2 UltraClusters功能(neng)(neng)的(de)(de)Trn1實例。通過EC2 UltraClusters，開(kai)發人員(yuan)可以(yi)將機器學(xue)習訓(xun)練擴(kuo)展到一(yi)萬多個與(yu)(yu) PB 級網絡(luo)互(hu)連的(de)(de) Trainium 加速(su)(su)器，讓客戶(hu)按需訪問超算級性(xing)能(neng)(neng)，即便(bian)是最(zui)(zui)大型(xing)和(he)最(zui)(zui)復雜(za)的(de)(de)模型(xing)，訓(xun)練時間也可以(yi)從幾個月縮短到幾天。Trn1實例現已提供預(yu)覽版。欲了解更多Trn1實例的(de)(de)信(xin)息(xi)，請訪問aws.amazon.com/ec2/instance-types/trn1。
采用全新Amazon Nitro SSDs的Im4gn/Is4gen/ I4i實例可(ke)為I/O密(mi)集(ji)型工(gong)作負(fu)載提供最佳存儲性能
如(ru)(ru)今，客(ke)(ke)戶將I3/I3en存儲(chu)優(you)化型(xing)實例(li)用于需(xu)要(yao)直(zhi)接訪問本(ben)地存儲(chu)數(shu)(shu)據(ju)(ju)集的(de)應用程序，比(bi)如(ru)(ru)橫向擴展的(de)事(shi)務型(xing)和關系型(xing)數(shu)(shu)據(ju)(ju)庫(ku)(如(ru)(ru)MySOL和PostgreSQL)，NoSQL數(shu)(shu)據(ju)(ju)庫(ku)(如(ru)(ru)Cassandra、MongoDB、Redis等)，大(da)數(shu)(shu)據(ju)(ju)(如(ru)(ru)Hadoop)和數(shu)(shu)據(ju)(ju)分(fen)析工作負載(如(ru)(ru)Spark、Hive、Presto等)。I3/I3en實例(li)以低成(cheng)本(ben)提供(gong)非易失性內存標準(NVMe) SSD支持的(de)實例(li)存儲(chu)，針對低延遲、高 I/O 性能和吞吐量(liang)進行了優(you)化。客(ke)(ke)戶喜歡I3/I3en實例(li)提供(gong)的(de)快(kuai)速事(shi)務處理能力(li)，但隨著其工作負載的(de)不斷升級——在更大(da)規(gui)模的(de)數(shu)(shu)據(ju)(ju)集上處理更復雜(za)的(de)事(shi)務，他們(men)需(xu)要(yao)在不增(zeng)加成(cheng)本(ben)的(de)情況下獲得(de)更高的(de)計算性能和更快(kuai)的(de)數(shu)(shu)據(ju)(ju)訪問速度。
Im4gn/Is4gen/I4i實(shi)(shi)(shi)(shi)例(li)(li)(li)旨在通(tong)過架構最(zui)大限度提(ti)高I/O密集型工(gong)作(zuo)負載(zai)的存(cun)(cun)儲性(xing)(xing)能。通(tong)過自(zi)研的 Amazon Nitro SSDs ，Im4gn/Is4gen/I4i實(shi)(shi)(shi)(shi)例(li)(li)(li)提(ti)供高達(da)(da) 30 TB 的 NVMe 存(cun)(cun)儲，與(yu)上一代I3實(shi)(shi)(shi)(shi)例(li)(li)(li)相比(bi)，I/O 延遲降(jiang)(jiang)低了(le) 60%，延遲可變性(xing)(xing)降(jiang)(jiang)低了(le) 75%，從而最(zui)大限度地提(ti)高了(le)應用(yong)(yong)程序(xu)性(xing)(xing)能。Amazon Nitro SSDs通(tong)過優化存(cun)(cun)儲堆棧(zhan)、虛擬化管理(li)程序(xu)和硬(ying)件與(yu)Amazon Nitro 系(xi)統緊密集成(cheng)。與(yu)使用(yong)(yong)商用(yong)(yong)SSD相比(bi)，亞馬遜云科技(ji)同時管理(li)Amazon Nitro SSDs的硬(ying)件和固件，使SSD更新(xin)交付速度更快，讓(rang)客戶(hu)可以從改進(jin)的功能中獲益。Im4gn 實(shi)(shi)(shi)(shi)例(li)(li)(li)(現已可用(yong)(yong))采用(yong)(yong) Amazon Graviton2 處(chu)理(li)器，與(yu) I3 實(shi)(shi)(shi)(shi)例(li)(li)(li)相比(bi)，性(xing)(xing)價比(bi)提(ti)高多(duo)(duo)達(da)(da) 40%，每(mei) TB存(cun)(cun)儲成(cheng)本降(jiang)(jiang)低多(duo)(duo)達(da)(da) 44%。Is4gen 實(shi)(shi)(shi)(shi)例(li)(li)(li)(現已可用(yong)(yong))也采用(yong)(yong) Amazon Graviton2 處(chu)理(li)器，與(yu) I3en 實(shi)(shi)(shi)(shi)例(li)(li)(li)相比(bi)，每(mei) TB 存(cun)(cun)儲成(cheng)本降(jiang)(jiang)低多(duo)(duo)達(da)(da) 15%，計算性(xing)(xing)能提(ti)高多(duo)(duo)達(da)(da) 48%。開(kai)始使用(yong)(yong)Im4gn/Is4gn實(shi)(shi)(shi)(shi)例(li)(li)(li)，請(qing)訪(fang)問(wen)aws.amazon.com/ec2/instance-types/i4g。I4i實(shi)(shi)(shi)(shi)例(li)(li)(li)(即將可用(yong)(yong))采用(yong)(yong)英特爾第(di)三代可擴展(zhan)處(chu)理(li)器(Ice Lake)，與(yu)當前(qian)一代 I3 實(shi)(shi)(shi)(shi)例(li)(li)(li)相比(bi)，計算性(xing)(xing)能提(ti)高多(duo)(duo)達(da)(da) 55%。欲了(le)解(jie)更多(duo)(duo)Im4gn/Is4gen/ I4i實(shi)(shi)(shi)(shi)例(li)(li)(li)的信(xin)息，請(qing)訪(fang)問(wen)aws.amazon.com/ec2/instance-types/i4i。
SAP HANA是世界領先的(de)(de)內存數(shu)據庫，是SAP業務技(ji)術平臺(tai)的(de)(de)基礎。SAP HANA數(shu)據庫與(yu)分(fen)析(xi)總裁Irfan Khan表示：“過(guo)去十年中(zhong)，SAP HANA幫助客戶管理他們(men)最關鍵(jian)的(de)(de)事務和(he)(he)分(fen)析(xi)工作(zuo)負載。亞馬遜云(yun)科(ke)技(ji)在基于ARM的(de)(de)Amazon Graviton處理器的(de)(de)持續投入(ru)與(yu)創新，與(yu)亞馬遜云(yun)科(ke)技(ji)的(de)(de)合(he)作(zuo)帶(dai)來諸多可能，為我們(men)的(de)(de)企業客戶和(he)(he)SAP HANA云(yun)支持的(de)(de)SAP云(yun)分(fen)析(xi)和(he)(he)數(shu)據管理解決方案帶(dai)來了顯著(zhu)的(de)(de)運營(ying)效率和(he)(he)性(xing)能提升。”
Twitter承載著當前正(zheng)在發生和人們(men)(men)(men)正(zheng)在討論的(de)事情。Twitter平臺主(zhu)管Nick Tornow表(biao)示：“Twitter正(zheng)在進(jin)行一個為期多年(nian)的(de)項(xiang)目，利用(yong)基(ji)于(yu)Amazon Graviton處理(li)器(qi)(qi)(qi)的(de)Amazon EC2實(shi)(shi)(shi)(shi)例(li)(li)來提(ti)(ti)供Twitter時間線。為進(jin)一步提(ti)(ti)高效率，我們(men)(men)(men)測(ce)試(shi)了新(xin)的(de)基(ji)于(yu)Amazon Graviton3處理(li)器(qi)(qi)(qi)的(de)C7g實(shi)(shi)(shi)(shi)例(li)(li)。在一系(xi)列(lie)可以代(dai)表(biao)Twitter工作負載性能的(de)基(ji)準(zhun)測(ce)試(shi)中(zhong)，我們(men)(men)(men)發現基(ji)于(yu)Amazon Graviton3處理(li)器(qi)(qi)(qi)的(de)C7g實(shi)(shi)(shi)(shi)例(li)(li)與基(ji)于(yu)Amazon Graviton2處理(li)器(qi)(qi)(qi)的(de)C6g實(shi)(shi)(shi)(shi)例(li)(li)相比(bi)，可將(jiang)(jiang)性能提(ti)(ti)高20%-80%，同時還將(jiang)(jiang)尾部(bu)延遲(chi)減少多達35%。我們(men)(men)(men)非常高興并期待利用(yong)基(ji)于(yu)Amazon Graviton3處理(li)器(qi)(qi)(qi)的(de)實(shi)(shi)(shi)(shi)例(li)(li)獲(huo)得更好的(de)性價比(bi)。”
一(yi)級方(fang)程式(shi)(F1)賽車(che)始于1950年，是世界上最負盛名的賽車(che)比賽，也是全球最受(shou)歡迎的年度體(ti)育(yu)賽事。“基于Amazon Graviton2處理(li)器的C6g實(shi)(shi)例(li)(li)已經為我(wo)(wo)(wo)們(men)的一(yi)些CFD(計(ji)算流體(ti)仿真力學(xue))工作(zuo)負載提供了最佳性價比。現(xian)(xian)在，我(wo)(wo)(wo)們(men)發(fa)現(xian)(xian)在同樣的模擬中，基于Graviton3的 C7g實(shi)(shi)例(li)(li)比基于Graviton2的 C6g實(shi)(shi)例(li)(li)快40%。”一(yi)級方(fang)程式(shi)管(guan)理(li)首(shou)席技(ji)術(shu)官Pat Symonds表示：“我(wo)(wo)(wo)們(men)很高(gao)興EFA將在這種實(shi)(shi)例(li)(li)類型中標配(pei)。基于Graviton3的實(shi)(shi)例(li)(li)在性價比方(fang)面的優越表現(xian)(xian)，我(wo)(wo)(wo)們(men)期待它成(cheng)為運行所有CFD工作(zuo)負載的最佳選擇(ze)。”
Epic Games創(chuang)立于(yu)1991年，是Fortnite、Unreal、Gears of War、Shadow Complex和Infinity Blade系列游戲的(de)(de)(de)創(chuang)造者(zhe)。Epic的(de)(de)(de)Unreal Engine技術為PC、主機、手機、AR、VR和Web帶來(lai)了高保真(zhen)、交互式的(de)(de)(de)體(ti)驗(yan)(yan)。Epic Games高級(ji)工(gong)程總(zong)監Mark Imbriaco表示：“當(dang)我們(men)(men)展望未來(lai)，為玩(wan)家構建更加引(yin)人入勝的(de)(de)(de)沉(chen)浸式體(ti)驗(yan)(yan)時，我們(men)(men)很高興使用(yong)基(ji)于(yu)Amazon Gravtion3處理器的(de)(de)(de)EC2實例(li)。我們(men)(men)的(de)(de)(de)測(ce)試(shi)表明，它(ta)們(men)(men)甚(shen)至適(shi)用(yong)于(yu)要求最嚴苛、延遲敏感(gan)度最高的(de)(de)(de)工(gong)作負載，同時提供卓(zhuo)越的(de)(de)(de)性價比，提升了《堡壘之夜(ye)》和任何基(ji)于(yu)虛擬引(yin)擎創(chuang)造的(de)(de)(de)游戲體(ti)驗(yan)(yan)。”
Honeycomb開發(fa)了(le)一個可視(shi)化(hua)平臺，讓工(gong)程(cheng)團隊可以可視(shi)化(hua)、分析和改善云(yun)應(ying)用程(cheng)序(xu)的(de)質量和性能。“我(wo)們(men)很高興能夠(gou)基于Amazon Graviton3的(de)預覽實(shi)(shi)例測試我(wo)們(men)的(de)高吞(tun)吐遙感攝取工(gong)作負載。” honeycomb.io首席開發(fa)者布道師Liz Fong-Jones表示：“在處(chu)理(li)相(xiang)同工(gong)作負載的(de)情況下，我(wo)們(men)運行(xing)的(de)C7g實(shi)(shi)例比C6g少30%，延遲(chi)降低了(le)30%。我(wo)們(men)期待在Amazon Graviton3的(de)C7g實(shi)(shi)例正式可用后盡快投(tou)入到我(wo)們(men)的(de)生產環(huan)境中。”
Meta AI專注于(yu)將(jiang)人們(men)與(yu)(yu)其(qi)關心(xin)的(de)(de)事(shi)物聯系起來(lai)，提供有(you)意義(yi)且(qie)安全的(de)(de)體驗，推進機(ji)器學(xue)(xue)習(xi)并指導開放(fang)研究(jiu)。Meta AI PyTorch工程高(gao)級(ji)總監(jian)Lin Qiao表示：“PyTorch開發人員(yuan)不(bu)斷創新，以提高(gao)深度學(xue)(xue)習(xi)模型的(de)(de)準(zhun)確性，并找到更(geng)好的(de)(de)方(fang)法解(jie)決問題。同(tong)時，這(zhe)(zhe)些(xie)模型的(de)(de)規(gui)模呈指數級(ji)增(zeng)長，這(zhe)(zhe)讓訓練(lian)它們(men)變得更(geng)加困難，成本更(geng)高(gao)。我們(men)的(de)(de)PyTorch團隊一(yi)直在與(yu)(yu)Amazon Neuron團隊合作，為易用性和(he)(he)性能(neng)設定了一(yi)個高(gao)標準(zhun)，確保在PyTorch中為Trainium等加速器提供原生支持。這(zhe)(zhe)其(qi)中包(bao)括研究(jiu)集(ji)體計算原語，以及為擴展性能(neng)和(he)(he)分布式訓練(lian)設置(zhi)適當的(de)(de)基礎。我們(men)期待與(yu)(yu)亞馬遜云科技合作，將(jiang)Trainium與(yu)(yu)PyTorch原生產(chan)品(如eager mode和(he)(he)dynamic shapes)進行更(geng)多(duo)集(ji)成。”
Anthropic構建了可靠、可解釋和可操控的人工智能系統，這(zhe)些系統將(jiang)(jiang)有機會(hui)為商業和公共利益創(chuang)造價值(zhi)。Anthropic聯合創(chuang)始人Tom Brown表(biao)示：“我(wo)們(men)的研究(jiu)興(xing)趣橫跨多個(ge)領域，包括(kuo)自然(ran)語(yu)言、人工反饋、縮放定律、強化(hua)學習、代(dai)碼生成(cheng)和可(ke)解釋性。我(wo)們(men)成(cheng)功的一個(ge)關鍵是(shi)利用(yong)現代(dai)基礎設施(shi)，讓(rang)我(wo)們(men)可(ke)以(yi)啟動超大高性能深度學習加速器的集(ji)群。 我(wo)們(men)期待使用(yong)Amazon Trainium芯(xin)片(pian)支持(chi)的Trn1實例(li)，因(yin)為它們(men)具有前(qian)所未有的能力，可(ke)以(yi)擴(kuo)展到上萬個(ge)節點，還有更高的網(wang)絡帶寬，這(zhe)將(jiang)(jiang)讓(rang)我(wo)們(men)可(ke)以(yi)在控制成(cheng)本的同時(shi)更快地迭代(dai)。”
Splunk是領先的(de)數(shu)(shu)據平臺(tai)提供(gong)商，旨(zhi)在(zai)調查、監(jian)控、分析和(he)處理任何規模(mo)的(de)數(shu)(shu)據。Splunk云平臺(tai)和(he)基礎(chu)設施副總裁Brad Murphy表示：“我們運行基于C/C++的(de)工作負(fu)載(zai)來索引和(he)搜(sou)索事(shi)件(jian)數(shu)(shu)據。我們的(de)工作負(fu)載(zai)受CPU限制，并受益于高容(rong)量和(he)低延遲的(de)SSD存儲(chu)(chu)。在(zai)評估由Amazon Graviton2支(zhi)持的(de)新(xin)Im4gn/Is4gen實(shi)例(li)時(shi)，我們觀(guan)察到，與當前使用的(de)I3/I3en實(shi)例(li)相比，搜(sou)索運行時(shi)間減少了50%。Im4gn和(he)Is4gen實(shi)例(li)成為運行我們存儲(chu)(chu)密(mi)集型工作負(fu)載(zai)的(de)絕佳選擇，性價(jia)比顯著提升且TCO更(geng)低。”
Sprinklr通過 30 多個數(shu)字(zi)化渠(qu)道幫助全球(qiu)大型(xing)企業提(ti)升客(ke)戶滿(man)意(yi)度——使用為企業構建的(de)(de)(de)(de)(de)先進、復雜的(de)(de)(de)(de)(de)人工(gong)(gong)智能引擎來(lai)創建洞察力(li)驅動的(de)(de)(de)(de)(de)策略(lve)，創造更優秀(xiu)的(de)(de)(de)(de)(de)客(ke)戶體驗(yan)。“我(wo)們在(zai)由Amazon Graviton2處理器(qi)支持的(de)(de)(de)(de)(de)Amazon EC2 Im4gn/Is4gen實(shi)(shi)(shi)例(li)(li)(li)上(shang)對基(ji)于Java的(de)(de)(de)(de)(de)搜索工(gong)(gong)作負載進行了基(ji)準(zhun)測(ce)試。與較大的(de)(de)(de)(de)(de)I3en實(shi)(shi)(shi)例(li)(li)(li)相(xiang)比，較小的(de)(de)(de)(de)(de) Is4gen 實(shi)(shi)(shi)例(li)(li)(li)就(jiu)能提(ti)供相(xiang)似的(de)(de)(de)(de)(de)性能，這意(yi)味著有(you)機會顯(xian)著降低(di)TCO。” Sprinklr工(gong)(gong)程副總裁(cai)Abhay Bansal表(biao)示：“我(wo)們在(zai)將工(gong)(gong)作負載從I3實(shi)(shi)(shi)例(li)(li)(li)遷(qian)(qian)移(yi)(yi)到(dao)Im4gn實(shi)(shi)(shi)例(li)(li)(li)時(shi)，還(huan)發現(xian)查詢延遲(chi)顯(xian)著降低(di)，多達(da)50%，性價比提(ti)升40%。遷(qian)(qian)移(yi)(yi)到(dao)基(ji)于Amazon Graviton2的(de)(de)(de)(de)(de)實(shi)(shi)(shi)例(li)(li)(li)很(hen)容易，完成基(ji)準(zhun)測(ce)試需要兩周時(shi)間。我(wo)們對已有(you)的(de)(de)(de)(de)(de)經驗(yan)感到(dao)非常滿(man)意(yi)，并期待基(ji)于Im4gn和Is4gen實(shi)(shi)(shi)例(li)(li)(li)在(zai)生(sheng)產環境(jing)中運(yun)行這些工(gong)(gong)作負載。”
Redis Enterprise通過幫助軟件團隊(dui)為實時世界創建高性能數據層，為全球超過8000個組織提(ti)供關鍵任務(wu)應用(yong)程序和(he)(he)(he)服務(wu)。Redis聯合創始人(ren)兼首席技術(shu)官Yiftach Shoolman表示：“我們非常高興(xing)看到，全新(xin)低延遲Amazon Nitro SSDs的(de)(de)(de)Amazon EC2 I4i實例提(ti)供比(bi)上一(yi)代實例更快(kuai)的(de)(de)(de)交易速度。我們預(yu)計I4i實例更強的(de)(de)(de)存(cun)儲性能和(he)(he)(he)更快(kuai)的(de)(de)(de)網(wang)絡和(he)(he)(he)處(chu)理(li)器(qi)速度將為我們那些基(ji)于I4i實例使(shi)用(yong)Redis-on-Flash的(de)(de)(de)客戶(hu)帶來顯(xian)著(zhu)改善，獲(huo)得更具(ju)吸(xi)引力的(de)(de)(de)TCO。”
