北京——2021年12月1日，在亞馬遜云科技re:Invent全球大會上，亞馬遜云科技宣布推出三款由自研芯片支(zhi)持的(de)新(xin)Amazon Elastic Compute Cloud (Amazon EC2)實(shi)例，幫助客(ke)戶顯(xian)著提(ti)升在Amazon EC2上(shang)運行的(de)工作(zuo)負(fu)載的(de)性(xing)(xing)(xing)能、成本和(he)能源效率(lv)。新(xin)C7g 實(shi)例由Amazon Graviton3 處(chu)理器支(zhi)持，與由 Amazon Graviton2 處(chu)理器支(zhi)持的(de)當前一代 C6g 實(shi)例相(xiang)比(bi)(bi)，性(xing)(xing)(xing)能提(ti)高25%。由Amazon Trainium芯片(pian)支(zhi)持的(de)新(xin)Trn1實(shi)例為在Amazon EC2中訓(xun)練絕大(da)多數(shu)機器學習模型提(ti)供(gong)最(zui)(zui)佳性(xing)(xing)(xing)價比(bi)(bi)，及最(zui)(zui)快的(de)訓(xun)練速度。基于(yu)自研Amazon Nitro SSDs(固態驅動器)的(de)新(xin)存(cun)儲(chu)優化型Im4gn/Is4gen/ I4i實(shi)例為在Amazon EC2上(shang)運行的(de)I/O密集型工作(zuo)負(fu)載提(ti)供(gong)最(zui)(zui)佳存(cun)儲(chu)性(xing)(xing)(xing)能。這(zhe)些基于(yu)亞(ya)馬遜云科(ke)技自研芯片(pian)的(de)新(xin)Amazon EC2實(shi)例的(de)發布，將幫助客(ke)戶支(zhi)持其關鍵業務應用程序。
亞馬(ma)遜云科技(ji)(ji)Amazon EC2副總(zong)裁(cai)David Brown表示：“我們對自研芯片(pian)的(de)(de)持(chi)續投入升級(ji)，已經讓(rang)客(ke)戶(hu)(hu)在當(dang)今(jin)一(yi)(yi)些(xie)(xie)關鍵工(gong)作(zuo)負載中獲(huo)得了巨大的(de)(de)性價比(bi)優(you)勢(shi)。客(ke)戶(hu)(hu)希(xi)望我們在每一(yi)(yi)代新的(de)(de)EC2實(shi)例上不斷突破(po)邊界。亞馬(ma)遜云科技(ji)(ji)的(de)(de)持(chi)續創(chuang)新讓(rang)客(ke)戶(hu)(hu)有機(ji)會使(shi)用(yong)這些(xie)(xie)全新的(de)(de)、改變(bian)游戲規則(ze)的(de)(de)實(shi)例運(yun)行其重要的(de)(de)工(gong)作(zuo)負載，獲(huo)得更好(hao)的(de)(de)性價比(bi)。”
C7g實例(li)由新的Amazon Graviton3處理(li)器支持(chi)(chi)，與由Amazon Graviton2處理(li)器支持(chi)(chi)的當前一代C6g實例(li)相比，性能提高多達25%
基于Amazon Graviton2的(de)(de)計(ji)(ji)(ji)(ji)算(suan)(suan)實(shi)例(li)自2020年推出以來(lai)，被(bei)眾多客戶(hu)(hu)如DirecTV、Discovery、Epic Games、Formula 1、Honeycomb.io、Intuit、Lyft、MercardoLibre、NextRoll、Nielsen、SmugMug、Snap、Splunk和Sprinklr等在(zai)生產中使用(yong)并已經獲得顯(xian)著(zhu)的(de)(de)性(xing)(xing)(xing)能(neng)提(ti)升(sheng)和成本(ben)節省。基于Graviton2的(de)(de)系列實(shi)例(li)共有12種，包(bao)括通用(yong)型(xing)、計(ji)(ji)(ji)(ji)算(suan)(suan)優(you)(you)化型(xing)、內存(cun)優(you)(you)化型(xing)、存(cun)儲優(you)(you)化型(xing)、突發性(xing)(xing)(xing)能(neng)型(xing)和加速計(ji)(ji)(ji)(ji)算(suan)(suan)型(xing)實(shi)例(li)，讓客戶(hu)(hu)擁有云(yun)上至深至廣(guang)的(de)(de)計(ji)(ji)(ji)(ji)算(suan)(suan)選擇，并兼顧性(xing)(xing)(xing)價(jia)比(bi)和能(neng)效。隨(sui)著(zhu)客戶(hu)(hu)在(zai)云(yun)中開展更多計(ji)(ji)(ji)(ji)算(suan)(suan)密集型(xing)工作(zuo)負載如高性(xing)(xing)(xing)能(neng)計(ji)(ji)(ji)(ji)算(suan)(suan)(HPC)、游戲和機器學(xue)習推理，相(xiang)應的(de)(de)計(ji)(ji)(ji)(ji)算(suan)(suan)、存(cun)儲、內存(cun)和網(wang)絡(luo)需求也隨(sui)之增長，客戶(hu)(hu)需要(yao)尋求更佳(jia)的(de)(de)性(xing)(xing)(xing)價(jia)比(bi)和能(neng)效來(lai)運行這(zhe)些工作(zuo)負載。
由(you)(you)Amazon Graviton3處(chu)理(li)器(qi)支持(chi)(chi)(chi)的(de)(de)C7g實(shi)(shi)(shi)例(li)(li)(li)(li)與(yu)由(you)(you) Graviton2 處(chu)理(li)器(qi)支持(chi)(chi)(chi)的(de)(de)當前一代 C6g 實(shi)(shi)(shi)例(li)(li)(li)(li)相(xiang)比(bi)，可(ke)(ke)將計(ji)算(suan)密(mi)集型(xing)(xing)工(gong)作(zuo)負載(zai)性(xing)能提(ti)(ti)高(gao)(gao)多(duo)達(da)25%。Amazon Graviton3處(chu)理(li)器(qi)與(yu)Graviton2相(xiang)比(bi)，為(wei)科學計(ji)算(suan)、機(ji)器(qi)學習和媒體(ti)編(bian)碼(ma)工(gong)作(zuo)負載(zai)提(ti)(ti)供高(gao)(gao)達(da)2倍的(de)(de)浮點運(yun)算(suan)性(xing)能，為(wei)加密(mi)工(gong)作(zuo)負載(zai)速度提(ti)(ti)升高(gao)(gao)達(da)2倍，為(wei)機(ji)器(qi)學習工(gong)作(zuo)負載(zai)提(ti)(ti)供高(gao)(gao)達(da)3倍的(de)(de)性(xing)能。Amazon Graviton3處(chu)理(li)器(qi)的(de)(de)能效也(ye)更(geng)高(gao)(gao)，在(zai)相(xiang)同性(xing)能下，與(yu)同類型(xing)(xing)EC2實(shi)(shi)(shi)例(li)(li)(li)(li)對比(bi)，可(ke)(ke)節省高(gao)(gao)達(da)60%的(de)(de)能源(yuan)消耗。C7g實(shi)(shi)(shi)例(li)(li)(li)(li)是云中第一個采用(yong)最新DDR5內存的(de)(de)實(shi)(shi)(shi)例(li)(li)(li)(li)，與(yu)基于Amazon Graviton2的(de)(de)實(shi)(shi)(shi)例(li)(li)(li)(li)相(xiang)比(bi)，它(ta)提(ti)(ti)高(gao)(gao)了50%的(de)(de)內存帶寬，從(cong)而(er)提(ti)(ti)高(gao)(gao)了科學計(ji)算(suan)等內存密(mi)集型(xing)(xing)應用(yong)的(de)(de)性(xing)能。與(yu)基于Amazon Graviton2的(de)(de)實(shi)(shi)(shi)例(li)(li)(li)(li)相(xiang)比(bi)，C7g實(shi)(shi)(shi)例(li)(li)(li)(li)的(de)(de)網絡(luo)帶寬也(ye)高(gao)(gao)出20%。C7g 實(shi)(shi)(shi)例(li)(li)(li)(li)支持(chi)(chi)(chi) Elastic Fabric Adapter (EFA)，允(yun)許應用(yong)程(cheng)序直接(jie)與(yu)網絡(luo)接(jie)口卡通(tong)信(xin)，提(ti)(ti)供更(geng)低且更(geng)一致的(de)(de)延遲，提(ti)(ti)高(gao)(gao)需要大規模并行處(chu)理(li)(如 HPC 和視頻編(bian)碼(ma))的(de)(de)應用(yong)程(cheng)序的(de)(de)性(xing)能。C7g實(shi)(shi)(shi)例(li)(li)(li)(li)現已提(ti)(ti)供預覽版。欲了解更(geng)多(duo)C7g實(shi)(shi)(shi)例(li)(li)(li)(li)的(de)(de)信(xin)息，請訪問aws.amazon.com/ec2/instance-types/c7g。
由Amazon Trainium芯片(pian)支(zhi)持(chi)的(de)Trn1實(shi)例(li)為在Amazon EC2中訓(xun)(xun)練絕大多(duo)數(shu)機器學習模型(xing)提(ti)供最佳性價比，及最快的(de)訓(xun)(xun)練速度
越(yue)(yue)來越(yue)(yue)多客(ke)戶(hu)(hu)正在(zai)(zai)構建、訓練和部署機(ji)器(qi)學習(xi)模(mo)型(xing)，支持能(neng)夠重塑其(qi)業務(wu)和客(ke)戶(hu)(hu)體驗(yan)的應用(yong)程(cheng)序。為了確保提高準(zhun)確性(xing)，這些機(ji)器(qi)學習(xi)模(mo)型(xing)必須構建在(zai)(zai)越(yue)(yue)來越(yue)(yue)多的訓練數據上(shang)，導致其(qi)訓練成本(ben)越(yue)(yue)來越(yue)(yue)高。這可能(neng)會限(xian)制客(ke)戶(hu)(hu)能(neng)夠部署的機(ji)器(qi)學習(xi)模(mo)型(xing)數量。亞馬遜云科技為機(ji)器(qi)學習(xi)提供至深至廣的計算服務(wu)選擇(ze)，包括采(cai)用(yong)NVIDIA A100 Tensor Core GPU的EC2 P4d實(shi)例和采(cai)用(yong)Habana Labs Gaudi 加(jia)速(su)器(qi)的 EC2 DL1 實(shi)例。但是，即(ji)使擁(yong)有(you)當今最快的加(jia)速(su)實(shi)例，訓練持續變大的機(ji)器(qi)學習(xi)模(mo)型(xing)仍然(ran)是非常昂貴和耗時的。
由Amazon Trainium芯(xin)片支(zhi)持的(de)Trn1實(shi)例(li)(li)(li)為在Amazon EC2中(zhong)進(jin)行深度學習(xi)模型(xing)(xing)訓練(lian)提(ti)供(gong)最佳性價比以(yi)(yi)及最快(kuai)的(de)訓練(lian)速度，與P4d實(shi)例(li)(li)(li)相比，通過Trn1實(shi)例(li)(li)(li)訓練(lian)深度學習(xi)模型(xing)(xing)的(de)成(cheng)本降(jiang)低多達40%。Trn1實(shi)例(li)(li)(li)提(ti)供(gong)800Gbps EFA網絡(luo)(luo)帶(dai)寬(比最新基于GPU的(de)EC2實(shi)例(li)(li)(li)高兩倍)，并(bing)與Amazon FSx for Lustre高性能(neng)存儲集成(cheng)，讓客戶可以(yi)(yi)啟動具有EC2 UltraClusters功能(neng)的(de)Trn1實(shi)例(li)(li)(li)。通過EC2 UltraClusters，開發(fa)人員可以(yi)(yi)將機器學習(xi)訓練(lian)擴展到一萬多個(ge)(ge)與 PB 級網絡(luo)(luo)互連的(de) Trainium 加速器，讓客戶按需訪問(wen)超算級性能(neng)，即便是最大型(xing)(xing)和最復雜的(de)模型(xing)(xing)，訓練(lian)時間也可以(yi)(yi)從幾個(ge)(ge)月縮(suo)短到幾天(tian)。Trn1實(shi)例(li)(li)(li)現已提(ti)供(gong)預(yu)覽版。欲了解更多Trn1實(shi)例(li)(li)(li)的(de)信息(xi)，請訪問(wen)aws.amazon.com/ec2/instance-types/trn1。
采用全新Amazon Nitro SSDs的Im4gn/Is4gen/ I4i實例可(ke)為I/O密(mi)集型工作(zuo)負載(zai)提(ti)供最(zui)佳存(cun)儲(chu)性能
如(ru)(ru)今，客戶(hu)將(jiang)I3/I3en存(cun)儲優化(hua)型實例用(yong)于需要(yao)直接訪問本(ben)地存(cun)儲數(shu)據(ju)(ju)集(ji)的(de)(de)(de)應用(yong)程(cheng)序，比如(ru)(ru)橫向擴展的(de)(de)(de)事(shi)務型和關(guan)系型數(shu)據(ju)(ju)庫(ku)(如(ru)(ru)MySOL和PostgreSQL)，NoSQL數(shu)據(ju)(ju)庫(ku)(如(ru)(ru)Cassandra、MongoDB、Redis等)，大數(shu)據(ju)(ju)(如(ru)(ru)Hadoop)和數(shu)據(ju)(ju)分(fen)析(xi)工作負載(如(ru)(ru)Spark、Hive、Presto等)。I3/I3en實例以低(di)成本(ben)提供非易(yi)失性內(nei)存(cun)標準(zhun)(NVMe) SSD支持(chi)的(de)(de)(de)實例存(cun)儲，針對(dui)低(di)延遲、高 I/O 性能和吞吐量進行了優化(hua)。客戶(hu)喜歡I3/I3en實例提供的(de)(de)(de)快速事(shi)務處理(li)能力，但(dan)隨著其工作負載的(de)(de)(de)不斷升(sheng)級——在更(geng)大規模的(de)(de)(de)數(shu)據(ju)(ju)集(ji)上處理(li)更(geng)復雜(za)的(de)(de)(de)事(shi)務，他們需要(yao)在不增加成本(ben)的(de)(de)(de)情況(kuang)下獲得更(geng)高的(de)(de)(de)計(ji)算性能和更(geng)快的(de)(de)(de)數(shu)據(ju)(ju)訪問速度。
Im4gn/Is4gen/I4i實(shi)例(li)旨在通過架構最(zui)大限(xian)(xian)度(du)提(ti)高(gao)(gao)I/O密集型工作負載的(de)(de)存儲性(xing)(xing)能。通過自研的(de)(de) Amazon Nitro SSDs ，Im4gn/Is4gen/I4i實(shi)例(li)提(ti)供高(gao)(gao)達(da)(da) 30 TB 的(de)(de) NVMe 存儲，與(yu)上一代(dai)I3實(shi)例(li)相比，I/O 延(yan)遲降低(di)了(le) 60%，延(yan)遲可(ke)(ke)(ke)變性(xing)(xing)降低(di)了(le) 75%，從而最(zui)大限(xian)(xian)度(du)地提(ti)高(gao)(gao)了(le)應用程序性(xing)(xing)能。Amazon Nitro SSDs通過優化(hua)存儲堆(dui)棧、虛(xu)擬(ni)化(hua)管理程序和(he)硬(ying)件(jian)(jian)(jian)與(yu)Amazon Nitro 系統(tong)緊密集成(cheng)。與(yu)使用商用SSD相比，亞(ya)馬(ma)遜(xun)云科技同時管理Amazon Nitro SSDs的(de)(de)硬(ying)件(jian)(jian)(jian)和(he)固件(jian)(jian)(jian)，使SSD更(geng)(geng)新交付速度(du)更(geng)(geng)快，讓客戶可(ke)(ke)(ke)以從改進的(de)(de)功能中獲益。Im4gn 實(shi)例(li)(現已可(ke)(ke)(ke)用)采用 Amazon Graviton2 處(chu)理器，與(yu) I3 實(shi)例(li)相比，性(xing)(xing)價比提(ti)高(gao)(gao)多(duo)(duo)達(da)(da) 40%，每 TB存儲成(cheng)本降低(di)多(duo)(duo)達(da)(da) 44%。Is4gen 實(shi)例(li)(現已可(ke)(ke)(ke)用)也采用 Amazon Graviton2 處(chu)理器，與(yu) I3en 實(shi)例(li)相比，每 TB 存儲成(cheng)本降低(di)多(duo)(duo)達(da)(da) 15%，計算性(xing)(xing)能提(ti)高(gao)(gao)多(duo)(duo)達(da)(da) 48%。開(kai)始(shi)使用Im4gn/Is4gn實(shi)例(li)，請訪(fang)問aws.amazon.com/ec2/instance-types/i4g。I4i實(shi)例(li)(即將(jiang)可(ke)(ke)(ke)用)采用英特爾(er)第(di)三代(dai)可(ke)(ke)(ke)擴展處(chu)理器(Ice Lake)，與(yu)當(dang)前一代(dai) I3 實(shi)例(li)相比，計算性(xing)(xing)能提(ti)高(gao)(gao)多(duo)(duo)達(da)(da) 55%。欲了(le)解更(geng)(geng)多(duo)(duo)Im4gn/Is4gen/ I4i實(shi)例(li)的(de)(de)信(xin)息(xi)，請訪(fang)問aws.amazon.com/ec2/instance-types/i4i。
SAP HANA是世界領先的(de)(de)內存數(shu)(shu)據庫，是SAP業務(wu)(wu)技術平臺的(de)(de)基礎(chu)。SAP HANA數(shu)(shu)據庫與(yu)(yu)分(fen)析(xi)總裁Irfan Khan表示：“過去(qu)十年中(zhong)，SAP HANA幫助客戶管理他(ta)們(men)最關鍵的(de)(de)事務(wu)(wu)和(he)分(fen)析(xi)工作負載。亞(ya)馬(ma)(ma)遜云(yun)科(ke)技在基于ARM的(de)(de)Amazon Graviton處理器的(de)(de)持續投入與(yu)(yu)創新，與(yu)(yu)亞(ya)馬(ma)(ma)遜云(yun)科(ke)技的(de)(de)合作帶(dai)來諸多可(ke)能，為我們(men)的(de)(de)企業客戶和(he)SAP HANA云(yun)支持的(de)(de)SAP云(yun)分(fen)析(xi)和(he)數(shu)(shu)據管理解決方案帶(dai)來了顯著的(de)(de)運營效率和(he)性(xing)能提升(sheng)。”
Twitter承載著當前正(zheng)(zheng)在(zai)(zai)發生(sheng)和人們(men)正(zheng)(zheng)在(zai)(zai)討論的(de)事(shi)情。Twitter平臺主管Nick Tornow表示(shi)：“Twitter正(zheng)(zheng)在(zai)(zai)進行一個(ge)為期多年的(de)項目，利用基于(yu)(yu)(yu)Amazon Graviton處(chu)(chu)理(li)器(qi)(qi)(qi)(qi)的(de)Amazon EC2實例(li)來提(ti)供Twitter時間線。為進一步提(ti)高(gao)效率，我(wo)們(men)測試了新的(de)基于(yu)(yu)(yu)Amazon Graviton3處(chu)(chu)理(li)器(qi)(qi)(qi)(qi)的(de)C7g實例(li)。在(zai)(zai)一系列可以代(dai)表Twitter工作負載性(xing)能的(de)基準測試中，我(wo)們(men)發現基于(yu)(yu)(yu)Amazon Graviton3處(chu)(chu)理(li)器(qi)(qi)(qi)(qi)的(de)C7g實例(li)與基于(yu)(yu)(yu)Amazon Graviton2處(chu)(chu)理(li)器(qi)(qi)(qi)(qi)的(de)C6g實例(li)相(xiang)比，可將性(xing)能提(ti)高(gao)20%-80%，同時還將尾部延遲(chi)減少多達(da)35%。我(wo)們(men)非常高(gao)興并期待(dai)利用基于(yu)(yu)(yu)Amazon Graviton3處(chu)(chu)理(li)器(qi)(qi)(qi)(qi)的(de)實例(li)獲得更好的(de)性(xing)價比。”
一級(ji)方程式(F1)賽車始(shi)于(yu)(yu)1950年(nian)，是世(shi)界(jie)上最負(fu)盛名的(de)(de)(de)賽車比(bi)(bi)賽，也(ye)是全(quan)球最受(shou)歡迎的(de)(de)(de)年(nian)度(du)體育賽事(shi)。“基(ji)于(yu)(yu)Amazon Graviton2處理器(qi)的(de)(de)(de)C6g實(shi)例(li)已經為我(wo)們(men)(men)的(de)(de)(de)一些CFD(計算流體仿真力學)工作(zuo)負(fu)載提供(gong)了最佳性價(jia)比(bi)(bi)。現在(zai)，我(wo)們(men)(men)發現在(zai)同(tong)樣的(de)(de)(de)模擬中，基(ji)于(yu)(yu)Graviton3的(de)(de)(de) C7g實(shi)例(li)比(bi)(bi)基(ji)于(yu)(yu)Graviton2的(de)(de)(de) C6g實(shi)例(li)快40%。”一級(ji)方程式管理首席技術官Pat Symonds表示(shi)：“我(wo)們(men)(men)很高興(xing)EFA將在(zai)這(zhe)種實(shi)例(li)類型(xing)中標配(pei)。基(ji)于(yu)(yu)Graviton3的(de)(de)(de)實(shi)例(li)在(zai)性價(jia)比(bi)(bi)方面的(de)(de)(de)優(you)越表現，我(wo)們(men)(men)期待它(ta)成為運行(xing)所有CFD工作(zuo)負(fu)載的(de)(de)(de)最佳選(xuan)擇。”
Epic Games創立(li)于1991年(nian)，是Fortnite、Unreal、Gears of War、Shadow Complex和Infinity Blade系列游戲的(de)(de)創造者。Epic的(de)(de)Unreal Engine技術為PC、主機、手機、AR、VR和Web帶來(lai)了(le)高保真(zhen)、交互式(shi)的(de)(de)體(ti)驗。Epic Games高級工程總監Mark Imbriaco表(biao)示：“當我(wo)們(men)展望(wang)未來(lai)，為玩(wan)家(jia)構建更(geng)加引人入勝的(de)(de)沉浸(jin)式(shi)體(ti)驗時，我(wo)們(men)很(hen)高興(xing)使用基于Amazon Gravtion3處(chu)理器的(de)(de)EC2實(shi)例。我(wo)們(men)的(de)(de)測(ce)試表(biao)明，它們(men)甚至(zhi)適用于要求最(zui)(zui)嚴苛、延遲敏感(gan)度最(zui)(zui)高的(de)(de)工作負載，同時提供卓越(yue)的(de)(de)性價比，提升了(le)《堡壘之夜(ye)》和任(ren)何基于虛擬引擎創造的(de)(de)游戲體(ti)驗。”
Honeycomb開發了一個可(ke)視(shi)化平臺(tai)，讓工程團隊可(ke)以可(ke)視(shi)化、分析和改善云應(ying)用程序的質(zhi)量(liang)和性能(neng)。“我(wo)們很高(gao)興能(neng)夠基(ji)于Amazon Graviton3的預覽實例(li)(li)測試我(wo)們的高(gao)吞吐遙感攝取(qu)工作負載。” honeycomb.io首席(xi)開發者布道師(shi)Liz Fong-Jones表(biao)示：“在處理相同工作負載的情況下，我(wo)們運行的C7g實例(li)(li)比(bi)C6g少(shao)30%，延遲(chi)降低了30%。我(wo)們期待(dai)在Amazon Graviton3的C7g實例(li)(li)正(zheng)式可(ke)用后盡快(kuai)投入到我(wo)們的生產環(huan)境(jing)中(zhong)。”
Meta AI專(zhuan)注于將人(ren)們(men)與(yu)其(qi)(qi)關心的(de)(de)(de)事(shi)物(wu)聯(lian)系起來，提供(gong)有意義且安(an)全的(de)(de)(de)體(ti)驗(yan)，推進機器學(xue)習(xi)并指導開(kai)放(fang)研究(jiu)。Meta AI PyTorch工程高級總監Lin Qiao表(biao)示：“PyTorch開(kai)發人(ren)員不斷創新，以提高深度學(xue)習(xi)模(mo)型的(de)(de)(de)準(zhun)確性，并找到更好(hao)的(de)(de)(de)方法解決問題。同時，這些模(mo)型的(de)(de)(de)規(gui)模(mo)呈(cheng)指數級增長，這讓(rang)訓練(lian)它(ta)們(men)變得更加困難(nan)，成(cheng)本更高。我們(men)的(de)(de)(de)PyTorch團(tuan)隊一直(zhi)在與(yu)Amazon Neuron團(tuan)隊合作，為(wei)易用性和性能(neng)設定了一個高標準(zhun)，確保在PyTorch中為(wei)Trainium等(deng)加速器提供(gong)原生(sheng)支(zhi)持(chi)。這其(qi)(qi)中包括研究(jiu)集體(ti)計算原語(yu)，以及為(wei)擴展性能(neng)和分布(bu)式訓練(lian)設置適(shi)當的(de)(de)(de)基(ji)礎。我們(men)期待與(yu)亞馬遜(xun)云科技合作，將Trainium與(yu)PyTorch原生(sheng)產品(如eager mode和dynamic shapes)進行更多集成(cheng)。”
Anthropic構建了可靠、可解釋和可操控的人工智能系統(tong)，這些系統(tong)將有(you)(you)機會為商業和(he)公共利(li)益創造價值。Anthropic聯合創始人Tom Brown表(biao)示：“我們的(de)研究(jiu)興趣橫跨(kua)多(duo)個領域，包括自然(ran)語言、人工反饋、縮(suo)放(fang)定律、強化學習(xi)、代碼(ma)生成(cheng)和(he)可解釋性。我們成(cheng)功的(de)一(yi)個關鍵(jian)是利(li)用現代基礎設施，讓(rang)我們可以(yi)啟動超大高性能深度學習(xi)加速器的(de)集群。 我們期(qi)待使用Amazon Trainium芯片支持的(de)Trn1實例，因為它們具有(you)(you)前(qian)所未有(you)(you)的(de)能力，可以(yi)擴(kuo)展(zhan)到上萬個節點(dian)，還有(you)(you)更高的(de)網絡帶(dai)寬，這將讓(rang)我們可以(yi)在控制成(cheng)本的(de)同時(shi)更快(kuai)地迭代。”
Splunk是領(ling)先的(de)(de)數(shu)據平臺提供商，旨(zhi)在調(diao)查、監控(kong)、分析和(he)處理任何規模的(de)(de)數(shu)據。Splunk云平臺和(he)基礎(chu)設施副總裁Brad Murphy表(biao)示：“我們運行基于(yu)C/C++的(de)(de)工(gong)(gong)作(zuo)負(fu)載(zai)來(lai)索(suo)(suo)(suo)引和(he)搜索(suo)(suo)(suo)事件數(shu)據。我們的(de)(de)工(gong)(gong)作(zuo)負(fu)載(zai)受(shou)CPU限制，并受(shou)益于(yu)高容量和(he)低延遲(chi)的(de)(de)SSD存(cun)儲。在評估(gu)由Amazon Graviton2支持(chi)的(de)(de)新(xin)Im4gn/Is4gen實(shi)例時，我們觀察到，與當前(qian)使用(yong)的(de)(de)I3/I3en實(shi)例相比，搜索(suo)(suo)(suo)運行時間減(jian)少了50%。Im4gn和(he)Is4gen實(shi)例成為運行我們存(cun)儲密(mi)集(ji)型工(gong)(gong)作(zuo)負(fu)載(zai)的(de)(de)絕佳選(xuan)擇，性(xing)價比顯著(zhu)提升且(qie)TCO更(geng)低。”
Sprinklr通過 30 多個數字化渠道幫助全(quan)球大型企業(ye)提(ti)升(sheng)客戶滿意度(du)——使(shi)用(yong)為企業(ye)構建的(de)(de)(de)(de)先(xian)進、復雜的(de)(de)(de)(de)人工(gong)(gong)智能(neng)引擎來創建洞察力(li)驅(qu)動的(de)(de)(de)(de)策略，創造(zao)更優(you)秀的(de)(de)(de)(de)客戶體(ti)驗。“我們(men)在由(you)Amazon Graviton2處理器支持的(de)(de)(de)(de)Amazon EC2 Im4gn/Is4gen實(shi)(shi)(shi)例(li)(li)上(shang)對基(ji)于(yu)(yu)(yu)Java的(de)(de)(de)(de)搜索工(gong)(gong)作(zuo)負載(zai)進行了基(ji)準測(ce)(ce)試。與較大的(de)(de)(de)(de)I3en實(shi)(shi)(shi)例(li)(li)相比，較小的(de)(de)(de)(de) Is4gen 實(shi)(shi)(shi)例(li)(li)就能(neng)提(ti)供(gong)相似的(de)(de)(de)(de)性能(neng)，這意味著有機會顯著降(jiang)低(di)TCO。” Sprinklr工(gong)(gong)程副總裁Abhay Bansal表(biao)示：“我們(men)在將(jiang)工(gong)(gong)作(zuo)負載(zai)從(cong)I3實(shi)(shi)(shi)例(li)(li)遷(qian)移(yi)到(dao)Im4gn實(shi)(shi)(shi)例(li)(li)時(shi)，還發(fa)現查詢延遲顯著降(jiang)低(di)，多達50%，性價比提(ti)升(sheng)40%。遷(qian)移(yi)到(dao)基(ji)于(yu)(yu)(yu)Amazon Graviton2的(de)(de)(de)(de)實(shi)(shi)(shi)例(li)(li)很容易，完成基(ji)準測(ce)(ce)試需要兩周時(shi)間。我們(men)對已有的(de)(de)(de)(de)經驗感到(dao)非常(chang)滿意，并期待基(ji)于(yu)(yu)(yu)Im4gn和(he)Is4gen實(shi)(shi)(shi)例(li)(li)在生產環境中(zhong)運行這些工(gong)(gong)作(zuo)負載(zai)。”
Redis Enterprise通過幫助軟件團(tuan)隊為實(shi)時世界創建高性能(neng)數據層，為全(quan)球超過8000個組織提供關鍵任務(wu)應用程序和(he)服務(wu)。Redis聯(lian)合創始(shi)人兼首席技術官Yiftach Shoolman表示(shi)：“我(wo)(wo)們(men)(men)非常高興看到，全(quan)新低(di)延(yan)遲Amazon Nitro SSDs的Amazon EC2 I4i實(shi)例提供比(bi)上(shang)一代實(shi)例更(geng)快的交易速(su)度(du)。我(wo)(wo)們(men)(men)預計(ji)I4i實(shi)例更(geng)強的存儲性能(neng)和(he)更(geng)快的網絡和(he)處理器速(su)度(du)將為我(wo)(wo)們(men)(men)那(nei)些(xie)基于I4i實(shi)例使(shi)用Redis-on-Flash的客戶帶(dai)來顯著改善，獲得更(geng)具吸引力(li)的TCO。”
