亞(ya)馬遜云科技(ji)宣(xuan)布與Hugging Face進(jin)(jin)一步合(he)作，以(yi)加速(su)對大語言(yan)模(mo)型和視覺模(mo)型的(de)訓練、精(jing)調和部署，促進(jin)(jin)生成(cheng)(cheng)式AI應(ying)(ying)用(yong)的(de)創建(jian)。生成(cheng)(cheng)式AI應(ying)(ying)用(yong)可以(yi)執行各種任務(wu)，包括文(wen)本摘要、問題回答(da)、代(dai)碼生成(cheng)(cheng)、圖像創建(jian)以(yi)及撰(zhuan)寫(xie)論文(wen)和文(wen)章。
亞馬遜云科技在生成式AI創新方面擁有深厚歷史。例如，亞馬遜使用AI技術為Amazon Alexa用戶提供對話體驗，每周用戶互動次數達到數十億次，同時也越來越多地使用生成式AI來支持新體驗，如“Create with Alexa”功能。此外，作為亞馬遜搜索(Amazon Search)的一個小組，M5可以幫助亞馬遜各地團隊將大模型應用到他們的應用程序中，并訓練大模型以提升Amazon.com網站的搜索結果。亞馬遜云科技持續在機器學習(ML)的所有領域中創新，包括基礎設施、Amazon SageMaker相關工具和開箱即用的AI服務，比如Amazon CodeWhisperer，它嵌入到程序員使用的IDE中，通過注釋來生成建議代碼，以提高開發人員的生產力。為加速機器視覺與大語言模型的訓練和推理，亞馬遜云科技還推出了自研訓練芯片 Amazon Trainium與推理芯(xin)片Amazon Inferentia。
Hugging Face之(zhi)所以選(xuan)擇亞馬遜云(yun)科(ke)技作為首選(xuan)云(yun)供應商(shang)，是因為它(ta)提供了靈活、可選(xuan)的全球(qiu)領先性能(neng)工具，例(li)如Amazon SageMaker、Amazon Trainium和Amazon Inferentia，滿足了Hugging Face模型(xing)訓(xun)練、精調和部署需(xu)求(qiu)。依賴于此，開發人員使用Hugging Face可以輕(qing)松優化性能(neng)并降低成本，從而(er)更快地將生成式AI應用投入(ru)到生產環境。
“AI的(de)(de)(de)未(wei)來(lai)已經到(dao)來(lai)，但(dan)并非每個(ge)人都(dou)能(neng)平等享(xiang)用(yong)AI。”Hugging Face首席執行官Clement Delangue表示，“可訪問(wen)性和(he)(he)透明性是以明智和(he)(he)負責任的(de)(de)(de)方式使用(yong)這些(xie)新功能(neng)，從而共享(xiang)成(cheng)果和(he)(he)創造新工具(ju)的(de)(de)(de)關鍵。Amazon SageMaker和(he)(he)亞(ya)馬遜云(yun)科技定制芯片(pian)會幫助我們的(de)(de)(de)團隊和(he)(he)更大的(de)(de)(de)機器學習社區，將最(zui)新研究(jiu)成(cheng)果轉化(hua)為人人都(dou)可構建的(de)(de)(de)、公(gong)開的(de)(de)(de)可復制模型。”
高性能且兼具成本效益的生成式AI
大語(yu)言(yan)模型(xing)和(he)視(shi)覺模型(xing)的構建、訓練和(he)部署是一個昂貴且(qie)耗時的過程，需要(yao)深厚(hou)的機器(qi)學習專(zhuan)業知識的支持。這兩類模型(xing)非(fei)常(chang)復雜，可能包含(han)數千億個參數，因此在很大程度(du)上，許多(duo)開(kai)發人員無法使用生成式AI。
為了(le)彌(mi)補這一(yi)差距，Hugging Face與(yu)亞馬(ma)遜云(yun)科技建(jian)立(li)合(he)作(zuo)，讓開發(fa)人員(yuan)更易通(tong)過(guo)(guo)訪問亞馬(ma)遜云(yun)科技的服(fu)務(wu)，來應用部署Hugging Face模(mo)型(xing)，尤(you)其是(shi)(shi)那(nei)些(xie)生成式AI模(mo)型(xing)。這樣做的好處是(shi)(shi)：可以(yi)更快地(di)訓練(lian)(lian)與(yu)擴展低(di)延遲(chi)和(he)(he)(he)高(gao)通(tong)量的推理任務(wu)。例如(ru)，由Amazon Trainium支持(chi)的Amazon Elastic Compute Cloud (Amazon EC2) Trn1實例提(ti)供了(le)更快的訓練(lian)(lian)時間，與(yu)基于GPU的實例相(xiang)比(bi)，可節省高(gao)達50%的訓練(lian)(lian)成本。而由最(zui)新一(yi)代Amazon Inferentia芯片支持(chi)的Amazon EC2 Inf2實例，旨在部署最(zui)新一(yi)代大語(yu)言模(mo)型(xing)和(he)(he)(he)視覺模(mo)型(xing)。相(xiang)比(bi)Inf1實例，Inf2 實例吞吐量提(ti)升了(le)4倍(bei)，延遲(chi)降(jiang)低(di)了(le)10倍(bei)。Amazon SageMaker為ML提(ti)供工具和(he)(he)(he)工作(zuo)流，開發(fa)人員(yuan)可以(yi)通(tong)過(guo)(guo)Amazon SageMaker等托管服(fu)務(wu)使用Amazon Trainium和(he)(he)(he)Amazon Inferentia，亦或在Amazon EC2上自行管理。
“生成(cheng)(cheng)式AI蘊藏(zang)著改(gai)變整(zheng)個行(xing)(xing)(xing)業的(de)巨大潛(qian)力，但其成(cheng)(cheng)本和(he)所(suo)需的(de)專業知識使該技術(shu)無法為除少數(shu)公司之外的(de)所(suo)有公司所(suo)用(yong)。”亞(ya)(ya)馬(ma)遜云科技首席執(zhi)行(xing)(xing)(xing)官Adam Selipsky表示，“Hugging Face和(he)亞(ya)(ya)馬(ma)遜云科技讓用(yong)戶(hu)更(geng)(geng)易訪問流行(xing)(xing)(xing)的(de)機器學(xue)習模型，以最(zui)高的(de)性(xing)能和(he)最(zui)低的(de)成(cheng)(cheng)本創建自己的(de)生成(cheng)(cheng)式AI應用(yong)。此次合作充分說明，生成(cheng)(cheng)式AI公司和(he)亞(ya)(ya)馬(ma)遜云科技的(de)合作可以讓更(geng)(geng)多(duo)客(ke)戶(hu)對創新技術(shu)觸手可及。”
即刻開始使用
客戶可以(yi)通(tong)過三種方式在(zai)亞馬(ma)遜云科(ke)(ke)技(ji)平臺(tai)上調用(yong)(yong)(yong)Hugging Face模(mo)型(xing)，如使(shi)(shi)用(yong)(yong)(yong)SageMaker JumpStart、Hugging Face亞馬(ma)遜云科(ke)(ke)技(ji)深度學(xue)習容器( DLC)，或者根據教程(cheng)將(jiang)已有模(mo)型(xing)部署到Amazon Trainium或Amazon Inferentia。Hugging Face DLC包(bao)含了優化(hua)的(de)transformer、數據集和(he)標記器庫，使(shi)(shi)用(yong)(yong)(yong)戶將(jiang)大規模(mo)地精(jing)調和(he)部署生成式AI應用(yong)(yong)(yong)程(cheng)序的(de)時間從幾周縮短到幾小時，并(bing)且只(zhi)需(xu)極少的(de)代碼更改。SageMaker JumpStart和(he)Hugging Face DLC在(zai)提供Amazon SageMaker服務的(de)所有區域(yu)上均可使(shi)(shi)用(yong)(yong)(yong)，無(wu)需(xu)額外費(fei)用(yong)(yong)(yong)。
