亞馬遜借助NVIDIA T4 GPU將AI性能帶到云端

時間:2019/09/23 來源:專業視聽網

關鍵詞: NVIDIA、T4 GPU

AWS EC2 G4實例采用高效的Turing架構處理器,可部署加速超大規模AI推理、云游戲和最新RTX圖形應用。

隨著NVIDIA T4 Tensor Core GPU已陸續在北美、歐洲和亞洲地區AWS上線,云端用戶現可享用多重功能,包括自動化與人性化兼得的客戶服務、在任何互聯設備端均能體驗到的專業工作站性能以及電影級畫質的PC游戲。

NVIDIA T4 GPU由一系列軟件堆棧提供支持,為G4實例用戶帶來其所需性能及多種功能,并提升了效率。

NVIDIA的軟件平臺針對多種應用進行了優化,包括用于深度學習的NVIDIA cuDNN、用于數據分析及機器學習的NVIDIA RAPIDS 、用于云工作站圖形的NVIDIA Quadro虛擬工作站、以及用于云游戲的NVIDIA GeForce。軟件堆棧還包含了多種API、CUDA以及適用于特定領域的CUDA-X庫,例如TensorRT、NCCL、OptiX和視頻編解碼SDK。

只需一個實例,AWS用戶就能夠無縫、高效地加速各類創作型工作負載。

AWS計算服務副總裁Matt Garman表示:“在利用計算密集型應用時,客戶會面對各類棘手的挑戰,而我們專注于解決這些挑戰。AWS提供最全面的產品組合,幫助客戶構建、訓練并部署機器學習模型。Amazon EC2提供多種經過優化、適用于不同機器學習案例的實例類型以供用戶選擇。對于開發者而言,部署了T4 GPU的全新G4實例的出現,不僅讓機器學習變得觸手可及,也讓其變得更加經濟實惠。”

以更低成本實現更多AI功能

NVIDIA T4是第二代Tensor Core GPU,可謂GPU的華麗升級,它讓AI應用能夠實現最高性能,同時還能保持CUDA的可編程性。

圖像分類、對象檢測、自然語言理解、自動語音識別和推薦系統等AI應用的創新性、多樣性和復雜性不斷提升。NVIDIA T4憑借高達130 TOPS的INT8性能,提供加速這些應用所需的混合精度張量處理功能。

亞馬遜是業界率先針對訓練和推理為NVIDIA GPU提供即用NVIDIA NGC容器支持的超大規模供應商之一。EC2 P3實例采用NVIDIA V100 Tensor Core GPU,讓客戶能夠使用自動混合精度功能,將機器學習訓練耗時從數天減少至數小時。借助EC2 G4,客戶能夠大規模部署AI服務,同時大幅降低運營成本。

根據NVIDIA在VMWorld期間發布的消息,VMware Cloud on AWS用戶將會很快獲得全新的高度可擴展的、安全的全新云服務(其中包括Amazon EC2裸機實例),該服務可通過NVIDIA T4 GPU和全新NVIDIA虛擬計算服務器(vComputeServer)軟件進行加速。

使用這一企業級混合云平臺,企業能夠加速應用的現代化進程。從數據中心到AWS云,他們都能夠基于一致的VMware基礎架構來實現部署、遷移和運營的統一,以支持計算密集型工作負載,包括AI、機器學習和數據分析。

隨時隨地實現實時光線追蹤和AI增強型圖形

實時光線追蹤是計算機圖形學領域夢寐以求的技術,可實現栩栩如生的場景。借助逼真的實時渲染、AI增強型圖形以及視頻和圖像處理,設計師和藝術家將使用全新方式開展內容創建。

NVIDIA T4是首款可用于云端的NVIDIA RTX光線追蹤GPU。T4 GPU采用RT Core,這一專用型計算資源將告別過去昂貴的光線追蹤方法,以非凡的效率實施光線追蹤操作。

全新G4實例與NVIDIA Quadro 虛擬工作站(Quadro vWS) Amazon Machine Images相結合,支持最新光線追蹤API,包括Microsoft DXR、NVIDIA Optix和Vulkan。傳媒娛樂、建筑、制造、以及石油和天然氣等行業的技術和創意專業人士可以在AWS云端運行最新圖形軟件應用。

有了AWS,只需不到5分鐘就能部署虛擬工作站,簡單快捷。用戶可訪問AWS Marketplace并選擇NVIDIA Quadro vWS機器映像和G4實例,后者在Windows Server 2016和Windows Server 2019上可用。

GPU賦力的云游戲

T4采用的Turing架構也將NVIDIA在游戲領域的實力帶到了AWS。該GPU的硬件編碼器引擎可通過視頻編解碼SDK進行編程,使得要求最為嚴苛的游戲也能使用其進行渲染和流式傳輸。

游戲發行商可基于最新NVIDIA技術來構建自己的云游戲實例,而且幾乎可以在任何設備端向玩家提供完整的PC游戲目錄。

玩家可在高分辨率下以快速、流暢的幀速率盡享所有最新游戲的樂趣,而無需擔心硬件升級或驅動程序、游戲補丁的更新。

支持此功能的NVIDIA驅動程序可通過AWS Marketplace獲取,并可在Windows Server 2016、Windows Server 2019和Linux OS操作系統中的AWS G4實例上運行。

即刻開始AWS EC2 G4 之旅

首批采用Amazon EC2 G4實例的客戶包括Clarifai、Electronic Arts、GumGum和PurWeb,他們利用NVIDIA T4的全能算力和性能,能夠大規模運行各類計算密集型工作負載。這幾家公司都能夠為客戶提供強大的服務,同時降低客戶的服務構建和部署成本。

未來幾周內,G4實例還將支持Amazon Elastic Inference,用戶可在Amazon EC2或Amazon SageMaker實例中添加GPU加速,以更低的成本實現更快速的推理,最高可節省75%的成本。

點擊https://aws.amazon.com/ec2/instance-types/g4訪問AWS G4實例頁面,了解更多信息并試用NVIDIA T4。


關于NVIDIA

NVIDIA(納斯達克股票代碼:NVDA)在1999年發明的GPU激發了PC游戲市場的增長,重新定義了現代計算機顯卡,并且對并行計算進行了革新。最近,通過將GPU作為可以感知和理解世界的計算機、機器人乃至自動駕駛汽車的大腦,GPU深度學習再度點燃了全新的計算時代——現代人工智能。更多信息,請訪問http://nvidianews.nvidia.com/。

熱門技術探討更多>>

同類產品或技術文章列表更多>>