下一級推理加速已經到來
我們正面向未來砥礪前行。在未來,人工智能將會觸及并改善與客戶的每一次互動、每一種產品以及每一項服務。認識到未來需要一個能夠加速現代人工智能各種應用的計算平臺,使企業能夠創造新的客戶體驗,重新構想他們如何滿足和超越客戶需求,并經濟高效地擴展他們基于人工智能的產品和服務。
NVIDIA® Tesla® T4 GPU 是世界上極其先進的推理加速器。搭載 NVIDIA Turing™ Tensor Core 的 T4 提供革命性的多精度推理性能,以加速現代人工智能的各種應用。T4 封裝在節能的小型 70 瓦 PCIe 中,可針對橫向擴展服務器進行優化,并且旨在實時提供極其先進的推理。
極具突破性的推理性能
Tesla T4 引入革命性的 Turing Tensor Core 技術,具備人工智能推理的多精度計算性能。從 FP32 到 FP16 再到 INT8,又到 INT4 精度,T4 的性能比 CPU 高出 40 倍,實現性能的重大突破。
先進的實時推理
響應性是提高用戶參與度的關鍵,范圍涉及諸多服務,例如:會話式人工智能、推薦系統和可視化搜索。隨著模型準確性和復雜性的提高,目前立即交付正確答案所需的計算能力也在呈指數級提升。Tesla T4 可提供 優于 40 倍的低延時高吞吐量,進而可以實時滿足更多的請求。
視頻轉碼性能
隨著在線視頻的數量呈指數級增長,人們對有效搜索以及從視頻中獲取洞察力的解決方案的需求也與日俱增。Tesla T4 為人工智能視頻應用提供極具突破性的性能,其專用的硬件轉碼引擎將解碼性能提升至上一代 GPU 的兩倍。T4 可以解碼多達 38 個全高清視頻流,從而可以輕松地將可擴展的深度學習集成到視頻管線中,以提供創新的智能視頻服務。