英偉達啟用 RTX GPU，將 AI 引入 Windows 個人電腦
背景介紹
在個人電腦領域達到了一個裏程碑，英偉達（Nvidia）透過使用基於 RTX 顯示卡的 GPU，使 Windows 個人電腦能夠在 PC 上進行更好的 AI 處理。過去一年中，生成式人工智慧（generative AI）已經成為一個具有轉型性的趨勢。隨著其快速增長和日益可及性的提高，消費者現在可以使用經過最佳化的 GPU AI、機器學習和高效能計算（HPC）軟體的簡化介面和使用者友好的工具。英偉達已經在許多擁有大量 GPU 的資料中心實現了這場 AI 革命，現在正將其帶到全球超過 1 億臺執行 Windows 的 PC 的 RTX GPU 上。將 AI 整合到主要的 Windows 應用程式中已經是一個歷時五年的旅程，RTX 顯示卡和英偉達 RTX 顯示卡中的專用 AI 處理器 Tensor Cores 驅動了 Windows PC 和工作站上的生成式 AI 功能。英偉達 Windows AI 產品管理和市場經理 Jesse Clayton 在接受 GamesBeat 採訪時表示我們正處於一個重要的時刻。
重要裏程碑
對於 AI 在個人電腦上的應用，Clayton 表示：「我們認為這真的是科技史上最重要的時刻之一。我不認為這是言過其實的說法，因為 AI 正在為遊戲玩家、創作者、影片流媒體者、辦公室工作人員、學生甚至是普通 PC 使用者帶來新體驗。AI 已被整合到各種重要應用程式中，它將影響到每一位 PC 使用者。它真的從根本上改變了人們使用電腦的方式。」
TensorRT-LLM 和 TensorRT-最佳化工具
之前已經宣布 TensorRT-LLM 是面向資料中心的，一個旨在加速大型語言模型（LLMs）推理效能的開源庫，現在也將其引入 Windows。這個針對英偉達 RTX GPU 最佳化的庫可以將最新的 LLMs，如 Llama 2 和 Code Llama 的效能提升多達四倍。此外英偉達還發布了一些工具，以幫助開發人員加速他們的 LLMs，包括相容 TensorRT-LLM 的指令碼、TensorRT 最佳化的開源模型以及展示 LLM 反應速度和質量的開發人員參考專案。生成式 AI 已經達到了一個新的階段，為 PC AI 的普及帶來了新的應用場景和機會。
可加速運算的穩定擴散
穩定擴散是一個受歡迎的 Web UI，透過提供文字提示並基於此建立影象。這項技術需要大量的時間和計算資源來生成每幅影象。英偉達最新的顯示卡可以使 Stable Diffusion 的效能提升兩倍，在較老版本的顯示卡上甚至比蘋果的最新晶片快 7 倍。這意味著搭配 GeForce RTX 4090 顯示卡的機器可以在 Stable Diffusion 上生成 15 幅影象，而蘋果的機器只能生成 2 幅影象。此外 DLSS（Deep Learning Super Sampling）在 AI 進行影象升頻時，可以將低解析度影象升頻到高解析度，提高幀率，使遊戲玩家能夠充分發揮 GPU 的效能。當前已有超過 300 款 DLSS 遊戲，英偉達剛剛發布了 3.5 版本的 DLSS 技術。
AI 在生活中的應用
Clayton 表示：「生成式 AI 已經達到了一個新的階段，它為 PC AI 的普及開闢了一個全新的應用領域。因此遊戲玩家將享受到由 AI 驅動的化身。辦公室工作人員和學生將使用大型語言模型（LLMs）草擬檔案和幻燈片，並從 CSV 資料中快速提取洞察力。開發人員正在使用 LLMs 來進行編碼和偵錯。而普通使用者則可以使用 LLMs 來概括網頁內容、計劃旅行，最終將 AI 作為數位助手使用。」
影片超解析度和競爭對手
此外 RTX Video Super Resolution（VSR） 1.5 版在 Game Ready 驅動程式中發布，進一步增強了基於 AI 的功能。VSR 透過減少壓縮失真、銳化邊緣和增強細節來提高流媒體影片內容的質量。最新的 VSR 版本透過更新模型，在原始解析度上消除了壓縮失真的同時支援基於圖靈架構的專業 RTX 和 GeForce RTX 20 系列 GPU。TensorRT-LLM 加速與其他技術的整合，例如檢索增強生成（RAG），使 LLMs 能夠基於特定資料集提供有針對性的回答。以 Alan Wake 2 進行的應用實驗顯示，當問及 Alan Wake 2 中的英偉達技術整合情況時，最初的答案是未公布，但當應用 RAG 與最近的 GeForce 新聞文章相結合時，該模型迅速提供了正確的答案，展示了 TensorRT-LLM 加速所實現的速度和高效性。
TensorRT-LLM 的優勢和競爭優勢
Clayton 表示如果資料已經存在於雲端，並且模型已經在該資料上訓練過，從架構上講，直接在雲端執行是有道理的。然而如果資料集是個人資料集，或者只有您可以存取的資料集，或者該模型未在雲端上訓練，那麼您就需要找到其他方法。他說：「在計算層面上重新訓練模型非常具有挑戰性。使用這種方法可以避免這種情況。我現在每個月支付 20 美元使用[AI 服務]。如果可以使用強大的 GPU 在本機上完成大部分的工作，我會付多少個這樣的雲端服務費用呢？」對於有興趣利用 TensorRT-LLM 的開發人員，其可以在英偉達開發人員網站上進行下載，並可在 ngc.nvidia.com 和 GitHub.com/NVIDIA 上獲取 TensorRT 最佳化的開源模型和基於 GeForce 新聞的 RAG 展示。
與英偉達相比，像 Intel、AMD、高通和蘋果等競爭對手也在使用競爭技術改進個人電腦和智慧裝置上的 AI。Clayton 表示這些解決方案對於執行在低功耗裝置上的輕量級 AI 工作負載非常有幫助。他說，這些解決方案更類似於 AI 的基本功能，並且與英偉達的 GPU 相輔相成。在 AI 工作負載上，RTX 顯示卡的效能是 CPU 的 20 至 100 倍，這就是為什麼該技術從 GPU 開始的原因。現今的 GeForce RTX GPU 每秒可以計算多達 1,300 萬億個 Tensor 運算，使其成為最快的 PC AI 加速器。Clayton 表示「它們也代表著全球最大的專用 AI 硬體安裝基數，全球擁有超過 1 億臺 RTX 個人電腦 GPU。因此它們真的擁有足夠的效能和靈活性，可以應對不僅是當下的任務，還可以應對未來的 AI 應用場景。」同時如果 PC 的 GPU 無法滿足某些 AI 任務的需求，還可以轉向雲端執行。當前已有超過 400 個支援 AI 的 PC 應用程式和遊戲。
觀點和建議
英偉達推出的在 Windows 個人電腦上啟用 AI 的新功能，為個人電腦技術開創了新的裏程碑。隨著 AI 在日常生活和不同行業中的應用越來越廣泛，這一技術突破將會改變人們對電腦的使用方式。對於遊戲玩家來說 AI 可以提供更豐富的遊戲體驗，為他們帶來強大的化身技術；對於辦公室工作人員和學生來說 AI 可以幫助他們在檔案、幻燈片和資料分析等方面提高工作效率；對於開發人員來說 AI 可以成為編碼和偵錯的助手；對於普通使用者來說 AI 可以幫助他們從網頁中概括訊息、計劃旅行以及充當數位助手等。
然而英偉達的競爭對手也在 AI 領域努力發展，並提供許多競爭性的解決方案。對於消費者來說這意味著更多的選擇。儘管英偉達的 GPU 在 AI 工作負載上具有非凡的效能，但消費者應根據自己的需求和預算做出明智的選擇。值得注意的是，在 AI 的實際應用中，消費者需要關注資料隱私和安全問題。
結論
英偉達將 AI 引入 Windows 個人電腦，將為消費者提供更多便利和新體驗。隨著 AI 技術的不斷發展和普及，我們可以預見 AI 將在各個行業中扮演更重要的角色。然而消費者在享受 AI 帶來的便利和創新時，也應關注資料隱私和安全問題。我們期待著更多遊戲和應用程式開發者將 AI 技術應用到他們的產品中，為消費者帶來更多驚喜和價值。
