2 月 22 日消息，英偉達于 2 月 20 日發布博文，宣布推出 NVIDIA In-Game Inferencing（NVIGI）SDK，簡化 AI 模型在游戲中的部署，實現從云端到本地 PC 的無縫銜接，從而推動游戲 AI 的革新。

援引英偉達官方介紹，NVIGI SDK 是一款基于插件的 GPU 優化推理管理器，旨在簡化 ACE 模型與游戲和交互式應用的集成，提供以下功能：

簡化 AI 集成：開發者可將 AI 推理直接集成到 C++ 游戲中，優化性能并降低延遲。

賦能 ACE 角色：借助 NVIGI SDK，開發者可以將 NVIDIA ACE AI 角色輕松引入游戲，打造更智能的游戲體驗。

插件式架構：采用 GPU 優化的插件式推理管理，簡化 ACE 模型集成。插件支持靈活添加、更新和管理，涵蓋語音識別（ASR）、語言模型等多種 AI 功能。

GPU 優化：利用 Compute-in-Graphics （CIG）技術，在渲染的同時高效進行 AI 推理。

原生 DLL 支持：提供 Windows 原生 DLL，簡化 C++ 游戲開發流程。

開發者通過結合 NVIGI 與 ACE 技術，可以創造出具備高級生成式 AI 能力的自主角色。這些角色不僅能進行實時 NPC 對話，還擁有上下文記憶和逼真的動畫，從而極大地提升游戲的沉浸感和互動性。

NVIGI 的架構支持靈活集成各類 AI 功能，并能編排智能代理工作流程，使游戲角色能夠實時地聽、推理、說話和做出動畫反應。

開發者只需初始化 NVIGI，加載插件和模型，創建運行時配置，啟用 GPU 調度和渲染集成，即可開始使用 ACE 的設備端推理功能。NVIGI SDK 提供了豐富的插件選擇，包括支持不同硬件和模型的語音識別（ASR）、語言模型（GPT）以及 RAG 嵌入等功能，為開發者提供了強大的 AI 工具箱。