微软携手 NVIDIA 助推 RTX AI PC 上的 AI 开发
最新 AI 工具和功能加速 RTX AI PC 上的微软 Windows 应用开发
生成式 AI 赋能的笔记本电脑和 PC 正在推动游戏、内容创作、携手生产力和程序开发更进一步。助推目前,微软超过 600 款 Windows 应用和游戏已在全球超过 1 亿台 GeForce RTX AI PC 上本地运行 AI,提供快速、可靠的携手低延迟体验。
在 Microsoft Ignite 大会上,助推NVIDIA 与微软联合推出多个工具,帮助 Windows 开发者在 RTX AI PC 上快速构建和优化 AI 赋能的应用,使本地 AI 更加便捷。这些新工具使应用和游戏开发者能够利用强大的微软 RTX GPU 加速 AI 智能体、应用助手和数字人等应用的携手复杂 AI 工作流。
RTX AI PC 通过多模态小语言模型为数字人赋能
我们来认识一下 James,助推一个熟知 NVIDIA 及其产品的交互式数字人。James 将 NVIDIA NIM 微服务、微软NVIDIA ACE 和 ElevenLabs 数字人技术相结合,携手可提供自然的沉浸式交互体验。
NVIDIA ACE 是助推一套数字人技术,可以让智能体、助手和虚拟形象栩栩如生。微软为了深度理解信息,携手以更强的情境感知能力做出响应,数字人必须能够像人一样在视觉上感知世界。
提升数字人交互的助推真实感,需要能够感知和理解周围环境更细微差别的技术。为此,NVIDIA 开发了多模态小语言模型,可同时处理文本和图像信息,在角色扮演方面表现出色,并针对响应速度进行了优化。
NVIDIA 即将推出的 Nemovision-4B-Instruct 模型利用最新的 NVIDIA VILA 和 NVIDIA NeMo 框架进行蒸馏、剪枝和量化,使其体积小到足以在 RTX GPU 上以开发者所需的精度运行。该模型使数字人能够理解现实世界和屏幕上的视觉图像,以做出相关的响应。多模态作为智能体工作流的基础,让我们得以窥见未来,届时数字人只需极少的用户辅助,即可进行推理并采取行动。
NVIDIA 还推出了 Mistral NeMo Minitron 128k Instruct 系列模型,这是一套专为优化的高效数字人交互而设计的长上下文小语言模型。这一系列模型提供 8B、4B 和 2B 参数版本的灵活选项,以平衡在 RTX AI PC 上运行的速度、显存用量和模型精度。模型单次推理可以处理大量数据,无需进行数据分割和重组。这些模型提供 GGUF 格式,为低功耗设备的效率进行优化,并与多种编程语言兼容。
利用面向Windows 的NVIDIA TensorRTModel Optimizer 加速生成式AI
将模型引入 PC 环境时,开发者面临着有限的显存和计算资源,这为本地运行 AI 提出了挑战。开发者希望模型可以被更多人使用,同时精度损失最小。
今天,NVIDIA 公布了 NVIDIA TensorRT Model Optimizer (ModelOpt) 的更新,为 Windows 开发者提供了针对 ONNX Runtime 部署的模型优化方案。借助最新更新,TensorRT ModelOpt 可将模型优化为 ONNX 格式,以便使用 CUDA、TensorRT 和 DirectML 等 GPU 运行后端在 ONNX 运行时环境中部署模型。
最新更新使模型可优化为 ONNX 检查点,以便通过 CUDA、TensorRT 和 DirectML 等执行提供商在 ONNX 运行时环境中部署模型,从而提高整个 PC 生态系统的精度和吞吐量。
在部署时,与 FP16 模型相比,这些模型可将显存占用减少 2.6 倍。这可提高吞吐量,同时精度损失降到最低,使其能够在更多的 PC 上运行。
详细了解从 Windows RTX AI PC 到 NVIDIA Blackwell 驱动的 Azure 服务器等 Microsoft 系统开发者如何改变用户日常与 AI 交互的方式。
(责任编辑:焦点)
-
[流言板]泰山压顶!约克突破后送出助攻,余嘉豪接球暴力隔扣贝兹利
[流言板]泰山压顶!约克突破后送出助攻,余嘉豪接球暴力隔扣贝兹利由篮球资讯发表在CBA专区 cba12月25日讯 今日CBA常规赛广东对阵浙江的比赛正在进行中。比赛第三节,约克突破后送出助攻,余嘉豪接 ...[详细] -
11月4日消息,当地时间周一,英伟达股价走高,截至发稿,该股涨超1.7%,报137.82美元,该公司总市值达3.37万亿美元,超越苹果重新成为全球市值最高的公司。公开信息显示,在2023年上半年,英伟 ...[详细]
-
詹俊:红蓝大战谁都觉得自己该拿三分,帕尔默高端局表现不太理想
11月4日讯 在英超联赛第10轮中,曼联与切尔西的“红蓝大战”以1-1的比分结束。比赛结束后,詹俊发文谈到两队的状态和表现,也重点谈到了切尔西的核心球员帕尔默。詹俊表示:昨晚的红蓝大战谁都觉得自己应该 ...[详细] -
10月27日讯 英超第9轮,水晶宫vs热刺。上半场伤停补时阶段,麦迪逊近距离劲射,亨德森神反应扑救力保城门不失。 ...[详细]
-
12月25日消息,都说眼睛是心灵的窗户,但当前随着课外作业过多、电子产品的过度使用,越来越多的孩子眼睛出现问题。据湖北广播电视台报道,家住武汉的男孩荣荣今年8岁了,但是他写的阿拉伯数字像镜子里反射出来 ...[详细]
-
10月27日讯 英超第9轮,水晶宫vs热刺。比赛第26分钟,波罗与米切尔争抢球权,被踩脚随后痛苦倒地。裁判示意没有犯规。 ...[详细]
-
11月5日消息,据报道,世界第一大的汽车零部件供应商,博世将在工厂裁员7000人。报道称,博世首席执行官Stefan Hartung表示,博世2024年将无法实现其经济目标,可能会进一步调整人员。博世 ...[详细]
-
11月4日讯北京时间11月6日凌晨4:00,欧冠联赛阶段第4轮,皇马将坐镇主场迎战AC米兰。赛前,皇马后卫巴斯克斯出席了新闻发布会,他谈到了球队目前的一些情况。关于瓦伦西亚遭遇的自然灾害巴斯克斯:“我 ...[详细]
-
[流言板]麦迪圣诞大战场均43.3分,高居历史第一,东契奇36.3分第2
[流言板]麦迪圣诞大战场均43.3分,高居历史第一,东契奇36.3分第2由篮球资讯发表在篮球资讯 50212月25日讯 数据网站 StatMuse统计了在圣诞大战上场均得分最高的球员至少3场),麦迪以 ...[详细] -
智己夜间自动紧急变道躲开大树 车主:智能驾驶关键时刻真能救命
11月4日消息,今日,有智己车主发文称,智己的NOA智驾救了他一命。车主介绍,11月2日凌晨三点多,他驾车送完朋友去隔壁城市,返回途中因为走的国道,路边并没有路灯,他打开了NOA智驾。视频中,对面一辆 ...[详细]