NVIDIA TensorRT-LLM 现支持 Recurrent Drafting，实现 LLM 推理优化

Recurrent Drafting (简称 ReDrafter) 是苹果公司为大语言模型 (LLM) 推理开发并开源的一种新型推测解码技术，该技术现在可与 NVIDIA TensorRT-LLM 一...

AEC 检索增强生成技术指南

大语言模型 (LLMs) 正在迅速改变业务格局，为自然语言处理 (NLP)、内容生成和数据分析提供新功能。这些 AI 驱动的工具改善了公司的运营方式，从简化客户服务到增强决策流程。...

2024 年 NVIDIA 6G 开发者日的 5 大关键收获

2024 年 NVIDIA 6G 开发者日让 6G 研发社区成员共聚一堂 ，分享见解，并学习使用 NVIDIA 6G 研究工具的新方式。...

AI 视觉技术助力绿色回收工厂智能化

全球每年仅回收约 13% 的 20 多亿吨城市垃圾。到 2050 年，全球每年的城市废弃物量将达到 3.88 亿吨。...

借助 Dell AI Factory 和 NVIDIA 加速电影制作

电影制作是一个复杂而复杂的过程，涉及艺术家、作家、视觉效果专业人员、技术人员和无数其他专家组成的多元化团队。...

Stone Ridge Technology 利用 AWS 上的 NVIDIA Modulus 加速油藏模拟工作流

能源勘探中固有的风险和不确定性包括未知的地质参数、流体和岩石属性的变化、边界条件和噪声观测数据。...

利用 RAPIDS 和 Ray 加速 GPU 数据分析

RAPIDS 是一套开源 GPU 加速的数据科学和 AI 库，可通过 Spark 和 Dask 等分布式引擎进行横向扩展。...

NVIDIA Omniverse新开发者工具助力将生成式AI融入OpenUSD工作流程

在 SIGGRAPH 2024 大会上，NVIDIA 宣布推出基于 NVIDIA Omniverse 的新型生成式 AI 和基于 NVIDIA Omniverse 的 NVIDIA 加速开发工具。...