Claude 让科学家用于预测和设计生物分子的开源模型变得更快、更省内存:它在不到四周内优化了 30 多个这类模型,平均提速约 4 倍;还开发了一种低显存模式,使单个 NVIDIA GPU 节点即可准确预测超过 10,000 个 token(氨基酸、核苷酸,以及来自小分子和离子的原子)的生物分子体系。
相关动态
沿时间看主要节点
本教程展示如何用 NVIDIA Earth2Studio 构建自定义批量集合天气预报:在保留 Colab 的 CUDA 版 PyTorch 环境下安装所需组件,加载 FCN 模型并从 GFS 获取大气初始条件;实现把 10 米风分量转为风机容量系数的风电诊断,以及按变量施加物理合理噪声、保留未扰动控制成员的扰动系统。通过 Earth2Studio 的低层迭代器、坐标映射、批处理和 Zarr API 构建集合执行管线,把预报与诊断场写入坐标感知数据存储,并用纬度加权 RMSE、公平 CRPS、集合离散度和离散度-技巧比对照 GFS 分析验证。最后以空间图、位势高度 spaghetti 等值线、点扇图、风电容量系数预报和预报时效技巧曲线展示集合不确定性。
PhysicsNeMo 通用版 v2.2.0 新增 ShardTensor 对 GeoTransolver 与 FLARE 模型的支持;通过 tensordict 的 zarr 后端实现 Mesh/DomainMesh 的 zarr 读写(训练适配 chunking 与 zstd 压缩),需要可选的 zarr>=3。GeoTransolver、FLARE 及 GALE/FLARE 注意力层从实验状态转正;OOD 防护与模型解耦,可用 GuardedGeoTransolver 或 attach_ood_guard 启用,并移除 guard_config 模型参数。另新增天顶/方位角辅助函数、shrink-and-perturb 权重重初始化、隐式域体网格生成,以及 ShardTensor 编译安全子类扩展点。
据Latent Space报道,自2022年以来,人工智能流水线的各个组件正逐步从人工制造转向模型制造,每个转变都始于前沿实验室的“零号病人”。这种转变可概括为“模拟”,其特点是性能略差(10%),但成本极低(100倍)且速度极快(10000倍)。第一阶段(2022年):奖励信号合成化,InstructGPT建立奖励模型范式,随后宪法AI和RLAIF让AI自我评判。第二阶段(2023年):训练数据合成化,微软Phi系列证明“教科书即一切”,苹果WRAP通过LLM重写整个网络使预训练效率提升约3倍,NVIDIA的Nemotron-4 340B发布了许可的合成数据生成流水线。
英伟达最新研究显示,在让AI完成长周期任务时,软件‘线束’(围绕模型的工具、记忆管理和规则)比底层模型更关键。通过定制线束,研究人员让Claude Opus 5在无说明的2D游戏基准ARC-AGI-3上达到100%得分,而无线束时仅30%。英伟达产品副总裁强调,智能体不仅包含模型,还包括脚手架、运行时和工具库。长周期任务需连续决策,易出错,是智能体研究的重点。
NVIDIA 的编码代理 AVO 在 ARC-AGI-3 的 25 个公开游戏中获得 100% 得分,解决了全部 183 个关卡。该代理没有获得任何规则或既定目标,必须通过尝试、观察结果并纠正错误来学习。AVO 的成功依赖于记住所学内容。
块体材料需在大空间尺度(约10^9原子或更多)上进行分子动力学(MD)模拟。现有机器学习原子间势(MLIP)虽将MD扩展到该尺度,但即使单组分体系也需数万块GPU;多组分模拟几乎不可行,因为现有MLIP的HBM占用在单组分体系中已很大,在多组分场景下会爆炸式增长。本文提出一种HBM占用不到现有MLIP 3%的MLIP:引入物理和化学知识降低特征向量维度,并将所有内核融合为单个mega-kernel,从而消除中间张量。评估中,该MLIP用144块NVIDIA A100 GPU,对含1.14×10^9个原子的6组分块体体系完成MD模拟;此前该尺度仅限单组分体系,且通常需要配备数万块GPU的高端超算。
《AINews》报道了一项新研究,该研究展示了如何解码加密的推理轨迹,并将其移植到其他模型、会话或用户中,从而显著改进开放模型。自o1发布以来,前沿实验室的推理模型加密了其推理轨迹以防止蒸馏,但此研究表明这些加密块可被重放至较弱模型并经提示转录。研究还警示,公开分享的加密推理会话可能泄露个人数据,初步扫描约7000条公共轨迹发现62个API密钥、33个邮箱、33个密码等敏感信息。论文还涉及对齐问题,如思维链摘要器隐藏答案等。
NVIDIA 发布了开源深度学习框架 physicsnemo 的 v2.1.1 版本,发布入口为 Release v2.1.1 · NVIDIA/physicsnemo。根据发布说明,physicsnemo 用于构建、训练和微调深度学习模型,并采用当前先进 state-of-the-art 的 Physics-ML(物理机器学习)方法。该框架定位为开源工具,面向使用 Physics-ML 进行建模与训练的场景。此次发布说明仅给出版本发布信息,未列出具体的变更明细、修复内容或新增功能。
Anima Anandkumar 是加州理工学院布伦教授,领导 Anima AI + Science 实验室,并曾在亚马逊云服务和 NVIDIA 担任要职。她的研究基于数学和物理第一性原理,开发出“神经算子”这一通用 AI 框架,能模拟从分子到气候的多尺度物理过程,速度可比传统方法快百万倍,且能结合物理定律验证预测。这推动了高分辨率天气预报和新型医疗器械设计等进展。
机器学习原子间势(MLIP)正在变革计算化学与材料科学,但开发者面临缺乏GPU加速的原子模拟工具的问题。现有工具多为CPU中心,在混合工作流中,模型由PyTorch在GPU上加速,而模拟工具为串行CPU,导致效率瓶颈。NVIDIA在Supercomputing 2024上发布了ALCHEMI(AI化学与材料创新实验室),提供领域专用工具包和NIM微服务,包含GPU加速的批量操作,如邻居列表等,旨在弥合PyTorch与原子模拟之间的鸿沟。