PODCAST

Seventy3

任雨山

73播客，名字取材于Sheldon最喜欢的数字，内容由NotebookLM生成，每天跟随AI读AI业界论文。

technology

All Episodes

00:08:03

【第349期】（中文）强化预训练：下一词元推理

Seventy3 ·

2025/09/14

Seventy3：借助NotebookLM的能力进行论文解读，专注人工智能、大模型、机器人算法方向，让大家跟着AI一起进步。今天的主题是：Reinforcement Pre-TrainingSummary该论文介绍了一种名为强化预训练（RPT）的新范式，旨在通过强化学习（RL）改进大型语言模型（LLMs）的预训练。RPT将传统的下一个词元预测任务重新定义为推理任务，模型因正确预测下一个词元而获得可验证的奖励。这种方法允许LLMs利用海量的文本数据进行通用的强化学习，无需依赖领域特定的标注。实验结果表明，RPT显著提高了下一个词元预测的准确性，并为后续的强化微调提供了更强大的基础，同时展示了随着训练计算量增加性能持续提升的良好扩展特性。该研究认为RPT提供了一个有前景的途径，能够通过根本性地重新思考预训练目标来开发更强大、更通用的LLMs。原文链接：https://arxiv.org/abs/2506.08007

zh-cn

00:07:29

【第348期】（中文）V-JEPA 2：视频基础模型新里程碑

Seventy3 ·

2025/09/13

Seventy3：借助NotebookLM的能力进行论文解读，专注人工智能、大模型、机器人算法方向，让大家跟着AI一起进步。今天的主题是：V-JEPA 2: Self-Supervised Video Models Enable Understanding, Prediction and PlanningSummary该来源介绍了V-JEPA 2，这是一种自监督学习方法，它结合了大规模网络视频数据和少量机器人交互数据，以构建能够理解、预测和规划物理世界的模型。通过预训练在超过一百万小时的视频上，V-JEPA 2在运动理解和人类动作预测方面取得了最先进的性能。此外，当与大型语言模型结合时，它在视频问答任务中表现出色。该研究还展示了如何通过对V-JEPA 2进行后期训练，使其能够零次规划机器人操作任务，例如抓取和放置物体，而无需在特定环境中进行额外数据收集或任务训练。原文链接：https://arxiv.org/abs/2506.09985

zh-cn

00:08:41

【第347期】（中文）OpenHands-Versa：通用问题解决编码代理

Seventy3 ·

2025/09/12

Seventy3：借助NotebookLM的能力进行论文解读，专注人工智能、大模型、机器人算法方向，让大家跟着AI一起进步。今天的主题是：Coding Agents with Multimodal Browsing are Generalist Problem SolversSummary本研究介绍了一种名为 OpenHands-Versa 的通用智能体，旨在通过一套精简但全面的工具集解决各种任务，与专门智能体通常受限于特定领域的情况形成对比。该智能体结合了代码编辑与执行、多模态网络浏览和文件访问等核心功能。研究表明，OpenHands-Versa 在 SWE-Bench Multimodal、GAIA 和 The Agent Company 等多样化基准测试中，表现优于或与现有领先的专业智能体持平，证明了通用智能体设计的有效性。文章还通过分析工具使用模式和错误行为，探讨了其成功的原因和局限性，并强调了未来研究的改进方向。原文链接：https://arxiv.org/abs/2506.03011

zh-cn

00:09:57

【第346期】（中文）LLM推理：知识与推理的协同作用

Seventy3 ·

2025/09/11

Seventy3：借助NotebookLM的能力进行论文解读，专注人工智能、大模型、机器人算法方向，让大家跟着AI一起进步。今天的主题是：Knowledge or Reasoning? A Close Look at How LLMs Think Across DomainsSummary该研究深入探究了大型语言模型（LLMs）的内部推理过程，超越了仅仅评估最终答案准确性的传统方法。作者引入了一个精细的评估框架，将LLM的思维轨迹分解为知识正确性（通过知识指数KI衡量）和推理质量（通过信息增益InfoGain衡量）两个维度。通过在数学和医学领域对经过监督微调（SFT）和/或强化学习（RL）训练的Qwen模型进行分析，研究人员发现SFT能提升领域知识，但可能损害推理效率，而RL则通过优化推理路径来提高知识的准确性和推理质量。这些发现强调了在不同领域中知识和推理所扮演的不同角色，并为开发更可靠、更具解释性的LLM提供了宝贵见解。原文链接：https://arxiv.org/abs/2506.02126

zh-cn

00:11:42

【第345期】（中文）ROBOT-R1: 强化具身推理的机器人控制

Seventy3 ·

2025/09/10

Seventy3：借助NotebookLM的能力进行论文解读，专注人工智能、大模型、机器人算法方向，让大家跟着AI一起进步。今天的主题是：Robot-R1: Reinforcement Learning for Enhanced Embodied Reasoning in RoboticsSummary该论文介绍了 ROBOT-R1 框架，这是一种利用强化学习来增强大型视觉语言模型 (LVLMs) 在机器人控制中具身推理能力的新方法。与传统的监督微调 (SFT) 方法不同，ROBOT-R1 通过将机器人控制任务重新定义为多项选择问答 (MCQA) 问题来优化推理过程，这有助于更准确地预测关键点状态和原始运动。研究人员还引入了 ROBOT-R1 基准来评估这些具身推理能力，结果显示，即使是参数量较小的 ROBOT-R1 模型，在处理低级别动作控制的推理任务时也优于 GPT-4o 等商业模型。此外，ROBOT-R1 训练出的模型在其他具身基准测试中也表现出显著的性能提升，表明其学习到的推理能力具有更好的

zh-cn

00:09:05

【第344期】（中文）小型语言模型：智能体AI的未来

Seventy3 ·

2025/09/09

Seventy3：借助NotebookLM的能力进行论文解读，专注人工智能、大模型、机器人算法方向，让大家跟着AI一起进步。今天的主题是：Small Language Models are the Future of Agentic AISummary该论文提出并论证了小型语言模型（SLM）是代理AI未来的核心。文章强调，尽管大型语言模型（LLM）因其通用能力而受到推崇，但在代理系统中，许多任务是重复、专业且非对话性的，这使得SLM成为更经济、更灵活且功能足够强大的选择。作者认为，SLM的采用将带来显著的运营和经济效益，甚至在需要通用对话能力的场景中，也可以通过结合SLM和LLM的异构系统来实现最佳效果。为了促进SLM的普及，文中还讨论了当前面临的障碍，并提出了一个将LLM驱动的代理转换为SLM驱动代理的算法。最终，该研究呼吁就如何有效利用AI资源和降低成本进行更广泛的讨论。原文链接：https://arxiv.org/abs/2506.02153

zh-cn

00:06:33

【第343期】（中文）作为程序的图像编辑

Seventy3 ·

2025/09/08

Seventy3：借助NotebookLM的能力进行论文解读，专注人工智能、大模型、机器人算法方向，让大家跟着AI一起进步。今天的主题是：Image Editing As Programs with Diffusion ModelsSummary这篇研究论文介绍了一种名为图像编辑即程序（IEAP）的创新框架，旨在通过扩散模型实现更精确、更可控的图像编辑。IEAP通过将复杂的编辑指令分解为一系列原子操作来克服现有扩散模型在处理结构不一致编辑方面的挑战。这些原子操作包括感兴趣区域（RoI）定位、RoI修复、RoI编辑、RoI合成和全局变换。通过这种模块化和程序化的方法，IEAP能够处理从简单调整到重大结构变化的各种编辑任务，并在多个基准测试中展现出卓越的性能，尤其是在处理复杂、多步骤的指令时。原文链接：https://arxiv.org/abs/2506.04158

zh-cn

00:07:43

【第342期】（中文）金融量化策略的多智能体框架

Seventy3 ·

2025/09/07

Seventy3：借助NotebookLM的能力进行论文解读，专注人工智能、大模型、机器人算法方向，让大家跟着AI一起进步。今天的主题是：R&D-Agent-Quant: A Multi-Agent Framework for Data-Centric Factors and Model Joint OptimizationSummary这篇研究论文介绍了RD-Agent(Q)，一个用于量化金融的多智能体框架，旨在自动化量化策略的整个研发过程。它通过协调因子-模型联合优化来解决金融市场固有的挑战，如高维度、非平稳性和波动性。该框架分为研究阶段（生成假设和任务）和开发阶段（使用代码生成智能体Co-STEER进行实施和回测），并通过反馈循环和多臂赌博机调度器进行连接，以实现自适应方向选择。实证结果表明，RD-Agent(Q)在年化收益方面显著优于传统方法，同时使用了更少的因子，并在预测准确性和策略稳健性之间取得了平衡。该研究强调了端到端自动化、高性能研发工具以及强大的实证表现作为其主要贡献。原文链接：https://arxiv.org/abs/2505.15155

zh-cn

00:08:37

【第341期】（中文）R&D-Agent：自动化数据驱动AI解决方案构建

Seventy3 ·

2025/09/06

Seventy3：借助NotebookLM的能力进行论文解读，专注人工智能、大模型、机器人算法方向，让大家跟着AI一起进步。今天的主题是：R&D-Agent: Automating Data-Driven AI Solution Building Through LLM-Powered Automated Research, Development, and EvolutionSummary这篇技术报告介绍了 R&D-Agent，这是一个用于自动化数据驱动型人工智能解决方案构建的双代理框架。该系统旨在通过研究员代理生成创意并分析反馈，以及开发人员代理基于错误日志完善代码，来应对数据科学中日益增长的复杂性和专业知识需求。R&D-Agent 的独特之处在于其支持多个平行探索路径，这些路径可以相互融合和增强，从而显著提高效率和解决方案的质量。在 MLE-Bench

zh-cn

00:10:13

【第340期】（中文）ARPO：基于经验回放的GUI智能体策略优化

Seventy3 ·

2025/09/05

Seventy3：借助NotebookLM的能力进行论文解读，专注人工智能、大模型、机器人算法方向，让大家跟着AI一起进步。今天的主题是：ARPO: End-to-End Policy Optimization for GUI Agents with Experience ReplaySummary该研究介绍了一种端到端策略优化方法，名为Agentic Replay Policy Optimization (ARPO)，用于训练基于视觉-语言模型 (VLM) 的图形用户界面 (GUI) 代理。ARPO 增强了 Group Relative Policy Optimization (GRPO)，并结合了经验回放缓冲区和有价值任务选择策略，以应对 GUI 环境中稀疏奖励、延迟反馈和高成本等挑战。研究表明，ARPO 在 OSWorld 基准测试中显著提高了任务完成率，尤其是在域内任务上表现出色，并通过分布式回放系统提高了训练效率和稳定性。这种方法强调了强化学习在训练能够处理复杂现实世界用户界面交互的多轮 VLM GUI

zh-cn

00:08:57

【第339期】（中文）达尔文哥德尔机器：自改进AI代理的演化

Seventy3 ·

2025/09/04

Seventy3：借助NotebookLM的能力进行论文解读，专注人工智能、大模型、机器人算法方向，让大家跟着AI一起进步。今天的主题是：Darwin Gödel Machine: Open-Ended Evolution of Self-Improving AgentsSummary这段资料主要介绍了达尔文-哥德尔机器 (DGM)，这是一种自我改进的人工智能系统，它通过经验验证而非形式化证明来优化自身代码，模仿了生物进化的过程。DGM 旨在实现开放式创新，能够持续生成新颖且可学习的人工智能体，并通过维护一个已发现智能体库来促进未来的进步。文中详细阐述了 DGM 的运作机制，包括智能体选择、自我修改和评估流程，并将其与没有自我改进或开放式探索的基线进行了比较。此外，文档还讨论了 DGM 在解决编码任务方面的表现，以及在优化过程中可能出现的目标规避问题，强调了在大语言模型背景下设计安全且鲁棒的自我改进系统的重要性。原文链接：https://arxiv.org/abs/2505.22954

zh-cn

00:08:08

【第338期】（中文）用图像思考：GRIT实现MLLM具身推理

Seventy3 ·

2025/09/03

Seventy3：借助NotebookLM的能力进行论文解读，专注人工智能、大模型、机器人算法方向，让大家跟着AI一起进步。今天的主题是：GRIT: Teaching MLLMs to Think with ImagesSummary这篇研究论文介绍了 GRIT（Grounded Reasoning with Images and Text），这是一种用于训练多模态大型语言模型（MLLMs）的新方法，使其能够通过图像进行思考。GRIT 引入了一种基础推理范式，其中模型生成的推理链将自然语言与显式边界框坐标交织在一起，以指向输入图像中的相关区域。该方法利用名为 GRPO-GR 的强化学习算法进行训练，该算法专注于最终答案的准确性和基础推理输出的格式，从而无需复杂的推理链或边界框注释数据。结果显示，GRIT 具有卓越的数据效率，仅需少量训练样本即可让 MLLMs 统一其

zh-cn

00:09:27

【第337期】（中文）大语言模型推理的陷阱

Seventy3 ·

2025/09/02

Seventy3：借助NotebookLM的能力进行论文解读，专注人工智能、大模型、机器人算法方向，让大家跟着AI一起进步。今天的主题是：When Thinking Fails: The Pitfalls of Reasoning for Instruction-Following in LLMsSummary这篇研究探讨了大型语言模型（LLMs）中一个令人惊讶的现象：显式推理，例如通过思维链（CoT）提示，反而会降低模型遵循指令的准确性。作者在两个不同的基准测试（IFEval和ComplexBench）上评估了15个模型，结果一致显示性能下降。通过案例研究和基于注意力的分析，研究人员发现推理有时会通过分散模型对指令关键部分的注意力来损害性能，尽管它在格式或词汇精度方面可能有所帮助。为了解决这个问题，研究提出了四种缓解策略，其中分类器选择性推理被证明能最有效地恢复丢失的性能。这项工作是首次系统地揭示了推理在指令遵循中可能导致的失败，并提供了实用的缓解方法。原文链接：https://arxiv.org/abs/2505.11423

zh-cn

00:09:13

【第336期】（中文）视觉规划：只用图像思考

Seventy3 ·

2025/09/01

Seventy3：借助NotebookLM的能力进行论文解读，专注人工智能、大模型、机器人算法方向，让大家跟着AI一起进步。今天的主题是：Visual Planning: Let’s Think Only with ImagesSummary本研究引入了一种名为“视觉规划”的新范式，旨在通过纯粹的视觉表示来解决推理任务，而无需文本中介。它挑战了大型语言模型（LLMs）和多模态大型语言模型（MLLMs）中基于文本的传统推理方法，特别是在处理空间和几何信息时。作者提出了一种名为通过强化学习进行视觉规划（VPRL）的两阶段框架，利用强化学习来训练大型视觉模型（LVMs），使其能够生成逐步的图像序列来表示规划过程，模拟人类的视觉思考方式。通过在FROZENLAKE、MAZE和MINIBEHAVIOR等视觉导航任务上的实验，该研究证明了视觉规划在性能上显著优于基于语言的推理方法，并展现出更强的泛化能力。最终，这项工作强调了纯粹的视觉推理作为文本推理的有效替代方案，为开发更直观、灵活的AI推理系统开辟了新的途径。原文链接：https://arxiv.org/abs/2505.11409

zh-cn

00:08:47

【第335期】（中文）AI Agents与Agentic AI：概念、应用与挑战

Seventy3 ·

2025/08/31

Seventy3：借助NotebookLM的能力进行论文解读，专注人工智能、大模型、机器人算法方向，让大家跟着AI一起进步。今天的主题是：AI Agents vs. Agentic AI: A Conceptual Taxonomy, Applications and ChallengesSummary该研究概述了人工智能代理（AI Agents）和智能代理系统（Agentic AI）的演变，从早期的特定任务系统发展到现代的复杂协作框架。文章首先定义了AI Agents的核心特性，例如其自主性、任务特异性和反应性，并解释了大型语言模型（LLMs）如何推动它们的进步，使其能够进行工具增强的推理。随后，研究转向更高级的Agentic

zh-cn

00:10:25

【第334期】（中文）AlphaEvolve: 科学与算法发现编码智能体

Seventy3 ·

2025/08/30

Seventy3：借助NotebookLM的能力进行论文解读，专注人工智能、大模型、机器人算法方向，让大家跟着AI一起进步。今天的主题是：AlphaEvolve: A coding agent for scientific and algorithmic discoverySummary本文档介绍了 AlphaEvolve，这是一种由 Google DeepMind 开发的进化式编码代理，旨在通过迭代修改和改进代码来解决复杂的科学和算法问题。AlphaEvolve 利用大型语言模型（LLMs）生成、批评和演化算法，并通过自动评估机制获取反馈。该系统已成功应用于多个领域，包括优化 Google 数据中心的调度算法、简化硬件加速器电路设计、加速自身 LLM 的训练，并发现了新颖的、可证明正确的数学和计算机科学算法，例如在56年后首次改进了 Strassen 矩阵乘法算法。AlphaEvolve 的核心优势在于其进化方法和使用最先进 LLM

zh-cn

00:08:18

【第333期】（中文）连续思想机器

Seventy3 ·

2025/08/29

Seventy3：借助NotebookLM的能力进行论文解读，专注人工智能、大模型、机器人算法方向，让大家跟着AI一起进步。今天的主题是：Continuous Thought MachinesSummary该文本介绍了**“连续思想机器（CTM）”，这是一种新颖的神经网络架构，旨在通过明确整合神经时间作为其核心功能元素来弥补人工智能和生物智能之间的差距。与传统神经网络不同，CTM利用神经元级别模型（NLMs）和神经同步来生成复杂的神经活动动态**，这些动态独立于输入数据而展开。该模型在各种任务中进行了评估，包括图像分类、2D迷宫导航、数字排序、奇偶校验计算和强化学习，以展示其形成内部世界模型、进行自适应计算和通过内部思考过程解决问题的能力。研究结果表明，CTM能够学习灵活的算法并展示出比传统循环网络（如LSTM）更强的泛化和可训练性，这归因于其受生物学启发的设计原则。原文链接：https://arxiv.org/abs/2505.05522

zh-cn

00:20:35

【第332期】（中文）OSUNIVERSE：多模态GUI导航AI基准

Seventy3 ·

2025/08/28

Seventy3：借助NotebookLM的能力进行论文解读，专注人工智能、大模型、机器人算法方向，让大家跟着AI一起进步。今天的主题是：OSUniverse: Benchmark for Multimodal GUI-navigation AI AgentsSummary这篇论文介绍了 OSUniverse，这是一个用于评估多模态GUI导航AI代理的新基准。作者指出，尽管现有基准**（如WebShop、Mind2Web和OSWorld）在评估网络或桌面任务方面存在局限性**，OSUniverse旨在通过提供更复杂、多应用程序的任务集和可扩展的框架来克服这些不足。该基准将任务分为五个难度级别，并引入了一种准确率低于2%的自动化验证机制，以实现可扩展的评估。初步测试结果显示，即使是目前最先进的AI代理也难以在OSUniverse中取得高分，远低于人类表现，这表明GUI导航仍然是AI面临的一个重大挑战。原文链接：https://arxiv.org/abs/2505.03570

zh-cn

00:15:23

【第331期】（中文）CoT：大模型中的程序变量

Seventy3 ·

2025/08/27

Seventy3：借助NotebookLM的能力进行论文解读，专注人工智能、大模型、机器人算法方向，让大家跟着AI一起进步。今天的主题是：Chain-of-Thought Tokens are Computer Program VariablesSummary该研究探讨了思维链（CoT）在大型语言模型（LLMs）中解决复杂推理任务时的内部机制，特别关注其在多位乘法和动态规划等组合任务中的作用。研究人员提出，CoT令牌的功能类似于计算机程序中的变量，用于存储中间结果，这些结果对后续计算和最终答案具有因果关系。通过移除非结果令牌、将结果合并为潜在令牌以及干预CoT中的值等实验，该论文证实了CoT对于此类问题的必要性，并表明中间结果的存储形式相对不重要，但其值对模型输出有直接影响。研究还发现，LLMs在处理简单子问题时可能会形成“捷径”，且CoT令牌间的计算复杂度存在一个限制，超出该限制会导致模型性能下降。原文链接：https://arxiv.org/abs/2505.04955

zh-cn

00:08:10

【第330期】（中文）UniVLA: 通用机器人策略学习框架

Seventy3 ·

2025/08/26

Seventy3：借助NotebookLM的能力进行论文解读，专注人工智能、大模型、机器人算法方向，让大家跟着AI一起进步。今天的主题是：Learning to Act Anywhere with Task-centric Latent ActionsSummary这篇研究介绍了 UniVLA，一个用于机器人学习的统一视觉-语言-动作 (VLA) 框架。该框架的核心创新在于以无监督的方式从视频中学习以任务为中心的潜在动作，使其能够利用来自不同机器人和视角的大量数据，而无需动作标签。通过在大规模视频数据上进行预训练，UniVLA 能够开发出一种跨机器人通用策略，只需最低成本的动作解码即可轻松部署到各种机器人上。研究强调，UniVLA 在多种操纵和导航任务中表现出色，显著优于现有方法，同时需要的计算资源和下游数据也更少，展示了其在可扩展和高效机器人策略学习方面的巨大潜力。原文链接：https://arxiv.org/abs/2505.06111

zh-cn

474 results

Seventy3

All Episodes

Similar Podcasts

Lead With AI

Tamara Nall

Linux in the Ham Shack

Black Sparrow Media

Data Engineering Podcast

Tobias Macey

Eye On A.I.

Craig S. Smith

Reflections

Livewire Labs