PODCAST

Seventy3

任雨山

73播客，名字取材于Sheldon最喜欢的数字，内容由NotebookLM生成，每天跟随AI读AI业界论文。

technology

All Episodes

00:18:36

【第545期】LLaDA2.1：通过令牌编辑加速文本扩散

Seventy3 ·

2026/03/28

Seventy3：借助NotebookLM的能力进行论文解读，专注人工智能、大模型、机器人算法、crypto方向，让大家跟着AI一起进步。如果你想要解读自己的论文，获得更多曝光度。请联系小助手微信：seventy3_podcast 加群。合作邮箱：zhiwudazhanjiangshi#gmail.com今天的主题是：LLaDA2.1: Speeding Up Text Diffusion via Token EditingSummary虽然 LLaDA 2.0 展示了千亿级块扩散（Block-diffusion）模型的扩展潜力及其固有的并行化优势，但在解码速度与生成质量之间寻找微妙的平衡，依然是一个难以逾越的前沿课题。今天，我们推出了 LLaDA 2.1，旨在通过范式转换超越这一权衡。通过将 Token 到 Token（T2T）编辑无缝织入传统的掩码到 Token（M2T）方案中，我们引入了一种联合且可配置的阈值解码机制。这种结构创新催生了两种截然不同的模式：速度模式（S Mode）：大胆降低 M2T 阈值以突破传统约束，同时依赖 T2T 对输出进行细化；质量模式（Q

zh-cn

00:23:21

【第544期】ALMA：通过元学习自动化智能体记忆设计

Seventy3 ·

2026/03/27

Seventy3：借助NotebookLM的能力进行论文解读，专注人工智能、大模型、机器人算法、crypto方向，让大家跟着AI一起进步。如果你想要解读自己的论文，获得更多曝光度。请联系小助手微信：seventy3_podcast 加群。合作邮箱：zhiwudazhanjiangshi#gmail.com今天的主题是：Learning to Continually Learn via Meta-learning Agentic Memory DesignsSummary基础模型的无状态性瓶颈了智能体系统持续学习的能力，而持续学习是长时程推理和自适应的核心。为了解决这一局限性，智能体系统通常结合记忆模块来保留和复用过去的经验，旨在推理阶段（Test time）实现持续学习。然而，现有的大多数记忆设计都是人工构建且固定的，这限制了它们适应现实任务多样性和非平稳性的能力。在本文中，我们引入了 ALMA（智能体系统记忆设计的自动元学习），这是一个通过元学习生成记忆设计以取代人工设计的框架，从而最大限度地减少人力投入，并使智能体系统能够成为跨不同领域的持续学习者。我们的方法采用了一个元智能体（Meta

zh-cn

00:16:59

【第543期】智能体原语：多智能体系统的可复用潜空间构建模块

Seventy3 ·

2026/03/26

Seventy3：借助NotebookLM的能力进行论文解读，专注人工智能、大模型、机器人算法、crypto方向，让大家跟着AI一起进步。如果你想要解读自己的论文，获得更多曝光度。请联系小助手微信：seventy3_podcast 加群。合作邮箱：zhiwudazhanjiangshi#gmail.com今天的主题是：Agent Primitives: Reusable Latent Building Blocks for Multi-Agent SystemsSummary虽然现有的多智能体系统（MAS）能够通过协作处理复杂问题，但它们通常具有高度的任务特定性，依赖人工设计的角色和交互提示词，这导致了架构复杂度的增加以及任务间复用性的受限。此外，大多数 MAS 主要通过自然语言进行通信，使得它们在长上下文、多阶段的内部交互中容易受到错误累积和不稳定性的影响。在本文中，我们提出了 Agent Primitives（智能体原语）——一套用于大模型多智能体系统的可复用潜分量构建模块。受神经网络设计的启发（即复杂模型由可复用组件构建），我们观察到许多现有的 MAS

zh-cn

00:17:46

【第542期】A-RAG：层次化检索接口驱动的智能体RAG框架

Seventy3 ·

2026/03/25

Seventy3：借助NotebookLM的能力进行论文解读，专注人工智能、大模型、机器人算法、crypto方向，让大家跟着AI一起进步。如果你想要解读自己的论文，获得更多曝光度。请联系小助手微信：seventy3_podcast 加群。合作邮箱：zhiwudazhanjiangshi#gmail.com今天的主题是：A-RAG: Scaling Agentic Retrieval-Augmented Generation via Hierarchical Retrieval InterfacesSummary前沿语言模型已展示出强大的推理和长时程工具使用能力。然而，现有的 RAG（检索增强生成）系统未能充分利用这些能力，仍依赖于两种范式：(1) 设计一种单次检索片段并将其拼接至模型输入的算法；(2) 预定义工作流并提示模型逐步执行。这两种范式都无法让模型参与检索决策，从而阻碍了随模型性能提升而实现的高效扩展。在本文中，我们推出了 A-RAG，这是一个直接向模型开放层级检索接口的智能体 RAG 框架。A-RAG

zh-cn

00:18:01

【第541期】InfMem：超长文本智能体的系统2记忆控制策略

Seventy3 ·

2026/03/24

Seventy3：借助NotebookLM的能力进行论文解读，专注人工智能、大模型、机器人算法、crypto方向，让大家跟着AI一起进步。如果你想要解读自己的论文，获得更多曝光度。请联系小助手微信：seventy3_podcast 加群。合作邮箱：zhiwudazhanjiangshi#gmail.com今天的主题是：InfMem: Learning System-2 Memory Control for Long-Context AgentSummary在超长文档上进行推理，要求在严格的内存限制下，综合分布在遥远段落中的稀疏证据。虽然流式智能体（Streaming Agents）能够实现可扩展的处理，但其被动的记忆更新策略往往无法保留多跳推理所需的低显著性桥接证据。我们提出了 InfMem，这是一种以控制为中心的智能体，通过“预思考-检索-写入”（PreThink-Retrieve-Write）协议实例化了 System-2 式的控制。InfMem 主动监测证据的充分性，执行针对性的文档内检索，并应用证据感知的联合压缩来更新有限的记忆。为了确保控制的可靠性，我们引入了一种实用的“从 SFT

zh-cn

00:19:23

【第540期】基于策略拍卖的小型智能体规模化扩展

Seventy3 ·

2026/03/23

Seventy3：借助NotebookLM的能力进行论文解读，专注人工智能、大模型、机器人算法、crypto方向，让大家跟着AI一起进步。如果你想要解读自己的论文，获得更多曝光度。请联系小助手微信：seventy3_podcast 加群。合作邮箱：zhiwudazhanjiangshi#gmail.com今天的主题是：Scaling Small Agents Through Strategy AuctionsSummary小语言模型正日益被视为实现智能体 AI（Agentic AI）的一种极具前景且成本效益高的方法，支持者认为它们足以胜任智能体工作流。然而，虽然小型智能体在简单任务上能与大型智能体平分秋色，但目前尚不清楚其性能如何随任务复杂度的增加而变化、何时必须使用大模型，以及如何更好地利用小型智能体处理长时程工作负载。在本研究中，我们通过实证展示了小型智能体在深度搜索和编程任务上的性能无法随任务复杂度同步提升。为此，我们引入了 SALE（基于工作负载效率的策略拍卖），这是一个受自由职业者市场启发的智能体框架。在 SALE

zh-cn

00:22:35

【第539期】xMemory：超越RAG的智能体解耦与聚合存储系统

Seventy3 ·

2026/03/22

Seventy3：借助NotebookLM的能力进行论文解读，专注人工智能、大模型、机器人算法、crypto方向，让大家跟着AI一起进步。如果你想要解读自己的论文，获得更多曝光度。请联系小助手微信：seventy3_podcast 加群。合作邮箱：zhiwudazhanjiangshi#gmail.com今天的主题是：Beyond RAG for Agent Memory: Retrieval by Decoupling and AggregationSummary智能体记忆系统通常采用标准的检索增强生成（RAG）流水线，但其底层假设在此场景下已发生变化。RAG 针对的是大型异构语料库，检索到的片段具有多样性；而智能体记忆是一个有界的、连贯的对话流，其中高度相关的跨度往往是重复的。在这种转变下，固定的 Top-k 相似度检索容易返回冗余上下文，而事后修剪可能会删除正确推理所需的、具有时间连续性的先决条件。我们认为，检索应当超越相似度匹配，转而在潜分量（Latent Components）上运行，遵循“解耦到聚合”的逻辑：将记忆拆解为语义分量，将其组织成层级结构，并利用该结构驱动检索。我们提出了

zh-cn

00:13:07

【第538期】TinyLoRA：仅需13个参数的学习推理之旅

Seventy3 ·

2026/03/21

Seventy3：借助NotebookLM的能力进行论文解读，专注人工智能、大模型、机器人算法、crypto方向，让大家跟着AI一起进步。如果你想要解读自己的论文，获得更多曝光度。请联系小助手微信：seventy3_podcast 加群。合作邮箱：zhiwudazhanjiangshi#gmail.com今天的主题是：Learning to Reason in 13 ParametersSummary最近的研究表明，语言模型可以通过强化学习（RL）学会“推理”。虽然部分研究采用低秩参数化来实现推理能力，但传统的 LoRA 无法将秩降低到模型维度以下。我们质疑：即便秩为 1（Rank=1）的 LoRA 是否也是学习推理所必需的？为此，我们提出了 TinyLoRA。这是一种能将低秩适配器（Adapters）缩减至仅有一个参数规模的方法。在这一全新的参数化框架下，我们仅通过训练 13 个 bf16 格式的参数（总计 26 字节），就能使 8B 规模的 Qwen2.5 模型在 GSM8K 测试集上达到 91% 的准确率。我们发现这一趋势具有普适性：在 AIME、AMC 和 MATH500

zh-cn

00:19:13

【第537期】AI攻克埃尔德什数学难题进展报告

Seventy3 ·

2026/03/20

Seventy3：借助NotebookLM的能力进行论文解读，专注人工智能、大模型、机器人算法、crypto方向，让大家跟着AI一起进步。如果你想要解读自己的论文，获得更多曝光度。请联系小助手微信：seventy3_podcast 加群。合作邮箱：zhiwudazhanjiangshi#gmail.com今天的主题是：Semi-Autonomous Mathematics Discovery with Gemini: A Case Study on the Erdős ProblemsSummary我们展示了一项关于半自动数学发现的案例研究，利用 Gemini 对 Bloom 的“埃尔多斯问题”（Erdős Problems）数据库中 700 个标记为“未解决”（Open）的猜想进行了系统评估。我们采用了混合方法论：首先通过 AI 驱动的自然语言验证来缩小搜索空间，随后由人类专家评估其正确性与新颖性。我们处理了数据库中标记为“未解决”的 13 个问题：其中 5 个通过看似新颖的自主解法完成，另外 8

zh-cn

00:17:07

【第536期】【shownotes彩蛋】让AI给自己当家教

Seventy3 ·

2026/03/19

Seventy3：借助NotebookLM的能力进行论文解读，专注人工智能、大模型、机器人算法、crypto方向，让大家跟着AI一起进步。如果你想要解读自己的论文，获得更多曝光度。请联系小助手微信：seventy3_podcast 加群。合作邮箱：zhiwudazhanjiangshi#gmail.com今天的主题是：Self-Improving Pretraining: using post-trained models to pretrain better modelsSummary确保大语言模型生成内容的安全性、事实性及整体质量是一项严峻挑战，尤其是在这些模型日益广泛应用于现实场景的背景下。目前解决这些问题的主流方法是收集昂贵且精心策划的数据集，并进行多阶段的微调与对齐。然而，即便采用如此复杂的流程，也无法保证能彻底纠正模型在预训练阶段习得的模式。因此，在预训练阶段解决这些问题至关重要，因为预训练塑造了模型的核心行为，并能从源头上防止不安全或幻觉输出的根深蒂固。为了应对这一挑战，我们提出了一种全新的预训练方法：通过流式处理文档，并利用强化学习（RL）在每一步优化后续生成的 K 个

zh-cn

00:17:29

【第535期】SDPO：通过自我蒸馏强化丰富反馈学习

Seventy3 ·

2026/03/18

Seventy3：借助NotebookLM的能力进行论文解读，专注人工智能、大模型、机器人算法、crypto方向，让大家跟着AI一起进步。如果你有自己的论文要解读，或者推荐论文，请留言。今天的主题是：Reinforcement Learning via Self-DistillationSummary大型语言模型越来越多地在可验证领域（如代码与数学）中通过强化学习后训练。然而，当前用于具有可验证奖励的强化学习（RLVR）的方法通常只从每次尝试得到的单一标量结果奖励中学习，从而造成了严重的信用分配（credit assignment）瓶颈。事实上，许多可验证环境能够提供丰富的文本反馈，例如运行时错误信息或评测器（judge）的评估，这些反馈可以解释一次尝试为何失败。我们将这一设定形式化为具有丰富反馈的强化学习（reinforcement learning with rich feedback），并提出 Self-Distillation Policy Optimization（SDPO）。该方法能够在无需外部教师模型或显式奖励模型的情况下，将token 化的反馈转化为密集的学习信号。SDPO

zh-cn

00:18:37

【第534期】VibeTensor：AI智能体全生成的深度学习系统软件

Seventy3 ·

2026/03/17

Seventy3：借助NotebookLM的能力进行论文解读，专注人工智能、大模型、机器人算法、crypto方向，让大家跟着AI一起进步。如果你有自己的论文要解读，或者推荐论文，请留言。今天的主题是：VibeTensor: System Software for Deep Learning, Fully Generated by AI AgentsSummaryVIBETENSOR 是一个用于深度学习的开源研究型系统软件栈，由 LLM 驱动的编程智能体在人类高层指导下生成。在本文中，“完全生成（fully generated）”指的是代码来源：实现变更由智能体提出补丁（diff）并应用；验证则依赖智能体执行的构建、测试以及差异检查，而不是对每一次变更进行人工逐条审查。该系统实现了一个类 PyTorch 的即时执行（eager）张量库：核心使用 C++20（CPU + CUDA）实现，并通过 nanobind 提供一个类似 torch 的 Python 封装层，同时还包含一个实验性的 HTTP URL 接口。不同于仅提供薄封装（thin bindings）的方案，VIBETENSOR

zh-cn

00:18:17

【第533期】AI辅助对编程技能形成的冲击研究

Seventy3 ·

2026/03/16

Seventy3：借助NotebookLM的能力进行论文解读，专注人工智能、大模型、机器人算法、crypto方向，让大家跟着AI一起进步。如果你有自己的论文要解读，或者推荐论文，请留言。今天的主题是：How AI Impacts Skill FormationSummaryAI 辅助在各类专业领域中带来了显著的生产力提升，尤其对新手从业者更为明显。然而，这种辅助如何影响人们发展有效监督 AI 所需的技能，目前仍不清楚。对于需要完成不熟悉任务的新手来说，如果过度依赖 AI，可能会在这一过程中削弱自身的技能习得。我们通过随机对照实验，研究开发者在有 AI 辅助与无 AI 辅助的情况下，如何掌握一个新的异步编程库。研究发现，使用 AI 会削弱参与者的概念理解、代码阅读能力以及调试能力，而平均来看并未带来显著的效率提升。那些完全将编码任务委托给 AI的参与者确实获得了一定的生产力提升，但代价是未能真正学习该编程库。我们识别出六种不同的 AI 交互模式，其中三种涉及认知参与，即使参与者获得 AI 辅助，也能够保持良好的学习效果。研究结果表明，AI 带来的生产力提升并不是通往能力提升的捷径。在将 AI

zh-cn

00:16:07

【第532期】词元级过滤切除AI危险知识

Seventy3 ·

2026/03/15

Seventy3：借助NotebookLM的能力进行论文解读，专注人工智能、大模型、机器人算法、crypto方向，让大家跟着AI一起进步。如果你有自己的论文要解读，或者推荐论文，请留言。今天的主题是：Shaping capabilities with token-level data filteringSummary当前减少语言模型不良能力的方法大多是事后处理（post hoc）的，因此很容易被对抗者绕过。一种更自然的替代方案是在预训练阶段就对能力进行塑造。以移除医疗相关能力这一代理任务为例，我们表明，仅通过过滤预训练数据这一简单干预，就能够在大规模情况下实现高度有效、稳健且成本低廉的效果。受到数据归因（data attribution）相关研究的启发，我们进一步表明，与过滤文档相比，过滤 token 更为有效：在对不希望出现的能力造成同等抑制效果的同时，对正常能力的影响更小。通过训练跨越两个数量级规模的模型，我们还展示了：随着模型规模增大，过滤策略的效果也会增强。在我们最大的模型上，token 级过滤会使模型在“需要遗忘的领域（forget domain）”上的计算效率降低 7000

zh-cn

00:15:56

【第531期】Kimi K2.5 技术报告：迈向通用智能体之路

Seventy3 ·

2026/03/14

Seventy3：借助NotebookLM的能力进行论文解读，专注人工智能、大模型、机器人算法、crypto方向，让大家跟着AI一起进步。如果你有自己的论文要解读，或者推荐论文，请留言。今天的主题是：Kimi K2.5: Visual Agentic IntelligenceSummary我们介绍 Kimi K2.5，一个开源的多模态智能体模型，旨在推动通用智能体能力的发展。K2.5 强调对文本与视觉的联合优化，使两种模态能够相互增强。这一过程包含一系列技术，例如文本—视觉联合预训练、零视觉监督微调（zero-vision SFT），以及文本—视觉联合强化学习。在这一多模态基础之上，K2.5 引入了 Agent Swarm，一种自驱动的并行智能体编排框架，能够将复杂任务动态分解为异构子问题，并并发执行。大量评估表明，Kimi K2.5 在多个领域（包括编程、视觉、推理以及智能体任务）上达到了当前最先进的水平。与单智能体基线相比，Agent Swarm 还可将延迟降低最多 4.5 倍。我们发布了经过后训练的 Kimi K2.5

zh-cn

00:19:17

【第530期】变形门罗币交易：规避反洗钱监管的技术挑战

Seventy3 ·

2026/03/13

Seventy3：借助NotebookLM的能力进行论文解读，专注人工智能、大模型、机器人算法、crypto方向，让大家跟着AI一起进步。如果你有自己的论文要解读，或者推荐论文，请留言。今天的主题是：Anamorphic Monero Transactions: the Threat of Bypassing Anti-Money Laundering LawsSummary在本文中，我们分析了以隐私为导向的加密货币与新兴打击金融犯罪法律框架之间的冲突，尤其聚焦于欧盟近期出台的相关法规。我们分析了 Monero（门罗币）这一领先的“隐私币”，它也是执法机构重点关注的对象，并研究在新法律下针对 Monero 交易平台必须履行的尽职调查范围，以及这些要求如何映射到 Monero 协议的技术能力之上。我们既指出了该立法中的缺陷，也识别出一些技术层面的陷阱，这些陷阱可能威胁到例如 Monero 交易所的有效合规，或是 Monero 自身的匿名化目标。另一个具有独立研究价值的方面是，我们引入了变形密码学（anamorphic cryptography）（这也是该概念最早的实际应用之一），并利用它在

zh-cn

00:18:53

【第529期】区块链系统信息隐私：攻击、保护与多层级评价综述

Seventy3 ·

2026/03/12

Seventy3：借助NotebookLM的能力进行论文解读，专注人工智能、大模型、机器人算法、crypto方向，让大家跟着AI一起进步。如果你有自己的论文要解读，或者推荐论文，请留言。今天的主题是：A Systematic Literature Review of Information Privacy in Blockchain SystemsSummary在这篇文献综述中，我们对区块链系统中的隐私问题不断发展的研究格局进行了批判性分析，重点关注隐私攻击与防护措施在三个不同层级中的差异：链上层（on-chain layer）链下层（off-chain layer）基础设施层（infrastructure layer），即点对点网络层（peer-to-peer network layer）在综述中，我们对常见的隐私攻击进行了分类，例如：交易追踪（transaction tracing）数据泄露（data leakage）网络监控（network surveillance）并分析这些攻击在不同层级上的具体表现及其影响。此外，我们还评估了一系列隐私保护技术，包括：

zh-cn

00:16:29

【第528期】AI编程智能体：效率提升与质量债的博弈

Seventy3 ·

2026/03/11

Seventy3：借助NotebookLM的能力进行论文解读，专注人工智能、大模型、机器人算法、crypto方向，让大家跟着AI一起进步。如果你有自己的论文要解读，或者推荐论文，请留言。今天的主题是：AI IDEs or Autonomous Agents? Measuring the Impact of Coding Agents on Software DevelopmentSummary基于大型语言模型（LLM）的编程智能体（coding agents）正越来越多地作为自主贡献者参与软件开发，例如自动生成并合并 Pull Request。然而，与目前广泛使用的IDE 内置 AI 助手相比，这些智能体在真实软件项目中的影响仍不清楚。我们开展了一项纵向因果研究（longitudinal causal study），分析智能体在开源仓库中的采用效果。研究方法采用分阶段差分中的差分（staggered difference-in-differences）设计，并配合匹配对照组。基于 AIDev 数据集，我们将“采用智能体”定义为仓库首次出现由智能体生成的 Pull

zh-cn

00:18:53

【第527期】MCP-SIM：自校正多智能体物理仿真框架

Seventy3 ·

2026/03/10

Seventy3：借助NotebookLM的能力进行论文解读，专注人工智能、大模型、机器人算法、crypto方向，让大家跟着AI一起进步。如果你有自己的论文要解读，或者推荐论文，请留言。今天的主题是：A self-correcting multi-agent LLM framework for language-based physics simulation and explanationSummary基于物理的模拟在科学和工程领域至关重要，但构建这类模拟通常需要对数值求解器和控制方程（governing equations）具备专业知识。大型语言模型（LLM）为通过自然语言创建模拟提供了新的可能性，但当提示模糊、不完整或包含多语言时，它们往往会失败。为了解决这一问题，我们提出 MCP-SIM（Memory-Coordinated Physics-Aware Simulation），这是一个具备自我纠错能力的多智能体框架，能够将信息不充分的提示转化为经过验证的模拟结果和解释性报告。该系统通过结构化的智能体协作以及持久记忆机制，整合了多个功能模块，包括：输入澄清（input

zh-cn

00:16:34

【第526期】Terminal-Bench 2.0：复杂命令行任务智能体基准测试

Seventy3 ·

2026/03/09

Seventy3：借助NotebookLM的能力进行论文解读，专注人工智能、大模型、机器人算法、crypto方向，让大家跟着AI一起进步。如果你有自己的论文要解读，或者推荐论文，请留言。今天的主题是：Terminal-Bench: Benchmarking Agents on Hard, Realistic Tasks in Command Line InterfacesSummaryAI 智能体很可能很快就能在多个领域中自主完成具有价值的长期任务（long-horizon tasks）。然而，现有基准测试要么无法反映真实世界任务，要么难度不足以有效评估前沿模型。为此，我们提出 Terminal-Bench 2.0：一个精心构建的高难度基准测试。该基准包含 89 个任务，全部在计算机终端环境（terminal environments）中完成，并且这些任务都来源于真实工作流程中的问题。每个任务都包含：独立的运行环境人工编写的参考解决方案完整的自动化测试（用于验证结果）实验结果表明，当前的前沿模型和智能体在该基准上的得分低于 65%。我们还进行了错误分析（error

zh-cn

550 results

Seventy3

All Episodes

Similar Podcasts

Lead With AI

Tamara Nall

Linux in the Ham Shack

Black Sparrow Media

Data Engineering Podcast

Tobias Macey

Eye On A.I.

Craig S. Smith

Reflections

Livewire Labs