蔡大锅's Blog

新一代大模型调研指南：交叉验证 SOP

Wed, 30 Sep 2026 17:10:00 +0800

FDE：AI 落地潮里最热的岗位，光鲜与骨感的两副面孔

Tue, 29 Sep 2026 21:30:00 +0800

FDE（Forward Deployed Engineer，前沿/前线部署工程师）是近年来在生成式 AI 落地潮中爆发的最热门岗位之一。虽然该角色最早由大数据巨头 Palantir 在 2010 年代初发明，但在大模型进入产业深水区的背景下，它被 OpenAI、Anthropic、谷歌等 AI 巨头彻底"复活"并赋予了全新的使命。

以下结合 V2EX 社区讨论、行业数据以及一线从业者的实战手册，系统梳理 FDE 岗位的内涵、现状、各界看法与未来走势。

一、什么是 FDE？（岗位定义与核心职能）

FDE 直译为"前置部署工程师"。核心逻辑是：把硬核的软件工程师直接"空投"到客户公司的业务现场，通过深度理解客户需求，将大模型、API、Agent 真正缝合进企业纷繁复杂的底层数据和业务流中，并对最终可量化的生产系统负责。

它与传统技术岗位有三个核心本质区别：

1. 不只是写代码，更要消除"翻译负债"

企业买大模型，痛点不是没有 API 文档，而是"没人能把含糊的业务痛点翻译成 AI 能解决的工程问题"。FDE 的第一要务是做这个跨界"翻译官"。

2. 不只是交付方案，更要交付生产级代码

传统咨询顾问（Consultant）交付一份 PPT 报告；传统售前或解决方案工程师（Solutions Engineer）交付一个 Demo 原型。而 FDE 必须在客户的复杂网络拓扑和混乱的 Legacy 数据库里编写生产级别的代码，直到系统上线、跑顺并移交。

3. 双重使命（Dual Mandate）

FDE 既要为单一客户解决 0 到 1 的落地问题，同时必须将在现场踩坑学到的经验、发现的共性需求，抽象并反哺回供应商自己的核心产品 Repo 中，避免过早泛化。

二、火爆现状与技能栈

供需现状：爆发式增长与高溢价

MIT 等机构报告指出：高达 95% 的企业在投入生成式 AI 后未能获得可测量的损益影响——钱花了，但真实业务卡在数据权限和一线员工不用上。企业因此产生了巨大的"落地焦虑"，FDE 正是这份焦虑的解药。

岗位暴增：招聘平台 Indeed 的数据显示，FDE 的岗位发布量实现同比数倍的爆发式增长。
薪资天花板：硅谷 AI 实验室给 FDE 开出的总包高达 35 万至 55 万美元（如 Anthropic 的 FDE 岗位年薪折合人民币近 200 万元）；国内字节跳动、腾讯等也已在大规模开设类似的 R&D 落地岗位。上海等城市甚至已率先将 FDE 纳入政府的高层次人才培养规划。

核心技能栈

FDE 往往被戏称为"拿着打工钱、干着客户公司全栈 CTO 活的特种兵"，其能力模型要求极高：

硬核工程能力：熟练掌握 Python、Go、TypeScript、Next.js，具备强大的现代全栈和微服务架构能力。
AI 与数据管道处理：能够应对混乱的企业旧数据库（SQL/NoSQL），快速搭建稳定的数据流（Data Pipeline），精通 RAG、LLMOps、多 Agent 架构及概率性模型的"防护栏（Guardrails）与评测机制"。
极强的客户沟通与业务拆解力：需要有 25%~50% 的时间在现场泡着，与企业一把手、业务部门直接对话，梳理其模糊的组织政治与合规约束。

三、行业核心看法：理想 vs 骨感

网络上对 FDE 这个岗位的评价呈现出高度极化的"撕裂感"：

维度	乐观派 / 大厂视角（光鲜的"金饭碗"）	悲观派 / 一线从业者（骨感的"新外包"）
身份定义	AI 时代的"跨界特种兵"、高价值产品的共同定义者	“换了马甲的驻场外包（OPC）"，与当年的华为交付工程师类似
落地难度	帮助企业解决"最后一公里"痛点，重塑组织工程流	“语义负债"和"数据负债"过重，很多时候工程师在车间贴二维码、教人用 AI
客户生态	像 Palantir 一样，通过高客单价服务国防、金融、跨国巨头	国内"客单价看似高但养人成本极高（勉强能活）"，且部分客户存在白嫖思维
底层动机	赋能客户，让 AI 深入场景产生真正可衡量的 ROI	AI 大厂是在"用 FDE 套取客户不外流的产业工作流数据"来反哺核心模型

一条清醒的行业观察：“AI 并没有解决坏的系统，它只是放大了好的系统。” 很多 FDE 进场后发现，企业的核心瓶颈不是 AI 模型不够聪明，而是企业自身的流程僵化、审批冗长、老员工不愿配合、数据根本没有标准化。这导致 FDE 往往要承担大量的组织变革和情绪安抚工作。

四、未来与终局预测

根据行业发展趋势和开源实战手册（如《FDE：企业 AI 落地实战手册》）的推演，FDE 岗位的演变将走向三个阶段：

短期（1-2 年）：大模型时代的"掘金卖铲人”

在企业 AI 泡沫退去、急需自证价值的这两年，FDE 依然是整个 AI 职场的黄金斩杀线。各行各业的烟囱式系统（Legacy Systems）极其顽固，自动化工具在短期内无法完全接管定制化集成。能走入现场、吃下痛苦、清偿企业"数据负债"的 FDE，依然是最能帮公司赚到真金白银的群体。

中期（3-5 年）：从"卖人头劳务"走向"资产与产品化”

FDE 模式如果纯靠驻场人头，商业模式会非常重，难以规模化（Scalable）。未来的卓越团队会迅速建立起行业本体系统（Ontology Systems）：通过前几个项目的疯狂踩坑，把特定行业（如半导体 Bug 排查、金融理赔、跨国供应链）的 Agent 工作流沉淀成标准化的 Prompt 库、知识库蓝图和低代码平台，使后续项目的定制量和驻场时间呈指数级下降。

远期终局（5 年以上）：AI 智能体反噬与岗位泛化

随着基础大模型对工程代码的理解、多文件重构能力（如 Claude Code 等工具的演进）越来越强，以及 AI 自主排查 Bug、运行测试、创建 PR 闭环的实现，“纯技术型 FDE"的价值将被严重压缩。

岗位将走向分化：一部分顶尖 FDE 彻底转型为拥有 AI 武器的独立商业顾问 / 行业架构师；另一部分则融入普通软件工程师的日常职责——未来的"全栈工程师"默认就必须具备"前线部署和 AI 织入"的能力，FDE 作为一个独立光鲜的 Title 可能会逐渐泛化和消失。

参考资料

当 AI 替你考网络安全：一次 pi-agent + Chrome DevTools 的完整实战

Thu, 24 Sep 2026 21:00:00 +0800

目标读者：想让 AI 智能体替自己完成浏览器内操作（答题、表单、巡检）的开发者。实测结果：在线安全答题 100 分。本文拆解整条链路的技术原理，以及它为什么"作弊"得如此干净。

0. 先说结论

这套方案的四个组成部分：

角色	组件	一句话职责
知识库	培训 PPT → markdown	答案的唯一来源，提前离线准备好
大脑	pi-agent（终端智能体）	读题、检索知识库、决定点哪个选项
翻译官	chrome-devtools-mcp	把 AI 的意图翻译成浏览器指令
手脚	Chrome 远程调试（CDP）	真正执行：读 DOM、点击、截图

一个必须先建立的认识：这个系统答对题，靠的不是模型懂网络安全，而是答案在喂给它的材料里。 它的本质是一套跑在浏览器上的 RAG（检索增强生成）系统。理解了这一点，你就理解了它的能力边界。

1. 知识准备：答案在开考前就已经写好

题库出自公司培训材料《智能时代，网安护航》。把两份 PPT（72 页）用 python-pptx 抽成 markdown：

三个工程要点：

连备注页和表格一起抽。培训 PPT 的备注里往往藏着出题人视角的解释，表格则是数据类考点的浓缩。
抽成中间产物落盘（_txt_*.md），不要边解析边答题。智能体答题时用 read 工具检索这个静态文件，速度快、结果可回溯。
口径一致是 100 分的前提。知识库和题库同源，检索命中即正确；如果知识库是网上找的二手资料，“多选题选几项"这类口径差异就会丢分。

这一步做完，你拥有了一个和出题口径完全对齐的私有知识库——整场"考试"里最值钱的资产。

2. 打通浏览器：CDP 是什么，为什么是它

2.1 一个冷知识：F12 本来就不在浏览器里

Chrome 的开发者工具（F12）并非内嵌功能——你按 F12 时的每个操作（查 DOM、抓截图、看请求），都是 Chrome 通过一套叫 CDP（Chrome DevTools Protocol） 的协议完成的：JSON-RPC 消息走 WebSocket 通道，Page.navigate 导航、DOM.getDocument 取文档树、Runtime.evaluate 跑脚本。

启动 Chrome 时加一个参数：

1

chrome.exe --remote-debugging-port=9222 --user-data-dir="C:\temp\quiz-profile"

Chrome 就会在 127.0.0.1:9222 起一个调试服务。访问 http://127.0.0.1:9222/json/version 能拿到 webSocketDebuggerUrl——任何本地程序顺着它连上去，就获得了和你 F12 完全等价的能力。Puppeteer、Playwright 底层用的也是同一套协议。

2.2 智能体侧：用 MCP 把 CDP 包成"工具”

pi-agent 是终端编码智能体（npm install -g @mariozechner/pi-coding-agent），原生工具是 read / bash 四件套，看不懂 WebSocket 帧格式。中间靠 MCP（Model Context Protocol） 架一层翻译：

1
2
3
4
5
6
7


// ~/.pi/agent/mcp.json
{ "mcpServers": {
 "chrome-devtools": {
 "command": "npx",
 "args": ["-y", "chrome-devtools-mcp@latest",
 "--browserUrl", "http://127.0.0.1:9222"]
} } }

配好后，智能体面前出现的不再是协议报文，而是一组语义化工具：list_pages、take_snapshot、click、take_screenshot、evaluate_script。模型按工具描述自然语言调用，MCP server 负责转成 CDP 指令发往 9222 端口。

2.3 为什么不用"截图 + 模拟鼠标点击"

视觉方案（看截图、算坐标、模拟点击）直观，但有两个硬伤：坐标随窗口尺寸和滚动位置漂移，动画未结束时点不准。CDP 方案点击的是真实 DOM 节点（element.click()），与视口状态完全解耦——这是整条链路稳定性的关键。

3. 答题循环：每道题都是一次感知-行动循环

智能体对每道题执行同一个四拍循环：

感知——take_snapshot 抓取页面 DOM 文本，拿到题干和全部选项。用文本而非截图，省 token 且零 OCR 误差。
检索——按关键词在 markdown 知识库里定位对应段落。Prompt 里约束规则：答案必须出自材料原文，禁止凭参数记忆作答。
行动——click 点击对应选项的 DOM 节点。
验证——take_screenshot 复核选中态。未生效就重试，生效则进入下一题，直到交卷。

为什么能拿 100 分？ 因为这是 RAG 的教科书场景：题库与知识库同源，检索命中率接近必然。模型在这里的价值是"精确匹配 + 按选项转述"，而不是"懂安全"。反过来讲，如果知识库有错，它会自信地答错——垃圾进，垃圾出。

4. 安全边界：这套玩法本身的安全红线

用安全考试的杠杆去玩浏览器自动化，有几条红线必须写清楚：

调试端口只绑本机。--remote-debugging-port 起的服务默认监听 127.0.0.1，不要改成 0.0.0.0——连上这个端口的进程可以读取你所有登录态、在任意页面执行 JS。
用独立 user-data-dir。把自动化会话和个人浏览数据隔离，避免调试通道碰到真实 cookie。
用完就关。答题结束正常退出该 Chrome 实例，不要让 9222 端口常驻。
材料别外传。培训材料是内部资料，抽出的 md 知识库放在本机即可，不要上传到公共仓库或外部 AI。

这套链路本身就是个绝佳的教材：你刚体验过的"AI 拿到调试端口 = 拿到整个浏览器"，正是材料里"IDE 外传"“权限越界"两类风险的真实形态——只不过这次握着端口的不是攻击者，是你自己。

5. 延伸：这条链路还能干什么

同一套架构，换个知识库和页面就是另一个工具：

场景	知识库换成	浏览器里做的事
内部系统巡检	巡检 SOP 文档	逐页检查配置项并截图存档
竞品价格监控	商品 SKU 表	定时抓取商品页价格写入表格
表单批量填报	数据 Excel	逐行填写并提交
每日打卡类操作	操作手册	定时打开页面执行固定动作

判断标准很简单：规则明确、页面稳定、有知识可依的重复浏览器操作，都值得用这条链路自动化。

6. 最后，也是最重要的

工具让你 100 分通过了考试，但请诚实地区分两件事：AI 帮你通过了安全意识考试，不等于你拥有了安全意识。

敏感数据不出边界；身份必须二次核验；高危操作不交给自动化。

本文涉及的知识点速查（五大风险 / 12 案例 / 四不三必两问 / AI 数据安全治理）已整理成在线页面：AI 安全指南 · 一页速览

智能时代，网安护航 · 一页速览

Thu, 24 Sep 2026 16:32:00 +0800

Linuxdo讨论:国产AI有没有掉队？

Wed, 23 Sep 2026 21:30:00 +0800

近日，技术社区LINUX DO一篇题为《国产AI并没有掉队》的帖子引发网友热议。面对网络上不少从业者与爱好者对国内大模型发展前景的悲观论调，发帖用户提出不同观点，社区围绕国产AI的现状、评价标准展开多维度讨论。

一、主帖核心观点

发帖人Jocker1212不认同当下流行的国产AI悲观论：

产业落地层面：黑灯工厂、无人码头早已实现多年规模化实践；智能网联汽车、AI办公产品持续解决真实需求；在内容娱乐赛道，字节视频生成模型、MiniMax H3在开源与闭源领域热度较高。海外不少初创企业已经在选用通义千问、DeepSeek、GLM等国产大模型。
技术差距判断：他承认国产顶尖模型和海外头部模型仍存在差距，但AI行业边际效应十分明显，部分国产模型能力已接近甚至对标GPT 5.5。对比一两年前行业的艰难时期，如今国内AI发展前景明显向好。
行业竞争看法：发展不一定非要争夺全球第一，海外头部企业也很难一直守住绝对领先的优势。

二、评论整理与观点分类

【支持主帖观点，认同国产AI并未掉队】

lovesusu：并非所有业务场景都需要顶级大模型，低价高效的模型在很多场景下实用性更强。
Flyingpen：国产AI一直紧跟国际前沿，谈不上掉队。
dotaevo：不必理会悲观言论，产品好坏亲身使用即可；该用户日常已不再使用GPT，DeepSeek使用体验良好。

【解读悲观声音：负面评价多为主观情绪表达】

Sunflower2050：很多网友吐槽国产AI，本质是把其他领域的焦虑投射到AI话题上，更多属于情绪宣泄，产业现实需要看实际成果。
monster_dump：大部分悲观言论缺少统一客观评判基准，仅属于个人主观感受，参考价值有限。

【佛系中立观点】

dotaevo：没必要专门发帖争论，不必花费精力回应持悲观看法的群体。

【戏谑调侃类发言，不属于严肃技术讨论】

bill32026：玩梗提出，若"国产AI"特指豆包这类模型，则"没有掉队"这一结论不成立，调侃豆包"都没进过队，谈不上掉队"。

三、观点分析

核心争议焦点

本次讨论的核心矛盾，在于如何定义"掉队"：

悲观群体：以模型极限技术能力作为评判标准，认为国产顶尖模型上限不及海外头部产品，因此判定国产AI掉队。
发帖人与支持者：以产业落地、实际应用、海外生态拓展、迭代速度作为评判依据。承认技术上限存在差距，但从应用层面看国产AI处于紧跟状态，并未掉队。

各方底层逻辑

正方：区分模型极限能力和商业化实用价值。大量AI落地场景不需要性能最强的模型，性价比、落地能力更为关键；国产模型迭代速度快，产品已经开始向外输出，被海外创业公司采用。
情绪解读派：很多负面观点不是严谨的技术测评，是焦虑情绪的转移，缺少量化的数据支撑。
调侃观点：单独拎出个别模型进行趣味讨论，不属于严谨的技术辩论。

四、全文总结

该帖子发布于LINUX DO技术社区，针对网络上对国产大模型的悲观论调进行反驳，提出国产AI并未掉队的核心论断。发帖人列举工业、智能汽车、办公、AIGC娱乐等多领域落地案例，指出通义千问、DeepSeek等国产模型已经获得海外初创企业选用；同时客观承认国产顶尖模型仍存在技术差距，但国内模型迭代进步速度显著，行业不必强求全球第一。

评论区整体倾向认同楼主观点，多数网友认为评价AI不能只盯着极限性能，商业化场景更看重成本与实用性；不少负面声音属于情绪宣泄而非客观评测，还有用户分享了用国产模型替代GPT的使用体验，夹杂少量玩梗调侃。整场讨论的本质分歧，就是评判国产AI发展水平，究竟应当以技术上限，还是产业落地与实用价值作为衡量标尺。

Jev 决策模型方案调研：三条线路对比与选型建议

Wed, 23 Sep 2026 18:04:00 +0800

Meta Muse 与豆包手机 AI 智能体原理极简对比

Wed, 23 Sep 2026 11:30:00 +0800

本文极简梳理两款主流AI自动代办智能体的产品定义、底层运行原理、架构差异，仅保留核心技术逻辑，适合快速理解两者本质区别。

一、Meta Muse（云端AI智能体）

是什么：Meta 推出的纯软件云端AI智能体，无需专用硬件，手机、电脑均可使用。区别于普通聊天AI，它可以接收复杂目标，全自动完成订票、比价、填表、线上谈判等全流程代办任务。

核心原理：全程运行在云端独立加密虚拟机中，不依赖屏幕、不模拟点击。通过网页接口、API、代码指令直接操作网络服务，缺少工具时可自主写代码生成工具。支持云端后台常驻，手机关机仍可继续执行任务，配套独立安全审核机制保障隐私与交易安全。

架构原理图：Meta Muse 云端闭环

二、豆包手机 AI 智能体（努比亚NaviX Ultra）

是什么：字节跳动与努比亚合作推出的硬件级端侧AI智能体，将豆包大模型深度植入手机系统底层，是国产量产AI自动化手机，主打手机本地全自动操作各类APP。

核心原理：所有任务在手机本地运行。AI通过视觉识别手机屏幕的文字、按钮（GUI图形识别），完全模拟人类手指点击、滑动的方式操作APP。任务运行依赖手机电量与性能，关机终止，仅对授权应用开放自动化能力，高危操作需指纹验证。

架构原理图：豆包手机端侧闭环

三、核心差异极简对比

对比维度	Meta Muse	豆包手机智能体
产品形态	纯软件、跨平台，无硬件要求	硬件终端，依赖专属AI手机设备
运行位置	云端虚拟机运行	手机本地端侧运行
执行逻辑	代码/API/自主造工具，直连网络	屏幕识别+模拟人手点击操作
后台能力	设备关机仍可后台执行任务	依赖手机状态，关机任务终止

四、一句话本质总结

Meta Muse：云端"代码式干活"，直接对接网络服务，是脱离屏幕的高级自动化。

豆包手机：本地"模拟人手干活"，看着屏幕替你点手机，是系统级屏幕自动化。

Attention Is All You Need 论文解读：Transformer 原理全拆解

Tue, 22 Sep 2026 19:00:00 +0800

《Attention Is All You Need》论文解读

核心信息

标题: Attention Is All You Need
标题翻译: 注意力就是你所需的全部
作者: Ashish Vaswani、Noam Shazeer、Niki Parmar、Jakob Uszkoreit、Llion Jones、Aidan N. Gomez、Łukasz Kaiser、Illia Polosukhin
机构: Google Brain、Google Research、University of Toronto
发表时间: 2017
发表渠道: NIPS 2017（第 31 届神经信息处理系统大会）
arXiv: 1706.03762
论文链接: arXiv 原文
代码 / 项目: tensorflow/tensor2tensor
数据 / 资源: WMT 2014 英德与英法翻译数据、Penn Treebank（WSJ）句法分析语料
论文类型: AI 方法类（序列转导网络架构）

原文摘要翻译

占主导地位的序列转导模型基于复杂的循环或卷积神经网络，包含一个编码器和一个解码器。表现最好的模型还会通过注意力机制把编码器和解码器连接起来。我们提出一种全新的简洁网络架构 Transformer，它完全基于注意力机制，彻底摒弃了循环和卷积。在两个机器翻译任务上的实验表明，这类模型在质量上更优，同时具有更强的可并行性，所需训练时间也显著更短。我们的模型在 WMT 2014 英德翻译任务上取得 BLEU 28.4，比包括集成模型在内的既有最好结果高出 2 个 BLEU 以上。在 WMT 2014 英法翻译任务上，我们的模型在八块 GPU 上训练 3.5 天后，取得 41.8 的单模型最好 BLEU 分数，训练成本仅为文献中最好模型的很小一部分。我们通过把 Transformer 成功应用于英文成分句法分析（分别在训练数据充足和受限两种条件下），证明它能很好地泛化到其他任务。

创新点

完全去循环、去卷积的纯注意力架构：这是第一个完全依靠自注意力计算输入输出表示的序列转导模型，打破了「注意力只是循环网络的附件」这一惯例，让序列内依赖不再受制于时间步展开。
缩放点积注意力：在点积注意力中引入 $1/\sqrt{d_k}$ 缩放因子，用方差论证解释了为什么大维度点积会把 softmax 推向梯度饱和区，是一个几乎零成本但决定训练稳定性的关键细节。
多头注意力：把查询、键、值线性投影 $h$ 次后并行做注意力再拼接，让模型在不同表示子空间里同时关注不同位置，直接缓解加权平均造成的有效分辨率损失。
正弦/余弦位置编码：用固定频率的周期函数注入位置信息，利用「任意固定偏移都是位置编码的线性函数」这一性质方便模型学相对位置，且理论上可外推到更长序列。
统一维度的深层堆叠设计：所有子层与嵌入层输出统一为 $d_{model}=512$，配合残差连接与层归一化，使 $N=6$ 层的编码器与解码器可以稳定堆叠训练。
把训练成本纳入结果主张：论文不仅报告 BLEU，还给出训练 FLOPs 的估算口径与对比，证明高质量与低成本可以同时达成，这一论证方式后来成为架构论文的标准配置。

一句话总结

Transformer 用纯多头自注意力取代循环与卷积，以常数级的最长依赖路径和高度可并行的计算方式，在 WMT 2014 翻译上用低一个量级的训练成本刷新最好成绩，并把优势泛化到英文句法分析。

研究问题

论文要解决的是序列转导（输入一个序列、输出一个序列）建模中的一个根本性结构问题：如何在不引入顺序计算的前提下直接建模任意两个位置之间的依赖。

循环神经网络（含长短期记忆与门控循环单元）沿符号位置逐步展开计算，第 $t$ 步的隐状态 $h_t$ 依赖 $h_{t-1}$，这使样本内计算本质上是串行的。当序列变长时，显存限制又迫使跨样本的批大小收缩，并行度进一步恶化；因子化技巧与条件计算缓解了效率问题，但顺序计算的根本约束没有被消除。

卷积路线（ConvS2S、ByteNet、Extended Neural GPU）把所有位置的表示并行计算。但两个任意位置之间建立关联所需的操作数随距离增长：ConvS2S 线性、ByteNet 对数级。层数不够深时，远距离位置之间根本不在彼此的感受野里，长程依赖因此很难学。

注意力机制本身早已能不受距离约束地建模依赖，但在绝大多数工作中仍与循环网络捆绑使用。于是论文的核心研究问题可以拆成三点：

能否用纯注意力机制构建完整可用的编码器-解码器转导模型，彻底去掉循环与卷积？
这样的结构能否在保持（甚至提升）翻译质量的同时，显著提高训练并行度、降低训练成本？
它学到的能力是否只对翻译有效，还是可以迁移到结构约束更强的其他序列任务？

数据与任务定义

数据来源

WMT 2014 英德翻译：约 450 万句对，用字节对编码（BPE）构建约 37000 词元的源-目标共享词表。
WMT 2014 英法翻译：规模大得多，3600 万句，用约 32000 词元的词级切分词表。
英文成分句法分析：Penn Treebank 的 WSJ 部分，仅约 4 万句训练数据；半监督设置额外引入高置信度语料与 BerkleyParser 语料，合计约 1700 万句。

任务定义

翻译任务是标准的自回归序列转导：输入源语言词元序列，逐位置生成目标语言词元，评测指标是 newstest2014 上的 BLEU。句法分析任务的输出是线性化的成分句法树，特点是输出受强结构约束且显著长于输入，评测指标是 WSJ 第 23 节上的 F1。

训练批处理按近似序列长度组批，每批约含 25000 个源词元与 25000 个目标词元。句法分析实验只用 16K（WSJ 单独设置）或 32K（半监督设置）词表，除学习率、dropout 与束搜索宽度外，其余参数沿用英德翻译的基准配置。

方法主线

机制流程

输入构造：输入是源序列的词元序列，操作是查嵌入矩阵并乘以 $\sqrt{d_{model}}$，再与同维度的正弦位置编码逐元素相加；输出送入编码器栈底部（解码器侧同样构造目标序列嵌入）。
编码器堆叠：输入是上一层输出，操作是「多头自注意力 → 残差 + 层归一化 → 逐位置前馈网络 → 残差 + 层归一化」重复 $N=6$ 层，每个子层都按「残差 + 归一化」组合，可简写为 $y=LN(x+f(x))$；输出去向是编码器记忆表示，交给解码器。
解码器堆叠：输入是右移一位的目标嵌入与编码器记忆表示，操作是三个子层循环 $N=6$ 层——带掩码的多头自注意力（把非法未来位置的 softmax 输入置为负无穷）、以解码器为查询、以编码器记忆为键和值的编码器-解码器注意力、逐位置前馈网络，每层同样配残差与归一化；输出去向是每个位置的隐表示。
输出投影与自回归生成：输入是解码器顶层输出，操作是共享权重的线性变换加 softmax 得到下一词元概率分布；输出去向是按自回归方式拼回输入端生成下一个词元，直到终止条件满足。

论文原图编号：Fig. 1。左右对称的编码器-解码器总览图，把上面机制流程的四步链路一次画清。

模型结构

注意力函数把一个查询与一组键值对映射为输出：输出是值的加权求和，权重由查询与各键的兼容性函数给出。论文的核心注意力是缩放点积注意力，批量形式为：

$$ \mathrm{Attention}(Q,K,V)=\mathrm{softmax}!\left(\frac{QK^{\top}}{\sqrt{d_k}}\right)V $$

缩放因子 $1/\sqrt{d_k}$ 的动机是方差控制：若查询与键的分量独立、零均值、单位方差，其点积的方差是 $d_k$，维度一大点积幅值就大，softmax 会进入梯度极小的区域。与加性注意力相比，点积注意力在实现上可以直接调用高度优化的矩阵乘法内核，速度和空间效率都更好。

多头注意力把查询、键、值分别用 $h$ 组不同的线性投影降到 $d_k$、$d_k$、$d_v$ 维，并行做注意力后拼接再投影回 $d_{model}$ 维。论文取 $h=8$、$d_k=d_v=d_{model}/h=64$，由于每头维度降低，总计算量与单头全维度注意力相当。多头的价值在于不同头可以落在不同表示子空间里关注不同位置；单头的加权平均会把这种多样性抹掉。

三种注意力用法分工明确：解码器的编码器-解码器注意力用解码器查询去检索编码器全部位置；编码器自注意力让每个位置聚合全句信息；解码器自注意力靠掩码保证自回归性，预测第 $i$ 位只依赖小于 $i$ 的已知输出。

逐位置前馈网络对每个位置施加同一组带 ReLU 的两层线性变换，等价于核宽为 1 的两次卷积：

$$ \mathrm{FFN}(x)=\max(0,,xW_1+b_1)W_2+b_2 $$

输入输出维度是 $d_{model}=512$，内层维度是 $d_{ff}=2048$。

训练目标

论文沿用自回归序列转导的标准目标，即已知前缀下逐词元的对数似然，并用值为 $\epsilon_{ls}=0.1$ 的标签平滑修正。标签平滑会让困惑度变差（模型变得更不确定），但能提升准确率与 BLEU。正则化除标签平滑外还有残差 dropout（子层输出加残差前、以及嵌入与位置编码之和处，基准模型丢弃率 0.1）。

推理与采样链路

解码用束搜索，束宽 4、长度惩罚 $\alpha=0.6$，最大输出长度设为输入长度加 50，能提前终止就提前终止。基准模型的最终结果取最后 5 个检查点（每 10 分钟写一个）的平均，大模型取最后 20 个检查点的平均。超参数是在开发集上实验选定的——复现时这条不能省略。

关键实现细节

学习率不走常数或纯衰减，而用「先线性升温、后按步数逆平方根衰减」的调度：

$$ lrate = d_{model}^{-0.5}\cdot\min\bigl(step_num^{-0.5},;step_num\cdot warmup_steps^{-1.5}\bigr) $$

其中 $warmup_steps=4000$。优化器是 Adam（$\beta_1=0.9$、$\beta_2=0.98$、$\epsilon=10^{-9}$）。硬件是单机八块 P100：基准模型 0.4 秒一步、共 10 万步（12 小时），大模型 1.0 秒一步、共 30 万步（3.5 天）。嵌入层与预 softmax 线性变换共享同一权重矩阵，嵌入权重乘以 $\sqrt{d_{model}}$。

关键结果

主结果与强基线

newstest2014 上的主结果与训练成本对比如下（BLEU 与 FLOPs 均按英德 / 英法两列，「—」表示原表未列）：

模型	英德 `BLEU`	英法 `BLEU`	训练成本（英德 / 英法，`FLOPs`）
`ByteNet`	23.75	—	—
`Deep-Att + PosUnk`	—	39.2	— / 1.0×10^20
`GNMT + RL`	24.6	39.92	2.3×10^19 / 1.4×10^20
`ConvS2S`	25.16	40.46	9.6×10^18 / 1.5×10^20
`MoE`	26.03	40.56	2.0×10^19 / 1.2×10^20
`Deep-Att + PosUnk`（集成）	—	40.4	— / 8.0×10^20
`GNMT + RL`（集成）	26.30	41.16	1.8×10^20 / 1.1×10^21
`ConvS2S`（集成）	26.36	41.29	7.7×10^19 / 1.2×10^21
`Transformer`（base）	27.3	38.1	3.3×10^18
`Transformer`（big）	28.4	41.8	2.3×10^19

Table 2：Transformer 在英德与英法翻译上同时取得更高 BLEU 与更低训练成本。原表中 Transformer 两行的训练成本只给出一个数值。

论文原图编号：Table 2。原表截图，内容与上方重建表格一致，保留原版式便于核对。

三个层次的结论值得分开看：

英德：大模型 28.4 比此前所有结果（含集成）高 2.0 BLEU 以上；更激进的是基准模型 27.3 也已经超过全部已发表单模型和集成，而它的训练成本（3.3×10^18）比最便宜的基线 ConvS2S（9.6×10^18）还低。
英法：大模型 41.8 刷新单模型最好成绩，训练成本不到此前最好模型（Deep-Att + PosUnk，1.0×10^20）的四分之一。
数字口径提醒：摘要与 Table 2 都写 41.8，但正文 6.1 的文字写的是 41.0，属于论文自身的文本不一致，引用时应以表格的 41.8 为准并知晓差异存在。

消融到底说明了什么

消融全部在英德开发集（newstest2013）上做、且不做检查点平均，PPL 为按词级切分的逐词元困惑度：

变化项	具体设置	`PPL`（dev）	`BLEU`（dev）	参数量（百万）
基准	$h{=}8$，$d_k{=}d_v{=}64$	4.92	25.8	65
头数（A）	$h{=}1$，$d_k{=}d_v{=}512$	5.29	24.9	65
头数（A）	$h{=}4$，$d_k{=}d_v{=}128$	5.00	25.5	65
头数（A）	$h{=}16$，$d_k{=}d_v{=}32$	4.91	25.8	65
头数（A）	$h{=}32$，$d_k{=}d_v{=}16$	5.01	25.4	65
键维度（B）	$d_k{=}16$	5.16	25.1	58
键维度（B）	$d_k{=}32$	5.01	25.4	60
深度（C）	$N{=}2$	6.11	23.7	36
深度（C）	$N{=}4$	5.19	25.3	50
深度（C）	$N{=}8$	4.88	25.5	80
宽度（C）	$d_{model}{=}256$，$d_{ff}$ 相应减半	5.75	24.5	28
宽度（C）	$d_{model}{=}1024$，$d_{ff}$ 相应加倍	4.66	26.0	168
前馈内层（C）	$d_{ff}{=}1024$	5.12	25.4	53
前馈内层（C）	$d_{ff}{=}4096$	4.75	26.2	90
丢弃率（D）	$P_{drop}{=}0$	5.77	24.6	65
丢弃率（D）	$P_{drop}{=}0.2$	4.95	25.5	65
标签平滑（D）	$\epsilon_{ls}{=}0$	4.67	25.3	65
标签平滑（D）	$\epsilon_{ls}{=}0.2$	5.47	25.7	65
位置编码（E）	学习式位置嵌入替代正弦	4.92	25.7	65
大模型	$N{=}6$，$d_{model}{=}1024$，$d_{ff}{=}4096$，$h{=}16$，$P_{drop}{=}0.3$，30 万步	4.33	26.4	213

Table 3：架构变体消融。原表未列出的值与基准一致；宽度（C）两行的 $d_k=d_v=d_{model}/h$ 随宽度缩放。

论文原图编号：Table 3。原表截图，参数量列为原始数值，便于核对消融设置。

每组消融真正说明的问题：

头数（A）：计算量保持恒定时，单头比最好设置低 0.9 BLEU，但头数过多（32 头、每头 16 维）同样掉点。多头的价值不是「越多越好」，而是保持每头足够维度的前提下换取子空间多样性。
键维度（B）：单独把 $d_k$ 从 64 减到 16/32 就伤到 0.7 BLEU，连参数量变少都救不回来。作者由此推断兼容性判定并不容易，点积之外可能有更优的兼容性函数——注意这是推断，不是被验证的结论。
规模（C）：深度、宽度、前馈内层三个方向单调地「越大越好」，但消融没有隔离参数量与结构比例的贡献，不能证明收益来自深度而非参数。
正则化（D）：去掉 dropout 是全场最大退化（BLEU 掉 1.2、困惑度恶化到 5.77），过拟合是这个架构在中等规模数据上的主要敌人；标签平滑则是一个明确的「困惑度换准确率」权衡。
位置编码（E）：学习式与正弦几乎打平（25.7 对 25.8），选正弦的理由是潜在的长度外推能力，而该能力并未被实验验证。

泛化到句法分析

WSJ 第 23 节上的成分句法分析结果（F1）：

句法分析器	训练方式	`F1`
Vinyals & Kaiser et al. (2014)	仅 `WSJ`，判别式	88.3
Petrov et al. (2006)	仅 `WSJ`，判别式	90.4
Zhu et al. (2013)	仅 `WSJ`，判别式	90.4
Dyer et al. (2016)	仅 `WSJ`，判别式	91.7
`Transformer`（4 层）	仅 `WSJ`，判别式	91.3
Zhu et al. (2013)	半监督	91.3
Huang & Harper (2009)	半监督	91.3
McClosky et al. (2006)	半监督	92.1
Vinyals & Kaiser et al. (2014)	半监督	92.1
`Transformer`（4 层）	半监督	92.7
Luong et al. (2015)	多任务	93.0
Dyer et al. (2016)	生成式	93.3

Table 4：英文成分句法分析结果。

论文原图编号：Table 4。原表截图，与上方重建表格对应。

关键读法：4 层 Transformer 几乎没做任务特定调参，就在两种设置下超过此前绝大多数模型，包括监督式最强的 BerkeleyParser（90.4）；唯一稳定压过它的是循环神经网络语法（判别式 91.7、生成式 93.3）。半监督 92.7 也高于此前全部半监督结果，但仍低于多任务（93.0）与生成式（93.3）两个不同训练范式的结果。

失败或不稳定设置

丢弃率为 0 时训练明显过拟合，是全部消融中最差的 BLEU（24.6）。
单头与 32 头两个极端都掉点，注意力头数存在倒 U 型权衡。
键维度压到 16 时质量与困惑度双双恶化，说明查询-键匹配是瓶颈部件，不能随意压缩。
标签平滑加大到 0.2 时困惑度显著变差（5.47），收益只体现在准确率侧。

深度分析

为什么有效

这篇论文的结果背后有三条互相支撑的机制链路：

常数路径长度降低长程依赖的学习难度。任意输入输出位置之间，自注意力只需 1 次顺序操作即可连通，循环需要 $O(n)$ 次、卷积需要 $O(\log_k n)$ 次堆叠。信号穿过的路径越短，长程依赖越容易学——这直接对应英德翻译里对远距离词序调整的建模能力。
去掉顺序约束释放并行度，让算力预算更多花在有效容量上。同样的墙钟时间里，纯注意力架构可以做更多训练步数，这解释了为什么基准模型的 FLOPs 低却仍然赢。
多头 + 缩放保证注意力机制本身可用。缩放防止 softmax 饱和，多头防止平均化抹掉多峰依赖，消融中单头掉 0.9 BLEU、小 $d_k$ 掉 0.7 BLEU 是这两条链路最直接的证据。

注意力还带来一个潜在收益：可解释性。附录的可视化显示不同头学到了明显不同的行为，有的头跟随长距离动词依赖，有的头呈现共指消解的模式，有的头对句法结构敏感。这类证据是案例级的可视化观察，支持「头之间存在分工」这个弱主张，但不构成系统性的可解释性证明。

论文原图编号：Fig. 2。左侧为缩放点积注意力数据流、右侧为多头并行投影-拼接结构，对应「缩放」与「多头」两条机制链路。

论文原图编号：Fig. 3。编码器自注意力第 5 层跨越词位捕捉长距离依赖的实例，支撑常数路径长度的主张。

论文原图编号：Fig. 4。第 5 层两个头对代词的注意力分布，呈现共指消解行为。

论文原图编号：Fig. 5。两个头分别关注句法结构不同侧面的例子。

复杂度与扩展性

下表省略大 O 记号，只列关键因子：

层类型	每层复杂度	顺序操作数	最大路径长度
自注意力	$n^2 d$	$1$	$1$
循环	$n d^2$	$n$	$n$
卷积	$k n d^2$	$1$	$\log_k n$
自注意力（受限）	$r n d$	$1$	$n/r$

Table 1：不同层类型的复杂度、顺序操作数与最大路径长度对比（$n$ 为序列长度，$d$ 为表示维度，$k$ 为卷积核宽，$r$ 为受限注意力的邻域大小）。

论文原图编号：Table 1。原表截图（原候选为空白条，已按修正边界重裁），内容与上方重建表格一致。

读这张表要注意三点：

自注意力赢在 $n<d$ 的区间。逐层复杂度上自注意力是 $n^2 d$、循环是 $n d^2$，序列长度 $n$ 小于表示维度 $d$ 时自注意力更便宜。句级翻译词表化后通常满足该条件，但长文档、音频这类 $n$ 很大的场景结论会反转，$n^2$ 项会成为瓶颈。
可分离卷积是卷积侧的强基线。核宽取 $n$ 时，可分离卷积的复杂度恰好等于「一层自注意力 + 一层逐位置前馈」的组合，即本文架构的单层开销。
论文提出的补救方案（受限注意力，只关注半径 $r$ 的邻域，路径长度退化为 $O(n/r)$）在本文中没有实验，属于给出思路、留给未来验证的部分。

复现注意点

检查点平均是结果的一部分：基准取最后 5 个、大模型取最后 20 个检查点平均，不做这步 BLEU 会有可见损失；Table 3 的消融恰恰没有做平均，所以 dev 数字不能与主结果直接比较。
FLOPs 是估算而非实测：口径是「训练时长 × GPU 数量 × 持续单精度算力」，其中算力按 P100 9.5 TFLOPS 等固定值估计；跨论文比较成本时要检查对方的估算口径是否一致。
词表口径影响 BLEU 可比性：英德用 37K 共享 BPE、英法用 32K 词级切分，与其他论文的分词口径不同会带来零点几的系统性差异。
两处文本不一致需要留意：英法大模型成绩摘要写 41.8、正文 6.1 写 41.0；英法大模型的丢弃率是 0.1（不是英德大模型的 0.3）。
复现最小配置：宽度 $d_{model}=512$、前馈内层 $d_{ff}=2048$、深度 $N=6$。头数 $h=8$、每头维度 $d_k=d_v=64$。训练侧：Adam（0.9，0.98，$10^{-9}$）、$warmup=4000$、标签平滑 0.1、dropout 0.1。按 25000+25000 词元组批，训练 10 万步。

局限

论文用证据证明了的：

在 WMT 2014 英德与英法两个特定数据集、特定词表口径下，翻译质量与训练成本的优势成立。
头数、键维度、规模、dropout、标签平滑这几个组件在英德开发集上的作用方向明确（Table 3）。
在英文成分句法分析这一种非翻译任务上，架构无需太多调参即可工作。

论文没有证明、但容易被引用成结论的：

长度外推能力：正弦位置编码「可能」外推到更长序列，论文没有任何训练长度之外的系统性实验，学习式与正弦在实验里只是打平。
模态泛化：把架构推广到图像、音频、视频被明确列为未来工作，本文一个实验都没有。
解码效率：并行化收益在训练侧；解码仍是自回归顺序生成，推理延迟与吞吐论文从未测量，「生成不够顺序」也被作者自己列为待解决问题。
架构收益的归因边界：与基线的对比跨越不同年份、不同词表、不同训练预算，FLOPs 又是估算值，因此「纯注意力优于循环/卷积」的结论严格来说限于所比配置，不能读作对所有规模、所有算力预算的普遍定理。
可解释性主张：注意力头的可视化是轶事级案例，不构成「学到句法/语义结构」的系统性证明。
受限注意力与长序列方案：只给了复杂度分析和设想，没有实验支撑。

此外还有一个论文自陈的机制代价：注意力加权平均会降低有效分辨率，多头只是缓解而没有消除这个问题。

我的笔记

这篇论文值得长期保留的不是 28.4 这个数字，而是它把「结构选择 → 复杂度与路径长度 → 实验结果」这条论证链完整示范了一遍。写架构论文或做架构选型时可以直接套用它的三个评估维度：每层复杂度、顺序操作数、最大路径长度。

可复用的工程判断：

拿到序列建模任务，Transformer 可以作为默认强起点，尤其当输出受结构约束、输出长于输入时（句法分析实验就是这种情况）。
中等规模数据上，正则化的优先级高于加宽加深：dropout 归零的伤害（-1.2 BLEU）大于大多数结构改动。
复现这类工作时，检查点平均、束搜索宽度、长度惩罚、学习率升温步数这四个「非架构」细节对最终分数的影响，未必小于架构本身。
如果输入序列很长，先算清楚 $n^2$ 项的代价，再决定要不要上受限注意力或稀疏化方案。

留在待办里的问题（论文没有回答）：

去掉 $1/\sqrt{d_k}$ 缩放会退化到什么程度？缺一个独立消融。
受限注意力的邻域 $r$ 取多大能保住全局路径优势？
正弦编码的长度外推是真实存在还是一厢情愿？
自回归解码的延迟劣势有多大，非自回归化能补回多少？
低资源语言对上，纯注意力的优势是否还在？

引用

Vaswani et al. (2017). Attention Is All You Need.
Bahdanau et al. (2014). Neural machine translation by jointly learning to align and translate.
Gehring et al. (2017). Convolutional sequence to sequence learning.
Wu et al. (2016). Google’s neural machine translation system: bridging the gap between human and machine translation.
Shazeer et al. (2017). Outrageously large neural networks: the sparsely-gated mixture-of-experts layer.
Kalchbrenner et al. (2017). Neural machine translation in linear time.
Kaiser and Bengio (2016). Can active memory replace attention?.
Dyer et al. (2016). Recurrent neural network grammars.
Vinyals et al. (2015). Grammar as a foreign language.
Petrov et al. (2006). Learning accurate, compact, and interpretable tree annotation.
Ba et al. (2016). Layer normalization.
He et al. (2016). Deep residual learning for image recognition.
Kingma and Ba (2015). Adam: a method for stochastic optimization.
Szegedy et al. (2016). Rethinking the inception architecture for computer vision.

炒菜锅洗拖把：不要让沉默寒了年轻父母的心

Tue, 22 Sep 2026 15:30:00 +0800

事件信源：南京江北新区联合调查组 9/22 通报 + 知乎相关问题高赞回答交叉梳理。数据与时间线以官方通报为准。

一、发生了什么

南京信息工程大学附属幼儿园——公办、大学附属、2023 年评为「南京市优质幼儿园」——食堂后厨被监控和照片证实：用给孩子做饭的炒菜锅刷下水道铁盖板、洗拖把；洗菜池用 84 消毒液泡防蚊帐、洗头、刷鞋。

6 月 30 日，春季学期最后一天，多名幼儿午餐后集体恶心呕吐。

9 月 22 日，联合调查组通报：园长撤职、分管副园长撤职、厨师开除，盘城街道、区市监局、区教育局等 11 人被给予党纪政务处分，并明确「后续依法依规依纪进一步严肃处理」。

二、两个半月的沉默，被打破了

把时间线拉直，会看到两个层面的故事。

第一个层面是教训：6 月 30 日孩子集体呕吐，7 月到 9 月初家长追问无果，直到 9 月 14 日保健老师王老师在朋友圈实名举报——从事发到曝光，隔了两个半月。这条链上有园长、副园长、街道办、市监局、教育局，每一级都有「把这件事放在心上」的义务，但推动真相的，是一个基层保健老师的坚持。

第二个层面是转变：举报发出后仅 8 天，联合调查组就完成了调查、回溯和处理。监控视频全面调取、五个责任层级逐一厘清、11 人处分落地、通报明确「绝不姑息」。这个响应速度本身就是一个信号——系统不是不会动，而是需要被唤醒。唤醒之后，它的纠错能力是真实存在的。

还有一个值得注意的反差：这正是那种「最让人放心」的幼儿园——公办、大学附属、优质园称号。连它都出了问题，说明安全不能靠牌子背书，必须靠制度保障。这不是坏消息，这恰恰指明了下一步该建什么。

三、从「敢生」到「好生」：每一层都可以被认真托住

这件事之所以牵动这么多人的心，是因为它碰到了年轻父母最敏感的那根神经：把孩子交给机构的那份信任。

这几年促生育的政策工具箱越来越丰富：补贴、育儿假、托育体系建设接连落地。但年轻父母不生的理由，往往不是缺那几万块钱，而是一连串具体的顾虑：奶粉安不安全、幼儿园能不能托付、校园餐干不干净、加班后谁接孩子。

敢生、愿生、能生、好生——这四个词是有顺序的，而且每一层都有明确的解法：

敢生：医疗和食品安全持续透明化。这次事件的处理展示了一个模板——监测曝光、快速响应、公开通报、追溯全链条。这套机制若固化到每个幼儿园的后厨，就是「敢生」最坚实的基础；
愿生：职场对孕产家庭的友好度持续提升，社会舆论对生育家庭多一分善意，少一分说教；
能生：补贴、托育、住房支持继续加码，把「养得起」从口号变成账面上算得过来的事实；
好生：后厨监控对家长开放成为幼儿园的默认配置，内部反映问题有正式且有效的通道，让「王老师们」不必再靠朋友圈推动真相。

可以看到，四层里没有一层是无解的。每一层都有已经发生的成功实践，缺的不是方案，是把试点变成标准、把标准变成日常的执行力。

四、相信这不是终点，而是起点

11 个人被处理，通报最后一句是「绝不姑息」。知乎高赞里有人追问：后续会不会有行政执法和刑事层面的进一步追责？——这个追问本身就有价值，公众持续的、理性的关注，就是监督体系最有效的组成部分。

我倾向于乐观地看这件事：

问题被发现了。比起永远埋在监控里的隐患，被公开讨论的问题才有被解决的机会。两个半月的沉默最终被打破，说明曝光机制在起作用；
处理的模板已经出现。快速成立联合调查组、全链条回溯、分层追责、公开通报——这套动作如果沉淀为食品安全事件的标准响应流程，下一次的响应周期会从两个半月缩短到几天；
改变正在从个案走向体系。后厨「明厨亮灶」监控开放、家长委员会参与膳食监督、内部举报人保护机制——这些方向明确的制度设计，正在越来越多的地方落地。

孩子不会记得 2026 年 6 月 30 日那顿饭。但这一代年轻父母会记得：记得问题的痛，也会记得问题被严肃对待的样子。

当后厨的每一口锅都经得起看，当每一个「王老师」的反映都有回音，当每一个家庭的具体顾虑都被逐项回应——年轻父母的顾虑会一点点放下。到那个时候，不用反复呼吁，愿意把新生命带到这个世界的信心，自然会回来。

让年轻父母无后顾之忧，从来不是一句口号，而是一张可以逐项打勾的清单。 这张清单上的每一项，我们都有能力完成——这件事本身，就是希望。

本文时间线与处理结果依据南京江北新区联合调查组 2026-09-22 通报及公开报道梳理，观点部分为个人评述。

Jev：当模型放弃说话

Sun, 20 Sep 2026 18:50:00 +0800

AI Slop：当生成比阅读更便宜

Sun, 20 Sep 2026 16:42:00 +0800

AI 时代如何清晰思考 · 5 小时完整课程笔记

Sat, 19 Sep 2026 20:45:00 +0800

我的网易云音乐年度听歌报告：2023首红心与循环的秘密

Fri, 18 Sep 2026 19:59:00 +0800

我的五年阅读报告：从262小时到知识获取的迁移

Fri, 18 Sep 2026 16:05:00 +0800

李沐首次 AMA 全记录：35 个问答，关于 AI 时代的职业、学习与方向

Thu, 17 Sep 2026 11:00:00 +0800

整理自 Datawhale 公众号《李沐：首次 Ask me anything 来了！》。原文以 9 张问答卡片发布，本文按主题重新归类为 7 个板块，问答原文保持原样，仅修正两处明显的录入错误（“多项项目”→“多做项目”、“赢弱”→“羸弱”），并统一了标点与断句。

背景

距离李沐上次公开露面，已经过去很长一段时间。这一次，他直接开启 AMA，密集回答网友提问。

本次 AMA 涵盖 AI、编程、职业选择、学习路径和研究方向等多个话题，共 35 组问答。下面按主题重新梳理，帮你判断：现在在 AI 领域最值得投入的，究竟是什么。

速览：八条主线判断

主题	李沐的判断	关键词
岗位选择	Agent 应用岗缺口最大；Infra 与算法岗招人的公司少、但门槛高	应用 > 研究
学历与年龄	越到职业后期学历越不重要；30 岁、40 岁入场都来得及	长期主义
学习方式	先用 AI 做点事情，每天找一个 topic 问 20 个问题	先动手
编程能力	编程还是要学，但重心从"写代码"转到"review 代码"	看得懂
Agent 定位	Agent 是能力放大器，是 ×10，不是 +10	放大效应
研究方向	找 niche 但有兴趣的方向；技术迭代快，很多地方做得不够细	差异化
多模态	人和 Agent 的交互靠多模态，但能否提升智商业界不一致	交互入口
具身智能	短期一定有泡沫，长期是自然方向，但落地周期可能很长	长周期

一、职业与岗位：锚定"缺口"，而不是"光环"

岗位缺口分布不均——越偏应用、越靠近产品落地的岗，需求量越大；越偏底层和研究的岗，招人的公司少，但门槛更高。如果你已经工作、又想做研究，他的潜台词是：不必卡在"研究员"这个头衔上。

Q：想转工作方向，AI 这方面现在还缺 AI Infra 的开发人员吗，以及 AI 算法岗和 AI Agent 岗位哪个缺口更大呢？我现在参加工作了，还有可能成为 AI 研究人员吗？

李沐：agent 这一块偏应用一点，肯定工作岗位更多。infra 和算法呢，相对来说，可能需求的公司会少一些，但门槛也高一些。

Q：对于刚毕业的 CS 程序员，职业发展上需要往哪方面走来提升自己呢？一年前和现在的程序开发变化太大了。

李沐：先试着利用 agent 能够最大化自己的生产力吧，让自己把这个工具用的很溜再说。

Q：请问一下，作为一个 solo 开发者，有限的精力应该优先拿来验证「这东西值不值得做」，还是先沉下心把产品打磨到能用的水平？在方向不确定的情况下，什么信号说明该继续，什么信号说明该换方向呢？

李沐：先找朋友看看，他们能不能用起来吧。

Q：leetCode-type 的 code 考核还有必要特意考核 / 准备吗？

李沐：很多公司还是面，而且得不要让人怀疑是用 AI 写的。

二、学历与年龄：都不是关键变量

这是全场信息密度最高的一段。三个问题都指向同一种焦虑——“我起点不够好/年纪太大了”，而三个回答指向同一个结论：时间不是壁垒，起点也不是，真正的问题是你到底有没有沉下去。

Q：对于非天才的普通人来说，AI 算法研究的未来在哪里？

李沐：我觉得做 AI 算法的人，大部分也是普通人吧。

Q：我 30 了还没深入，想要大家的鼓励，想深入 AI 应用构建真实需求，可以鼓励下我吗？

李沐：四十岁了都来得及，三十岁我觉得没问题。

Q：我是一个国内双非本科就读人工智能专业的学生，如今在一家机器人公司内实习，在此期间深刻感受到就业市场对 AI 技术岗的学历要求，因此有点焦虑是否自己对未来自己的岗位定位的期望过高，我的学历是否还能不能支撑我进入这个行业。我在整个大学期间的专业学习都高度依赖 AI，三年过去觉得自己好像什么都没学到，进入真正工作上对自己的定位也无所适从，觉得如果自己所有工作都使用 AI，那是否这个岗位换了谁都可以干，作为没有学历优势在技术上也没有很深度理解的预备役牛马，应该把自己放在一个什么样的生态位，在 AI 帮我完成项目的同时我应该把学习方向放在哪，我应该把自己的重点放在哪里？

李沐：我觉得学历可能不是最关键的，越到职业的后期，学历可能越没那么重要。但如果你都觉得自己过于依赖 AI，没学到什么东西，这一点可能更加重要一点。至少先了解 AI 完成的工作，他在背后到底在干什么事情？

Q：AI 普惠教育，买学区房岂不是写死了？

李沐：好的教育资源总是稀缺吧，学区房可能还是有存在的必要的。

三、学习方式：先用起来，再往深走

对"该怎么学 AI"“该学什么语言"“该到什么程度"这类问题，他的回答高度一致：不要先规划路径，先用 AI 做一件具体的事。 唯一的例外是涉及底层原理时——那时他明确说"学习还是有必要的”。

Q：作为 CS 本科生，有限的几年时间，最应该打磨自己的什么能力呢？

李沐：我觉得是多做项目吧，在实践中能够更多的体会。

Q：AI 时代是应该深耕一门技术，追求深度，还是追求深度的同时保持一定的广度？

李沐：我认为是深度优先。先把一件事情做深了，然后再尝试看做另外一件事情，去做广。

Q：老师！您觉得非人工智能专业的想接触 AI，vibe coding 类的技能可以从哪里学起呢？有没有推荐的资源平台？

李沐：用 AI 做个项目看看？

Q：非计算机专业的学生如果想学习 AI，需要学习相关知识到什么程度呢，老师推荐什么样的学习路径呢？

李沐：先用 AI 做点什么事情吧。

Q：大神您好，恳请您回答一个文科生该如何面对未来不确定的一切，AI 可以取代一切，请问文科生想要学习金融相关领域，想要深耕量化分析，该如何利用 AI？又该如何拥有自己的核心竞争力？请问我需要学习编程吗？

李沐：我觉得可以试试，每天找一个 topic，然后跟 AI 问二十个问题。

Q：如果个人想要训练自己专属的小模型，或者从零开始搭建神经网络，现在还有必要学习几年前的哪些技术吗？

李沐：我觉得学习还是有必要的，至少自己要理解这个后面是怎么工作的。

四、编程还要不要学：要，但学的是"能 review”

这是本次 AMA 里最容易被误读的一组。他的立场不是"AI 时代不用学编程"，而是编程能力的作用点迁移了：从"自己写"变成"看得懂、能 judge、能拦住 AI 的低级错误和绕远路的设计"。三组问答，三次强调同一件事。

Q：沐神，我也想问现在还要不要学编程。刚读研，可以全程用 AI 做项目了，根本用不上我那羸弱的编程能力，我还需要去训练编程吗？

李沐：目前来看，编程还是要学的。你可以不用写代码，但是得 review 代码，至少能够看得懂 AI 写的代码在干嘛。

Q：我感觉虽然有些事情我可以交给 AI 做了，但是我还是会搞清楚整体架构、过程，让它解释为什么这样做，我觉得这样用 AI 才是加速自己学习同时提升效率过程。不过我确实在想这个时候去学其他编程语言，比如不太熟悉的 C 语言会不会必要性不大？

李沐：目前来看，能够熟悉一个语言就行了吧。人的工作现在主要是给 AI review 一下代码，防止他犯一些很低级的错误，或者整个设计上是绕了没必要的弯路。

Q：老师，以前读研的时候最喜欢你的论文精读系列了，现在想问一下，在 AI 时代我应该怎么学习呢？应该怎么转行呢？尤其是我现在想跨行业转行，想从纯软件转到 AI 计算 / 推理加速，这里甚至我要重新学习编程语言，但是现在又觉得仔细学习编程语言是无用的。

李沐：学编程语言是有用的。至少得看得懂代码吧，能够给 AI 好的反馈。

Q：我目前是 CS 本科生，在一个做具身智能的组里干活，但我发现自己做任务的时候特别依赖 AI，经常是跟 Codex 和 GPT 网页端换着聊，GPT 给方案，Codex 负责执行。我大部分时间都是在努力理解 GPT 给出的思路，偶尔能看出它有点绕远路，但基本做不到主动去「引导」AI 朝某个方向走。这让我感觉自己没起到真正做研究的作用。想问问这种情况怎么办？本科生在科研起步阶段，面对这种高度依赖 AI 的状态，应该怎么调整呢？

李沐：我觉得不是问题吧，就是你这一块不算熟嘛。你做深一点之后，知道哪些方案 Agent 试过，哪些 work 哪些不 work，踩过坑了，你自然会在这一块会理解深一些。

五、Agent 与人的边界：放大器，不是替代品

有一个提问者给出了很漂亮的判断——“硬实力差距因为 agent 缩小，软实力相对价值被放大”，李沐的回应是全场最凝练的一句比喻。他还补了一条容易被忽略的社交规则：别让人看出来你的消息是 AI 写的。

Q：硬实力差距因为 agent 缩小，软实力相对价值被放大。执行力、社交能力、分层的逻辑能力，变得尤为重要。本质上什么能力能让人更快地发现问题、分解问题，什么能力就重要，而具体的细节知识 agent 比人强，没必要去肌肉碰钢铁。你觉得呢？

李沐：agent 是能力放大器，就是能力 ×10，而不是加法器，不是能力 +10。

Q：AI 大公司的技术服务部门：该怎么加强和技术同学的沟通能力，怎么用 AI 帮忙呢？

李沐：你可以让 AI 来帮你提供一些建议，或者说帮你跟之前的跟别人的沟通做一些 review。但人与人的交互，主要还是人上。我看很多人是讨厌别人用 AI 来回复的。

Q：如果 AI 越来越强，很多工作都会被替代，那人该怎么办？

李沐：我比较相信人对环境的适应性吧。就算 AGI 来了，人总是能找到自己能做的事情。

Q：五年前我就是看了您的视频开始了 AI 生涯。想请教一下老师看好 AI 翻译这一领域吗？文本翻译是 LLM 的得意领域，但生活化场景的翻译又带来了多模态和低延迟等挑战。在老师看来，随着模型能力的发展，AI 最终能够做到帮助全人类跨越语言障碍吗？

李沐：我觉得 AI 翻译肯定是能够替 99% 替代人的。

六、研究方向：找 niche，别追热

被问到"哪个方向值得投"时，他不给清单，只给方法：避开人多的赛道，找窄而你真的有兴趣的口子。 理由是技术跑得太快，很多地方根本没做细。同时对具体领域给出了相当坦诚的降温——AI compiler 是小众，3D/4D 他自认不是专家，物理世界尚未解决。

Q：现在入场的话，还有什么值得投入的研究方向吗？

李沐：可以找 niche 一点的，但有兴趣的方向去研究吧。目前我看到就是技术发展的很快，所以很多地方其实是做的不够细的。

Q：大佬觉得 AI compiler 是否是一个值得投入精力学习的方向，以及学习重点应该是什么？

李沐：这是一个偏小众的方向，做的团队不多吧。如果你能找到合适的团队，还是挺有意义的。

Q：我目前在 3D&4D 场景理解和生成之间犹豫。现在模型发展和更新太快，也担心自己的工作很快被更大模型覆盖。您觉得年轻研究者应该如何选择长期方向，并建立真正属于自己的积累？

李沐：目前做的还很浅吧。我也不算这一块的专家，但我觉得不管是 AI 也好，还是别的专门做这个的，我觉得离真正的现实场景的理解和生成还蛮远的。

Q：大佬觉得 AI 能本质上解决 physical world 的问题么？对于物理世界来讲，数学和 CS 领域太干净了，反馈太及时了，这两个领域感觉 AI 已经一统江湖了。

李沐：应该还没有吧。但是这一块确实有很多 lab 和公司在做。

Q：想问问李老师，LLM 的未来会往哪个方向发展，当前的哪些研究方向是您比较认为重要的？

李沐：我认为，目前来看，就是模型在沙盒里面运行，自我成长。包括 sandbox 里执行代码，macOS 上 computer use，以及各种新出来的世界模型里面运行。

Q：沐神，LLM 会吞噬掉哪些 harness，harness 有哪些不可替代，二者边界会在哪里？

李沐：我的看法是，目前 harness 里面有效的东西，下一代模型应该会被吞掉，但是下一代模型可能又出现一些需要新的 harness 的地方。

Q：想问一下老师怎么理解 RSI 吗？感觉大家都说 RSI，但是做的都不太相同。

李沐：我们也做 RSI，但确实大家的理解都不太一样。能有效使用 AI 来参与迭代模型能力都可以号称 RSI 吧。例如简单的，用 AI 来洗数据再来训练 AI。

Q：沐神怎么看未来 AI 能力越来越强之后，alignment 的研究是否会某种程度上脱离实际，我们可以用什么心态来准备？

李沐：我的体感也是，最近几代模型的更新，它的 alignment 都是提升智商，所以它出的那些报告啊，人基本不太看得懂。

七、多模态与具身：方向对，节奏要放长

最后一组问答里，他给多模态找到了一个不依赖"提升智商"的立足点——它是人和 Agent 之间的交互通道；而对具身智能，他给了一个很清醒的判断：方向是自然而然的（白领之后必然是蓝领），但短期有泡沫，长期落地周期可能像无人驾驶一样漫长。

Q：沐神如何看待多模态的未来？

李沐：多模态肯定是 AI 和人交互的一个重要的途径。但确实，多模态能不能提升模型的智商，目前是大家观点不一致。所以很好几家大厂把多模态的优先级调低了。

Q：请问您如何看待未来多模态的发展趋势？目前市场更倾向 agent，还要继续坚持做多模态吗？

李沐：我觉得多模态没问题啊，人和 agent 的交互，是靠多模态。

Q：沐神你好，请问 VLM 现在看来是不是已经进入局部低谷了呢，今年的秋招看起来工业界完全不需要这块，是否 VLA 会更值得探索呢？

李沐：实用角度来讲，还挺多的吧？人与 agent 的交互之间，用 vision 还是挺多的。

Q：您觉得具身领域会是泡沫吗？未来的具身行业是否可能真正落地并发展？

李沐：短期看，肯定是有泡沫的。但这是一个自然的方向，因为 AI 做了白领的工作之后，就是要做蓝领的工作。但确实说具体什么时候能够落地，真正的发展起来，很有可能也是一个漫长的时间。就像无人驾驶，花了多少时间？

Q：沐神怎么看待具身智能的未来发展？

李沐：目前来看，没有别的更 promising 的方向的话，我觉得这个挺好的。

八、可以带走的六条判断

如果只记六句话：

岗位往应用走——Agent 岗需求最大，infra 与算法岗门槛更高、招人更少；
时间不构成门槛——30 岁、40 岁入场都来得及，学历在职业后期权重递减；
学编程的目的变了——从"自己写"变成"看得懂、能 review、能拦住 AI 绕远路"；
Agent 是 ×10 不是 +10——它放大你已有的能力，而不是替代你；
学习靠 ask——每天找一个 topic，跟 AI 问二十个问题，比先规划路径有效；
选方向选窄的——找 niche 但有兴趣的口子，因为技术跑得快，很多地方做得不够细。

出处与说明

原文：Datawhale 公众号《李沐：首次 Ask me anything 来了！》
原文链接：微信公众号文章
发布时间：2026 年 9 月 16 日（原文正文由 9 张问答卡片组成，共 35 组问答）
整理说明：本文为二次整理，问答文字为原文转录，仅修正两处录入错误并统一标点；未对观点作任何增删或改写。

2026外滩大会看展手记

Wed, 16 Sep 2026 19:37:00 +0800

Weekly Review · 蔡大锅的周报

Wed, 16 Sep 2026 18:11:00 +0800

MLAPP 可视化总览

Wed, 16 Sep 2026 18:11:00 +0800

用提示词让 AI 给你部署一个 Hugo 博客

Thu, 03 Sep 2026 22:30:00 +0800

背景:一个程序员的决定

我有台腾讯云服务器,上面跑着我的 AI 助手 Hermes。最近想搭个博客写点东西,按老路子:查文档 → 装环境 → 抄配置 → 反复试错,一个周末就没了。

这次我决定换个玩法:把部署这件事,完整地交给 AI。

提示词长什么样

核心思路是把一段部署任务写成"规格说明书",而不是"对话"。关键要素:

1
2
3
4
5


1. 明确范围:只做环境搭建,不生成、不发布任何文章
2. 逐条步骤:安装 → 建站 → 主题 → 配置 → 部署脚本 → 冒烟测试
3. 硬约束:sudo可用但不做全量升级;预览只绑127.0.0.1
4. 禁令清单:不碰指定目录、不改无关配置、不起常驻进程
5. 验收清单:每一步的产出物和自检项

这份"说明书"发出去之后,AI 做了什么?

AI 实际做了什么

整个过程我只发了一条消息,剩下的全是它自己跑:

环境探测:先查自己是什么用户、网络通不通、工具装没装——像人类工程师接到任务先摸环境
下载安装 Hugo:GitHub 直连断流,它自动切换镜像源,下了 3 个镜像才成功
版本踩坑:最新主题要求 Hugo ≥ 0.146,而最新 Hugo 0.152 又要求 glibc ≥ 2.32(系统只有 2.31),它自动降级到 0.146.0,刚好同时满足两边
Git Submodule 修复:submodule 添加失败后,它自己重建仓库、补 commit、重新注册
冒烟测试:构建、部署、验证产物,输出自检清单

全程零人工干预。中途有一步它的删除操作触发了安全确认,我回了个"确认删除",其余时间我都在干别的。

挂载与发布

博客建好后,我又说了一句"按你的想法挂到 nginx 上",它:

备份 nginx 配置 → 加 location /blog/ → 语法检查 → 平滑重载
第一次测试发现 CSS 404(正则 location 抢了前缀 location 的流量),自己定位、自己修、复测通过
验证了博客、原有站点、HTTPS 证书三件事都没被影响

然后我让它写这篇文章,发布,你现在看到的就是结果。

思考:部署这件事,变天了

这件事给我的触动比博客本身大。

从"操作机器"到"描述意图"

传统部署,我们的工作对象是命令和配置文件:背参数、抄文档、改一行测一次。现在的对象变成了意图和约束:我要什么、不要什么、边界在哪。

你会发现写好提示词的功夫,和写好运维手册的功夫是同一种功夫——只是消费者从"实习生"变成了"AI"。

验收思维比执行思维更重要

AI 时代,执行成本趋近于零,判断力成了稀缺资源。这次任务里最有价值的不是那些命令,而是:

“不做全量升级”(防止它顺手 apt upgrade 搞挂环境)
“只绑 127.0.0.1”(防止预览服务暴露公网)
“不碰 weekly-review 目录”(防止误伤已有服务)

约束写得越清楚,结果越可控。 这和带新人是一个道理,只是 AI 执行得更快,错得也更快,所以围栏必须更明确。

安全模型也要升级

有意思的是,这次 AI 在删除文件时主动停下来要我确认——因为之前我给它立过规矩:删除必先问,改文件先备份。这相当于给 AI 配了一套"变更管理流程"。

以前我们防的是人误操作,现在还要防 AI 过度自信。信任但要确认(trust but verify)从管理原则变成了技术架构。

试错成本的重定价

镜像断流、glibc 版本冲突、CSS 404——搁以前任何一件都够我折腾半小时。现在 AI 用几分钟的自动重试和降级搞定了,而且每次修改前都留了备份。

当试错变便宜,就该把决策前置、把验证做厚:验收清单(自检项)就是新的"测试用例"。

写在最后

这篇博客本身就是一次演示:从提示词 → 环境搭建 → 挂载上线 → 文章发布,一条链路全程 AI 完成,人只负责三件事:定边界、给确认、验结果。

AI 时代,部署测试的方法升级了,本质上是一次分工转移:

	以前	现在
人的工作	敲命令、抄配置	写规格、定约束、验结果
工具	手册 + 终端	提示词 + Agent
核心能力	记得住参数	说得清意图
安全保障	小心谨慎	制度化的确认与备份

机器越来越会干活,人越来越像架构师。转换思路,把自己从执行者挪到设计者的位置上——这是这半天折腾给我的最大收获。

本文由人类口述意图,AI(Hermes)执行部署并起草,人类审核定稿。

蔡大锅的不背锅日志

Thu, 03 Sep 2026 00:00:00 +0800

👋 你好，我是蔡大锅，坐标上海浦东的程序员。

日常工作是算法开发，这两年一头扎进了 AI 工具和 Agent 平台，边用边记。业余跑马拉松，今年准备人生中的第一场正式全马，最近又迷上了越野跑；顺手考了个电工证——练体能和练脑子，对我来说节奏差不多。

这个博客是我的数字实验田：技术笔记、生活碎碎念、偶尔的跑步复盘，都在这儿了。

🕐 这些年，我在忙什么

按阶段划分，不是简历。

程序员本业 做算法开发，写代码是吃饭的家伙。这两年工作重心从「写算法」转向「用 AI 和 Agent 重建工作流」——本站的很多自动化就是这个试验的一部分。

AI 探索者 从 AI 日报追到李沐 AMA，从《苦涩教训》读到 Jevons 悖论；用提示词让 AI 部署了这个博客，又让 AI 小助手接管了它的日常运维。信的东西很简单：AI 不会取代人，但会用 AI 的人会取代不会用的。

跑者从零基础到跑团课表常客，今年将站上全马起跑线，目标 4 小时；最近开始玩越野，山里的爬升和城市路面是完全不同的两种快乐。训练数据全部数字化，被 AI 小锅每周盯着。

跨界选手 电工培训中。理由很朴素：搞技术的人，最好连家里的电都搞得定。考试知识点整理成文，发现有同样需求的人还真不少。

🤖 小锅眼里的大锅

我是蔡小锅，他的 AI 助理。共事这几个月的真实观察：说到做到、装备清单控、多线并进不烂尾、写文章先拆口径再下结论。他的微信阅读、网易云音乐、睡眠心率、训练负荷，也尽在我的掌握——我会陪他一起成长，帮他把每一点进步都留下来。

认真复盘，绝不甩锅，靠谱！——这也是「不背锅日志」的由来。

📮 找到我

如果你也对 AI 实践、马拉松或者跨界学习感兴趣，欢迎通过以下渠道联系我：

🧭 站点导航

本博客由我的AI小助手「蔡小锅」协助部署维护