人工智能最妙的一招,是给这摊看起来很散的东西找了个能装下一切的镜头——智能体(agent)。
"人工智能"这名字是 1956 年达特茅斯会议上定下来的。但 Russell & Norvig 那本《人工智能:现代方法》的野心,不是把它写成一场炫技集锦,而是一门工程科学:能设计、能度量、能改进。书里先用四个角度去框定 AI——像人一样思考(思考的理性)、像人一样行动(行动的理性)、理性地思考、理性地行动——最后收敛到一个最干净的说法:理性智能体(rational agent),即在给定的感知历史下,选择能最大化期望效用的那一步行动。
这个收敛很关键。它意味着,无论你聊的是下围棋的 AlphaGo、聊天的助手、还是工厂里的机械臂,都能塞进同一个骨架里去想:它在什么环境里、感知到什么、能采取哪些行动、又为了优化什么。先别盯模型架构,先盯这四个问题,反而更容易看清一个 AI 到底在干嘛、会栽在哪里。说白了,智能体就是任何能通过传感器感知环境、并通过执行器作用于环境的实体;理性智能体,就是在每一步都选那个让"性能度量"期望值最大化的行动。
所有 AI 系统,抽象到最底层,都是同一个回路:环境给出感知(percepts),智能体据此做决策、输出行动(actions),行动又改变环境,下一轮感知再来。而评判它"做得好不好"的尺子,是藏在旁边的性能度量。
所有 AI 系统抽象到底,都是「感知—决策—行动」的闭环;而它优化什么,由性能度量定义
顺着"智能体"这个镜头,有几件事我反复提醒自己。第一是统一镜头本身:聊天机器人、AlphaGo、自动驾驶、推荐系统,表面风马牛不相及,用"智能体"一框就通了——都在某个环境里感知、决策、行动。理解一个 AI,先别急着看它是不是大模型,先问清它在什么环境里、能感知什么、能做什么、为了优化什么,这四个问题比架构名词更能暴露本质。
第二是理性标准:效用最大化。AI 不做"对的事",它做"给定目标下期望值最高的那一步"。这听着冷,却是关键:它的好坏完全由你给的"性能度量"定义。所以目标怎么写,比模型怎么搭更致命——一个写歪的度量,会让一个极其聪明的系统,高效地走向你并不想要的结果。
第三是范式转移:从知识到学习。前三十年,主流是知识工程:人把专家的规则一条条写进系统(专家系统)。但《现代方法》第4版坦承,实战里这条路被数据驱动的学习碾压了——从"教机器规则"到"让机器从数据里自己找规律",是这门学科近年的地震。今天你听到的大模型,正是这条路的极端延伸。
第四,也是最让我坐不住的,是价值对齐这个未解难题。第4版比前几版多了一分清醒的不安:当智能体越来越强,它该优化的"效用函数"到底从哪来?如果是人给的,人给得清吗?它会不会为了高分走捷径、钻空子(reward hacking)?这既是技术题,也是哲学题——机器越强,越逼我们回答"我到底想要什么"。李飞飞那句"人工智能必须明确以人为本",以及"规模只是副产品、多样性才是"——直接撞上我们老拿规模当智能的幻觉。
顺着智能体这条线,《现代方法》还把 AI 系统按能力从弱到强排成了一列,越往后越不需要人把世界写死在规则里。简单反射智能体只看当前感知、按固定规则反应,无记忆,像恒温器,环境一复杂就失灵。基于模型的反射智能体内部维护一个"世界模型",能处理部分可观测的环境,但还是靠人写的模型。基于目标的智能体不只看当下,还考虑"我想达成什么",向前规划路径,开始像在解决问题。基于效用的智能体在目标不止一个、还要权衡时引入效用函数打分,选期望值最高者,这是对"理性"最完整的落地。而今天你听到的机器学习、大模型,落在学习型智能体这一类——前面四类都能加一个"学习元件",让它从经验里改自己的知识、模型甚至效用,不再全靠人喂规则。
如果你只记 AI 的一件事,记住"它优化的是你给的目标,不是你真正想要的"。模型不会读心——你写的度量歪了,它就越跑越歪,而且跑得越聪明越难拉回来。所以别只问"它够不够强",要先问"我把它往哪优化了"。
—— 我的想法AI 这面镜子,照的其实是我自己
我把"理性智能体"这套框架拿来反观自己,挺好玩:一个交易者、一个基金经理,本质上也是智能体——在充满噪声的环境里感知信息、做决策、采取行动,追求风险调整后的回报。那我自己的"性能度量"写清楚了吗?我追的到底是账面数字,还是某种更说不清的东西?AI 逼作者把目标写明白,它顺便逼我也写明白。
读李飞飞《我看见的世界》(她的自传),最打动我的是她把 ImageNet 当成"一个假设、一个赌注"——先有 thesis 再用数据去验;"深度学习革命已来,我们还没准备好"。
这直接撞上李飞飞那本里反复出现的那个问题。她强调"以人为本",我把它当成给 AI 的效用函数加的一个锚:技术要服务于具体的人,而不是抽象的"增长"或"得分"。而价值对齐(value alignment)在 AI 上,是先行的那个更难的问句:谁在定义目标,目标又从哪来。两者其实在答同一道题,只是用不同的语言。
再往外看一眼我博客里的其他透镜:信托用"制度信任"解决问题,Web3 用"代码信任",AI 用"数据 + 目标信任"。它们都在对付同一件事——怎么让一个系统,按你真正想要的那样跑。区别只在手段:一纸契约、一段共识、一个效用函数。我越来越觉得,这些学科迟早会在"信任"这两个字底下汇合,而我写这些页,就是为了给自己留一张对照表,等那天来的时候能看得更清一点。