人人同一套模型,差在智能平面|AI Engineer × Richmond Alake
- 原始标题
- Everyone Has the Same AI Models. Here's What Sets Agents Apart - Richmond Alake, Oracle
- 节目 / 来源
- AI Engineer
- 嘉宾
- Richmond Alake
- 原始发布日期
- 2026-11-01
- 时长
- 约 26 分钟
- 内容类型
- 会议演讲 / 智能体智能平面与记忆工程
- 原始内容
- 前往原始来源 ↗
房间里的人用的是同一批模型,多半也能碰到同一批信息。Richmond Alake 认为这还不等于情报,也不等于你有别人没有的差别。他在这场 AI Engineer 演讲里讲智能体记忆,并多次说到自己在 Oracle 做的那层基础设施。他把差别叫做 intelligence plane,智能平面。控制平面管身份、权限、护栏和审计。智能平面要回答智能体该知道什么、该记住什么、怎样随时间变好。
原始来源:Everyone Has the Same AI Models. Here's What Sets Agents Apart - Richmond Alake, Oracle。中文深度整理,非逐字翻译。本文依据 YouTube 自动生成的英文字幕,专有名词和数字可能有识别误差。演示里的准确率、token 量和罚款金额都是口播,现场没有跑起来,下文不当作官方评测。片尾展位和二维码不纳入。
举手越来越少,直到智能平面
他让观众对关键词举手,并预告手会越来越少。
智能体记忆:机制怎样 retain、reuse、recall、refine。他称为四个 R,保留、复用、召回、精炼。分类上,短期和长期是容易的一层。再往上是语义、情景、程序和工作记忆。大约一年前在 AI Engineer 旧金山,他讲记忆,房间里没人知道他在说什么。大约三年前,他说要给智能体里的记忆建结构、建模型,别人觉得离谱。这次举手的人多了。他希望大家已经在自己的智能体里做。这场要往前走。
控制平面举手少一些。他的定义是一套集中管理系统:智能体怎样被治理,能用哪些工具,能做什么、不能做什么。组件他点了身份、策略和护栏、把编排落到权限,以及审计。需要这类系统。演讲要再往前一步。
软件工厂举手更少。词不是智能体时代新造的。他在通用电气实习过。他说 Bob Bemer 1968 年在 GE 的一篇论文里用这个词,讲怎样以可度量、可重复的方式做程序。字幕没有给出论文题目。他要听众想象的是:给一套流程和系统化的工作流,通常由多个智能体并行执行,稳定地产出软件。不同公司把自己放在这个位置上。
智能平面几乎没有举手。他说举了三只手,这场算失败。他重复去年讲记忆时的许诺:今天说的会让你比大多数人超前六个月。话出口他就说别引用。下文不把六个月当成预测,只记下他把智能平面放在和去年的记忆同一个位置。明年再讲,他希望全场都会举手。
有控制,不等于破得出那两个字母
下一个关键词是 AF is Midway。没人举手,他讲二战。
口播把珍珠港遇袭和破译 AF 压在同一段里。史实上,日本海军袭击珍珠港是 1941 年 12 月;AF 指中途岛,是 1942 年珍珠港情报单位和华盛顿方面的分歧,不是袭击当天的现场。下文只用他要的对照,不把压缩后的时间线当成战史。
他说有三组人在截听,这场只讲两组:一组在华盛顿,一组在珍珠港。两边拿到的都是日本海军通信里的碎片,要破译。代号 AF 关系到太平洋战争的走向。珍珠港那组人在地下室,用纸把截获的报文存了几个月,解出 AF 就是 Midway。中途岛是亚洲和北美之间的一座小岛,关系太平洋的控制。他点名被采纳的是 Station Hypo 的破译人员。华盛顿更集中,信息相同,资源大概更多,有控制和组织,得出的解释却完全不同。华盛顿那边具体解成了什么,字幕没说。
地下室那组做的事,他称为记忆:用纸记下几个月。同一份信息,有控制的一方和记下了记忆的一方,结论不同。他收成一句:信息不等于智能。房间里的人有同样的模型、大概同样的信息渠道,这还不构成差别。
模型加 harness 之后,还要乘上知道和记得
时间线他画成四步。先是提示模型,用一层把提示看全。然后是能看见上下文的工具。现在多数人在控制平面这一阶段:找或做用来编排智能体的软件。字幕把 era 听成 error,按阶段理解。下一步应是智能平面。
智能平面是智能体系统或 AI 基础设施里、让智能体随时间变好的那一块。它包住四件事:该知道的,即知识;该记住的,即记忆;允许看见的,即治理和数据权限;怎样变好,即持续学习。定义段里,「允许看见什么」被放进智能平面。后面的公式又把治理和安全放在控制一侧。两处他都说了。下文不收成一套他没说死的分类。
公式是三行。智能体等于模型加 harness。Harness 是包住模型、让它能调用工具并维持运行的那一层。控制等于治理加安全。再加上智能,也就是知识、记忆和学习,才对今天造智能体的方式产生乘数。
参考架构他收成高层组件,并说今天这些会是不同的供应商。智能体跑在 agent runtime 上。运行时需要记忆和知识,上面大概有一个 memory manager,坐在数据平台上。运行时把记忆的痕迹放进 memory manager,再进持续学习回路,改过的模型回到运行时。三层平面是数据平面、控制平面、智能平面。缺的是第三层。
他把这说成旧想法的挪动。做网络的人会眼熟:有人提议在管理和配置平台之上加一个知识平面,用来看见不同线路的路由。管理和配置就是控制平面,旁边还有管理平面,然后才是被人提议的知识平面。他希望智能体系统里对应的那一层叫智能平面。字幕没有给出那篇网络论文的名字,下文不补。
把智能加回控制平面已有的部件时,他顺着栈讲。网关和连接要想到端到端的用户身份,并连到数据。编排要想到上下文组装,以及记忆和上下文构造。字幕有一处把上下文听成 contest,按上下文理解。再往下是记忆核心。他跳到这里,因为数据库是他的本行。不止数据库,还有本体、语义层和记忆。基础设施和平台才谈推理、微调和持续学习,也就是控制平面给你的部署之外的部分。
为什么是现在。前沿模型已经在。缩放定律让人能预测从这些模型得到什么。开放一侧他口播成落后大约六个月或三个月,字幕听成 open ways,不另指一份榜单。最近改变他看法的是决策模型。他开始在架构上问:这里哪一块可以换成一个决策模型。几年前的检索管线是旧画法。今天模型可以铺进整条检索。
口述的对照:本体和语义层
演示没有当场跑。会场网络不好。他说代码会给出去。界面是一个简单对话。一边是 governed analyst,一边是 naive analyst。受治理的那个建在智能平面上,有本体层、语义层,以及参考架构里见过的那些东西。
他用 tokenomics 概括差别:成本、准确、延迟。两个智能体答同样的问题。有智能平面的那个更聪明。口播是 99% 的时候做对,用大约 3.2 万 token;天真的那个用大约 20 万 token。还有护栏、缓存和提示缓存。这些数字是幻灯片口播,没有现场运行,也没有评测方法。下文只把它们当成他用来说明量级的口述。
本体和语义层他各举一问。问交易对手是什么。关键词搜索能找出一些实体。没有本体也能答。有了本体,答案才变对。问集中度是什么意思。没有语义层的天真智能体答错。建在智能平面上的那个答对。口播接着说误差幅度只有 5%。这和前面的 99% 是不是同一句话的两面,字幕没有说死。他说在金融或任何关键任务里,这点误差就会变得关键。
后文他又回到本体和语义层:有和没有,准确率的提升可以很小。关键任务里,小的差别可能意味着处理欺诈交易时会不会面对一笔 1 亿美元的罚款。1 亿同样是口播,不是一份罚单。
他要团队现在做的事很具体。把记忆当数据。写下实体和定义。把权限推进数据层。抓住痕迹。记忆是护城河,得自己拥有。
身份跟着用户走,路由交给决策模型
和论题有关的基础设施,他点了几块。
智能体记忆被他们做成一个 Python 包:把记忆工程装进盒子,生成 context card,调用方不必自己做那层复杂性。必须开始抓的是记忆痕迹,因为痕迹会变成微调的数据。他说演示里覆盖过的,是这套智能体记忆和 Oracle AI 数据库。
深度数据安全:把安全做成数据库里的一等公民。他用的产品说法是 deep data security。应用的上下文、用户的数据权限和行级权限,推进数据层。智能体继承它所代表的那个用户的身份,只能访问这个用户被允许访问的数据。路径是:分析师,身份提供者,身份提供者给出分析师应有的数据权限,再传播到智能体,从而限制这个智能体的数据范围。
私有推理针对想把推理留在本地的金融公司。一只私有 AI 服务容器里,放自有的嵌入、大模型推理和重排序。要上云,则是 Oracle Cloud 上托管的一部分模型。口播点了 Grok 和一些 OpenAI 模型。隔离环境和云上,组件都在。这是「自己拥有智能平面」的部署说法。
第二段演示是他做的开源工具,名叫 Memories,用来展示怎样进入智能平面。记忆系统里他通常放三种模型:决策模型、嵌入模型、重排序模型。自己拥有记忆之后,才微调得了这些开源模型。
记忆路由:从上下文层或大模型得到一段输出,把它送到对的存储。可以进对话记忆,也可以进工作流记忆。平常用代码做。决策模型让这件事变得便宜。幻灯片上有微调过的路由模型。口播说微调的是 equine,再收成一个决策模型。equine 不改成另一个模型名。训练数据来自他和智能体的对话,并由他标过这是哪一类记忆。进来一条信息,要便宜地送到正确的记忆类型,就用决策模型。
记忆路由、嵌入和重排序,是他称今天就能动手的最低的果子。前提是你理解自己的智能平面,在抓记忆痕迹,格式整理好,并且在重新训练。好处是质量上去,有些情形延迟也下来。
痕迹抓成工程,持续学习才有入口
持续学习在演示里出现过。他说演示里看到的就是持续学习,没有逐步指出哪一页对应哪一种空间。他分了几种看法:token 空间、权重空间,以及潜空间。潜空间那句字幕听成 funds caching,不收成某一种缓存产品。
收束只留一句他重复的话。做这些系统的工程师要自己拥有记忆,把抓取痕迹做成工程,并建成能让持续学习发生的系统。模型人人都有。控制平面回答能不能做、谁可以做。智能平面回答做完之后系统是否还记得、下次是否更准。珍珠港那个比喻的用法就在这里:华盛顿有控制,地下室有记了几个月的纸。被选中的解释来自后者。