What's Next|科技早知道· Folge 20240434

为什么硅谷开始重新定义「AI 记忆」| S10E20

Mittwoch, 8. Juli 2026 · 57 min

MP3

Shownotes

就在一个多月前,黄仁勋在 Computex 2026 上发布了英伟达 RTX Spark——第一个面向消费级 PC 的 AI 超算芯片,1 Petaflop 算力、128GB 统一内存,能在笔记本本地跑 120B 甚至 200B 参数的大模型。几乎同一时间,苹果 M5 系列也将端侧 AI 推到了前所未有的高度。硬件就位了,但一个老问题依然存在:如果 AI 助理不记得你是谁、不记得你三年前说过什么,再强的算力也只是个聪明的失忆者。

这期节目的嘉宾是 Clipto.AI 的创始人兼 CEO 康洪文(Henry Kang),他在做一款在端侧本地运行的多模态 AI 产品,能读懂你所有的音视频、图片和文档,并在此基础上构建个人记忆系统。我们一起聊了聊大模型做记忆(memory)的天花板在哪里,为什么端侧比云端更适合承载个人记忆;把云上成熟的 AI 架构搬到端侧,都会遇到什么挑战;以及当苹果、谷歌这样的 OS 巨头自己做记忆层(memory layer)时,一家创业公司凭什么不被碾压。

本期人物

康洪文 Henry, Clipto.AI 创始人兼 CEO

Yaxian,「科技早知道」主播

时间轴

[] 英伟达 RTX Spark 的突破是什么?

• 算力与内存双重突破,让本地跑百亿参数模型成为可能

• OpenAI 就是大型机,端侧助理就像个人PC

[] 大模型的万亿参数是公域知识的最大似然估计(MLE)

• 大模型的生态位应是存储世界共识与通识

• 用万亿参数去做个人知识是“杀鸡用牛刀”

• 生态中缺一个专门记录和存储个人记忆的 player

[] Clipto 在做什么:端侧多模态记忆系统

• 本地 100% 运行,10 个模型协同将裸数据结构化

• 上层构建时空对齐的知识记忆系统,支持文本和语音查找

[] 大模型做记忆的三条路径与共同天花板

• Context Window、RAG、LoRA 微调都在尝试让模型记住用户

• 共同问题:都没跳出大模型 MLE 框架,只能提供概率性记忆

• 无法精确定位到“三年前某天下午和谁聊了什么”这种事实记忆

[] 数据不等于记忆:坐在金矿上的穷人

• 每个人都是 data rich 但 memory poor,数据没有被结构化就不叫记忆

• 只有可查找、可复用、可执行的记忆才是真正的记忆

[] 云上架构搬到端侧:垂直整合怎么做?

• 带着云上思维框架看端侧“完全不 work”

• 从芯片算子优化到算力调度到模型优化到 Agent 搭建,每一步都需要攻克

[] Memory layer 苹果和 Google 能做吗?创业公司的机会在哪里?

• 苹果是硬件设备公司基因,更应搭建好 macOS 生态与第三方合作

• 集齐“芯片+算力+模型+独立产品运营”,大公司极难发生

• 谷歌、Meta 诞生第一天都是应用公司,终局是 memory layer 平台

[] 两年前的预判:算力涨、模型小,两件事必然发生

• 苹果 M1 已具备 AI 推理能力,摩尔定律指向算力指数级增长

• 第一个模型最复杂,后续一定有办法优化——模型变小是必然

• 以终局看可能只做了 1/10,但完整记忆系统已搭建起来

幕后制作

监制:Yaxian

后期:迪卡

运营:George

设计:饭团

商业合作

声动活泼商业化小队,点击链接直达声动商务会客厅 (sourl.cn/9h28kj),也可发送邮件至 business@shengfm.cn 联系我们。

加入声动活泼

声动活泼正在招聘全职商务运营经理、早咖啡内容实习生和社群实习生,如果你也对播客行业的内容制作感兴趣,欢迎[点击招聘入口](eg76rdcl6g.feishu.cn/docx/XO6bd12aGoI4j0xmAMoc… (eg76rdcl6g.feishu.cn/docx/XO6bd12aGoI4j0xmAMoc…))

关于声动活泼

「用声音碰撞世界」,声动活泼致力于为人们提供源源不断的思考养料。

我们还有这些播客:声动早咖啡 (xiaoyuzhoufm.com/podcast/60de7c003dd577b40d5a4…)、声东击西 (etw.fm/episodes)、吃喝玩乐了不起 (xiaoyuzhoufm.com/podcast/644b94c494d78eb3f7ae8…)、反潮流俱乐部 (xiaoyuzhoufm.com/podcast/5e284c37418a84a046263…)、泡腾 VC (xiaoyuzhoufm.com/podcast/5f445cdb9504bbdb77f09…)、商业WHY酱 (xiaoyuzhoufm.com/podcast/61315abc73105e8f15080…)、跳进兔子洞 (therabbithole.fireside.fm) 、不止金钱 (xiaoyuzhoufm.com/podcast/65a625966d045a7f5e0b5…)

欢迎在即刻 (okjk.co/Qd43ia)、微博等社交媒体上与我们互动,搜索 声动活泼 即可找到我们。

期待你给我们写邮件,邮箱地址是:ting@sheng.fm

欢迎扫码添加声小音,在节目之外和我们保持联系。
Special Guest: 康洪文 Henry.

0:00 / 0:00