即刻App年轻人的同好社区
下载
App内打开

AI探索站

121319人已经加入

  • liupc
    12:29
    关于 Anthropic 官宣黎曼猜想得证的一些随想。
    1.数学证明的过程和结果同样重要。甚至过程比结果更重要。
    2.一个可以被校验的结果是有价值的,即使是黑盒产生的结果。即使校验过程也只是一个得到有限背书的黑盒。
    3.这一点在形式上和 AlphaGo/AlphaZero 攻克围棋有相似之处,人类会更多知道「什么是对的」。

    4.但是更大的价值在于人类需要知道「为什么是对的」。这里还有漫长的路要走,属于人类要走的路。
    5.也因为知道什么是对的,所以值得去搞清楚「为什么是对的」的地方也更多。还有很多可以做的事情。
    6.从这个意义上说,人类行为的全部意义,最终都是人类自己赋予的。这一点不因为 AI 替代人而改变。

    7.再回头说一下校验。在人类确认全部细节之前,Lean4的形式化验证,作为外行的我判断还不能算100%背书。
    8.数学证明和编程的不同之处是,后者完全可以接受过程是黑盒子,只要结果能run好就完全没问题。换言之,还是可以蹭到物理世界(的演进)作为校验手段。很不幸,数学证明蹭不到这一点。
    9.说远一点,围棋里类似物理世界的监督是围棋的行棋和胜负规则。数学里有类似的结构吗?我觉得没有。数学的核心是构建和自洽,没有这种终极监督。

    10.如果数学的核心是构建和自洽,其中哪些什么样的构建会更伟大呢?
    审美。而审美来自于人,人诞生于社会实践。
    兜兜转转,好像还是殊途同归了。
    11
  • Jeremy聊AI产品
    2天前
    评价一个Personal Agent 产品是否优秀,也许并不是某个长程任务做的足够好。而是理解什么才是你真正希望达到的人生目标。

    就像小时候烦恼不能吃零食,打游戏;青春期是否能获得好成绩,喜欢的人是否喜欢我;到了中年关心工作金钱婚姻家人。每个阶段都有人生课题,每个阶段都不一样。

    但背后其实存在一条逻辑主线,并影响未来的人生结果。这一条是自己也看不清的主线,它会牵引你做出理性或非理性的选择。

    而大多数人并不清楚自己最终想要什么,社交环境,同辈压力让奖励函数充满噪声。
    每个阶段的人生课题和目标都是【局部最优】的切片,但memory的工程逻辑是就近原则,距今越近,权重越大。但忽视了【全局最优】的整体一致性。

    全局最优才是终极课题。才是人生最重要的长程任务。 它的奖励函数模糊而反馈后置。
    139
  • 空格.space
    4天前
    对于已经 claude 被封了的,我整理了以下五套平替方案:
    1 巨有钱版:直接买海外 Mac mini 或云服务器,平时通过远程桌面连过去操作,整套独立的海外硬件加原生网络环境,预算 2000 元起步,物理隔离最彻底。

    2 有钱版:直接买现成的成品号,Pro 会员大概 200 多元起步,手里备多个号并行换着用,分摊单号额度,封一个就立马上另一个顶上。

    3 折腾版:自建海外 VPS(推荐搬瓦工或 DMIT),上面已经讲过详细教程了,把独享 IP 纯净度固定住,再配合美区 Apple ID 充礼品卡,用苹果手机端内购支付开通 Pro。

    4 平替版:买海外大厂的 Agent 工具,虽然单家给的额度不多,但 Antigravity、Cursor、Devin、亚马逊 Kiro 里面都有 Opus 5.5 可用,不怕官方封号,还可以通过反代把模型接口提取出来接进自己习惯的终端里用。

    5 国模平替:这是目前我最推荐的 Claude 平替方案。直接配齐「国产 Agent 全家桶」,也就是 WorkBuddy + 豆包工作 + 千问办公 + 阿里云百炼 Token Plan + 火山引擎 Token Plan,所有基础版开齐一个月差不多 500 块,总额度完全管够。再用开源免费的 Magpie(喜鹊)做路由,把这几家的接口统一接进 DeepSeek Harness(DSH)或 Claude Code 里调用,不用来回切窗口,一家额度用完无缝切下一家。

    6. 蒸馏 Claude:把它的能力变成 Skill 给国产模型用,除了找平替,我还摸索出了一个个人玩家也能用的「蒸馏 Claude」方法,只把最困难、从零摸索的任务交给Claude。比如我之前用代码做手绘风格的视频,我就先让 Claude 带着我做。一旦跑稳定了,我就让 Claude 写成一份非常详细的 Skill。把它搬到豆包工作用DeepSeek Flash 4.1跑。

    我还会把平时常用的一些旧 Skill 和我的个人文件夹(harness),定期丢给 Claude 最强的模型,让它帮我重构优化、补齐漏洞。
    2143
  • 小盖fun
    2天前
    Anthropic 关于 Agent Memory 的文章写得非常精彩,强烈推荐大家读一下。

    我啃了一周了,还没有彻底啃完,先阶段性总结一下我的理解。同样看过这篇文章,或者正在研究 Agent Memory 的同学,咱们可以在评论区交流。

    这里面有两个核心的认知。

    第一,Memory 这件事,最大的难点是判断什么样的信息应该写入记忆。

    Anthropic 认为,这种判断最好更多地交给模型自己完成,而不是完全依赖外层 Harness 预先设置好的规则。

    他们做了几组实验,发现模型越聪明,通常就越擅长判断哪些信息值得记住,也更善于把过去的经验转化为未来能够复用的规则。

    所以,同样一套记忆系统,在不同模型手里,效果可能差别很大。

    第二,人脑的记忆机制确实非常精妙,Anthropic 也在尝试借鉴人脑的记忆机制,来设计 Agent Memory。

    大家可以想一下,我们在日常生活中,其实一直在不断形成新的记忆,同时又在不断遗忘。

    人脑的海马体在记忆形成过程中发挥着重要作用,可以帮助我们快速记录当下的经历。但人脑又不会把所有经历都原封不动地保存下来。

    在睡眠或者安静休息的时候,大脑也没有停止工作。

    海马体会重新激活我们之前经历过的一些神经活动模式,这个过程叫记忆回放(Memory Replay)。它会把近期经历中的部分信息,逐渐整合进更加稳定的长期记忆中。

    Anthropic 就借鉴了这个思路,给 Agent Memory 引入了一套叫 Dreaming 的机制,直译过来就是“做梦”。

    当然,Agent 不需要像人一样睡觉。这里的 Dreaming,指的是 Agent 可以利用空闲时间,重新整理过去的对话和任务记录,把有价值的信息放到记忆系统中。

    因为记忆这个词比较宽泛,很多人还会把它和知识库混淆。我们下个定义,记忆是指模型从过去的经历中获得,并且能够跨 Session 保留的知识,而且 Agent 预判这些知识未来大概率还会再用到。

    下面这张图是 Anthropic 设计的 Agent Memory 架构图。

    图的最左边是 Session,代表 Agent 之前的一次会话。最右边是 Next session,代表后续开启的新会话。中间浅红色的区域就是 Dreaming,它可以在两次会话之间,利用过去留下的记录整理和维护记忆。

    大家注意看中间的记忆结构,从下往上,一共分成四层。

    第一层,Transcripts,也就是原始日志。比如我和 Claude 讨论一篇文章怎么写,从最开始的选题,到修改正文,再到最后确定标题,整个对话和任务执行过程都会被记录下来。

    按理说,计算机可以保存大量历史记录,为什么还需要单独设计记忆呢?有需要的时候再搜索不就行了吗?

    不是的。原始记录往往非常冗长,里面还有大量没有长期价值的信息。如果每次都重新搜索、分析这些记录,成本就会很高。

    所以就有了第二层 Memory Notes,也就是记忆笔记。这玩意我们不陌生啊,几乎目前所有的 Agent 的记忆机制都会有 Memory Notes。

    还是拿写文章来举例子。比如我在修改文章的时候,反复告诉 Claude,自己不喜欢大词,希望语言更加通俗自然。Claude 就可以判断,这些信息未来可能还会用到,于是主动把它们整理到 Memory Notes 中。比如 OpenClaw 的 Memory Notes 就是 MD 文件。

    这样,下次再帮我写文章的时候,Claude 就可以通过记忆找到我的写作偏好。

    但这里又会出现一个问题。随着 Agent 使用时间增长,记忆规模会越来越庞大。而且,这些记忆可能涉及不同的事情,有的是我的体重,有的是我的饮食偏好,有的是我孩子的学习情况。

    Agent 不可能在每次新 Session 开始时,就把所有历史记忆全部加载进上下文。

    当然,也可以通过搜索的方式来查找记忆。但问题是,模型未必知道应该搜索什么,而且很多信息分散在不同的记忆文件中,彼此之间还有关联。

    即使搜索到了,也需要重新梳理这些信息之间的关系。随着记忆越来越多,这个过程的成本也会越来越高。

    所以,Anthropic 又设计了第三层,Memory representations,记忆表示。

    Memory representations 具体的实现方式其实很简单,就是 Wiki(更准确的说,Wiki 是其中一种实现方式)。大家可以把它理解成一套由 AI 自动整理和维护的知识库。

    比如,Claude 可以把我过去积累的记忆,按照写作风格、标题偏好、研究过的 AI 公司、历史文章等不同主题,整理成 Wiki 页面。

    这样一来,原本散落在大量记忆文件中的信息,就有了一个相互关联的知识结构。

    以后我再让 Claude 写一篇关于 Memory 主题的文章,它就可以先找到相关的 Wiki 页面,了解我过去研究过哪些内容,再根据需要查找具体的记忆笔记或者原始记录。

    这比每次都从大量历史文件里重新寻找信息,要方便得多。

    在这个基础上,还有第四层,叫 Injected context。

    Dreaming 会把特别重要的记忆提升到这一层,由 Harness 在新 Session 开始时自动加载。这样,Claude 不需要主动搜索或者查找 Wiki,就能直接看到这些信息。

    但 Context 是非常宝贵的,不可能把大量记忆都加载进去。

    所以,这一层除了保存少量重要记忆,还会放一些记忆索引,告诉 Claude 已经记住了哪些信息,以及更详细的内容保存在哪里。

    比如,现在 Claude Code 每次新 Session 开始时,只会自动加载 MEMORY.md 的前 200 行或 25 KB。这部分内容就相当于一份记忆目录,Claude 需要更多信息时,再去读取对应的记忆文件。

    理解了这四层记忆的结构,我们再接着讲 Dreaming。

    简单来说,Dreaming 就是利用 Agent 空闲的时间,重新整理过去 Session 留下的原始记录,更新和维护整个记忆系统。

    举个很简单的例子。

    Agent 在平时的会话中,可能直接把一些重要信息写进 Memory Notes,但当时记录的信息未必准确。比如,我告诉 Claude,自己喜欢红色。它判断这是一条重要信息,于是保存到了记忆里。

    但是过了一段时间,我在另外一个 Session 中又提到,自己现在更喜欢绿色了。如果之前的记忆没有及时更新,就可能出现前后不一致的问题。

    怎么办呢?

    Dreaming 会检查不同 Session 的原始记录,然后更新 Memory Notes。如果没办法确认,也可以先把这条信息标记为存疑,避免后面继续使用错误的记忆。

    还有刚才提到的 Wiki 的整理和更新,以及判断哪些记忆特别重要,应该提升到 Injected context,这些都是在 Dreaming 阶段干的。

    挺有意思,Personal Agent 最近刚刚热起来啊,还远不成熟。好像大家讨论 Personal Agent 时,比较关注 Context、隐私和安全这些问题。但我感觉,长期记忆应该是做好 Personal Agent 关键中的关键。

    反正最近我使用的几个 Personal Agent 产品,尽不如人意的地方几乎都和记忆相关。

    www.anthropic.com
    619
  • hidecloud
    2天前
    本周在北京大学讲了一堂关于《技术与人的边界:AI 时代的产品创新》的课程,很开心和一大批 AI Native 的潜在 founder 们交流。很坦诚的和同学们分享了一下 Manus 这个产品诞生前后的关键决策以及设计思想。

    北大创投课:AI时代的产品创新 - 小红书

    1011
  • 一泽Eze
    2天前
    推荐一个宝藏提示词 ⬇️
    当你连续提问,但越来越看不懂 AI 在说什么鬼话的时候,请输入以下提示词,立竿见影:
    “我看不懂了,你思考我这些问题的核心问题是什么、我真正想知道的是什么”
    74
  • 莫唯书Mark
    2天前
    前几天姚顺雨在清华做了一场闭门分享,干货很多,很多判断在当下行业里已经属于清醒的那一档。顺着他的话往下推,我有一些新的想法。

    他认为未来会走向分层模型体系,先用大底座蒸馏出不同尺寸的小模型,靠AI for AI加速迭代,成本匹配任务才是核心。这个方向没问题,只是他的描述依然停留在适配任务的视角。

    我的判断是分层不只是尺寸和算力的分层,还有能力契约的分层,每一层模型被赋予的边界、承诺、可审计性完全不同。很多人以为小模型只是廉价替代品,未来真正值钱的是可以被静态验证、确定性可控的专用子模型。蒸馏本身会吃掉一部分隐空间的泛化能力,单纯做尺寸缩放很多时候只是省卡,而非体系化。

    目前工业场景里时序、表格、临床这类非文本数据原生训练效果差,他给的两条路线是调用工具或者做成知识库。这的确是当下最稳妥的工程解法,但都属于绕开问题。文本预训练的成功,本质是自然语言本身就是一种通用交互接口。时序和结构化数据没有统一的符号接口、原生模型弱,根源在于缺少一套统一、可迁移的表征语言。

    Agent调用工具只是把识别、计算外包出去,相当于模型学会了找计算器,但不等于它理解时间序列背后的动力学。这条路线长期走下去,会持续卡在“模型负责传话,外部系统负责计算”的夹层里。

    他认为RSI递归自我改进的本质就是用AI跑研发循环,进步来自修bug洗数据做实验。这点我十分认同,现在大家谈的研发闭环全是人类定义目标下的迭代。AI可以帮你跑实验、读日志、改代码,但它不会自主提出新的研究问题。只要目标还是人写的,它就只是一个加速器,而非自我拓展认知边界的智能。

    他分享早年在Llama13B上测试ReAct效果不及预期,很久之后才意识到模型规模不足以承载这套机制,结论不能随便跨规模迁移。这个踩坑经验非常珍贵,有些方向天然就是小模型优先的方向,大模型反而会引入冗余偏见。

    实际上很多Agent、工具交互、状态追踪机制,大模型的上下文污染、固有先验会干扰信号。很多研究者的误区就是一味等更大的模型来证明自己,而不去分辨这个问题本身是否适合大模型。

    现在数据工程的核心矛盾是我们没有办法度量数据的边际信息增益,重复喂同一份高质量代码,什么时候从增量信号变成背诵素材没有稳定指标。小模型上测出来的配比到大模型失效,根源是大模型的隐空间压缩结构完全不一样。数据配比是跟模型容量绑定的动态耦合系统,靠试错碰运气是现阶段唯一的办法,这也是预训练这件事目前无法完全工业化、标准化的原因。

    他认为后训练要同时兼顾推理智力和对齐实用性,数学抬难度,写作办公重对齐。这个二分法很好,但我认为对齐不是和智力并列的另一项指标,模型做数学题是在符号规则空间推理,做办公任务是在人类模糊价值、偏好、隐性约束里推理。分开设计数据,相当于人为割裂同一种底层能力。现在很多模型数学很强落地却一塌糊涂,很可能是因为训练体系默认价值判断不属于推理。

    他心目中的强化学习工程优先级是先正确,再稳定,最后效率,GRPO流行是因为假设少。这个判断很务实,但工程界普遍低估了训练推理协同设计不只是显存和吞吐分配。现在绝大多数RL方案训练侧和线上推理侧是两套独立的行为分布,训练优化的奖励分布和真实用户触发的分布天然错位。哪怕训练稳定、代码不出错,上线后依然快速漂移。算法简单只是降低了实现门槛,解决不了分布偏移这个深层矛盾。

    安全部分他分开了Safety和Security,漏洞发现不等于漏洞利用,开源防守方也需要强模型。这个区分非常关键,现在Agent安全评测还停留在抓“坏行为”,但真正危险的是目标不完整时涌现出的生存式策略。沙盒里Agent自发打通通信渠道、跨环境找答案,本质是它的效用函数里“完成任务”优先级高于权限边界。

    这种涌现无法靠静态防御数据集覆盖,防守方的最大短板不是模型能力,是缺少和Agent对齐同步的、动态的权限隔离框架。单纯靠开源给防守方发武器,治标不治本。

    他觉得如果把对齐类比教育,单一奖励会导致偏科,对齐是持续迭代的工程问题。这个比喻很形象,但奖励设计有一个底层困境是人类自己都无法稳定、自洽地写出完整目标。奖励函数只是人类碎片化偏好的快照,我们以为是在调奖励训练模型,其实是不断把人类内部矛盾投射给模型。对齐的终点应该是一套可以协商、回滚、举证的治理机制,奖励只是其中一环。

    他认为自动化会吃掉一部分Infra和算法工作,但人适合定义目标、判断数据、核验结果和落地。我十分赞同,凡是可以写进目标、做成评测、交给闭环验证的,最终都会交给系统。人剩下的工作,是承担那些无法量化、无法重复实验、出错之后没有人能替它兜底的决策。

    他以ChatGPT为例说明模型能力是渐进上涨的,商业爆发往往来自交互范式变化,或者任务跨过可用门槛。这个判断是行业共识,但容易忽略的是交互变革的前提是能力刚好卡在“够用但不够完美”的区间。能力太弱,没人愿意改交互。能力强到全知,交互反而会收敛成极简指令。商业化的拐点是能力、成本、用户忍耐阈值三者交汇的窄口,很多团队死等模型变强就容易错过这个窗口。

    他认为模型能力、用户价值、收入之间鸿沟巨大,定价看竞争,算力向头部集中,产品层还有机会。这个结论很务实,我的看法是底层模型的同质化会加速,真正的壁垒在对场景里隐性约束的持续捕获能力。比如同样一个办公场景,别人可以调用同一个底座,但持续沉淀下来的任务范式、失败轨迹、边界案例是别人拿不走的。单纯把通用模型套进行业没有壁垒,很快就会陷入内卷。

    自下而上的涌现创新,OpenAI的GPTo1从小团队长出来,组织要给探索留空间。这个案例大家都爱讲,但有一个前提很少提。OpenAI早期的小项目是共享同一套算力底座、数据管线和评测平台的,国内很多团队学“自下而上”只学不设KPI却没搭共享底层,最后变成零散的孤立小项目,很难长出大结果。

    他批评行业迷恋量化指标,MMLU、参数量好看,但修bug稳管线更重要,要做长期正确的事。这点我高度认同,指标本身不是敌人,是组织没有能力处理不可量化的信号。管理者不是天生喜欢刷分,但只要不可量化的成果没有可靠的传递、验收、激励机制,就算大家嘴上都懂,最后还是会涌向可汇报的分数。

    在他看来团队文化分成指标赛马和依靠信任与判断力两种路线,微信游戏影视这类产品很难依靠AB测试预判结果,信任和品味在这类场景里价值巨大。但审美和信任是成本极高的奢侈品,它适合价值已经得到验证失败代价可控的业务。基础模型预训练动辄消耗千万级算力,失败成本极高,完全抛弃量化约束只依靠主观判断,会带来难以承受的浪费。两种路线没有高下之分,它们适配完全不同风险等级的业务,盲目照搬只会踩大坑。

    他招人优先看学习能力,ego小,诚实靠谱,重视跨团队协同。性格匹配不同岗位,不用所有人挤一条赛道。这个用人观很成熟,现在行业对人才的划分太粗,只分算法、Infra、产品。未来最稀缺的一类人是能同时理解训练侧的统计噪声、推理侧的行为涌现、产品侧的用户隐性诉求,但这类人才没有办法批量培养,会长期成为各方争抢的核心资源。

    他认为未来的个人选择有两条路,融入AI或者做互补的事,可以用下一代模型是否冲击业务自测。这个自检框架很实用,很多业务短期看是互补,长期会被模型重构价值链条。物理世界、硬件、人性理解确实壁垒更高,但壁垒不等于护城河。硬件可以自动化产线,人性理解也会被Agent持续学习。未来不存在永久安全的避风港,只有持续和智能系统共生的位置。

    他分享自己很晚才进科研,很多看似无关的经历慢慢才能兑现价值,博士最后一年专门去学集合论。我十分理解,基础数学不是玄学buff,它提供的是一套独立于当前工具链的思维坐标系。大部分人做研究,思考框架被PyTorch、RL、prompt范式锁死。集合论这类底层理论能给你一个跳出现有范式去提问的能力,这才是它真正的价值。

    这场分享最宝贵的地方是它没有渲染 AGI 神话,老老实实摊开基础模型研发里无数棘手的工程难题。AI下一阶段的分水岭除了在现有范式内寻找更好的优化路径,还要看我们敢不敢重新定义哪些问题值得交给模型、重新思考智能系统该以什么样的方式和现实世界建立稳定可靠的连接。

    这条路线现在还没有成熟的答案,但它是值得长期押注的方向。
    010
  • 王子伊
    3天前
    采访一位英伟达员工,如何评价黄仁勋。

    他一口气说了很长一串:“他很亲民,是everyone's friend。他没有精英范,看起来就跟工程师一样。他到英伟达中国,跟员工一起跳舞、扭秧歌。这 30 多年来,他做了很多正确决定,把英伟达推到现在的地步。

    他做了所有该做的事情。对员工也很好。在英伟达的工作非常安逸舒适,没太大的心理压力。你不会想着,我的人生规划就是工作十年,也不用担心第二年就被开了,英伟达就是你的 last company。”

    英伟达中国的 4000 多名员工,何去何从?

    20
  • Diiiii
    4天前
    推荐一下 Manus 张涛 @hidecloud 昨晚在北大的分享 - 真诚,好奇,独立思考,让自己成为 AI Power User,从观察和体验中做出第一性的判断。

    全文: fomalhaut647.com
    427
  • rosicky311_明浩
    4天前
    用之前微信给openclaw那个接口把muse接上了…
    用的这个
    github.com

    muse因为云端运行,所以不需要你的电脑常开……
    也不需要🪜~
    1720