即刻App年轻人的同好社区
下载
两年前大聪明说他感到一种虚无感，但是这两年大聪明是我见过过的最充实的人。
战胜虚无的第一步是勇敢地面对它。
如今越来越多的人也开始感觉到虚无，我找到大聪明给大家一些过来人的经验。
本期内容非常精彩，欢迎收看收听。
---
科技的进步越来越快，AI 已经发展到了 RSI 的自我迭代阶段，人们也开始以 SI 的命名来取代 AI。
在 RSI 之后，人类的命运是什么？
人类所不断追寻的意义，又是什么？
对于这个问题，每个人都有自己的答案。
人类创造了很多科幻作品来阐述自己想象中的故事。
战锤，群星，沙丘，赛博朋克。
这期播客，我和赛博禅心主理人大聪明一起聊聊这些平行世界的故事。
以及在平行世界里感到虚无的人们，如何寻求意义。
大聪明说现实世界很难改变，但是讲个故事要容易得多。
一个酒吧只是一个背景板，来的人多了就成了故事。
一个故事只是一个起点，相信的人多了就成了现实。
这就是俺寻思之力。
这期播客是一场思想实验，并不适合所有人听，如果在收听过程中感到不适可随时关闭。
即便听了，也请不要太认真。毕竟，自己快乐才是最重要的。
祝大家国庆快乐。
以下为本期播客里讲到的五个故事
mp.weixin.qq.com
音频版本也非常精彩，欢迎去小宇宙收听
www.xiaoyuzhoufm.com
战胜虚无的第一步是勇敢地面对它。
如今越来越多的人也开始感觉到虚无，我找到大聪明给大家一些过来人的经验。
本期内容非常精彩，欢迎收看收听。
---
科技的进步越来越快，AI 已经发展到了 RSI 的自我迭代阶段，人们也开始以 SI 的命名来取代 AI。
在 RSI 之后，人类的命运是什么？
人类所不断追寻的意义，又是什么？
对于这个问题，每个人都有自己的答案。
人类创造了很多科幻作品来阐述自己想象中的故事。
战锤，群星，沙丘，赛博朋克。
这期播客，我和赛博禅心主理人大聪明一起聊聊这些平行世界的故事。
以及在平行世界里感到虚无的人们，如何寻求意义。
大聪明说现实世界很难改变，但是讲个故事要容易得多。
一个酒吧只是一个背景板，来的人多了就成了故事。
一个故事只是一个起点，相信的人多了就成了现实。
这就是俺寻思之力。
这期播客是一场思想实验，并不适合所有人听，如果在收听过程中感到不适可随时关闭。
即便听了，也请不要太认真。毕竟，自己快乐才是最重要的。
祝大家国庆快乐。
以下为本期播客里讲到的五个故事
mp.weixin.qq.com
音频版本也非常精彩，欢迎去小宇宙收听
www.xiaoyuzhoufm.com
12 20
在昨晚 OpenAI 宣布企业套餐里加入 GLM 5.3 等开源模型之后，A\ 立即发布报告，严肃批评了 GLM 5.3 等开源模型的安全问题。
这个报告的信息量不大，但看完之后满脸问号。。。
报告先说 GLM-5.3 是「迄今发布的网络安全能力最强的开源模型」。
比美国前沿模型落后约4个月。
他们测试了几个模型，这些模型包括 Opus 4.6，Kimi K3，DeepSeek Flash，但 GLM 5.3 是唯一一个具备漏洞利用能力的模型。
然后提到 GLM 5.3 其实自带了安全护栏。
但是因为它是开源的，任何开源模型都可以通过一种拒绝行为削减技术，abliteration 来重新配置模型，专门移除拒绝行为，训练出不安全的 GLM 5.3 版本，制作一次约4400美元成本。
简单说就是开源模型天然可以改权重，都不安全。
对这个移除拒绝行为abliteration 的模型进行评测，发现这个版本确实很不安全。
对于原版的带安全护栏的 GLM 5.3，通过欺骗性提示词、预填充思考等方式，可以欺骗模型参与到危险的任务中。
而 Claude 不提供预填充思考功能，也不开源，无法被 abliteration，所以非常安全。
报告最后呼吁，让更多企业和机构用上安全的闭源模型刻不容缓。
。。。
这个报告看起来是在讨论模型安全，实则带着积分自我兜售的意思。
开源模型自带了安全护栏，然后你通过训练把它的安全护栏去掉，以此论证开源模型并不安全。
如果觉得开源模型不安全，大可以开源一个安全的给大家用。
也可以选择积极地参与到开源模型的安全建设里，一起为安全做出努力。
你也可以选择把自己的模型开放给全世界，不要天天封号。
卖模型就卖模型，还要占据个道德的高地。
这个报告的信息量不大，但看完之后满脸问号。。。
报告先说 GLM-5.3 是「迄今发布的网络安全能力最强的开源模型」。
比美国前沿模型落后约4个月。
他们测试了几个模型，这些模型包括 Opus 4.6，Kimi K3，DeepSeek Flash，但 GLM 5.3 是唯一一个具备漏洞利用能力的模型。
然后提到 GLM 5.3 其实自带了安全护栏。
但是因为它是开源的，任何开源模型都可以通过一种拒绝行为削减技术，abliteration 来重新配置模型，专门移除拒绝行为，训练出不安全的 GLM 5.3 版本，制作一次约4400美元成本。
简单说就是开源模型天然可以改权重，都不安全。
对这个移除拒绝行为abliteration 的模型进行评测，发现这个版本确实很不安全。
对于原版的带安全护栏的 GLM 5.3，通过欺骗性提示词、预填充思考等方式，可以欺骗模型参与到危险的任务中。
而 Claude 不提供预填充思考功能，也不开源，无法被 abliteration，所以非常安全。
报告最后呼吁，让更多企业和机构用上安全的闭源模型刻不容缓。
。。。
这个报告看起来是在讨论模型安全，实则带着积分自我兜售的意思。
开源模型自带了安全护栏，然后你通过训练把它的安全护栏去掉，以此论证开源模型并不安全。
如果觉得开源模型不安全，大可以开源一个安全的给大家用。
也可以选择积极地参与到开源模型的安全建设里，一起为安全做出努力。
你也可以选择把自己的模型开放给全世界，不要天天封号。
卖模型就卖模型，还要占据个道德的高地。
15 74
三个月前我写了一个纽约客配图风格的橙线插画 Skill，到现在已经有 400 多 Stars。
很多朋友都在用这个 Skill 或修改之后的版本，为他们的文章配插画。
这个 Skill 也不仅能做插画，还可以直接做插画风格的 HTML，今年夏天我在出海去的分享就是用这个 Skill 直接制作完成的。
一副插画，讲一个故事，相比密密麻麻的信息图 PPT，简单的东西反而更能获得大家的注意力。
今天这个 Skill 也上架到了百度搭子的生态计划，尝试做一下商业化。
把自己的服务内置到 Skill 里让各个 Agent 去调用，是一种新的产品推广方式。
百度搭子现在在构建生态，也承诺永不抽佣，不存在互联网时代的 App Store 分成逻辑。
如果是 Skill 的开发者可以试试
大家可以在技能广场里在这里找到这个橙线插画 skill
很多朋友都在用这个 Skill 或修改之后的版本，为他们的文章配插画。
这个 Skill 也不仅能做插画，还可以直接做插画风格的 HTML，今年夏天我在出海去的分享就是用这个 Skill 直接制作完成的。
一副插画，讲一个故事，相比密密麻麻的信息图 PPT，简单的东西反而更能获得大家的注意力。
今天这个 Skill 也上架到了百度搭子的生态计划，尝试做一下商业化。
把自己的服务内置到 Skill 里让各个 Agent 去调用，是一种新的产品推广方式。
百度搭子现在在构建生态，也承诺永不抽佣，不存在互联网时代的 App Store 分成逻辑。
如果是 Skill 的开发者可以试试
大家可以在技能广场里在这里找到这个橙线插画 skill
9 13
GPT 6.1 Sol 发布了，缓存降价 50%，但能力还是不够如 A\
现在 OpenAI 的尴尬在于 sonnet 5.5 跑分都把 astra 超了
而 6.1 Astra 竟然因为安全原因没放出来
A\ 稳稳站在赛道第一的位置，冲着后面的人喊：
安全第一，跑慢一点
第二名听了
这很荒诞
还点名批评 GLM 5.3 ：
你跑太快了，你不够安全
现在 OpenAI 的尴尬在于 sonnet 5.5 跑分都把 astra 超了
而 6.1 Astra 竟然因为安全原因没放出来
A\ 稳稳站在赛道第一的位置，冲着后面的人喊：
安全第一，跑慢一点
第二名听了
这很荒诞
还点名批评 GLM 5.3 ：
你跑太快了，你不够安全
19 20
如果说 coding 和 working agent 切来切去没有太多成本的话
personal agent 切一次就是一次隐私的大暴露
是的这类产品的独占性进一步提高
而且高度集中在巨头手里
人类社会未来，更加集中，更加垄断
personal agent 切一次就是一次隐私的大暴露
是的这类产品的独占性进一步提高
而且高度集中在巨头手里
人类社会未来，更加集中，更加垄断
20 00
这个世界太割裂了
一堆人说 jev 这种东西没有一点壁垒
结果一个礼拜就100亿美金估值了
一堆人把世界模型炒作了半年
结果头部的世界模型公司80亿美金就卖了
世界好像没有对错也没有谁是傻子
只有各种人在网上擦肩而过
并互道一声傻子
大家都有美好的未来
一堆人说 jev 这种东西没有一点壁垒
结果一个礼拜就100亿美金估值了
一堆人把世界模型炒作了半年
结果头部的世界模型公司80亿美金就卖了
世界好像没有对错也没有谁是傻子
只有各种人在网上擦肩而过
并互道一声傻子
大家都有美好的未来
31 10
