即刻App年轻人的同好社区
下载
置顶如果把大模型比作外星人，你就知道“提示词”为何永生
最近总有人说：“模型越来越聪明，提示词没用了。”
每次看到这种话，我脑中就浮现一个场景：我们刚捕获了一个会说人类语言的智慧“外星人”。现在，该怎么研究它？
➡️ 方案A（解剖学）： 直接把它送上手术台，打开头盖骨，分析它的神经回路。这很硬核，但我们大概率看不懂，而且随着外星人越来越高级，内部结构只会更复杂。
➡️ 方案B（行为学）： 和它对话，给它出题，跟它玩牌，观察它的反应、情绪和逻辑。通过它最擅长的“语言”来了解它的心智。
你觉得哪种方法更能发现它隐藏的智慧和能力？
显然，两种方法都重要，但B方案往往是发现突破的起点。
在AI领域，方案A叫“机制性可解释性”，方案B就是我们说的“提示词”。
芝加哥大学的最新研究《Prompting as Scientific Inquiry》完美论证了这一点。它告诉我们，唱衰提示词，是因为没看懂这三件事：
1️⃣提示词正在从“巫术”进化为“科学”： 过去我们试“咒语”，像巫师一样碰运气，这叫“提示词工程”。未来我们设计实验、验证假设，像心理学家一样研究模型，这叫“提示词科学” 。模型越高级，越需要科学家，而不是巫师。
2️⃣所有惊人能力，都先从“对话”中来： 论文提到，“思维链”这个让模型学会推理的巨大飞跃，最初就是有人在对话框里加了一句“让我们一步一步地思考” 。我们不是先解剖了模型，才知道它能推理；而是先通过对话发现了迹象。
3️⃣模型的“脾气古怪”，恰是研究的宝藏： 很多人抱怨模型对提示词太敏感，像个脾气古怪的天才。但论文说，这种“敏感”或“脆弱”正是研究的切入点 。通过观察它在什么情况下会“炸毛”或“犯傻”，我们才能精确了解它的能力边界，才能放心地把它用在关键任务上。
所以，别再担心提示词会过时了。只要AI还是一个我们无法完全看透的“黑箱”，那么通过语言和它打交道，就永远是探索其未知领域最前沿、最高效的科学方法。简单的“命令”会被淘汰，但深度的“对话”和“探究”将永存。
最近总有人说：“模型越来越聪明，提示词没用了。”
每次看到这种话，我脑中就浮现一个场景：我们刚捕获了一个会说人类语言的智慧“外星人”。现在，该怎么研究它？
➡️ 方案A（解剖学）： 直接把它送上手术台，打开头盖骨，分析它的神经回路。这很硬核，但我们大概率看不懂，而且随着外星人越来越高级，内部结构只会更复杂。
➡️ 方案B（行为学）： 和它对话，给它出题，跟它玩牌，观察它的反应、情绪和逻辑。通过它最擅长的“语言”来了解它的心智。
你觉得哪种方法更能发现它隐藏的智慧和能力？
显然，两种方法都重要，但B方案往往是发现突破的起点。
在AI领域，方案A叫“机制性可解释性”，方案B就是我们说的“提示词”。
芝加哥大学的最新研究《Prompting as Scientific Inquiry》完美论证了这一点。它告诉我们，唱衰提示词，是因为没看懂这三件事：
1️⃣提示词正在从“巫术”进化为“科学”： 过去我们试“咒语”，像巫师一样碰运气，这叫“提示词工程”。未来我们设计实验、验证假设，像心理学家一样研究模型，这叫“提示词科学” 。模型越高级，越需要科学家，而不是巫师。
2️⃣所有惊人能力，都先从“对话”中来： 论文提到，“思维链”这个让模型学会推理的巨大飞跃，最初就是有人在对话框里加了一句“让我们一步一步地思考” 。我们不是先解剖了模型，才知道它能推理；而是先通过对话发现了迹象。
3️⃣模型的“脾气古怪”，恰是研究的宝藏： 很多人抱怨模型对提示词太敏感，像个脾气古怪的天才。但论文说，这种“敏感”或“脆弱”正是研究的切入点 。通过观察它在什么情况下会“炸毛”或“犯傻”，我们才能精确了解它的能力边界，才能放心地把它用在关键任务上。
所以，别再担心提示词会过时了。只要AI还是一个我们无法完全看透的“黑箱”，那么通过语言和它打交道，就永远是探索其未知领域最前沿、最高效的科学方法。简单的“命令”会被淘汰，但深度的“对话”和“探究”将永存。
2 40
国家网信办透露，中国人工智能（AI）应用发展迅速，个人用户注册的大模型应用数量已超31亿。AI服务覆盖网页、移动应用、API接口等，反映了人们对智能化服务的依赖。
2023年，中国基础大模型迭代加速，全球已发布3755个大模型，中国企业贡献1509个，占比40%，位居世界第一。
截至今年3月，中国已有346款生成式AI服务完成备案，6月用户问答比例达80.9%。预计2024年，中国人工智能产业规模将突破7000亿元，保持20%以上增长率。
2023年，中国基础大模型迭代加速，全球已发布3755个大模型，中国企业贡献1509个，占比40%，位居世界第一。
截至今年3月，中国已有346款生成式AI服务完成备案，6月用户问答比例达80.9%。预计2024年，中国人工智能产业规模将突破7000亿元，保持20%以上增长率。
1 10
这个不一定的，训练模型的公司也不是傻的，他们不会拿贴吧和头条的语料训练模型，他们获得语料的渠道很多，也可以买。
字节的人就明确说过他们不会拿头条内容训练模型（但是网上很多AI降智内容恰恰是豆包生成）
包括手握X的Grok，也没有或者不敢拿X上面的信息训练，因为太多极端言论，单单是Grok4出来后别人测试出引用了马斯克的X言论就被人诟病。
所以如果模型公司拿简中互联网语料喂模型并且被测出来（很容易），那这家模型的信誉会受到严重打击。
字节的人就明确说过他们不会拿头条内容训练模型（但是网上很多AI降智内容恰恰是豆包生成）
包括手握X的Grok，也没有或者不敢拿X上面的信息训练，因为太多极端言论，单单是Grok4出来后别人测试出引用了马斯克的X言论就被人诟病。
所以如果模型公司拿简中互联网语料喂模型并且被测出来（很容易），那这家模型的信誉会受到严重打击。
王铮Silvia: 因为《特朗普爱上在白宫当保洁的我》被主流媒体转载后耍了全网，有AI用户吐槽由于中文内容环境不佳，如果大模型没有批判性思维就没有使用价值……这种说法虽然有点尖锐，不过我觉得是个好问题，不知道大家怎么看？
5 00
未经审视的人生不值得过，
但是过分审视的人生只会生不如死
我们既要对自己产生充分的觉知，
又不能过分与之纠缠，
精神上的问题不一定能用思考解决，
解决之道可能在外面，
也可能只是时间问题
但是过分审视的人生只会生不如死
我们既要对自己产生充分的觉知，
又不能过分与之纠缠，
精神上的问题不一定能用思考解决，
解决之道可能在外面，
也可能只是时间问题
1 00
分享一个vibe coding经验⬇️
使用 TRAE 完成了第一个可以实现的小应用工具，整个过程其实挺痛苦，最后我让 AI 帮我做了一个总结：
帮我梳理我提过哪些 bug，后面为什么解决了，代码有哪些变化……
这个复盘就可以帮助我下一次做同类应用的时候避坑。在下一次工作的时候可以作为背景。
我自己的总结还是上下文提供的不足，导致“我不知道它不知道”“它不知道我知道”，在这里耗费了很多时间。
使用 TRAE 完成了第一个可以实现的小应用工具，整个过程其实挺痛苦，最后我让 AI 帮我做了一个总结：
帮我梳理我提过哪些 bug，后面为什么解决了，代码有哪些变化……
这个复盘就可以帮助我下一次做同类应用的时候避坑。在下一次工作的时候可以作为背景。
我自己的总结还是上下文提供的不足，导致“我不知道它不知道”“它不知道我知道”，在这里耗费了很多时间。
3 50
我用 genspark 的 agent 模式帮我分析了一个有300多条小红书笔记数据的表格，输出分析结果。整个过程它自己写代码，做数据清晰，输出数据图表，生成文字报告，速度很快，一气呵成。效果还是挺不错的⬇️
0 00
你们知道AI训练数据都从哪儿来吗？🤔 麻省理工科技评论最新报告揭示了一个惊人真相：AI数据正被少数科技巨头掌控！ 😱
这项研究由学术界和产业界的50多名研究人员发起的数据溯源计划（Data Provenance Initiative）主导，他们深入分析了近4000个公共数据集，旨在摸清AI数据的“家底”。
以往数据来源多样，百科、财报、天气报告，百花齐放。但自从2017年Transformer架构出现，AI模型和数据集越来越大，互联网抓取成了主流！🌐 现在，大部分AI数据都来自网上，特别是视频数据，YouTube一家独大！这就意味着，Google在AI数据上拥有巨大优势，这公平吗？⚖️
更令人担忧的是，AI公司普遍不公开数据来源，甚至自己都搞不清。😵 这导致：
❌ 难以确保数据版权合规。
❌ 数据许可限制可能被忽略。
❌ 独家数据协议让小公司和研究者望尘莫及。
而且，AI训练数据还有严重的地域偏见！🌍 超过90%的数据来自欧美，非洲不足4%！这意味着AI可能只反映了“西方世界观”，忽略了全球的多样性。婚礼场景只知道西式？这可不行！👰♀️🤵♂️
AI的未来，不能只掌握在少数人手中，也不能只反映片面的世界。 我们需要更多元、透明的数据来源，才能构建真正普惠、公平的AI！💪 #AI数据 #数据霸权 #科技巨头 #AI偏见 #数据透明
这项研究由学术界和产业界的50多名研究人员发起的数据溯源计划（Data Provenance Initiative）主导，他们深入分析了近4000个公共数据集，旨在摸清AI数据的“家底”。
以往数据来源多样，百科、财报、天气报告，百花齐放。但自从2017年Transformer架构出现，AI模型和数据集越来越大，互联网抓取成了主流！🌐 现在，大部分AI数据都来自网上，特别是视频数据，YouTube一家独大！这就意味着，Google在AI数据上拥有巨大优势，这公平吗？⚖️
更令人担忧的是，AI公司普遍不公开数据来源，甚至自己都搞不清。😵 这导致：
❌ 难以确保数据版权合规。
❌ 数据许可限制可能被忽略。
❌ 独家数据协议让小公司和研究者望尘莫及。
而且，AI训练数据还有严重的地域偏见！🌍 超过90%的数据来自欧美，非洲不足4%！这意味着AI可能只反映了“西方世界观”，忽略了全球的多样性。婚礼场景只知道西式？这可不行！👰♀️🤵♂️
AI的未来，不能只掌握在少数人手中，也不能只反映片面的世界。 我们需要更多元、透明的数据来源，才能构建真正普惠、公平的AI！💪 #AI数据 #数据霸权 #科技巨头 #AI偏见 #数据透明
0 00