Cohere创始人Nick Frosst的最新访谈,反AGI叙事,直喷Sam Altman。逻辑清晰、说话直接,整个访谈看着让人舒心,真是一个接地气的创始人啊。但千万别以为这是纯娱乐节目,很多观点还是值得我们停下来思考的,学习笔记如下:
1/对AGI的看法
Nick 眼里的 AGI:“你能像对待一个真实的人一样去对待 AI”,就是它能像人一样思考、行动、交流。但 Cohere 不是奔着这个去的,他们是做企业生意的 to B 公司,目标很务实:帮企业提升效率、创造 ROI,不参与 AGI 的宏大叙事。
cohere的打法也很接地气:开发成本比竞争对手低好几个数量级,比如把模型设计成能在两块 GPU 上跑,这样训练成本直接砍下来,靠高效训练和工程优化去跟资金更雄厚的对手竞争。
在 Nick 看来,现在的 AI 只是增强型工具,不是用来取代人类的神。人类的优势依然在于创造力、洞察力和直觉。
2/对Sam Altman的评价
天天鼓吹 AGI 会带来生存威胁、制造恐慌,只会让政策制定者的注意力跑偏。真正的风险是 AI 可能加剧收入不平等、冲击劳动力结构。夸大 AGI 时间表,还会让行业资源错配,延缓真正有用的技术落地。(还有一句原话:缺钱的人才会到处当显眼包,拼命讲故事博眼球)
3/技术还是一样的
transformer在2017年就发表了,cohere2019年创立,2022年chatgpt才向大众普及transformer,这么多年来几乎所有模型都是在其之上发展,没有发生根本性的改变。技术飞跃和现实情况好像不太对的上,算法没有太大变化,从根本上说,技术还是一样的。这不是说技术没有进步,而是这种进步更多是工程和规模上的优化,是可预测的,而不是magic。
4/基准测试的局限性
Nick 对刷榜没什么兴趣,因为榜单成绩并不能真实反映模型的价值。企业需求和榜单任务往往不匹配,cohere的客户从来不会要求他们的模型做逻辑推理任务,他们更关心的是:能不能帮我处理文档、跑流程、接 API、节省人工成本。
5/prompt的概念会消失
(1)人机交互的趋势
现在大家热衷于讨论prompt,是因为模型还不够懂人,需要用精巧的提示词去引导。但这只是技术早期的过渡阶段,就像PC早期是命令行,后来被图形界面取代了。随着模型理解能力增强、上下文记忆和多模态输入成熟,用户会直接用自然语言、语音、甚至视觉交互完成任务
(2)用户心智的变化
当用户教育完成,模型的能力边界成为常识,prompt就不再重要了,你不会要求你的同事飞天遁地,同样,你也只会要求AI做它力所能及的事情。
6/主权模型的重要性
当交互门槛降低、模型能力边界清晰后,竞争焦点会转向数据主权、部署安全和本地化能力。每个国家应该掌握自己的大模型,减少对单一国家科技公司的依赖。
AI 应促进跨文化、跨地域的交流与合作,而不是成为信息壁垒或政治工具。