即刻App年轻人的同好社区
下载
App内打开
OrangeCLK
623关注7k被关注14夸夸
互联网话题优秀贡献者
www.orangeclk.com
不用「您」字
不用「她」字
置顶
OrangeCLK
11:19
根据郝珂灵《AI帝国》所述,2019年,微软正在权衡要不要投资 OpenAI,纳德拉、斯科特以及其他微软高管已经同意进行初步投资,但是比尔·盖茨反对。

盖茨对Dota2和机器人都兴趣一般,他想要一个能消化书籍、理解科学概念,并根据材料回答问题的 AI 模型,以辅助科学研究。OpenAI 当时只有一个项目勉强符合这个要求,就是 GPT-2。

2019年4月,研究员飞往西雅图,向盖茨进行了一场性能增强版 GPT-2 的演示,他们称之为“盖茨演示”(Gates Demo)。演示结束时,盖茨确实被打动了,足以让这笔交易继续推进。

作为投资的一部分,微软会给OpenAI提供一台新的超级计算机,配备1万块英伟达V100芯片。

做盖茨演示的时候,OpenAI已经对GPT-2做了一些Scaling(规模扩张),但阿莫迪对这种温和的规模扩张不感兴趣。如果目标是为公司争取更多的领先时间,那么GPT-3必须越大越好。

在阿莫迪眼中,一个更大的语言模型是AI安全研究的必要前提,而奥特曼则看到了它兑现OpenAI对微软承诺的潜力。他们分别被视为有效利他主义和有效加速主义的两面旗帜,这也部分酝酿了二者的分裂。

GPT-4后来又经历了一次盖茨演示时刻,但在那之前,盖茨已经从微软董事会离职了,所占股权也不到1%,而黄仁勋目前有英伟达3.58%的股权。不过,盖茨仍然有CEO技术顾问的头衔。

盖茨从董事会离职的原因是——员工的婚外恋。这件事情当时都没有公开,只是上了董事会。2019年底,董事会聘请了律师事务所调查,还没调查完,他就辞职了。如果不辞职的话,可能对公司来说有法律风险。事件到2021年才曝光。

而GPT-4的盖茨演示时刻,是2022年。

2022年6月,在看过GPT-4的演示之后,盖茨对GPT-4相较于GPT-2的进步幅度表示失望。尽管GPT-4在规模和语言流畅度上都有显著提升,但他仍然觉得它像个“白痴天才”,无法解决复杂的科学问题。他告诉团队,只有当 GPT-4 能在美国大学先修生物学——也就是 AP 生物学——考试中拿到满分 5 分时,他才会开始重视。之所以选择 AP 生物学,是因为他觉得这门考试考验的是批判性科学思维,而不是死记硬背。

盖茨在播客中说:“我当时想,不错,这能给我留出 3 年时间去研究艾滋病和疟疾了。”

布罗克曼立即联系了可汗学院的CEO萨尔可汗,请他调用公司庞大的AP生物学题库作为训练数据。

可汗起初持怀疑态度,但最终同意了,条件是可汗学院可以获得GPT-4的使用权限。

9月,OpenAI向盖茨演示了优化后的GPT-4,在AP生物学考试的60道选择题中答对了59道,并对6道开放式问题给出了优质答案。外部专家对试卷给出了满分5分。

盖茨难以置信,他的震惊和赞美被现场的演示人员立即传回OpenAI公司其他人那里,像野火般传遍了办公室,激起了一股令人振奋的能量。盖茨说,这次展示是他一生中见过的两次最令其惊叹的演示之一。

接下来的几个月里,纳德拉将会启动微软对OpenAI的第三轮投资,并继续享有对OpenAI模型权重的独家访问权限,以便将其整合到自家产品中。也就是2023年1月公布的100亿美元投资。

不知道以后黄仁勋在英伟达能不能有类似的地位:不是管理层,也不在董事会,但是管理层和董事会都要尊重他的意见,才能推动重要的决策。

《AI帝国》这本书真的是宝库,以上两次盖茨演示的历史,我都是从书中辑录的。现在发生的许多事情都能从中找到线索,远不止这一件。

盖茨因婚外恋辞职,但仍“主考”OpenAI投资

00
OrangeCLK
2天前
10
OrangeCLK
2天前
00
OrangeCLK
3天前
巴菲特 7 月说的
10
OrangeCLK
4天前
阿西莫格鲁 2019 年发表过一篇文章《错误的人工智能?人工智能与未来的劳动力需求》就是讲述了这样一个世界。文章分析角度很全面,其中就谈到一件事情:人类社会对就业是征税的,这会激励整个生态往自动化方向去发展。这是让我印象最深的一个点。
论文英文标题:The Wrong Kind of AI? Artificial Intelligence and the Future of Labor Demand
AI 发展迅速之际,对税的探讨也越来越多,不仅是就业方面,还有比如增值税和所得税的分布等等。

哈尔滨今局: 「一个健康的社会,不能一方面新能源汽车、人工智能、无人机、机器人等科技繁荣发展,一方面街头又都是打零工的、送快递、送外卖的,这是非常值得讨论的,为什么科技越来越先进,普通人的生活却没有同步变好。不过我们这的人应该都习惯了这样的反差,新闻联播是新闻联播,自己的日子是自己的日子。 发展高科技本身不是问题,问题在于它带来的效率提升和财富增量,有没有通过某种机制流到普通人那里。如果只有“流上去”的通道,没有“流下来”的通道,那就会是现在常见到的画面,一边是AI、新能源、航天不断突破,另一边是青年人中年人老年人在凌晨的寒风里等几十、一百块钱的活。这两件事可以同时为真,而且它们之间不是偶然的并列关系,它背后其实是分配的问题。 所以真正值得警惕的不是“高科技”,而是技术进步的红利被少数人捕获,成本却被转嫁给最没有议价能力的人。那些凌晨蹲马路找零工的人,他们不是高科技发展的“局外人”,他们是这个系统里最底层的承重墙——只是没人看到没人愿意承认这一点。」

00
OrangeCLK
4天前
都解决千禧年问题了,怎么可能陷入困局。Claude 解决复杂问题的能力与之可能差距不小。只是和 Gemini 3 一样,不受 KOL 喜欢。

评论尸: OpenAI 模型迭代陷入困局的时间点与国模陷入困境的时间点完全一致。 而大家普遍认为后者是因为 Anthropic 的超绝反蒸馏政策导致的。 所以有没有可能,OpenAI 也……

11
OrangeCLK
4天前
财报会上的回绝
00
OrangeCLK
4天前
更意外的事情发生了,我跟我的企业微信 Agent 说把这个问题加到难题集里面,结果它的指令遵从能力有问题,没把问题加到文档里,却回答了这个问题。
但回答的质量比 Gemini 3.8 Flash 还要高,不知道是通过 Hy4 回答的,还是 Hy4 Flash 回答的。

OrangeCLK: 今天恰好遇到了一个很难的问题,是信息调研方面的。同样的工具,只是换了模型,用 Gemini 3.8 Flash 给的结果要比同档位的 Terra 和 Sonnet 都更好,更令我意外的是 比 Sol 和 Opus 也好。我一直觉得豆包和 Gemini 是很好的模型,只是不擅长编程。听说 Gemini 4 编程也很擅长了。

50
OrangeCLK
4天前
今天恰好遇到了一个很难的问题,是信息调研方面的。同样的工具,只是换了模型,用 Gemini 3.8 Flash 给的结果要比同档位的 Terra 和 Sonnet 都更好,更令我意外的是 比 Sol 和 Opus 也好。我一直觉得豆包和 Gemini 是很好的模型,只是不擅长编程。听说 Gemini 4 编程也很擅长了。
11