推荐Sam Altman 最新博文《温柔的奇点》
它沉稳、有力,这一次有着更大的时间尺度和演化论的智慧。
不仅充满了理性乐观派的历史视角,对于大多数人都值得一读;而对于那些经历过ChatGPT 时刻、GPT-4和o3 时刻(Deep Research和Codex)的创造者更是不容错过;海量的信号和值得反思的观点。 Enjoy~
🔗
blog.samaltman.com📖 全文如下:
我们已经越过了临界点;起飞已经开始。人类正逐步接近创造数字超级智能,至少到目前为止,它还没有想象中那么怪异。
机器人尚未走上街头,我们大多数人也没有整天与AI交谈。人类仍会死于疾病,依然无法轻松进入太空,对宇宙也仍有许多不了解之处。
尽管如此,我们近期打造出的一些系统已经在许多方面超越了人类智慧,能够显著放大人类的产出。最难的部分其实已经完成:能产生像GPT-4、o3这样的系统所需的科学洞察虽然来之不易,但将助我们走得非常远。
AI将以多种方式为世界做出贡献,但其推动的科学进步与生产力提升,将极大改善人类的生活质量。未来远比当下更美好。科学进步是推动整体进步最强大的力量;我们所能拥有的更多潜力,让人兴奋不已。科学进步是整体进步的最大驱动力;想想我们还能快速进步的趋势,真是令人兴奋。
从某种重要意义上说,ChatGPT已经比历史上任何人都强大。现在每天数亿人依赖它,且用于越来越重要的任务;一项小的新功能可能带来巨大的正面效益,而一点小小的偏差被数亿人放大后,也可能带来极大的负面影响。
2025年,能够进行真正认知工作的智能代理(agents)出现了,编程写代码从此大不相同。2026年可能会看到能够发现新洞察的系统。2027年或许会诞生能在现实世界执行任务的机器人。
更多人将能够创造软件和艺术。世界对二者的需求极其旺盛。专家只要善于拥抱这些新工具,仍然会明显优于初学者。总的来说,一个人在2030年能够完成的工作比2020年多得多,这是一个显著的改变,许多人将学会如何从中获益。
在最重要的方面,2030年代可能并不会发生翻天覆地的变化:人们仍会热爱家庭,表达创意,玩游戏,在湖中畅游。
但在仍然非常重要的方面,2030年代可能会与之前的任何时代截然不同。我们尚不知道智能能超越人类水平多远,但我们即将揭晓答案。
在2030年代,智能和能源——想法,以及让想法成真的能力——将变得极其丰富。这两者长期以来一直是人类进步的根本限制因素;有了丰富的智能和能源(以及良好的治理),理论上我们可以拥有其他一切。
我们已经生活在令人难以置信的数字智能中,在最初的震惊之后,我们大多数人都相当习惯了。我们很快就从惊叹AI能生成一段优美的文字,转变为想知道它何时能生成一部优美的小说;或从惊叹它能做出救命的医疗诊断,转变为想知道它何时能开发治疗方法;或从惊叹它能创建一个小程序,转变为想知道它何时能创建一家全新的公司。这就是奇点的进程:奇迹变成常规,然后成为基准。
许多科学家反映,他们的生产力已是AI出现前的两三倍。先进的AI之所以引人注目,或许最关键的一点是,我们能借此更快速地开展AI研究。我们可能发现新的计算基底、更好的算法,以及其他未知领域。如果我们能在一年甚至一个月内完成过去需要十年的研究,那么进步速度将不可同日而语。
从现在开始,我们已经构建的工具将帮助我们找到更多的科学洞察,并帮助我们创建更好的AI系统。当然,这与AI系统完全自主地更新自己的代码不是一回事,但这仍然是递归自我改进的初期版本。
还有其他自我强化的循环在起作用。经济价值创造已经启动了基础设施建设的复合飞轮,以运行这些日益强大的AI系统。能够建造其他机器人的机器人(以及在某种意义上,能够建造其他数据中心的数据中心)已经不远了。
如果我们必须以传统方式制造第一百万个人形机器人,但随后它们可以运营整个供应链——挖掘和提炼矿物、驾驶卡车、运行工厂等——来建造更多机器人,这些机器人可以建造更多芯片制造设施、数据中心等,那么进步的速度显然会大不相同。
随着数据中心生产变得自动化,智能的成本最终应该会接近电力成本。(人们经常好奇ChatGPT查询使用多少能源;实际上,平均一个查询只使用约0.34瓦时的电,相当于烤箱运行一秒多一点,或节能灯泡亮几分钟。同时也使用约0.000085加仑的水,大概相当于十五分之一茶匙。)
技术进步的速度将继续加快,人但人类始终能适应几乎任何变化。当然,一些痛苦的挑战也将出现,例如整类工作的消失。但另一方面,世界将快速变得更富裕,使我们能真正考虑之前从未设想过的新政策。我们可能不会一次性采纳一个全新的社会契约,但几十年后回首时,逐步的变化会叠加成重大的转型。
历史告诉我们,人类总能发掘新需求、创造新事物,并迅速适应新工具(工业革命后的就业转型即是一例)。人们的期望会提高,但能力的提高同样迅速,我们终将拥有更好的东西,并为彼此创造更多美妙事物。相较于AI,人类长期具有一个重要优势:我们天生在意其他人,关心他们的想法与行为,而并不会真正关心机器。
一千年前的自给农民会看着我们许多人所做的事情,说我们有假工作,认为我们只是在玩游戏自娱自乐,因为我们有充足的食物和难以想象的奢侈品。我希望我们会看着一千年后的工作,认为它们是非常假的工作,我毫不怀疑它们对做这些工作的人来说会感到极其重要和令人满足。
新奇迹将以前所未有的速度不断涌现。今天的我们难以想象到2035年将取得何种成就;或许某年我们会攻克高能物理,紧接着就开始太空殖民;或从材料科学的重大突破迅速进展到真正高带宽的脑机接口。很多人将选择维持现有的生活方式,但也有人可能决定“接入”这个新世界。
展望未来,这一切听起来难以理解。但实际经历起来,可能既令人印象深刻,又能轻松驾驭。从相对主义的视角看,奇点会逐步到来,融合也将缓慢进行。我们正处在技术进步的漫长指数曲线上。向前看,曲线陡峭如垂直,而回顾过去却平坦得毫不起眼。然而,这其实只是一条平滑的曲线。(回想2020年,如果告诉你2025年我们能接近AGI,你一定觉得疯狂,但过去五年的现实正是如此。)
除了巨大的好处之外,还有严重的挑战需要面对。我们确实需要在技术上和社会上解决安全问题,但考虑到经济影响,广泛分配超级智能的访问权限至关重要。
未来的理想路径可能是:
首先解决对齐问题, 首先解决“对齐”问题,确保AI系统长期稳定地做我们真正想要的事(社交媒体算法就是一个反例);然后推动超级智能成本低廉且广泛普及,避免集中于个人、公司或国家。
人类社会的韧性、创造力与快速适应力令人乐观。尽管会犯错,但我们将迅速学习,获得巨大收益,降低风险。给用户足够的自由,同时建立必要的社会共识,这将至关重要。
我们(整个行业,而非仅仅OpenAI)正在为世界构建一个大脑。这个大脑将极为个性化且易用,未来的限制因素,将只剩下好的想法。
祝愿我们顺畅、平稳地通过超级智能的指数曲线,进入美好的未来。