最近比较火的Context engineering（CE）提到了“上下文腐烂”，验证了我之前提到的“暴饮暴食”理论.

CE被一众硅谷大佬吹捧..但我想说的是，CE也是阶段性产物；并不本质.

功夫在诗外，理工科视角很容易对AI“坐井观天”.

辛顿是极少数、极少数从理工科思维跳出来并用哲学思维看待AI的，能拿诺奖实至名归.

哲学，能从最底层、最本质来定义问题和解构问题.

AI并不真正“理解”逻辑，它只是通过大量语言数据中学会了“逻辑长什么样”，并以概率的方式“模仿”出了逻辑结构.

！！！！

我10000%确定：很多AI幻觉是模型在人类大量交互后，“涌现”出来的高级智慧和创造性思维.

“超级对齐”，是永远不能完全对齐的.

就像我们人类的那些“坏蛋”一样，我们甚至没有让人类完全对齐；更何况是可能比我们人类更智能的AGI.

#超级对齐 #AI

“幻觉”不是“错觉”，不是！！

而且“幻觉”是“超级智慧”涌现的征兆；我们要允许大模型有一部分奇思妙想和创意，就像人类一样.

这还不仅仅是“超级智慧”，是AI的“灵性”.

Prompt Engineering是个扯淡的玩意！！

是大模型“脑残”、不够“人性”、token死贵下的阶段性产物，现在可以给它挖坟埋了.

就像是大模型脑残、腿瘸时的“拐杖”；但现在大模型不脑残了，腿脚也好了；拐杖可以扔了.

需要新的物种来去定义AI人机交互.

我理解的“对齐”：

对齐的根本动作是构建一个新的社会制度；一个新的文明社会需要有法律，需要有道德，需要有三观，需要有价值体系和评判体系，这是一个庞大的一个历史工程.

就好像是我们从奴隶社会一直发展到封建社会，再到资本主义社会或者说社会主义，这是一个庞大且繁杂的一个文明变迁.

未来是AI + 区块链的世界.

天青色等烟雨，而区块链在等AI.

AI时代：哲学不再仅仅是描述世界和解释世界；而是变成了AI所有操作系统的“底层代码”.

而精英圈意识到这个转变，大约需要5年-8年；大众意识到，大约需要10-20年.