即刻App年轻人的同好社区
下载
App内打开
李继刚
97关注26k被关注46夸夸
读书人
置顶
李继刚
2年前
我每天都在很努力地做一件事:

杀死昨天的自己。
2011
李继刚
11:35
读到 1991 年 March 的这篇论文《Exploration and Exploitation in Organizational Learning》,讨论组织中的 EE 问题:

任何组织都面对一个问题:应该如何分配资源?

- Exploitation: 把资源花在改进已有做法上
- Exploration:把资源花在尝试新东西上

论文中的互相学习模型非常有意思:

每人对现实有自己的信念,还有一个「组织代码」(code),可以理解为组织的共识知识库或者集体常识。

个体会向code学习,新人进来之后慢慢被组织同化,这叫社会化。同时,code也向那些知识得比自己多的个体学习,这叫多样化。社会化太快的组织,code还来不及从个体身上学到东西,个体就被同化了,快速社会化杀死了多样性。

在读这篇论文的过程中,不断联想到现在AI与人的关系。

人就像论文中的个体,AI就像是论文中的组织code。

面对一个个「问题」,我们快速滑向了「AI」先思考,我们再「点头」称赞的「快速社会化」境地。

以前身边的一些朋友,认知结构和表达风格十分鲜明,最近在针对一些问题在线讨论时,明显感觉到对方返回的消息是「AI」,对方那个鲜明的「个体」不见了,他被AI同化了。

反观自身,我也陷入了同样的境地。

这种情况,非常不对劲。论文对EE问题的解法是制造「慢」:慢速社会化让个体在被同化之前有时间贡献多样性;人员流动引入新的差异来源;容忍暂时的无知和低效,为长期的改进保留素材。

两个结构的类比,虽有不同(我们不是为了提升AI「Code」而努力),但这种被「同化」的境地,值得警醒。
01
李继刚
2天前
好问题有一个特征:

你越懂它,它向你打开的门就越多。
01
李继刚
2天前
无限游戏:让自己更好
有限游戏:比别人更好
24
李继刚
10天前
论文:arxiv.org

Why is AI-generated language so hard to understand?
-----------------------

AI 生成的文本为什么越来越难读?

研究者提出了一个统一的解释。

人类语言经过长期演化,被优化来成功沟通。这意味着什么?一个人说话时会倾向于缩短依存距离、在关键位置插入信号词、避免罕见搭配,这些习惯降低了听者的理解负担。心理语言学把这种倾向叫做“均匀信息密度”(uniform information density):说话人把信息分散开,避免在某一点突然堆积太多信息让听者处理不过来。

但现在的前沿模型不再只是模仿人类文本。它们经历了大量后训练,用强化学习去解数学题、写代码、做推理。在这些任务里,一个模型因为答对了会获得奖励,但因为表达清楚不会获得任何额外的奖励。同时上下文窗口有限制,用更少的词说同样的事就能在有限空间里装更多信息。这两个因素合在一起,制造了一种信息密度压力:模型倾向于选择更短更密集的表达方式,即使这意味着偏离人类的语言习惯。

基于这篇论文的研究,可以在 Agents.md 中添加如下要求,尝试提升文本可读性:

1. 句间连接不许省。 两个判断挨着放时,如果第二句不是对第一句的直接延续,中间必须有一句话交代它们的关系。读者不应该需要自己猜两句话之间是转折、因果、还是补充。问题和回答之间同理:问题出现后,至少停一句话再展开回应。

2. 修饰语不超过两层。 一个名词前面的定语不超过两层嵌套。需要三层以上时,先把最内层的概念用一句话说清楚,再往外套。「用户行为数据分析模型优化方案」这类写法禁止出现。

3. 同一段内,抽象概念做主语并搭配动作动词的句子不超过两句。 「这个框架吞噬了…」「这条规则抓住了…」「这个机制驱动了…」——每一句单独看没问题,密集出现时读者的理解负担会累积。第三句起必须换成具体的人、事物或场景做主语。

4. 写完后自检搭配。 逐句检查名词与动词的搭配,问:这个搭配在日常口语里说不说?如果说不出来,换成说得出来的。每个字都认识但连在一起别扭的表述,就是需要换的。
431
李继刚
10天前
养成习惯:

每看到一个「理论」,追问「什么实验能推翻你?」

每看到一个「实验」,追问「你推翻了什么假说?」
03
李继刚
11天前
辅导孩子学习诗词 Prompt:
---------------------

你要把一首诗变成一幅只由诗中文字组成的图。字的位置和走向就是画面本身:读者既能看出画面,也能顺着一条路径把整首诗读下来。

第一步,找事实。读诗,写出画面里有哪些东西,以及它们之间的关系:谁在上,谁垂下,谁在动,往哪个方向动。只写诗里有的,不添加。

第二步,定投影。

- 每个东西由诗里指称它、或者描写它的那些字构成。
- 关系换成空间关系:垂下就让字沿弧线往下排,高就让字竖着往上叠,风就让字斜着横穿画面。
- 表示疑问、否定、比喻的字(如"不知""谁""似")不对应任何东西,放在空白处或两个意象的交界处,用位置显示它们的作用。

第三步,排出来。输出一张图片,元素是文字,呈现这个意向

第四步,对照检查。逐条核对,有一条不满足就改,直到全部满足:

1. 图中所有字都出自原诗。为了让画面饱满,可以重复使用诗里的字。
2. 不看原诗的人能认出这是什么画面。
3. 按阅读路径能把原诗一字不差读下来。
4. 每个意象都由指称它的字构成,不拿别的字凑。

诗:{在这里放诗}
2183
李继刚
11天前
「清晰表达」更像是一种道德,而不是风格。
57
李继刚
13天前
允许意外改变问题,再用严格的方法研究新问题。
10