韦青老师说的这几句话让我很受触动:
1. 今天的人过多地异化成了去解决“How”,实际上人真正最擅长的是那个“Why”。
2. 其实我们要的不是一个没有幻觉的大模型,我们要的是一个像人一样受控的幻觉,那么要控到什么程度才是一个最麻烦的地方。
3. 幻觉不是bug,是功能。需要减少幻觉,可以用微调或者提示词来避免。
4. 都想为最后的产品买单,没人做模型,没人做数据,没人做流程再造,没人做人才培养,没有做企业文化再造——这么一堆事情做完之后才能有产品,这多难啊?
5. 要实现真正的数据驱动,你需要数据驱动流程进行彻底的再造、更需要对数据驱动算法的可靠性给予充分的信任。
6. 实际上,预训练模型提供的只是通用知识,真正具有应用价值的是在线学习online learning,即模型在实际应用过程中持续学习并不断进行纠偏的,那叫online learning,然而,当前的流程通常缺乏提供这种在线学习能力的机制。
7. 有智能的话必须得有数据,“Model is as good as your data”。模型它再厉害,它不会超越你数据质量的边界,数据质量决定了你模型的最高线。
大模型的用法:
大模型擅长做的事情是告诉你,如果a比b大了之后你该怎么做。所以这整个流程中,既有需要精准的工作、也有需要概率的工作,但你非用一个概率工具去做精准的事,并非不行,但那就叫舍本逐末了。