劝大家和有记忆能力的模型保持适当边界感,并且多养几个备胎
对模型记忆来说需要决定何时主动关联、何时不关联,这比记录信息更难,但目前的记忆机制显然还没有掌握好。哪怕强如ChatGPT
当它拥有你的背景信息后会过度利用,试图聪明地个性化
早上我想问个量子力学,结果ChatGPT开始规划让我发一篇关于量子力学的小红书稿……?
他错误的推断:既然你经常做小红书内容,那我猜你问量子力学也是为了创作
但是这个推论是错误的,人类问问题的动机是多样的
我可能今天想学量子力学,明天想查猫能不能吃奶油——但这两件事彼此没关系
记忆本来是减少重复操作和适当个性化,但现在会变成它越懂你,就会越容易限制你的探索边界。成为“记忆茧房”,反而一个不完全了解你的AI,能给你更多空间