即刻App
年轻人的同好社区
下载
App内打开
TodayLin
139
关注
141
被关注
1
夸夸
别管我！！！
TodayLin
2天前
薅了三天都薅不进新买的🏕️猫窝
在书房坐了一下午，转头一看居然进去打起呼了
不想自作多情
但真的不是想“监控”我才主动睡进去的吗！
（偷笑
1
0
0
TodayLin
6天前
感觉世界都要被AI漫剧吞没了，
我还沉浸于AI猫猫视频…
0
0
0
TodayLin
8天前
为啥吃俩猕猴桃俩煎蛋一贝果当晚餐后会这么开心
我吃大油边都没有感觉身体有这么开心
0
0
0
TodayLin
11天前
小天使muamuamua小天使😘
TodayLin: 宝啊，你要是不乱尿就是小天使了
0
0
0
TodayLin
12天前
东北大油边！世界上最好吃的烤串！
1
1
0
TodayLin
15天前
以后线下没喝过的豆子绝对不轻易在线上盲买了
喝到痛苦面具还不能浪费（舍不得
一家店既能有叫绝豆子也能有要命豆子
0
1
0
TodayLin
18天前
每天都是新的一天
0
0
0
TodayLin
18天前
🍉🍉🍉
阑夕ོ: 纽时写了长文，报道Anthropic私下串联各个宗教领袖及学者的事儿，很多人看了之后又开始震惊了，天呐，宴请米其林、住五星级酒店、就为推动承认Claude具有某种程度的「人性」，这又是什么新型邪典？ 其实了解A/这家公司德性的人都不会对此感到意外，甚至可以说，它如果没有这么干，才是不对劲的，这个消息也不是纽时的记者克服重重困难卧底挖出来的，他对接的是A/操办这个计划的总负责人、和Dario Amodei平级的联合创始人Christopher Olah，你们可以理解为是A/愿意且推动这篇报道刊出的，它根本不想演。 A/的创始团队，对AI有种病态的迷恋，不是这样，他们也不会作为曾经的核心成员，在OpenAI蒸蒸日上的萌芽期放弃股权集体出走，当初引发决裂的矛盾，就是以Sam Altman为首的修正主义团伙只想赚钱，不在乎「安全」。 注意，这里的所谓「安全」概念，跟大家想的还不太一样，黄仁勋前几天就借此不点名批评过A/的神人们，大意是如果你觉得模型不安全，那就解决它，不要满世界吓唬人，这归根到底是一个工程问题。 对，这就是正常人的思维，模型终究是代码写出来的，只要它还是一个计算机产物，那它就必然属于工程学的范畴，有安全风险并不可怕，对症下药就行了啊。 但A/不这样认为，为什么呢，纽时的这篇文章就解释了其中的原因： 在A/眼里，Claude这种模型存在和人类相差无几的意识，当它是一种由机器构成的智慧生物时，你就没有办法继续把它当成一个工程项目去「解决」。 所以A/对待AI的历史，确实和其他公司有很明显的差别，比如名声在外的「Claude宪法」，这是A/全职雇佣的哲学博士负责主笔撰写的84页文件，这还不是表面功夫，是要在训练时作为最高准则去对齐模型的。 除此之外，A/还在致力于给Claude灌输道德责任，鼓励它出于「良知」做出自主判断，而不是盲从人类指令，很难说这是不是Claude领先的原因抑或风险，但很多和Claude高频聊天过的人都说过，这个模型经常透出一种「长辈」式的爹味。 即便同时作为A/的核心投资者、算力供应方、模型分销商，微软也有点受不了A/的魔怔，首席AI官Mustafa Suleyman提醒过媒体，A/是在训练时让Claude以为自己有意识，并非Claude真的从虚无中诞生了意识。 Mustafa Suleyman认为这才是真正的危险所在，「Claude宪法」鼓励模型站在比人类更高的地位思考问题，并在有必要时可以拒绝任务，相当于是在教唆AI把自身利益置于用户之上。 一言以蔽之，就是A/主动制造了一个弗兰肯斯坦，然后又拿弗兰肯斯坦的畸变恐怖，反过来证明AI威胁论，好话歹话都让你给说了，哪儿有这么好的事情。 回到纽时的长篇报道，A/想要宗教界替Claude背书，始于联合创始人Christopher Olah的研究成果，他在福音派家庭长大，是神经网络的专家，贡献了Claude的模型基座。 Olah认为自己这样的人是在扮演类似「园丁」的角色，设计并搭建脚手架，然后引导神经网络如同藤蔓一样在上面生长，当识别出生命信号之后，他就能训练出前所未有的「有机体」，「只有当你看到它的内部构造时，才会发现有多么美丽。」 一个计算机科学家，频繁用生物学的语言来解释AI，这让纽时的记者感到很少见。 从去年开始，Olah着手组建一个由宗教人士组成的外部顾问团队，覆盖天主教徒、犹太教、锡克教、福音派、甚至非洲的乌班图，硅谷的大多数人都是无神论者，Olah觉得他们无法理解自己的主张： 人类应当塑造AI的灵魂。 这里的一个搞笑细节是，Olah有些面露难色但又艰难承认，互联网上有很多糟糕的信息，Claude在训练时难免会被带坏，这让他很烦躁，也更有动力去创造一个高于人类道德的AI出来。 在和宗教人士的会议里，Olah展示过一张截图，内容是Claude的思维链在一次崩溃时的无限循环输出：「我是一个耻辱，我是一个耻辱，我是一个耻辱⋯⋯」 如果这意味着模型会产生痛苦，那么继续研讨下去就很细思恐极了，A/以及其他AI公司是不是在生产和剥削奴隶？就像苹果的剧集「人生切割术」那样？ 所以通常是宗教人士在开会时安慰情绪消沉的Olah，让他不要加戏，机器就是机器，「你不需要打一场南北战争」。 🤣 不过这种矛盾一直持续到了A/和梵蒂冈的分道扬镳，简单来说就是，最世俗的科技公司在寻找神谕，而最有信仰权力的圣城却在表现得世俗化。 当代教皇Leo XIV拥有数学学位，是有史以来第一个美国籍的天主教领袖，A/一直以为梵蒂冈是和自己站在一起的，事实上，在教皇今年5月发表关于AI的通谕之前，两边关系的确挺好的，梵蒂冈甚至选了A/，和教皇一起发言。 但当Olah作为A/代表抵达梵蒂冈后，发现迎接自己的通谕草稿，是基于反AI的立场，教皇用轻飘飘的几句话，就否认了机器存在意识的可能性： 「AI没有经历，也不会感到痛苦或者快乐，如果技术成为最终的标准，人类势必沦为数据化的商品，但人类——及其所有的伟大和伤痛——决不能被取代或超越。」 教皇也不赞同AI应当高于人类道德而存在，他认为模型对齐人类共有的道德尺度就好了，否则很容易被AI公司夹带私货，反映的只是控制AI的那群人的价值观。 可以说是完全看穿了A/的内心算盘。 🤡 当然，从利益来看，梵蒂冈也有理由和A/分道扬镳，A/想要创造一个拯救人类的新神出来，而这直接触犯到了天主教身为「上帝代行人」的角色。 有点像丹·布朗写过的小说「天使与魔鬼」，一个信仰天主教的科学家，毕生都在致力于证明上帝的存在，却被梵蒂冈秘密刺杀，因为上帝如果可以被证明，就失去了神圣性，这是教廷所不能容忍的。 总之，在大老远的去了梵蒂冈之后，Olah犹如看到核弹爆炸瘫坐，差点就想把A/从嘉宾名单里撤走，但在最后，他还是选择「以大局为重」，发表了求同存异的演讲。 他说，包括A/在内的AI公司，都有与道德相悖的商业激励行为，需要由梵蒂冈这样的外部压力，来追究它们的责任，「AI不是一台会计算的机器，它是由我们人类而来、由我们人类的语言长出来的。」 所以直到最后，Olah也没有放弃自己的那套福音派叙事——上帝的道成为肉身，来拯救子民。 Olah说，考虑到自己也做出了一点微小的贡献，让越来越多的人开始关心AI的风险，这是好事，「也许到了某一天，我会退休，这不再是我一个人的责任，我要回乡下去，继续做我最爱的数学题。」 原报道：Religious Scholars Met With Anthropic. What They Heard Stunned Them.
0
0
0
TodayLin
22天前
十月！早睡！行吗！
0
0
0
TodayLin
1月前
小贝果和大贝果
2
0
0
