【OpenAI发展真的要放缓了?26岁OpenAI举报人疑自杀,llya说模型与训练到头了】
就在刚刚,消息曝出:OpenAI吹哨人,在家中离世。曾在OpenAI工作四年,指控公司侵犯版权的Suchir Balaji,上月底在旧金山公寓中被发现死亡,年仅26岁。旧金山警方表示,11月26日下午1时许,他们接到了一通要求查看Balaji安危的电话,但在到达后却发现他已经死亡。
与此同时,在今早NeurIPS 2024大会上,AI大牛、OpenAI联合创始人、SSI创始人伊利亚·苏茨克维(Ilya Sutskever)发表演讲时表示,模型预训练将会结束,因为AI的化石燃料“数据”已经用尽了。
X 上平台上有现场听众发布了Ilya演讲 PPT的截图。在一页 PPT中,Ilya指出,预训练将会结束。他解释成,算力因为更好的硬件、更好的算法、更大的集群而快速增长,但是数据则没有,因为我们只有一个互联网,而这是人工智能的化石燃料。
这个帖子还引来xAI创始人 Elon Musk的评论。他评论成:“很好的比喻。”
如今,GPT-5迟迟未发布,OpenAI 在“12 天”活动第 7 天发布 Projects 功能,进一步推动 ChatGPT 向“万能应用”迈进。这意味着,Scaling Law已经不再适用,模型不会越来越大,而是越来越垂直?