即刻App年轻人的同好社区
下载
App内打开
歸藏
567关注28k被关注51夸夸
产品设计师、模型设计师、 不会代码的独立开发者。
关注人工智能、LLM 、 Stable Diffusion 和设计。
歸藏
11:12
OpenAI 发布了他们自研的芯片,而且直接击败了英伟达、AMD 和谷歌所有可比可测芯片的推理 ASIC。

感觉 AI 领域的竞争已经到了下一个阶段: 现在大家除了拼模型能力以外,也在拼成本以及整个供应链的整合。

这款芯片专为大语言模型推理从零设计,从 2024 年中开始设计到流片只用了 16 个月。

它是通用的推理芯片,并非只能跑 OpenAI 自己的模型。在文章展示中,他们测试了 DeepSeek R1 以及 Kimi 2.5 的推理效率,可以跑各种模型和工作负载,甚至能跑 Doom 游戏。

目前该芯片只有工程样品,量产爬坡会在 2027 年开始,大部分产能预计在明年年底铺开。

这款芯片专门针对每瓦性能(能效比)进行设计。因为当前数据中心的核心瓶颈是电力,而非预算或占地面积,所以它必须在极低功耗下实现尽可能高的推理效率。

它的每瓦吞吐量全面碾压英伟达的 Blackwell,甚至超过了采用 HBM4 Rubin:

DeepSeek R1 超过 700 token/s/用户
GPT OSS 超过 1400 token/s/用户
Kimi 2.5 接近 700 token/s/用户

值得一提的是,OpenAI 尚未发布的 Astra AI 模型也深度参与了这款芯片的设计,这或许是它拥有极高能效且开发周期极短的关键原因。

芯片团队通过 Codex GPT Astro,在两个月内把三个原本不在生产计划内的开源模型优化到了最高性能;AI 生成的部分模块比人类专家编写的模块还要快 1.5 1.8 倍。

颇具讽刺意味的是,跑在英伟达 GPU 上的 OpenAI 模型,正在帮助设计旨在击破英伟达 CUDA 护城河的芯片。

OpenAI 的下一个目标是达到 100MW 的部署规模,并计划于今年年底开始在自家的基础设施中正式部署该芯片。
32
歸藏
1天前
试了一下字节刚发布的“豆包工作”,非常豪横,上来就先送一个月的标准会员;

如果你已经买了会员,也会免费顺延一个月,可以说是雨露均沾。

豆包确实早就应该单独推出一个面向工作场景(或者说泛工作场景,包括一些 coding)的客户端。

因为大家对豆包 App 原本的认知已经固化了,觉得它就是一个用来解决日常问题、快速完成简单任务的工具。

我觉得这次的核心优势在于,字节在办公场景下有“飞书”这个杀手锏。飞书在 AI 基建和 AI 能力适配方面一直是国内最好的办公工具之一,我自己每天也都在用它处理会议纪要等工作。

豆包工作切入办公场景,尤其是跟飞书结合后,带来了很多独一无二的体验:

首先是获取完整上下文:飞书里的所有上下文都能被豆包获取。它可以帮你管理群聊信息、会议纪要和文档,提醒你今天该做什么、遗漏了什么,甚至帮你操作日历、建群拉人,把占去大量时间的琐事全包揽下来。

然后是专属知识库:很多人的会议纪要和文档都沉淀在飞书里,这自然而然就成了个人或团队的知识库,豆包可以直接基于这些完备的上下文进行创作。

我之前就说过,上下文越多的地方效果越好;有时候一个普通模型搭配完备的上下文,效果远好于没有上下文的高级模型。

推动组织 AI Native 化转型:在接入公司内部数据后,豆包可以用来搭建看板、做数据处理,直接从多维表格等数据源拉取数据,让整个公司在组织 AI Native 化的进程上大幅提速

豆包工作基本上有现在 Agent 的所有常见能力。

通用 Agent 能力: 具备文档、表格、PPT 的生成能力,以及网页和应用的搭建与生成能力,同时也支持浏览器和 Computer Use。

丰富的 MCP(连接器)生态: 可以连接到各种地方获取上下文,比如飞书、Notion,以及国内各行业的连接器(涵盖法律、新媒体、出行、编程、学术,甚至学生场景)。内置了各种行业的 skill MCP,不用到处去找,直接选合适的用就行。

针对 Windows 场景的优化与云电脑协同: Computer Use 重点优化了国内办公最普及的 Windows 系统。同时云电脑功能也很顺滑,云端对本地的控制以及手机、云电脑和豆包 App 之间的协同非常流畅,能快速同步和控制。
网页生成与局部修改: 右侧生成的网页支持快速、方便地选定位置进行微调、标注和局部修改,用户体验很好。

这里领会员 doubao.com/work
1510
歸藏
2天前
有意思,Codex 5 小时限制回来了,但是只针对 Plus 用户生效。

根据 Tibo 的解释,这主要是因为:

1. 5 小时限制可以帮 OpenAI 平衡负载
2. 他们的额度很少,这样可以防止 Plus 用户不小心一下用完自己整周的额度,导致很沮丧

Pro 用户无论是 100 美元还是 200 美元,都不会有 5 小时的限制
103
歸藏
4天前
Ox Alpha 多模态和代码能力真的牛皮

给了他一张图片,让他用 WebGL 还原这个网页。

他真的做出来了这种 3D 玻璃材质的质感和透视,非常清晰。

最牛逼的是,我如果不是拿原图跟这个图片对比的话,我都以为它是直接把原图垫在下面,只有一些字体上的区别,然后文字的位置、排版细节都是一样的
86
歸藏
4天前
AI 硬件的付费点应该是让用户付费拿到自己用硬件获得的上下文,而不是反过来。

最近这个 AI 硬件反正出的越来越多了,但是大家的思路好像都没有转变过来。

还是收钱是为了让用户把数据留在自己这,把上下文留在这自己这。

但是我最近用的最多的 AI 硬件反倒是飞书的那个录音豆。

用的最多的原因是它可以通过飞书的 CLI 把我的所有的录音的转的文字全部拉到我的上下文本地那边。

Agent 集中化以及模型价格频繁变化的这个时间点。

你不能不可能通过让用户付费购买你的模型服务和 Agent 来绑住用户。

反倒是如果你能提供更丰富的 Agent 或者 Skill 帮助用户将这些多获得的上下文给到他自己的用的 Agent 上,价值会更大。
29
歸藏
6天前
Deepseek 的多模态能力终于上了!是一个单独的模型,Deepseek V4 Flash Vision EXP。

他们说这个模型在多模态 Agent 上的能力已经逼近了 Opus 4.8。

纯文本能力跟 Deepseek V4 Flash 一样。在价格上,DeepSeek V4 Flash Vision EXP DeepSeek V4 Flash 保持一致。

同时 DeepSeek Harness 已经第一时间支持了这个模型。

还同时发布了文件 API,免费使用,上传过一次的图片,再用文件的 ID 重新引用的话,可以免去重新上传
44
歸藏
8天前
豆包手机控制和云电脑做得比Codex牛皮呀!

刚才看豆包上线了云电脑模式,而且它还能支持手机控制本地电脑。

我觉得它在手机控制电脑的连接设计上做得非常自然,体验极佳,甚至比 Codex 那些好太多了。

你只需要在本地电脑发起聊天,手机上就能直接同步看到,然后只需在手机上点一下授权(电脑端完全不需要任何操作),就可以直接获取控制权。

之后你就能通过手机操作电脑上的任务,响应速度极快,延迟极低。
这次还增加了一个云电脑模式。虽然云电脑本质上是给你分配了一个虚拟机,很多人觉得上面没有自己的数据和信息,干不了什么事。

但我觉得它内置的连接器(比如我们常说的 MCP)挺有意思的。它可以直接连接你的Notion、GitHub、飞书、企业微信等应用,直接从中获取你的上下文。

同时,云电脑也是可以安装 Skill 的。比如我试了一下:

先让它在云电脑端查找我飞书里所有的会议纪要,并整理出待办事项。
整理完待办后,我通过手机下达指令,让它在云电脑上安装了我自己开发的社交媒体卡片 Skill。

接着再让它基于这些待办事项去跑任务。

在这个过程中,安装 Skill 的命令是我在手机上下的,而阅读会议纪要的命令是在电脑上下的。无论是云电脑还是本地电脑,这种跨端控制的体验都非常丝滑。

在本地电脑上,我也试着让它查找对应目录的文件,并清理了一些大文件,这充分发挥了本地电脑的优势。当然,在有了这个系统以后,我们在手机上同样可以下达对应的清理任务,并直接看到结果。

还有一个玩法我觉得特别有意思,就是把手机控制电脑当作“文件传输助手”来用。

比如我在发手机截图的时候,直接指令它“只接收图片,不要做任何操作,不用管它”,它就真的只接收而不做多余响应,非常听话。

如果你想这么用,建议可以单独开一个聊天窗口,专门把它当作文件传输助手。

在开始时给这个聊天设置一个提示词,告诉它“凡是发送的文件和图片,接收即可,不需要做任何多余响应”,这样就非常好用了。
1019
歸藏
9天前
终于搞定了!给 DeepSeek Harness 做了一个开箱即用的客户端 Pilot Harness。

这个客户端主要由两部分组成:
一个是客户端的壳;另一个是所有的优化,它们本质上都是 DeepSeek Harness 的插件。

也就是说,你既可以直接使用我这个客户端(默认加载所有插件),也可以只挑选对你有用的插件,安装到你自己的 DeepSeek Harness 里面。

这里面主要包括三个插件:

1. UI 和交互优化插件:优化了 DeepSeek Harness 本身一些有问题的展示方式、样式以及交互。

2. 文件树插件:你可以在聊天界面的右侧展开当前项目的文件树,快速将文件添加到聊天中,或者直接打开对应的文件。

3. 模型服务商和模型管理插件:优化了模型服务商的添加流程和模型管理的页面,将模型管理和服务商管理分开,更加直观,并且添加了很多图标和描述,界面更加清晰。

详情:github.com
410
歸藏
10天前
我去!这个太有意思了。

谁不想在等 AI 完成任务的时候玩上一把德州并且把自己的 Token 输光呢
3662