今天Cloudflare发布了tsrs，这才是真正的ai infra。

我之前很担心ampcode只靠Orbs赚钱会做不下去，但是现在发现瓶颈已经转移到了机器上，一台大内存有显卡有很多CPU核的机器比token贵太多了。

另一方面就是历史上人类写了太多低效代码了，现在的逻辑完全变了，写高度优化的代码并不难。我原来还用Triton，现在全都让Agent直接写CUDA就好，反正编译总比Rust快吧。

我们从来都是AI Infra中的一部分。

把这个月的GitHub Action额度用完了，Vibe Coding误我😅

现在 Grok Bot 能够保留 Tailscale 之后，我把一台 Omarchy 主机和两台 DGX Spark 都交给它管理了。虽然 Grok 模型现在一般，但 Grok Bot 这个产品还是挺不错的。以前觉得给助手拟人化没多大意义，现在意识到分成不同的 bots，对人来说是在降低认知负担。有点像用 Slack，只是同事变成了一群 bots。

跟Claude Max慷慨的额度相比，我的本地硬件竟然成了瓶颈，想自己做一套GB10 的推理引擎，结果总是在等手上的两台DGX Spark做实验。另一方面是各种CI/CD等待的时间越来越长。

与这些宝贵的时间相比，众多基础设施都可以被轻松加速，用Rust/Zig重写也好，重新整理复杂度更新算法也好。甚至做GPU kernels的时候都意识到如果不是嫌弃CUDA环境太重编译太慢，Triton都没有存在的必要了，现在前沿模型写个上千行的kernel都基本上一遍过。

全新的起点，来自逆摩尔定律。更高的价格，一半的显存。

我觉得 Jev 做了对的事情，让模型拟人其实不那么重要，关键是做决策。

所以接下来其实是如何把问题原子化的决策，以及如何构建更好的决策模型。

能力是够了，现在更在乎快不快，不仅是tok/s，还有tok/task

关于蒸馏这件事情，虽然我很喜欢在机器上部署开源模型，但是如果模型不是在通过智能本身在升级，那我们会离一条能持续发展的道路上越走越远。

当你有了两台DGX Spark。
另一方面是官方 200tok/s一天正经用得用好几百。

期待未来拥有DGX stataion的那一天。