AI产品真是越来越难做了,很多工作经常会被模型的能力给迭代掉,调了很久的提示词,不如模型进化变得更聪明一些,不如更好的agent机制,于是只能尽可能的做原子级别的知识库以及工具。
这也是之前踩的一个坑,调优AI产品还是先测模型。而且真的要足够快,拖个一个月两个月新的模型又出来了,然后很可能推倒重来。
另一个矛盾点,是现在的代码、产品好像不再像以前那么优雅了,大模型的节点是很不标准化的,一个LLM节点可能承载了特别多的工作,所有的东西都耦合到了一起,为了效率和性能不断试探模型的边界,现在要开始用写代码的方式写提示词了,不然后面也越来越不好改。
现在用提示词输出的都是json,用json和研发合作,于是我也要写类似接口协议的东西,咪的天,我也是让AI写的,真的越来越懒了。