AI 2025的硅谷答案：60条关键洞察
来源：石头学习笔记编者按：2024 年末国内大模型公司的组团推新品，让人们看到了 AI 依旧火热。在硅谷，AI 从业者们在热烈讨论后，总结出了 2025 年，AI 行业的一些共识，以及不少「非共识」。例如，硅谷的投资人，认为 AI 公司是「新物种」，而 AI 应用，则是 2025 年的投资热点。1.11-15 日，锦秋基金在硅谷举办了「Scale with AI」的活动，邀约了 A16Z、Pear VC 、Soma Capital、Leonis Capital 、Old Friendship Capital、OpenAI、xAI 、Anthropic、Google、Meta、Microsoft、Apple、Tesla、Nvidia、ScaleAI、Perplexity、Character.ai 、Midjourney、Augment、Replit、Codiuem、Limitless、Luma、Runway 这些公司的专家一起交流。在交流后，我们也汇总了这些专家的观点，形成了这 60 个洞察。01 模型篇1、LLM 的 pre-training 阶段已经接近瓶颈但 post-training 还有很多机会Pre-training 阶段，Scaling 是变慢的，离饱和还有一定时间。放缓的原因：结构>算力>数据（Single-Model）。但是在 Multi-model 上：数据=算力>结构。对于 MultiModel 而言，需要在多个模态上选择组合，Pre-training 在现有架构下可以认为已经结束了，但是可以改新的架构。现在在 Pre-training 投入少的原因更多是在于资源度有限，做 Post-training 的边际效益会更高。2、Pre-training 和 RL 关系Pre-training 不太在乎数据质量。Post-training 对数据质量要求较高，但是由于算力限制，到最后几个部分给高质量的数据，Pre-training 是 imitation，只能做到模仿的事情。RL 是创造，可以做到不同的事情先有 Pre-training，才有 Post-training 中的 RL，模型得有基础能力，RL 才能有的放矢。RL 不改变模型的智力，更多是思考的模式。比如，在 C.AI 用 RL 优化 Engagement 效果很好。3、大模型优化会影响产品的能力一般主要在 post training 部分，帮助做很多 Safety，比如解决 C.AI 在儿童自杀的问题上，会根据不同人群不同岁数的情况下，用不同的模型来服务。其次是 Multiagent 的 framework。模型会思考为了解决这个问题要怎么做，然后分给不同 agent 去做，每个 agent 做完后，再服务 task，最后结果优化。4、一些非共识明年可能实现共识有没有必要所有都要上大模型，之前有很多很好的小模型，可能没有必要再要做一个模型。现在的大模型，1 年后就变成小模型。Model 架构可能变化。Sacling law 已经到了，未来要讨论的问题，知识模型解耦，可能速度会比较快。5、LLM 领域随着 Scaling law 到头，闭源和开源差距缩小。6、视频生成还在 GPT1 和 2 的时间点现在视频的水平接近 SD1.4 的版本，未来视频会有一个和商用性能差不多的开源版本。当前的难点是数据集，图像是靠 LIAON 数据集，大家可以去清洗，视频上因为版权等问题没有那么大的公用数据集，每一家如何获取、处理、清洗数据会产生很多不同，导致模型能...
