月之暗面k1.5模型与Long-CoT：一场对性能的追逐

新浪科技近日报道了月之暗面研究员Flood Sung对k1.5模型研发过程的深入解读，文章揭示了OpenAI o1模型发布对月之暗面团队带来的冲击，以及团队对Long-CoT（长链上下文学习）技术路线的反思与调整。

Flood Sung回忆道，早在一年多前，月之暗面Kimi联合创始人Tim周昕宇就已验证了Long-CoT的有效性：通过训练小型模型进行多位数的加减乘除运算，并将细粒度的运算过程合成极长的CoT数据进行监督微调（SFT），即可获得显著效果。这一发现令团队意识到长链上下文的关键作用，并优先考虑拓展模型的上下文长度。然而，由于Long-CoT涉及长文本输出，其高昂的成本和较慢的速度，使得团队一度将Long-CoT的研发排在较低优先级。

然而，OpenAI o1模型的发布改变了这一现状。Flood Sung表示，o1模型带来的震撼效果，促使团队重新审视了成本与性能之间的权衡。他认为，性能提升的重要性远高于成本和速度，而摩尔定律将不断降低成本和提升速度。因此，团队决定All in Long-CoT技术，力求训练出能够像人类一样自由思考的模型。

这一战略调整已得到实际行动的印证。Flood Sung在月之暗面Kimi官网上发布了一篇万字长文，详细阐述了团队对o1模型破解过程的研究，标志着公司已正式将o1模型作为对标目标，并积极推进相关研究。

从区块链技术的角度来看，这一事件体现了AI领域技术迭代的快速性和竞争的激烈程度。Long-CoT作为一种提升模型性能的关键技术，其成本和速度的优化，将直接影响未来AI模型的应用范围和发展潜力。 这与区块链技术的不断发展和优化有着异曲同工之妙，都需要在性能、安全性和成本之间寻求平衡。 未来，随着算力的提升和算法的改进，Long-CoT技术或许会在更多领域展现其价值，例如去中心化AI模型的训练和应用，以及AI驱动的智能合约的开发等。 月之暗面团队的探索，为我们提供了一个观察AI技术发展和未来趋势的窗口，也为区块链技术与AI技术的融合提供了新的思考方向。