【AFAC金融智能创新大赛】我用 KTO 把 4B 模型的思维链压了 100 倍,还顺便申请了个专利

📅 2026/7/6 13:28:57
【AFAC金融智能创新大赛】我用 KTO 把 4B 模型的思维链压了 100 倍,还顺便申请了个专利
去年夏天参加 AFAC2025 的时候,赛题三的名字叫"金融领域中的长思维链压缩"。看到这个题目我第一反应是,这不就是个工程优化问题吗?把模型输出的推理过程缩短一点就行了。后来真正动手做才发现,这件事比我想的有意思得多。专利原图:三步走架构,S101 系统提示词优化 → S102 正向微调 → S103 多偏好自训练迭代。每一步都在解决一个具体的约束条件。一、问题到底是什么赛题的要求很明确,在金融场景下,让一个 4B 级别的小模型的思维链(CoT)更短、更准、更顺。这三个字拆开看:更短:思维链长度要大幅压缩,从几千 token 压到一百以内更准:压缩之后准确率不能掉,最好还能涨更顺:输出要人类可读,不能是一堆乱码或者只有答案没有过程听起来简单对吧?但实际操作的时候你会发现,这三个目标互相打架。你想让 CoT 更短,最简单的办法就是让模型少说点,但说得少了准确率就崩。你想让准确率上去,就得让模型多想几步,CoT 又变长了。可读性更难搞,很多模型被逼急了会输出一