【免费下载链接】AnyJevTurn any LLM into a Jev-style decision model: typed decisions, real probabilities, no training. (continue updating, welcome any issue and PR request)项目地址https://gitcode.com/gh_mirrors/an/AnyJev点击查看免费下载AnyJev 是一个把任意开源 LLM 变成 Jev 风格决策模型的开源库给它一个状态和一个类型化问题它就返回带真实概率的决策全程免训练。本文前瞻项目路线图上的三大新特性——无标签早退、保形弃权与 Agent 循环评测并带你了解如何跟踪进度、参与贡献。 先看清楚AnyJev 现在能做什么在聊未来之前先确认一下起点因为路线图上每一项都是对现有能力的延伸。AnyJev 目前有两条路线免训练路线Decider直接从任意开源 LLM 的下一个 token 分布里读出决策。L0 档会在选项的所有轮换上平均掉位置偏差并无需标签地除掉标签偏好——Qwen3-8B 在 BANKING77 上5% 错误率下可自动决策的比例从 7.7% 提升到 46.3%。自蒸馏路线TacitTacit-1.7B 到 9B 模型每个决策只需一次前向打开adaptiveTrue后还有一小撮低置信度决策会升级给模型自己的推理比例有上限。官方路线图维护在 ROADMAP.md规则很严格只有当代码、测试、结果 JSON 和文档行都合并进主分支一个条目才能打勾。下面前瞻其中最有看头的几项。 无标签早退从模型的一部分层读出决策为什么很多决策并不需要模型的全部深度——最后几层主要是在把已经想好的答案翻译回 token 空间。跳过它们是最线性的高效杠杆。怎么做训练一个映射到最终层基底的探针无需任何标签就能从截断的前向里读出决策用多深的截断则按与完整模型答案的一致率来选而不是按准确率——因为一致率不需要标签就能测量。基础已就位隐藏状态的管道已经随 0.3.0 发布包括HFBackend.hidden_states_to、写截断检查点的 anyjev/truncate.py 和 vLLM 的 pooler 路径。truncate会把模型的前 n 层写成一个普通检查点vLLM、transformers、量化工具都能照常服务它——早退不是一个特殊对象而是一个更小的模型。完成标准Decider能通过映射读出截断前向、有FakeBackend测试覆盖、并提交了一致率 vs 深度的结果 JSON计划版本 0.3.1。 保形弃权给决策模型一条不回答的规则AnyJev 的每个决策都带概率分布但概率本身并不回答我这次到底该不该答。保形弃权Conformal abstention要补的正是这块Decider(target_error...)会设置decision.abstained让模型在置信度不足时如实弃权并且弃与不弃有统计保证。完成标准在留出的合成数据上已回答样本的实际错误率不超过设定的目标值——这是一条保形意义上的承诺而不是事后调参凑出来的数字。对部署场景的意义很直接你可以先说这条流水线最多容忍 2% 的错误框架就自动决定哪些决策放行、哪些转人工而不需要任何标签。 Agent 循环评测把决策放进真实的 agent 里这是路线图上Next级别最重要的一项。docs/limitations.zh-CN.md 里有一条坦白的局限目前发布的所有决策都是在孤立状态下评分的不是在 agent 循环里。计划的做法选一个公开的 agent 基准让循环里的决策分别由三种方式回答——回答方式代表裸模型直接答raw 读取免训练去偏L0自蒸馏 有上限的升级推理Tacit同时记录任务成功率、每个决策的准确率以及每个决策、每个 episode 的成本。完成标准是一条命令跑完、结果 JSON 提交进仓库、README 引用数字无论数字好看与否都如实引用。对用户的价值你终于能回答把一个 LLM 变成决策模型放进 agent 后到底省了多少、稳了多少这个真实问题。 其他在办事项与远期计划马上跟进的Tacit-8B / 2B / 1.7B 的升级推理结果目前 scripts/eval_tacit.py 已跑通 9B 和 4B剩下三档补齐即可。超过 26 个选项的 span 读法字母标签把choice选项数封顶在 26新方案改为对每个选项串做 teacher-forcing 打分后端的sequence_logprobs目标是跑通 77 路 BANKING77 并给出翻转率与 ECE。更多 log-prob 后端MLX、Ollama契约只有一个方法next_token_logprobs(prompts, token_ids)每个引擎就是一个文件anyjev/backends/ 目录下已按此模式落地了 SGLang 和 llama.cpp 两个社区贡献。这是官方 help-wanted 项一个文件、一个 PR 就能参与。Later 区多模态状态视觉后端raw / L0 先行、量化下的准确率与 ECEbf16 / FP8 / W4、以及为 batch 先验提供无标签的偏斜估计。 如何跟踪路线图、如何参与计划与完成标准ROADMAP.md——每个条目都写明为什么和完成的标准条目从 Next 移到 Now 意味着有人正在做移到 Shipped 意味着达成标准。已落地的变更记录CHANGELOG.md。档位与路由的完整契约docs/levels.md旋转预算的原理推导含中文版docs/rotation_budget.zh-CN.md。也想了解边界docs/limitations.zh-CN.md 列明了所有数字在哪里失效。顺带说明项目的非目标不做基座模型预训练、不做 prompt 编译框架、不做决策自身升级之外的路由逻辑——这些属于决策层的上游或下游。 一句话总结 AnyJev 的未来方向让决策更快无标签早退、更可信保形弃权、更真实在真实 agent 循环里被检验。如果你手上正好有 MLX 或 Ollama 环境ROADMAP.md 里的 help-wanted 项可能正是你的第一个 PR。赞分享【免费下载链接】AnyJevTurn any LLM into a Jev-style decision model: typed decisions, real probabilities, no training. (continue updating, welcome any issue and PR request)项目地址https://gitcode.com/gh_mirrors/an/AnyJev点击查看免费下载相关推荐AsmDude未来路线图AMX支持、标签重命名、代码格式化等新特性前瞻AsmDude未来路线图AMX支持、标签重命名、代码格式化等新特性前瞻 AsmDude作为Visual Studio平台上最强大的汇编语言开发工具正在积极规开发工具2026终极游戏库管理神器Playnite开发路线图与未来功能全解析2026终极游戏库管理神器Playnite开发路线图与未来功能全解析 Playnite是一款功能强大的视频游戏库管理器支持多种第三方库和游戏模拟为玩家提供桌面应用Agent Plugins未来路线图前瞻权限系统、签名验证与企业管控将加入哪些新版本Agent Plugins未来路线图前瞻权限系统、签名验证与企业管控将加入哪些新版本 Agent Plugins 是一个开放、厂商中立的规范用于将 AI A创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考