资讯动态

快40到200倍、便宜400倍、输出免费:前OpenAI核心成员发布JEV,开源复现已能离线跑

发布时间:2026/10/18 21:46:21 来源:尧图企业网站定制
摘要前OpenAI研究员、RLHF核心贡献者Diogo Almeida发布JEV决策模型不生成任何文本只输出带校准概率的结构化决策。速度比前沿大模型快40到200倍成本低400倍输出永久免费。APUS开源复现的fast-browser-use证明一台M2 Pro消费级笔记本18秒完成浏览器自动化检索全程离线零API费用。这不是更快的模型是Agent架构的“快慢分工”革命。一、JEV只做三件事但每件都是Agent的高频刚需JEV的API极简只处理三种结构化问题原语功能返回结果Choice从给定选项中选择最优选项加概率分布Score在自定义尺度上打分连续数值加置信度Noul判断真伪0到1之间的概率三种问题可以在同一次调用中混用并行产出。给它一个state和一组questions直接返回结构化JSON。例如收到客服邮件JEV同时判断应该分给哪个部门销售85%、紧急程度高92%、退款风险中45%。程序拿到0.95可以和阈值比较、触发告警、自动分派工单。拿到“看起来比较紧急”这句话程序什么都做不了。二、为什么快跳过自回归解码传统大模型逐Token生成每多一个判断就要多生成一段文本耗时线性增长。JEV的核心逻辑是“跳过自回归解码隐状态直接打分”——保留Transformer前端拿掉自回归解码直接从中间层输出判断。一次前向计算完成所有回答问1个问题和问100个问题耗时几乎相同。端到端延迟被压缩到70到500毫秒。对比前沿大模型通常3秒以上的响应时间这是数量级的差异。三、RLCD让置信度变得可信任Diogo Almeida是RLHF的早期贡献者但他离开OpenAI后对RLHF的局限做了深刻反思RLHF让大模型为了讨好人而瞎回答面对人都无法打分的复杂问题时模型会“不懂装懂”。RLCD校准决策强化学习的核心目标只有一个让模型输出的置信度与实际正确率匹配。当模型声称有70%把握时约70%的相关预测应当正确。开发者可以据此设置三档路由高于90%自动执行70%到90%提交人工确认低于70%升级至更强模型。RLCD不是在优化“答案好不好看”而是在优化“答案能不能被机器信任”。四、开源复现一台消费级笔记本零API费用JEV发布后一周内全球开发者社区涌现出八个开源复现项目。APUS的fast-browser-use是最具落地价值的样本之一指标数据测试设备Apple M2 Pro消费级笔记本维基百科检索中位耗时约18秒表单填报、站内导航耗时约3秒单任务模型打分次数仅4次云端调用零API费用零数据流向不出本机Bespoke Labs的Nimble是目前最接近JEV性能的开源方案。基于Qwen3.5-9B用不到3000个训练样本做LoRA微调与参考标签的一致率从66.36%提升至90.12%JEV官方基准93.21%Apache 2.0协议可本地部署、可二次微调。五、Agent架构的“快慢分工”JEV验证了一个判断Agent不应该全部由大模型驱动。80%的调用是“这封邮件是不是垃圾邮件”“在五个接口里选哪个”这类高频原子化判断不该让一个千亿参数的庞然大物在数秒内逐字敲出一串JSON。必须交给大模型的是开放式内容生成、复杂多步推理、问题边界不清的任务。分类、路由、评分、风险判断——这些“智能if语句”交给决策模型。把昂贵的算力用在该用的地方。不需要用GPT-6来判断一封邮件是不是垃圾邮件也不需要为了一个简单的分类任务支付旗舰模型的API费用。查看原文以上仅为核心速览。完整版包含JEV三种原语的完整API调用示例、RLCD与RLHF/RLVR的深度对比、fast-browser-use/Nimble/JEV-CPU三条上手路径的完整配置代码、八条开源路线的分层拆解L0到L3以及Agent“快慢分工”架构的完整工程判断。本文首发于「阿Q的AI笔记」点击下方链接阅读全文大模型必知必会JEV决策模型完全指南

读完文章,也想定制专属网站?

尧图设计师 24 小时内与您沟通定制方案

免费获取报价 →
↑