资讯动态

什么是 Jev AI?

发布时间:2026/10/1 10:11:17 来源:尧图企业网站定制
无论你使用ChatGPT、Claude、Gemini、通义千问还是其他现代大语言模型背后的基本过程都很相似。你先提供一段输入模型对内容进行推理随后按照顺序生成一个又一个Token最终组成文字、代码、JSON或其他形式的输出。Jev走的是一条完全不同的路。Jev由TypeSafe AI开发是该公司的首款System One Model也就是系统一模型。这是一种专门面向软件自动化设计的新模型类别。它的重点并不是生成文本而是接收应用状态和结构化问题再返回能够被软件直接使用的类型化概率决策。TypeSafe将这套工作方式概括为“输入非结构化状态输出类型化概率决策。”因此Jev与其说是聊天机器人不如说是一个交给软件调用的AI决策函数。Jev究竟是什么Jev是TypeSafe AI开发的一种概率决策模型。它适用于这样一类场景软件确实需要AI提供判断能力却根本不需要模型生成一大段文字。以AI客服为例。一位客户表示“收到的包裹已经损坏我想申请退款。”传统大语言模型可能会生成一段详细说明告诉客服人员应该如何处理这项请求。然而业务系统真正需要的也许只有三个决定queue billing priority high refund_review true也就是应该进入哪个处理队列当前优先级有多高是否需要进行退款审核。这正是Jev擅长处理的工作。传统方案通常先让模型以文本形式生成答案然后再由程序解析内容、提取字段并检查格式。Jev则直接返回结构化决策同时提供相应的概率和置信度信息。少了一层文字包装也少了一次解析过程。一个很香的 AI 平台GPT-5.6 低倍率且不降智 和 Claude Code 4.8 只要 0.25倍率包含 image-2生图。重点是 首字请求都在 5s 内。入口[https://ai.aiyuhub.com]Jev不是传统大语言模型这大概是理解Jev时最重要的一点不能简单地把Jev称为另一个小型LLM。传统大语言模型的核心目标是进行字符串生成。它们按照顺序输出Token每个新Token都会受到前面内容的影响。Jev的设计中心则是结构化决策。两者的差异可以简化为下面这条流程。传统大语言模型输入 ↓ 推理 ↓ Token 1 ↓ Token 2 ↓ Token 3 ↓ …… ↓ 文本 ↓ 解析和验证 ↓ 软件决策Jev走的却是另一条路径应用状态 ↓ Jev模型 ↓ 类型化决策 ↓ 业务软件Jev可以并行评估多个已经声明的问题而不是为每一个答案分别生成一串Token。这种架构差异正是Jev宣称能够降低延迟与成本的关键所在。什么是System One ModelTypeSafe将Jev称为System One Model。这一概念受到丹尼尔·卡尼曼所推广的“快思考与慢思考”理论启发。TypeSafe认为AI应用中通常存在两类性质不同的工作。第一类任务需要复杂推理和开放式生成适合由传统大语言模型处理。例如编写文章、解释代码、制定方案或者回答没有固定选项的问题。另一类任务则简单得多需要重试吗应该调用这个工具吗这项请求存在风险吗这张工单应该进入哪个队列需要升级给人工处理吗这个答案是否满足要求这些任务的本质不是创作而是决策。TypeSafe设计System One Model正是为了处理这第二类问题快速、重复、结构清晰而且通常具有明确的结果范围。Jev的三种核心决策类型Jev API并不围绕自由文本生成展开而是围绕具有明确类型的问题设计。1. Choice选择Choice要求模型从预先定义好的选项中挑选一个答案。例如问题 这张工单应该进入哪个队列选项 - billing - technical - shipping - human_review模型会返回一个结构化选择同时附带相应的概率信息。Choice适合处理数据分类请求路由工具选择智能体选择工作流分支判断。因为候选项提前已经声明业务程序不必从一段自然语言中猜测模型究竟选择了什么。2. Score评分Score要求模型按照有顺序的等级或评分标准对某项内容进行评价。例如问题 这条客服请求有多紧急评分范围 1 → 5这种决策类型可以用于风险评估、质量检查、任务优先级判断以及其他需要量化评分的工作流。与生成“比较紧急”之类的模糊文字相比明确分数显然更方便软件继续处理。3. Boolean / Noul布尔判断Jev同样支持二元决策。例如问题 退款是否已经发放答案 true结果中也会包含概率信息。TypeSafe把这种决策原语称为Noul。它本质上就是一次“是或否”的判断。在TypeSafe的工作流评估框架中Noul、Choice和Score共同组成三种核心决策类型。Jev会返回概率与置信度Jev与传统LLM API之间还有一项非常重要的区别它的输出从一开始就围绕不确定性设计。假设Jev读取一条客户请求后给出以下结果refund_required true confidence 0.94应用程序便可以根据置信度建立明确阈值confidence 0.90 ↓ 自动处理confidence 0.90 ↓ 转交人工如此一来AI就不必独立完成每一项决定。相反开发者可以在业务逻辑中明确规定什么时候可以相信模型什么时候必须让人工介入。TypeSafe表示Jev会在返回决策时同时提供经过校准的概率与置信度。这个能力对于自动化系统尤其重要。因为生产环境真正关心的不只是“模型选择了什么”还包括“它对自己的选择究竟有多确定”。最大差异并行采样传统自回归模型按照顺序生成Token。从概念上看过程大致如下Token 1 ↓ Token 2 ↓ Token 3 ↓ Token 4 ↓ ……因此答案越长需要连续执行的生成步骤通常就越多。Jev采用了不同设计。如果一个应用同时存在多个相互独立的问题这张工单紧急吗 是否应该升级处理 应该由哪个部门负责 是否需要退款Jev可以并行评估这些问题。从概念上看流程类似这样┌── 紧急程度 │ 应用状态 ────────┼── 是否升级 │ ├── 负责部门 │ └── 是否退款所有决策都能根据同一份应用状态在一次评估中产生。TypeSafe表示这种并行采样架构是Jev能够比传统LLM工作流实现更低延迟的重要原因之一。它不是把四个问题改写成一段提示词再等待模型逐字输出四个答案而是把这些问题视为能够同时计算的决策目标。Jev的技术架构TypeSafe已经公开了一些架构原则但目前并未公布传统模型规格例如参数量和详细的神经网络架构。按照该公司的介绍Jev主要由三部分组成一种新的模型架构一个并行采样器一种名为RLCD的新训练方法。RLCD全称是Reinforcement Learning for Calibrated Decisions可以理解为“面向校准决策的强化学习”。它的训练目标不是优先生成更符合人类偏好的文字而是产生经过校准的决策结果。这一点与对话式大语言模型经常使用的RLHF存在明显区别。RLHF与RLCD有什么不同传统指令模型经常使用基于人类反馈的强化学习也就是RLHF或者采用带有可验证奖励的强化学习方法。这些训练方式通常用于优化以下能力生成更有帮助的回答更准确地遵循用户指令输出能够被客观验证的结果让模型行为更符合人类偏好。TypeSafe则为System One Model开发了RLCD也就是面向校准决策的强化学习。它的目标并不只是“给出人们更喜欢的答案。”而更接近于“给出一项决定并准确表达模型对这项决定有多大把握。”当模型被嵌入自动化软件时这种区别会变得格外重要。聊天机器人偶尔表达得不够完美影响可能只是用户体验下降可如果模型负责决定是否退款、是否拦截交易或者是否触发某个工具错误置信度就可能带来真正的业务风险。为什么类型安全很重要Jev与普通LLM API之间还有一项关键区别。假设我们要求传统模型返回{decision:refund}即便已经启用结构化输出或JSON模式底层模型本质上仍然是在生成一串Token只是最终结果必须尽量符合指定Schema。Jev对问题的处理方式不同。它允许输出的结果从问题被定义时就已经确定。例如Choicerefund replacement human_review模型不能临时创造一个完全不在声明结构中的新选项。因此TypeSafe将Jev描述为类型安全模型。该公司表示Jev能够保证输出与Schema匹配不会在结构化结果中产生传统意义上的类型错误。不过这并不意味着Jev永远不会判断错误。它依然可能从预定义选项中选错答案。真正的区别是即使决定不正确输出仍然会停留在业务程序能够理解和处理的结构之内。简单来说类型安全能够防止“格式失控”却不能保证“判断永远正确”。Jev公布的性能数据Jev最引人关注的部分之一就是TypeSafe公布的性能表现。该公司表示在符合System One特征的任务中Jev能够达到与现有前沿大语言模型相近的智能水平同时拥有明显更快的速度和更低的成本。TypeSafe公布的服务端到端响应时间为70—500毫秒。在该公司的对比中前沿大语言模型完成相应响应大约需要3—329秒。根据TypeSafe的工作流评估结果Jev最高能够实现速度提升193.6倍成本降低444.6倍这些数字确实非常吸引眼球。但需要明确的是它们来自TypeSafe自己的工作流评估应被理解为厂商针对特定System One类型任务公布的结果。它们并不意味着Jev在所有任务中都比每一种大语言模型快数百倍。Jev本来就不是为了完成所有LLM任务而设计的。如果把它拿去写长篇文章、生成复杂代码或进行开放式讨论这些性能数据并没有直接参考价值。Jev的价格Jev也被定位为一种成本极低的模型。TypeSafe公布的价格是每100万个输入Token收费0.042美元换算下来约为每10亿个输入Token收费42美元由于Jev并不生成传统意义上的长篇文本因此其输出Token被标注为免费。Vercel AI Gateway目前列出的Jev价格约为每100万个输入Token收费0.04美元。这种成本结构与传统推理模型明显不同。在常规LLM服务中生成的输出内容往往会占据推理总成本中相当大的一部分而Jev输出的是有限、结构化的决策不需要持续生成大量Token。Jev的上下文窗口和参数量关于Jev仍然有多项传统模型规格尚未由TypeSafe公开。当前能够获取的信息中没有Jev的公开参数量其详细神经网络架构也没有对外披露。Vercel的模型页面目前同样把上下文长度标记为未指定。因此在制作Jev规格表时不应该凭空填写以下信息参数量网络层数隐藏维度注意力头数量上下文长度模型权重训练Token数量。这些数据目前都没有得到公开确认。与其根据经验猜测不如明确标注“尚未披露”。Jev规格汇总以下是目前能够确认的Jev规格不对尚未公开的信息进行补充模型名称Jev开发者TypeSafe AI模型类别System One Model发布日期2026年9月15日开放状态Early Access早期访问主要用途AI驱动的软件决策输入形式应用状态与类型化问题输出形式类型化概率决策决策类型Choice、Score和Boolean/Noul采样方式并行采样训练方式Reinforcement Learning for Calibrated Decisions也就是RLCD模型架构采用新架构具体细节尚未公开参数量尚未公开模型权重尚未公开发布上下文窗口尚未指定输入价格TypeSafe公布为每百万Token 0.042美元Vercel AI Gateway约为每百万Token 0.04美元输出价格免费官方报告延迟70—500毫秒工作流速度提升最高193.6倍工作流成本改善最高444.6倍主要应用分类、路由、评分、验证、安全护栏及AI智能体决策模型输出带有概率和置信度的结构化决策传统文本生成不支持Jev如何用于AI智能体Jev最有意思的应用方向之一是智能体编排。以AI编程智能体为例。传统架构可能让一个大语言模型负责几乎所有环节用户 ↓ 大语言模型 ↓ 推理 ↓ 选择工具 ↓ 调用工具 ↓ 继续推理 ↓ 是否重试 ↓ 再次推理 ↓ 继续执行然而这些中间决策中有许多根本不需要生成长篇文字。例如智能体是否应该重试 是否应该调用另一个工具 是否需要向用户提问 是否应该停止执行 应该调用哪个子智能体这些问题拥有有限选项也往往只需要一次快速判断。Jev可以负责处理这部分结构化决策而能力更强的大模型继续承担复杂推理。两者结合后可能形成一种混合架构前沿大语言模型 │ 复杂推理 │ ┌─────────┴─────────┐ │ │ Jev 工具 │ │ 快速决策 执行动作 │ │ └─────────┬─────────┘ ↓ 智能体状态Vercel特别提到了一些适合Jev的潜在用途工具选择智能体路由重试或停止判断风险评分结果验证安全护栏。在这套思路中Jev不是取代大模型而是帮助大模型减少那些频繁、明确、无需长篇推理的决策负担。Jev还能验证其他大语言模型这可能是Jev最实用的应用之一。假设一个大型语言模型已经生成了答案。系统不必立刻把结果返回给用户而是可以再增加一层检查答案是否得到所提供上下文的支持答案是否安全答案是否符合指定格式这份响应可以发送给用户吗回答中是否存在违反规则的内容Jev有可能充当一个高速验证层。整个系统可以变成用户 ↓ 大语言模型 ↓ 生成回答 ↓ Jev ├── 接受 ├── 拒绝 └── 转人工审核对于生产级AI系统来说这种架构非常值得关注。因为实际业务通常更在意可靠性而不仅是模型能否写出一段令人惊艳的文字。如果验证模型足够快、成本足够低就可以在大量请求中持续运行而不会显著拖慢整体响应速度。Jev与实时AI延迟是Jev可能发挥价值的另一个领域。如果传统大语言模型每次决策都需要数秒那么在一个应用流程中反复调用它系统就会同时面临速度和成本压力。而一个能够在几十到几百毫秒内完成判断的模型更适合构建即时、连续的交互流程。TypeSafe也把实时应用列为System One架构的重要目标场景。潜在用途包括实时任务路由欺诈检测或风险评分客服自动化AI智能体控制循环推荐决策内容验证安全护栏大规模分类工作流自动化。这些场景的共同特点是请求数量大、决定频繁、结果结构明确而且用户或下游程序不愿意等待数秒。Jev不是为了取代GPT、Claude或Gemini这一点必须说清楚。Jev并不是用来替代通用大语言模型的。它不适合直接完成以下任务撰写文章生成代码开放式对话创意写作长链路推理回答没有固定边界的问题。Jev瞄准的是AI技术栈中的另一层能力。可以这样理解两者的差异大语言模型 ↓ 把智能表现为语言Jev ↓ 把智能表现为决策未来的AI应用完全可以同时使用两者。大语言模型负责复杂理解和深度推理Jev则在外围提供快速、结构化的决策能力。它们不是非此即彼而是分工合作。Jev背后更大的想法Jev最值得关注的地方可能并不是低价或低延迟而是它提出了一个不同的方向AI并不总要生成文字。过去几年人与AI交互的主流方式一直是提示词 → 文本TypeSafe提出的则是另一种接口状态 问题 → 决策 概率表面上看这似乎只是API形式发生了变化。然而从软件架构角度来看它的影响要大得多。软件天生就不擅长消费长篇段落。软件真正容易处理的是true / false分数类别ID动作概率结构化状态Jev从设计之初就围绕这些基础元素构建。它没有先生成一段人类语言再要求软件费力理解它直接把判断结果交给程序让下一步逻辑能够立即执行。最后总结Jev代表了AI模型设计中的另一种方向。TypeSafe没有试图再做一个更会写文章的模型而是在打造一个能够快速作出决定并让软件直接使用结果的模型。它的架构结合了新的模型设计、并行采样以及RLCD训练方法。Jev返回的不是传统生成文本而是带有概率和置信度信息的类型化决策。官方公布的性能数据确实非常抢眼在System One工作流评估中最高提速193.6倍成本最多降低444.6倍。不过这些数字必须结合TypeSafe自己的评估方法理解不能直接当作Jev在所有场景中都能全面领先传统大语言模型的证明。相比这些数据Jev背后的架构思想可能更加重要。未来的AI软件未必会继续依赖一个巨型大语言模型包揽所有工作。我们更可能看到这样的系统前沿大语言模型 → 负责深度推理Jev → 负责快速决策传统代码 → 负责确定性逻辑外部工具 → 负责执行现实操作这类分工可能让AI智能体逐渐摆脱“不断生成文字”的单一模式变成由多种专业化智能原语共同组成的系统。Jev未必会取代我们熟悉的大语言模型。但它提醒了所有开发者一件事当软件只需要一个决定时让AI写一大段话也许从一开始就走错了方向。这正是Jev值得继续关注的原因。

读完文章,也想定制专属网站?

尧图设计师 24 小时内与您沟通定制方案

免费获取报价 →
↑