资讯动态

ollama v0.35.0发布:决策模型正式上线,接口直接返回选择、概率与评分

发布时间:2026/10/2 18:11:30 来源:尧图企业网站定制
发布日期2026年9月30日版本号v0.35.0核心关键词决策模型、/v1/systemone、choice、noul、score、概率、评分、模型路由、工单分流、内容分类Ollama v0.35.0 正式发布。本次更新最值得关注的内容是新增了对决策模型的支持。与常见的文本生成模型不同决策模型并不以输出自然语言文本为主要目标而是直接返回选择结果、各选项对应的概率以及评分等结构化信息。对于需要快速完成分类、判断、路由和筛选的业务场景来说这种返回形式更加直接也更方便程序接收和处理。在 v0.35.0 中Ollama 通过/v1/systemone接口支持决策模型该能力基于 TypeSafe 的 Jev API。开发者可以将一段上下文内容连同一个或多个问题发送到接口中由模型返回结构化决策结果。除了决策模型能力外v0.35.0 还包含多项体验与稳定性改进包括设置页面启动逻辑优化、macOS 更新提示修复、MLX 模型下载卡住问题修复以及对已弃用参数typical_p的兼容处理优化。一、Ollama v0.35.0 的核心更新决策模型来了Ollama v0.35.0 新增了决策模型支持。决策模型与传统的文本生成模式有明显差异。传统模型通常根据输入内容生成一段文字输出可能是一句话、一段解释、一个回答或者较长的文本内容。而决策模型的重点不在于生成文本而在于针对给定的上下文和问题返回明确的结构化判断。它可以返回的内容包括选择结果每个候选选项的概率置信度条件成立的概率基于有序标准得到的评分这种能力适合用于需要明确结果的数据处理任务例如工单分流、模型路由、内容分类等。例如一条客服工单内容中提到结账出现 500 错误。对于传统文本生成方式模型可能会输出“这看起来是一个软件错误”之类的文字。对于决策模型来说返回结果则可以直接是bug同时附带账单、软件错误、账号访问等不同标签的概率。对于程序而言后者更容易处理。业务系统不需要从一段自然语言中继续提取分类标签也不需要额外判断模型描述是否明确而是可以直接读取结构化字段中的选择结果和概率结果。二、决策模型的接口/v1/systemone在 Ollama v0.35.0 中决策模型通过以下接口提供/v1/systemone该接口基于 TypeSafe 的 Jev API。调用时需要将模型名称、上下文状态内容以及一个或多个问题一并传入。模型根据传入的状态和问题输出对应的决策答案。官方给出的调用示例如下curlhttp://localhost:11434/v1/systemone\-HContent-Type: application/json\-d{ model: nimble, state: Our checkout has returned 500 errors since 9am., questions: { label: { type: choice, instructions: Which label fits this ticket?, criteria: { billing: Payments and refunds, bug: Software errors, account: Login and account access } } } }从这段请求可以看出接口请求主要由几个部分组成。首先是model字段。model:nimble该字段用于指定当前要调用的决策模型。v0.35.0 提供的可用模型包括 Nimble 和 Tev1。其次是state字段。state:Our checkout has returned 500 errors since 9am.这个字段用于传递当前需要分析的上下文信息。在示例中状态内容描述的是从上午 9 点开始结账功能持续返回 500 错误。接下来是questions字段。questions:{label:{type:choice,instructions:Which label fits this ticket?,criteria:{billing:Payments and refunds,bug:Software errors,account:Login and account access}}}这里定义了需要模型完成的决策问题。questions中可以包含一个或多个问题。示例中定义了一个名为label的问题其问题类型是choice目标是让模型在多个工单分类标签中选择最匹配的一项。可供选择的分类标准包括分类标签分类说明billing支付与退款bug软件错误account登录与账号访问因为上下文中明确提到了结账返回 500 错误因此模型需要在这些分类中判断最合适的标签。三、接口返回结果选择、概率与置信度针对前面的请求接口会返回如下结构化结果{model:nimble,answers:{label:{type:choice,choice:bug,probabilities:{billing:0.0125,bug:0.9781,account:0.0093},confidence:0.8906}},usage:{input_tokens:174,output_tokens:1}}从返回内容可以看到模型不仅给出了最终分类而且给出了每个候选分类的概率。返回结果中的模型字段如下model:nimble它表示本次请求所使用的模型为nimble。核心结果位于answers字段中answers:{label:{...}}其中的label与请求中定义的问题名称对应。也就是说请求中定义了名为label的问题返回中也会在answers.label中给出这一问题的决策答案。结果类型为type:choice这说明本次返回的是一个选择类型的问题结果。最终选择结果为choice:bug模型将这条工单归类为bug即软件错误。更重要的是接口还返回了各个候选项的概率probabilities:{billing:0.0125,bug:0.9781,account:0.0093}从这些数据中可以看到标签概率billing0.0125bug0.9781account0.0093在三个标签中bug的概率为 0.9781明显高于其他选项。因此模型最终返回bug作为选择结果。接口还提供了置信度confidence:0.8906该字段表示此次选择结果的置信度为 0.8906。在使用决策模型时最终选择结果、候选项概率和置信度可以共同构成完整的结构化判断结果。相比只返回一段说明文字这种形式能够让调用方直接得到分类结论同时保留不同候选结果之间的概率差异。返回内容中还包含使用量信息usage:{input_tokens:174,output_tokens:1}其中字段数值input_tokens174output_tokens1这说明该请求的输入 token 数为 174输出 token 数为 1。四、v0.35.0 提供的决策模型Ollama v0.35.0 中列出的可用决策模型包括以下两个模型来源NimbleBespoke LabsTev1Together AI其中Nimble 可以通过以下命令拉取ollama pull nimble拉取完成后可以在/v1/systemone接口请求中将模型字段设置为nimblemodel:nimble在官方示例中正是使用nimble对工单内容进行了分类并返回了bug的选择结果、多个分类标签的概率以及置信度。五、三种问题类型choice、noul、scoreOllama v0.35.0 的决策模型接口支持三种问题类型类型作用choice从多个选项中选择一个并返回每个选项的概率noul返回某个条件为真的概率score根据一组有序标准返回评分这三种类型覆盖了选择、真假判断和分级评分三类结构化决策需求。六、choice选择一个选项并返回所有选项概率choice类型用于从多个候选项中选择最符合条件的一项。官方示例中的工单分类就是一个典型的choice使用方式type:choice在这一模式下请求中可以定义多个候选标准criteria:{billing:Payments and refunds,bug:Software errors,account:Login and account access}模型会根据state中提供的上下文内容在这些候选标准中选择最匹配的一项。最终结果会包含问题类型最终选择项每一个候选项的概率置信度对应到示例中模型返回{type:choice,choice:bug,probabilities:{billing:0.0125,bug:0.9781,account:0.0093},confidence:0.8906}在这个结果里bug是最终选择billing、bug、account则分别拥有各自的概率。对于工单分流场景choice可以用于将不同内容归入预先定义好的类别。在模型路由场景中也可以用于在多个候选模型或处理路径中选择一个结果。在内容分类场景中则可以根据给定的分类标准输出最匹配的标签及相关概率。七、noul返回条件为真的概率noul类型用于返回某个条件为真的概率。与choice的多个候选项选择不同noul更关注一个具体条件是否成立。它返回的是该条件为真的概率。在需要判断一个条件是否满足时noul可以提供直接的概率结果。其核心目标不是从多个标签中选一个而是针对某个判断条件给出概率。根据 v0.35.0 的说明noul的定义为Return the probability that a condition is true.也就是返回一个条件为真的概率。如果说choice的结果重点是“多个候选项中哪个最符合”那么noul的结果重点则是“某个条件成立的可能性有多高”。八、score基于有序标准返回评分score类型用于根据一组有序标准返回评分。v0.35.0 对score的定义是Return a score across an ordered set of criteria.即在一组有序的标准之中返回一个评分结果。与choice侧重于选择一个类别不同score侧重于在具有顺序关系的一组标准上进行评分。与noul侧重于一个条件是否为真不同score侧重于得分或等级结果。因此三个问题类型可以这样理解问题类型关注重点返回形式choice哪一个选项最匹配选择结果与各选项概率noul条件是否成立条件为真的概率score在有序标准中的评分评分结果九、决策模型适用的任务类型Ollama v0.35.0 明确提到了决策模型适用于以下任务工单分流模型路由内容分类工单分流是官方示例展示的典型任务。示例中的状态信息为Our checkout has returned 500 errors since 9am.在三个候选分类中模型选择了bug其对应概率为0.9781这表明对于“结账功能返回 500 错误”这一内容模型将其与软件错误标签建立了最高匹配关系。模型路由同样属于决策模型适用的任务类型。决策模型可以输出选择、概率与评分因此适合用于需要根据输入内容进行判断并输出明确路由结果的任务。内容分类也是决策模型的适用方向。通过向criteria提供一组分类标准模型可以根据上下文状态选择对应类别并在choice类型下返回各类别的概率。决策模型的关键价值在于输出结果不是单纯的文本描述而是可被程序直接读取的结构化数据。十、v0.35.0 的其他更新与修复除了新增决策模型支持Ollama v0.35.0 还包含以下改动。改动内容设置页面优化设置现在无需等待模型发现完成即可打开macOS 更新修复修复启动时更新菜单和图标未反映可用更新的问题MLX 下载修复修复 MLX 模型下载停滞后无限期挂起的问题typical_p兼容优化请求包含已弃用的typical_p参数时改为记录警告而不是直接失败下面分别展开说明。十一、设置页面不再等待模型发现v0.35.0 中设置页面现在可以在不等待模型发现完成的情况下打开。更新说明为Settings now opens without waiting for model discovery.也就是说设置页面的打开不再依赖模型发现流程结束。这一改动针对的是设置页面启动时与模型发现之间的等待关系。更新后设置可以直接打开而不需要等待模型发现完成。十二、修复 macOS 启动时更新菜单和图标未正确显示的问题v0.35.0 修复了 macOS 中与更新状态显示相关的问题。更新说明指出修复了在启动时更新菜单和更新图标未能反映可用更新的问题。原始说明为Fixed the macOS update menu and icon not reflecting an available update at startup.修复内容涉及两个位置更新菜单更新图标修复场景则是应用启动时存在可用更新但菜单和图标没有正确体现这一状态的问题。十三、修复 MLX 模型下载停滞后无限期挂起的问题v0.35.0 还修复了 MLX 模型下载相关的问题。更新说明为Fixed stalled MLX model downloads hanging indefinitely.该问题的表现是MLX 模型下载在停滞后可能会无限期挂起。此次更新对这一问题进行了修复处理的重点是下载过程已经停滞但任务仍持续处于挂起状态的情况。十四、已弃用的 typical_p 参数不再导致请求失败在 v0.35.0 中包含已弃用参数typical_p的请求处理方式发生了变化。更新说明为Requests containing the deprecated typical_p parameter now log a warning instead of failing.此前包含已弃用typical_p参数的请求会失败。在 v0.35.0 中这类请求不会再因为该参数而直接失败而是会记录一条警告信息。涉及的参数名称为typical_p涉及的变化可以概括为情况处理方式请求包含已弃用的typical_p参数记录警告请求包含已弃用的typical_p参数不再直接失败这一调整保留了对弃用参数的提醒同时改变了请求因该参数直接失败的行为。十五、Ollama v0.35.0 更新内容汇总Ollama v0.35.0 的核心更新可以归纳为以下内容分类更新内容新能力新增决策模型支持接口通过/v1/systemone提供决策模型能力基础基于 TypeSafe 的 Jev API模型提供 Nimble 和 Tev1问题类型支持choice、noul、scorechoice选择一个选项并返回每个选项的概率noul返回条件为真的概率score基于有序标准返回评分使用场景工单分流、模型路由、内容分类设置体验设置页面无需等待模型发现完成即可打开macOS 修复修复启动时更新菜单和图标未显示可用更新的问题MLX 修复修复模型下载停滞后无限期挂起的问题参数兼容typical_p参数由请求失败改为记录警告结语代码地址github.com/ollama/ollamaOllama v0.35.0 的重点在于决策模型能力的加入。通过/v1/systemone接口调用方可以向模型传递状态信息和一个或多个问题并获得选择结果、概率、置信度或评分等结构化结果。接口支持choice、noul、score三种问题类型覆盖多选一分类、条件成立概率判断以及有序标准评分等需求。在官方示例中针对“结账功能从上午 9 点开始返回 500 错误”的工单内容模型选择了bug标签并返回了billing、bug、account三个标签的概率以及置信度。与此同时v0.35.0 还优化了设置页面打开逻辑修复了 macOS 启动时更新显示问题修复了 MLX 模型下载无限期挂起问题并将已弃用typical_p参数的处理方式从直接失败调整为记录警告。

读完文章,也想定制专属网站?

尧图设计师 24 小时内与您沟通定制方案

免费获取报价 →
↑