ollama v0.32.6 正式发布：Apple GPU 推理加速、流式接口对齐、云端模型调用优化与 TUI 体验修复

2026年8月6日ollama v0.32.6 正式发布。本次更新聚焦于推理性能、接口兼容性、云端模型调用、终端交互体验以及底层推理引擎更新等多个方面。从更新内容来看v0.32.6 并不是一次单纯新增功能的版本而是围绕现有能力进行优化和修复在 Apple GPU 场景下MLX 引擎能够自动使用模型的 MTP head 进行推测解码/v1/chat/completions流式输出进一步对齐 OpenAI 的 wire format没有默认标签的云端模型可以通过新的云端标签正常调用TUI 中多个影响使用体验的问题得到修复。同时需要特别注意的是实验性图像生成功能在 v0.32.6 中被暂时移除。如果仍然需要使用图像生成能力需要继续使用 v0.32.5。一、版本信息概览本次发布版本为版本号v0.32.6发布时间2026年8月6日项目地址github.com/ollama/ollama本次更新涉及以下内容Apple GPU 上的模型推理速度优化MLX 引擎自动使用模型的 MTP head 进行推测解码/v1/chat/completions流式输出格式对齐 OpenAI wire format截断响应的finish_reason返回值调整云端模型标签调用方式优化TUI 中表格渲染、文件补全、提示词滚动等问题修复实验性图像生成功能暂时移除MLX 与 llama.cpp 引擎更新从这些内容可以看出v0.32.6 的重点主要集中在推理链路、接口返回行为、命令行交互细节和引擎维护上。二、Apple GPU 推理速度提升MLX 自动使用 MTP head 进行推测解码本次更新中最值得关注的一项内容是 Apple GPU 场景下的推理性能优化。更新说明明确指出Qwen3.5 在 Apple GPU 上运行更快MLX 引擎现在会自动使用模型的 MTP head 进行推测解码。这意味着在使用 MLX 引擎并运行 Qwen3.5 时系统将自动启用模型的 MTP head 来进行 speculative decoding也就是推测解码。对于用户而言这项变化的重要特点是“自动”。此前用户在关注模型推理性能时通常需要留意模型结构、推理引擎能力以及特定优化是否被启用。而在 v0.32.6 中MLX 引擎会自动利用模型自身提供的 MTP head 能力进行推测解码不需要用户额外在更新说明中提到的范围内进行手动配置。这项改动直接对应的是 Apple GPU 上的运行速度表现。也就是说在满足相关模型和推理引擎条件的情况下Qwen3.5 在 Apple GPU 环境中的推理速度将得到提升。这里有几个关键点值得关注优化对象是 Apple GPU 场景涉及的推理引擎是 MLX更新说明中明确提到的模型是 Qwen3.5优化方式是自动使用模型的 MTP head采用的技术路径是 speculative decoding即推测解码用户无需额外手动开启这一能力从版本说明的表述可以看出这并不是单纯升级模型本身而是 MLX 引擎针对模型能力进行了更进一步的自动利用。模型拥有 MTP head而 MLX 引擎在 v0.32.6 中能够自动将其用于推测解码从而带来更快的推理体验。对于在 Apple GPU 设备上使用 MLX 引擎运行 Qwen3.5 的用户来说这是一项直接影响日常生成速度的重要更新。三、/v1/chat/completions流式输出格式对齐 OpenAI wire format除了推理性能优化外v0.32.6 还对接口兼容性进行了调整。本次更新中/v1/chat/completions的流式输出行为进一步匹配 OpenAI 的 wire format。更新说明中提到/v1/chat/completionsstreaming now matches OpenAI’s wire format: role only on the first chunk, finish_reason on its own chunk, and usage in a separate chunk with stream_options.include_usage.这项变化包含三个非常明确的调整。3.1 role 仅在第一个流式数据块中返回在 v0.32.6 中流式响应中的 role 只会出现在第一个 chunk也就是第一个数据块中。换句话说当通过/v1/chat/completions接口进行流式调用时响应不再在每一个后续数据块中重复返回 role而是在第一个 chunk 中给出 role 信息。这一变化使流式输出的结构与 OpenAI 的 wire format 保持一致。对于需要处理流式响应的客户端、服务端转发层或接口适配层来说返回格式的一致性很重要。客户端在解析流式内容时可以按照更统一的行为处理 role首个 chunk 用于获取 role后续 chunk 主要用于接收持续生成的内容不需要将 role 视为每个数据块都会重复出现的字段此次调整的重点在于“role only on the first chunk”即 role 只出现在首个数据块。3.2 finish_reason 独立放在自己的 chunk 中在流式输出结束阶段finish_reason将放在独立的 chunk 中返回。更新说明中使用的表述是finish_reason on its own chunk也就是说finish_reason不再与普通内容数据混合在同一个数据块中而是拥有单独的流式 chunk。这意味着流式响应的结束信号在结构上更加清晰。当模型生成完成后客户端可以通过专门承载finish_reason的数据块识别生成结束原因。对于需要严格处理流式输出生命周期的调用方来说这种结构能够让结束状态与内容增量更加明确地区分开。从接口行为上看可以将流式数据理解为包含不同职责的数据块第一个 chunk包含 role中间的 chunk承载持续输出的内容专门的结束 chunk承载finish_reason使用量相关 chunk在启用对应选项后独立返回 usage这种划分使每类信息都有更清晰的位置。3.3 usage 通过stream_options.include_usage独立返回在 v0.32.6 中usage 信息也会以单独的 chunk 返回但这一行为与stream_options.include_usage选项相关。更新说明明确指出usage in a separate chunk with stream_options.include_usage这意味着当调用方使用stream_options.include_usage时usage 将在一个独立的数据块中返回。因此在流式调用中如果需要使用量信息就需要关注stream_options.include_usage。启用这一选项后usage 不会与正常内容流混合而是作为独立 chunk 提供。此次调整与 role、finish_reason的变更共同构成了更明确的流式返回结构返回内容v0.32.6 中的流式位置role仅第一个 chunk内容增量持续输出的内容 chunkfinish_reason独立 chunkusage启用stream_options.include_usage后独立 chunk需要注意的是这里的重点不是新增一个普通字段而是流式输出中不同类型信息的组织方式发生了调整并且整体行为对齐 OpenAI wire format。对于已经基于/v1/chat/completions实现流式解析的开发者而言应关注以下变化不应假定每个 chunk 都会包含 role应单独处理包含finish_reason的结束 chunk如果使用stream_options.include_usage应准备接收独立的 usage chunk流式解析逻辑需要按照新的 wire format 行为进行适配四、被截断的 OpenAI 响应将返回finish_reason: length在接口返回行为方面v0.32.6 还修正了一个与截断响应有关的状态标记问题。更新说明指出Truncated OpenAI responses now report finish_reason: “length” instead of “tool_calls”.也就是说当 OpenAI 响应发生截断时finish_reason现在会返回length而不再返回tool_calls这是一次语义更加准确的调整。“截断”对应的是长度限制相关的结束情况因此 v0.32.6 将截断响应的结束原因调整为length。此前该情况会返回tool_calls而现在不再如此。对于依赖finish_reason判断请求结束状态的调用方这一变化需要重点关注。在 v0.32.6 中可以理解为场景返回的finish_reasonOpenAI 响应被截断length这项修改尤其关系到调用方对结果完整性的判断。如果应用需要根据finish_reason执行后续处理例如判断内容是否因长度原因停止、是否需要继续请求、是否需要提示用户内容未完整返回那么应将被截断场景识别为length。此次调整也与前文提到的流式输出规范化相呼应。v0.32.6 不仅调整了finish_reason在流中的位置使其独立放置在自己的 chunk 中同时也调整了截断场景下的具体值使其从tool_calls变为length。五、云端模型调用优化ollama run kimi-k3可提供kimi-k3:cloud本次更新还改善了云端模型的调用体验。更新说明指出ollama run kimi-k3 now offers kimi-k3:cloud for cloud-only models that publish no default tag, instead of failing.这一变化针对的是没有发布默认标签的 cloud-only 模型。在此前的情况下当执行ollama run kimi-k3如果该模型属于 cloud-only 模型并且没有发布默认 tag那么该命令可能会失败。而在 v0.32.6 中面对这种没有默认标签的 cloud-only 模型系统会提供kimi-k3:cloud而不是直接失败。这项改动的核心是为没有默认标签的云端模型提供可用的云端标签路径。从更新说明中的信息可以梳理出以下逻辑用户执行ollama run kimi-k3目标模型为 cloud-only 模型该模型没有发布默认 tag在 v0.32.6 中不再直接失败系统提供kimi-k3:cloud这使得云端模型的标签调用行为更加明确。对于用户而言最直接的变化是当模型没有默认标签时不再只得到失败结果而是可以使用对应的:cloud标签。在本次更新中明确给出的示例是kimi-k3:cloud这一变化避免了 cloud-only 模型因为缺少默认 tag 而无法通过原始模型名直接处理的情况。需要强调的是更新说明只明确描述了这一云端标签提供行为并没有给出更多模型标签规则。因此在使用时应以kimi-k3:cloud这一明确提供的形式为准。六、TUI 体验修复文本渲染、文件补全与提示词滚动均得到改善v0.32.6 对 TUI 进行了多项修复。TUI 是终端用户界面在日常通过终端与模型交互时文本显示、输入补全和命令滚动等细节都会直接影响使用体验。本次修复包含三个方面使用竖线分隔的普通文本不再被错误渲染成表格按下 Enter 键可以接受当前高亮的文件补全项/prompt滚动不再卡顿下面分别展开说明。6.1 竖线分隔的普通文本不再被渲染为表格更新说明中提到pipe-delimited prose no longer renders as a table也就是说使用竖线分隔的普通文本不再被渲染成表格。在 Markdown 或终端文本渲染场景中竖线通常可能与表格语法产生关联。但并不是所有包含竖线的内容都是表格。当一段普通文本只是使用竖线来分隔内容时如果被错误识别为表格就会导致显示形式与原始表达意图不一致。v0.32.6 修复后pipe-delimited prose即使用竖线分隔的普通叙述性文本将不再被当作表格渲染。例如以下类似的内容应当被视为普通文本而不是表格选项A | 选项B | 选项C此次修复解决的不是表格本身的显示问题而是避免普通文本被误判为表格。对于经常在 TUI 中输入或查看带有竖线分隔内容的用户来说这一修复能够使文本呈现更符合原本的输入形式。6.2 Enter 键可接受当前高亮的文件补全项第二项 TUI 修复与文件补全有关。更新说明中指出Enter accepts the highlighted file completion在 v0.32.6 中按下 Enter 键可以接受当前被高亮的文件补全项。文件补全是终端交互中的一个重要输入辅助能力。当用户输入与文件相关的内容时系统可能提供候选补全项。此次修复后如果某个文件补全候选项处于高亮状态用户可以通过 Enter 键确认并接受该候选项。这一改动带来的核心价值在于交互一致性。在存在高亮候选项的情况下Enter 键可以直接用于接受当前选项减少额外操作使文件补全的确认过程更顺畅。本次更新明确说明的是存在文件补全某个候选项被高亮按下 Enter当前高亮的文件补全项会被接受对于依赖终端进行文件引用或文件相关操作的用户来说这是一项实用的交互修复。6.3/prompt滚动不再卡顿第三项 TUI 修复涉及/prompt的滚动性能。更新说明中写道/prompt scrolling is no longer laggy也就是说/prompt的滚动不再出现卡顿问题。滚动卡顿会直接影响查看和编辑体验尤其是在需要浏览较多提示词内容时响应不够流畅会影响终端交互效率。在 v0.32.6 中这一问题已经被修复。/prompt滚动不再 laggy也就是不再滞后、不再卡顿。需要注意的是更新说明没有进一步给出卡顿原因、修复方式或性能数据。因此对于此次变更可以确认的信息是/prompt过去存在滚动卡顿问题v0.32.6 已对这一问题进行修复修复后的目标是让滚动不再卡顿这项改进虽然属于交互细节但对于经常使用 TUI 进行提示词查看和管理的用户来说实际感受会比较直接。七、实验性图像生成功能暂时移除本次更新中有一项需要特别留意的变化实验性图像生成功能被暂时移除。更新说明明确指出Experimental image generation has been temporarily removed. Continue using 0.32.5 for image generation support.这意味着在 ollama v0.32.6 中实验性图像生成功能暂时不可用。这里包含两个关键信息。第一移除的是实验性图像生成能力。第二如果仍然需要图像生成支持应继续使用 v0.32.5。因此对于依赖图像生成能力的用户在升级前需要明确评估这一变化。可以直接总结为使用需求建议版本需要实验性图像生成支持继续使用 v0.32.5使用 v0.32.6实验性图像生成功能暂时移除“暂时移除”意味着该功能在当前 v0.32.6 版本中不提供但更新说明没有给出恢复时间也没有提供替代方案。因此不应基于本次说明推测后续恢复计划。对于已经在使用 v0.32.5 图像生成能力的用户而言最重要的信息就是如果图像生成是当前工作流中的必要部分不应仅因为 v0.32.6 带来了其他优化而忽略该功能已经暂时移除的事实。本次更新说明给出的明确建议是继续使用 0.32.5 以获得图像生成支持。八、MLX 与 llama.cpp 引擎已更新除上述具体功能与修复外v0.32.6 还更新了 MLX 和 llama.cpp 引擎。更新说明中的原始内容为Updated the MLX and llama.cpp engines.这表明两个底层推理引擎均已在本版本中完成更新MLX 引擎已更新llama.cpp 引擎已更新其中MLX 引擎的更新与本次 Apple GPU 上 Qwen3.5 的推理速度提升直接相关。MLX 现在能够自动使用模型的 MTP head 进行推测解码这是本次版本说明中明确列出的 MLX 侧行为变化。至于 llama.cpp 引擎更新说明仅确认其已经更新但没有提供具体的版本号、更新细节或行为变化。因此在梳理本次版本内容时只能确认 llama.cpp 引擎已更新不应额外推断未在发布说明中出现的内容。这也说明v0.32.6 不仅包含用户界面层和接口层的变化同时也对底层推理引擎进行了维护和更新。九、v0.32.6 更新重点汇总为了更清晰地查看本次更新可以将核心内容汇总如下。更新方向具体变化Apple GPU 推理性能Qwen3.5 在 Apple GPU 上运行更快MLX 推理优化自动使用模型的 MTP head 进行推测解码流式接口格式/v1/chat/completions流式输出匹配 OpenAI wire formatrole 返回位置role 只在第一个 chunk 中返回结束原因返回位置finish_reason在独立 chunk 中返回usage 返回位置使用stream_options.include_usage时usage 在独立 chunk 中返回截断响应状态被截断的 OpenAI 响应返回finish_reason: length云端模型调用ollama run kimi-k3可提供kimi-k3:cloud避免无默认 tag 时失败TUI 文本渲染竖线分隔的普通文本不再错误渲染为表格TUI 文件补全Enter 可以接受高亮的文件补全项TUI 提示词滚动/prompt滚动不再卡顿图像生成实验性图像生成功能暂时移除图像生成建议需要图像生成支持时继续使用 v0.32.5推理引擎MLX 与 llama.cpp 引擎已更新十、升级时需要重点关注的事项结合本次更新内容升级到 v0.32.6 时有几个方面需要特别注意。第一Apple GPU 与 MLX 用户可以关注推理速度变化。如果使用 Apple GPU、MLX 引擎以及 Qwen3.5v0.32.6 中的自动 MTP head 推测解码是本次版本的重要变化。该能力会自动启用重点是提升相关场景下的运行速度。第二流式接口调用方需要适配新的 chunk 行为。使用/v1/chat/completions流式接口时需要关注以下规则role 只在第一个 chunk 中出现finish_reason在独立 chunk 中出现使用stream_options.include_usage时usage 在独立 chunk 中出现如果调用方此前假设 role 会重复出现或者假设结束原因与普通内容位于同一数据块中则需要按照新行为进行处理。第三截断响应的结束原因值发生变化。被截断的 OpenAI 响应现在返回finish_reason: length而不是finish_reason: tool_calls对于基于结束原因执行后续逻辑的程序应重点检查这一判断条件。第四云端模型标签行为有所改善。对于没有默认 tag 的 cloud-only 模型ollama run kimi-k3不再直接失败而是提供kimi-k3:cloud。第五依赖图像生成功能的用户不应升级到 v0.32.6。实验性图像生成功能已经在 v0.32.6 中暂时移除。需要图像生成支持时应继续使用 v0.32.5。十一、总结ollama v0.32.6 于2026年8月6日发布本次更新围绕性能、接口、云端模型调用、TUI 交互以及底层引擎更新展开。在性能方面MLX 引擎能够自动使用模型的 MTP head 进行推测解码使 Qwen3.5 在 Apple GPU 上运行更快。在接口方面/v1/chat/completions的流式输出行为进一步匹配 OpenAI wire formatrole 仅在第一个 chunk 中出现finish_reason使用独立 chunk 返回启用stream_options.include_usage后 usage 也会使用独立 chunk 返回。同时被截断的 OpenAI 响应将以length作为finish_reason不再返回tool_calls。在云端模型调用方面执行ollama run kimi-k3时针对没有默认 tag 的 cloud-only 模型可以提供kimi-k3:cloud避免直接失败。在终端交互方面v0.32.6 修复了竖线分隔文本被误渲染为表格的问题支持通过 Enter 接受高亮的文件补全项并解决了/prompt滚动卡顿的问题。此外MLX 与 llama.cpp 引擎均已更新。