Skip to content

【AI基础系列】 推理大模型接入与推理过程返回 | 一灰灰Blog #270

@liuyueyi

Description

@liuyueyi

https://spring.hhui.top/spring-blog/2025/12/11/251211-SpringAI%E4%B9%8B%E6%8E%A8%E7%90%86%E5%A4%A7%E6%A8%A1%E5%9E%8B%E6%8E%A5%E5%85%A5%E4%B8%8E%E6%8E%A8%E7%90%86%E8%BF%87%E7%A8%8B%E8%BF%94%E5%9B%9E/?

对于一些支持推理模型的LLM(如DeepSeekR1 带有推理解析器的vLLM),除了LLM的直接返回结果,推理结果往往也是一个非常有用的返回信息,对于SpringAI,我们可以通过从返回的 Metadata 中获取推理结果。 使用推理的前提是模型必须支持推理,我们可以使用阿里的 qwen-plus-latest 或者智谱的 glm-4.5-flash;这两个都是支持推理过程的模型。

Metadata

Metadata

Assignees

No one assigned

    Projects

    No projects

    Milestone

    No milestone

    Relationships

    None yet

    Development

    No branches or pull requests

    Issue actions