Spring AI
12 篇文章 · 全部标签
- AI
Spring AI流式输出总断流,问题真不在模型
接口写完了,本地测试也正常,一上线就变成"转圈十秒、整段蹦出来",用户以为你用的模型不行。你换模型、加机器、调 temperature,全都没用。因为断流的凶手从头到尾都不在模型那…
- AI
Spring AI 结构化输出解析失败?三招兜住
摘要: 用 Spring AI 的 .entity() 拿对象,模型一加解释文字就抛 Unrecognized token。本文讲清它背后生成 Schema、拼提示词、反序列化这三…
- AI
Spring AI 记忆总丢?Advisor 链来治
用 Spring AI 写多轮对话,十有八九栽在同一件事上:历史消息全靠自己拼。第一版能跑,第二版开始到处 if,第三版发现两个用户串了台。这篇讲清楚 Advisor 链是怎么回事…
- AI
Spring AI 接 MCP:一个 Java 服务连多个 Server
摘要:Spring AI 的 MCP 客户端怎么用?本文用一个 Java 服务同时接入文档、CRM、文件系统三个 MCP Server,讲清工具发现、重名冲突、白名单过滤、缓存刷新…
- AI
Spring AI Agent 工具调用失控?加上这道闸门
摘要: Agent 反复调同一个工具、一次提问烧掉几十次模型请求,是 Java 侧最常见的线上事故。本文用 Spring AI 拆开工具调用循环:模型只出意图、应用负责执行。先用内…
- AI
Spring AI 工具搜索:Token 直降一半
摘要: 工具一多,模型每轮请求都要先读一遍全部工具的 JSON Schema,5 万 token 说没就没,检索还容易选错工具。Spring AI 2.0 内置的 Tool Sea…
- AI
Spring AI 多模态:Java 图片识别实战
摘要: 发票、合同扫描件、用户截图里的信息,Java 后端过去要接 OCR 再写正则去抠,模板一变就崩。本文讲清多模态模型怎么「看图」,再用 Spring AI 的 Media 把…
- AI
Spring AI 接 Ollama,本地大模型 RAG 实战
公司想拿内部文档做问答机器人,可文档里躺着客户名单、报价单和合同条款,一条都不敢往外传。用云上的大模型 API,数据合规这关先过不去;自己从零搭一套,又不知道从哪儿下手。其实这事不…
- AI
Spring AI 可观测性实战:监控大模型调用
摘要:Spring AI 内置 Micrometer 观测能力,不用手写埋点就能拿到大模型调用的耗时、token 用量和链路追踪。本文用 Spring Boot 4.1.1 + S…
- AI
Spring AI Advisors:别再手写RAG和记忆
摘要:Spring AI 2.0 的 Advisor 把 RAG 检索、对话记忆、敏感词拦截、Token 成本统计这些"每次都要重复写的代码"变成一条可复用的拦截器链。本文用可运行…
- AI
Spring AI 流式输出:SSE 打字机效果实战
摘要: Spring AI 的 stream() 返回 Flux,每个元素就是模型刚生成的一小段文本。本文讲清 Flux 怎么真正写回 HTTP 响应、接了工具调用后前端为什么一个…
- AI
Spring AI MCP 客户端调用外部工具
想让 AI 顺手查一下 GitHub issue、读本地某个目录的文件、翻一遍数据库表结构,老办法是自己写一堆 @Tool 方法:一个能力一个类,鉴权、超时、分页、错误处理全得自己…