LangChain4j
12 篇文章 · 全部标签
- AI
LangChain4j多轮对话失忆,记忆这样持久化
用户上一句刚说"我用的 MySQL 8",下一句 AI 就开始推荐 PostgreSQL。你去查日志,发现每次请求真的只发了当前这句话。换个思路把历史全塞进去,token 账单立刻…
- AI
LangChain4j 模型路由:别再全量调贵模型
客服系统每天三十万次调用,全打同一个大模型。翻日志才发现,七成是"订单到哪了""怎么开发票"这类短问题,小模型又快又准;剩下三成是条款比对、多步推理,确实得用大模型。钱全花在同一档…
- AI
LangChain4j 工具检索:30 个工具也不选错
一个电商客服 Agent,工具从 6 个加到 32 个之后开始犯病:用户问"退款什么时候到账",它去查发票;用户说"地址写错了",它去取消订单。参数填得还有模有样,工具就是选错。工…
- AI
LangChain4j工具报错,别把异常喂给大模型
线上客服助手接了查订单的工具。某天数据库抖了一下,工具抛了异常。用户问「我的单到哪了」,模型很诚实地回答:「系统提示 Communications link failure: jd…
- AI
LangChain4j记忆持久化,别再存内存里了
客服 AI 上线第三天,把 A 用户的退款单号报给了 B 用户。日志翻出来,代码没写错,问题出在默认配置:没给会话分 ID,所有请求共用 JVM 里同一个记忆对象,重启还会清空。这…
- AI
RAG召回不准?LangChain4j切分实战
摘要: 文档切分是 RAG 检索的天花板。块切得太大,一个向量混进好几个主题;切得太小,指代和条件全丢;中文还会因为句级切分用的是英文模型,一路退化成按字符硬切。本文用 LangC…
- AI
LangChain4j元数据过滤:RAG别再召回别人的数据
摘要: RAG 只比相似度,不认数据归属,多租户知识库很容易把客户 B 的文档塞进客户 A 的上下文。本文用 LangChain4j 的元数据过滤,把「只看该看的数据」落到检索这一…
- AI
LangChain4j 提示词缓存,调用成本砍九成
摘要: 在 Java 里用 LangChain4j 给 Anthropic 模型开启提示词缓存,让重复的系统提示词和工具定义不再每次重新计费。本文讲清缓存原理,用 cacheSys…
- AI
LangChain4j 结构化输出:告别手写解析
你让大模型返回 JSON,它偏要先来一句「好的,结果如下」;你加正则剥壳,它又把 userId 写成 userid,把 12,800 写成 12800。于是解析代码比业务还长。La…
- AI
LangChain4j会话记忆:多轮对话不再失忆
用户刚说完「我叫张三」,下一句问「我叫什么」,AI 却回答「抱歉,我不知道」。这不是模型笨,而是你每次都给它换了一本新的记忆本。这篇文章用 LangChain4j 把会话记忆讲清楚…
- AI
LangChain4j决策模型:分类路由省钱又省时
给客服系统做意图分类、给工单自动派单、给 RAG 判断"这问题要不要查知识库"——这些活儿本质都是做判断,很多人却顺手交给大模型去"生成一段文字",再拿正则或字符串匹配把答案抠出来…
- AI
LangChain4j声明式AI实战:接口即服务
用过 LangChain4j 或 Spring AI 的人都有体会:调一次大模型,要手动拼 system prompt、手动塞历史消息、手动解析返回、手动维护会话。一段业务代码里全…