★ 主力项目 · AI Agent 架构

小薇进销存
自然语言进销存 Agent

面向小微商户的自然语言进销存 Agent · Natural Language Inventory Agent

基于 Java Spring Boot + Python LangGraph + Vue 3 的双服务 AI Agent 架构。 将采购、销售、库存、赊账等业务能力封装为可调用工具,采用 Deterministic First, LLM Fallback 设计哲学—— 能用代码确定的事情不交给 LLM;LLM 只负责必要的语义理解,业务状态、工具权限、写入确认和最终业务事实全部由系统代码负责。 Agent 可以犯错,但绝不能在用户不知情的情况下直接修改业务数据。

Spring Boot 3.2.5MyBatis-PlusJWTRedisQuartzMySQL 8.0 FastAPILangGraphLangChain 0.3DeepSeekChromaDashScope Vue 3.5Element PlusPiniaVite 5.4
SCROLL

项目截图展示

6 个核心功能模块界面 · 拖动画廊可自由旋转浏览

dashboard · 运营看板
SCREENSHOT 首页运营看板
首页运营看板Operations Dashboard
agent · 自然语言对话
SCREENSHOT agent对话
Agent 对话Agent Chat
restock · AI 补货待办
SCREENSHOT AI补货待办
AI 补货待办AI Restock
collection · AI 催收欠款
SCREENSHOT AI催收欠款
AI 催收欠款AI Collection
logs · AI 执行日志
SCREENSHOT AI执行日志
AI 执行日志Agent Logs
kb · 知识库管理
SCREENSHOT 知识库管理
知识库管理Knowledge Base

悬停卡片放大 · 双击查看大图

核心设计亮点

不是让 LLM 决定整个业务流程,而是将 LLM 的不确定性限制在"语义理解"这一层,将业务正确性重新交给确定性的系统逻辑。

01

AI 与业务系统解耦架构

Java ↔ Python Separated Architecture

Java + Python 双服务架构:Java 收口权限认证、事务控制和数据持久化;Python 基于 LangGraph 的 ReAct Agent 仅负责语义理解与工具编排。业务操作经 REST API 回调 Java 执行,LLM 在结构上无法直连数据库,从架构层面杜绝 AI 越权写库的风险。

Java Spring BootPython LangGraphREST API 回调架构级越权防护
02

确定性优先的 Router 设计

Deterministic First Router

Router 以纯代码三级漏斗(状态机 → 关键词正则 → 全工具兜底)判定意图,零 LLM 调用、毫秒级响应,再按能力分发至三个 Agent:QueryAgent(只读工具集)、WriteAgent(只写专用 prompt + 预览-确认协议)、FullAgent(全工具兜底)。以工具绑定而非提示词约束实现权限边界。

三级漏斗零 LLM 毫秒响应QueryAgentWriteAgentFullAgent
03

写操作人工闭环

Preview → Confirm → Commit

所有写操作强制 Preview → Confirm → Commit 流程。第一轮 LLM 生成 confirmed=False 的预览参数,Redis 缓存真实工具入参;第二轮确认时从 Redis 恢复参数追加 confirmed=True零 LLM 调用直执写入,写入成功后清除状态防止重复确认。带轮次过期保护(跨 12 轮自动失效),杜绝未确认改数据与重复入账。

Preview 预览Redis 缓存入参零 LLM 直执12 轮过期保护
04

完整的异常降级链路

Guardrails & Honest Fallback

引入 Guardrails 校验模式,以 Tool 执行结果而非 LLM 回复作为业务事实,检测假成功、伪造预览、工具错配等 6 种幻觉类型。命中后带针对性纠正指令重试,重试循环同样走 Guard 校验,二次失败后诚实降级提示用户重新输入,不编造、不硬答。

Tool Evidence6 种幻觉检测针对性纠正重试二次失败诚实降级
05

递归上限控制

Recursion Limit & Early Stop

设置 Agent ReAct 循环上限(recursion_limit=10)与无结果轮次早停机制,防止 LLM 陷入工具调用死循环或无限检索无果的异常场景,保障服务可用性。

recursion_limit=10无结果早停防死循环

系统架构

Java 业务后端 + SSE Gateway 与 Python Agent Runtime 职责分离。Python 不直接访问数据库,所有读写通过 Java 业务 API 完成——业务逻辑、事务、权限校验全部收口在 Java。

🏗 Java ↔ Python 双服务架构

① 前端 ② Java 业务后端 + Gateway ③ Python Agent Runtime Vue 3 前端 Element Plus · Pinia fetch + ReadableStream 打字机缓冲渲染 2 字符 / 20ms 逐批 JWT · SSE 流式接收 :5173 SSE Gateway :8080 · WebClient 转发 Python 流式输出 用户 / 租户 / 权限 业务 API 商品 / 供应商 采购 / 销售 / 赊账 库存 / 事务 / 缓存 Quartz 02:00 巡检 MySQL · Redis 持久化 · 缓存 FastAPI Agent Runtime :8000 LangGraph · ReAct Agent Router 3 层 + LLM 兜底 LLM · DeepSeek OpenAI 协议接入 24 个 @tool → 回调 Java API PendingWrite Redis 状态机 RAG Chroma · merchant_id Guard Format + Hallucination Python 不直接访问数据库 所有读写 → Java 业务 API SSE 转发 回调

测试账号

DEMO CREDENTIALS · 点击右侧按钮可一键复制

管理员账号
admin
123456