Spring AI企业级应用实战(8):输入输出安全、Prompt Injection、PII脱敏与人工审批

📅 2026/8/2 14:48:33
Spring AI企业级应用实战(8):输入输出安全、Prompt Injection、PII脱敏与人工审批
文章摘要前7篇已经完成统一调用层、流式输出、Chat Memory、Tool Calling、MCP和可观测性。系统具备“能调用、能记忆、能执行、能监控”的能力后,下一步必须解决“什么请求可以进入模型、哪些数据可以发送、哪些回答可以返回、哪些动作必须人工确认”。本文基于Spring AI 2.0设计一套可落地的安全链路:使用ModerationModel完成内容审核,使用自定义Advisor检测PII和Prompt Injection,在RAG上下文中隔离不可信文档,对工具调用执行策略校验,并为高风险任务建立人工审批状态机。一、本篇要解决的问题最终调用链:HTTP请求 → 身份与租户校验 → 输入长度限制 → PII检测与脱敏 → Moderation → Prompt Injection检测 → Chat Memory → RAG → ChatModel → Tool Calling策略校验 → 输出DLP与内容审核 → 人工审批或返回用户 → 审计与指标项目将新增:security ├── AiSecurityContext.java ├── SecurityAction.java ├── SecurityDecision.java ├── PiiDetectionService.java ├── ModerationService.java ├── PromptInjectionDetector.java ├── InputSe