适用场景随着互联网平台用户生成内容UGC爆发式增长文本内容审核成为必不可少的一环。本API适用于以下典型场景社交平台的用户发言、评论审核论坛、博客的文章发布前检测聊天室实时消息过滤客服对话中的敏感内容监控其他需要自动化识别色情、政治、广告、联系方式、、谩骂等类别的场景相较于简单的关键词过滤该API采用“敏感词库正则规则AI特征评分”三重策略能有效识别谐音、拼音、符号替换等变体绕过。同时支持风险等级划分和可选脱敏输出方便开发者根据业务需求进行降级或阻断。接口能力边界QPS10/s请根据业务量合理控制并发超限会返回429单次请求文本长度1-5000字符actionmoderate时批量模式最多50条检测类别色情、政治、广告、联系方式、、谩骂共6大类结果输出风险等级safe/low/medium/high、命中类别、具体匹配内容、脱敏文本可选适用文本语言中文为主混合其他语言亦可部分检测以实际效果为准鉴权方式与请求头该API通过请求头传递API密钥进行身份验证。根据文档有两种方式以实际支持为准X-API-Keycurl示例中使用Authorization可选但未给出具体格式建议以文档最新说明为准在实际开发中建议将密钥存储在环境变量或安全配置中避免硬编码。请求参数详解请求体为JSON对象包含以下字段参数名类型必填说明actionstring否操作类型moderate默认单文本审核/ batch批量审核/ categories仅返回分类信息textstring条件必填待审核文本actionmoderate时必填长度1-5000字符textsarray条件必填批量文本列表actionbatch时必填最多50条每条长度不限但建议合理maskboolean否是否返回脱敏文本默认false设为true则在返回的masked_text中用‘*’替换敏感字符注意action和texts是互斥的根据action类型填写对应的文本参数。接入示例curl以下是一个单文本审核并开启脱敏的curl示例# 请将 $APIZERO_API_KEY 替换为你的真实密钥 curl -sS -X POST \ -H X-API-Key: $APIZERO_API_KEY \ -H Content-Type: application/json \ -d {action: moderate, text: 你这个傻逼脑残吧, mask: true} \ https://v1.apizero.cn/api/content-moderation响应示例成功{ code: 0, msg: 成功, request_id: abc123, data: { is_pass: false, risk_level: high, categories: [谩骂], details: [ { category: 谩骂, method: 敏感词, count: 2, matches: [傻逼, 脑残] } ], original_length: 10, masked_text: 你这个****吧 } }若未开启mask则返回对象中不包含masked_text字段。批量审核示例curl -sS -X POST \ -H X-API-Key: $APIZERO_API_KEY \ -H Content-Type: application/json \ -d {action: batch, texts: [正常文本, 又是一个傻逼], mask: false} \ https://v1.apizero.cn/api/content-moderation批量模式下返回的data是一个数组每个元素对应一条文本的检测结果顺序与输入一致。返回字段解析响应结构code: 整型0表示成功非0表示错误msg: 字符串状态描述request_id: 字符串请求唯一标识可用于日志追踪data: 对象单审或数组批量包含审核结果data字段详细说明字段类型说明is_passboolean是否通过审核所有类别均为safe时truerisk_levelstring风险等级safe安全/ low低风险/ medium中风险/ high高风险根据最严重类别决定categoriesarray命中的敏感类别列表如[谩骂, 广告]detailsarray每个类别下的详细命中信息original_lengthint原始文本长度masked_textstring仅在masktrue时存在脱敏后的文本details数组中每个元素包含category: 类别method: 检测方式敏感词、正则、AI特征count: 命中次数matches: 命中的具体内容列表常见错误与处理HTTP状态码返回code说明处理建议2000成功正常处理返回数据200非0业务错误根据msg判断如“文本为空”等400-请求参数错误检查JSON格式、必填字段401-认证失败检查API密钥是否正确403-权限不足确认密钥是否有权限调用该接口429-请求过频降低并发添加重试机制500-服务端错误重试若持续可联系技术支持特别注意当code非0时data可能不存在或为null务必判空。工程化注意事项密钥管理不要在代码中硬编码API密钥使用环境变量或密钥管理服务。错误重试对429和5xx错误实现指数退避重试避免雪崩。文本长度控制单条文本不超过5000字符超长可考虑截断或分段审核。批量模式限制批量最多50条如需审核更多文本分多次请求。脱敏使用若业务需要展示部分内容可使用masked_text替换原文本但注意脱敏后长度可能与原文不同。风险等级策略根据业务要求对高风险high直接拦截中风险medium人工审核低风险low放行但标记安全safe直接通过。并发控制QPS 10/s建议使用队列自控避免触发限流。日志与监控记录request_id用于问题排查监控响应时间、错误率等指标。参考文档官方文档https://apizero.cn/aidocs/content-moderation原始文档(RAW)https://apizero.cn/aidocs/content-moderation/raw.md注文档中可能有更多细节请以最新版本为准。