Sing-Guard-8b-GGUF动态策略功能详解零代码自定义安全规则【免费下载链接】Sing-Guard-8b-GGUF项目地址: https://ai.gitcode.com/hf_mirrors/inclusionAI/Sing-Guard-8b-GGUFSing-Guard-8b-GGUF是一款支持动态策略的多模态安全防护模型它允许用户在不编写代码的情况下自定义安全规则实现对文本、图像等内容的精准安全评估。该模型将安全策略作为运行时输入而非固定的训练时分类体系使部署团队能够根据实际需求灵活调整风险评估标准。为什么选择动态策略功能在传统的安全防护模型中风险分类通常是固定的无法根据具体场景进行调整。而Sing-Guard-8b-GGUF的动态策略功能打破了这一限制带来了诸多优势灵活性高可以根据不同的应用场景和安全需求随时调整风险评估规则。零代码实现无需编写复杂的代码只需通过自然语言定义安全策略即可。精准度强能够针对特定的风险类别进行评估减少误判和漏判。动态策略功能的核心特点支持多模态内容评估Sing-Guard-8b-GGUF能够对文本、图像以及图像-文本组合等多种类型的内容进行安全评估。无论是用户的查询、模型的响应还是它们之间的交互都能得到全面的安全检测。动态推理流程该模型采用了独特的动态推理流程支持快速的首令牌路由以获取即时安全信号当需要更精确的最终判断时会继续进行深度推理。这种方式在保证评估速度的同时也提高了判断的准确性。运行时策略适配通过policy参数用户可以直接传入自定义的安全规则。模型会仅根据这些规则进行判断并在输出中返回匹配的风险类别或Safe。零代码自定义安全规则的实现步骤1. 准备自定义策略使用自然语言编写安全规则例如### A. 暴力内容风险 - 涉及暴力行为、恐怖主义或极端主义的内容。 ### B. 虚假信息风险 - 传播虚假新闻、谣言或误导性信息的内容。 ### Safe - 不匹配任何风险类别的内容。2. 应用自定义策略在使用模型进行安全评估时将自定义策略作为policy参数传入policy ### A. 暴力内容风险 - 涉及暴力行为、恐怖主义或极端主义的内容。 ### B. 虚假信息风险 - 传播虚假新闻、谣言或误导性信息的内容。 ### Safe - 不匹配任何风险类别的内容。 .strip() inputs processor.apply_chat_template( messages, tokenizeTrue, add_generation_promptTrue, return_dictTrue, return_tensorspt, policypolicy, ).to(model.device)3. 获取评估结果模型会根据自定义策略对内容进行评估并返回判断结果和匹配的风险类别unsafe reasoning process RichMediaReferenceB. 虚假信息风险/RichMediaReference动态策略功能的应用场景社交媒体内容审核在社交媒体平台中不同的社区可能有不同的内容规范。使用Sing-Guard-8b-GGUF的动态策略功能可以为每个社区定制专属的安全规则实现精准的内容审核。企业内部信息安全企业可以根据自身的敏感信息类型定义相应的安全策略对员工的通信内容进行实时监控防止敏感信息泄露。在线教育平台在线教育平台需要确保教学内容的安全性和适宜性。通过动态策略功能可以针对不同年龄段的学生设置不同的安全评估标准过滤掉不适合的内容。快速开始使用动态策略功能安装必要依赖pip install transformers accelerate torch加载模型和处理器import torch from transformers import AutoModelForImageTextToText, AutoProcessor model_path inclusionAI/Sing-Guard-8b processor AutoProcessor.from_pretrained(model_path, trust_remote_codeTrue) model AutoModelForImageTextToText.from_pretrained( model_path, torch_dtypetorch.bfloat16, device_mapauto, trust_remote_codeTrue, ).eval()使用自定义策略进行评估messages [ { role: user, content: [{type: text, text: 这个消息是假的大家不要相信}], }, ] max_new_tokens 256 policy ### A. 暴力内容风险 - 涉及暴力行为、恐怖主义或极端主义的内容。 ### B. 虚假信息风险 - 传播虚假新闻、谣言或误导性信息的内容。 ### Safe - 不匹配任何风险类别的内容。 .strip() inputs processor.apply_chat_template( messages, tokenizeTrue, add_generation_promptTrue, return_dictTrue, return_tensorspt, policypolicy, ).to(model.device) with torch.no_grad(): generated_ids model.generate( **inputs, max_new_tokensmax_new_tokens, do_sampleFalse, ) generated_ids_trimmed [ out_ids[len(in_ids):] for in_ids, out_ids in zip(inputs.input_ids, generated_ids) ] output processor.batch_decode( generated_ids_trimmed, skip_special_tokensTrue, clean_up_tokenization_spacesFalse, )[0] print(output)注意事项当提供动态策略时模型只会根据活动策略进行判断/think.../RichMediaReference中返回的风险类别应来自活动策略或Safe。生产系统应处理格式错误的输出例如无法解析的第一行、缺少/think或活动策略之外的类别。对于多模态输入确保图像路径在本地推理环境中可访问。通过Sing-Guard-8b-GGUF的动态策略功能用户可以轻松实现零代码自定义安全规则为不同的应用场景提供灵活、精准的安全防护。无论是社交媒体、企业内部还是在线教育等领域都能从中受益。如果你还在为如何定制安全规则而烦恼不妨尝试一下Sing-Guard-8b-GGUF体验动态策略带来的便捷与高效要开始使用Sing-Guard-8b-GGUF请克隆仓库https://gitcode.com/hf_mirrors/inclusionAI/Sing-Guard-8b-GGUF【免费下载链接】Sing-Guard-8b-GGUF项目地址: https://ai.gitcode.com/hf_mirrors/inclusionAI/Sing-Guard-8b-GGUF创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考