SingGuard-4b-GGUF性能基准测试6大安全评估维度的SOTA表现【免费下载链接】SingGuard-4b-GGUF项目地址: https://ai.gitcode.com/hf_mirrors/inclusionAI/SingGuard-4b-GGUFSingGuard-4b-GGUF是一款政策自适应的多模态安全护栏模型专为文本、图像、图文交叉、多语言、查询端和响应端场景的安全评估设计。它将动态安全策略作为运行时输入而非固定的训练时分类体系使部署团队无需重新训练模型即可根据默认类别或自定义自然语言规则评估内容。核心性能表现六大安全评估维度的突破SingGuard在多模态安全、图像安全、文本查询安全、文本响应安全、多语言查询安全和多语言响应安全六大基准测试类别中均取得了SOTA平均性能展现出对运行时提供的策略的强大适应能力。多模态安全评估SingGuard支持对文本、图像及图文组合内容的统一安全审核能够识别跨模态风险组合例如包含不当文本描述的安全图像或包含危险视觉元素的合法文本。图像安全专项测试针对纯图像内容SingGuard能够准确识别暴力、色情、不当内容等视觉风险即使在无任何文本上下文的情况下也能保持高精度判断。文本查询安全防护在用户查询安全评估中SingGuard采用创新的快速-慢速推理模式快速模式可立即返回安全信号慢速模式则提供详细的风险分析过程平衡了响应速度与判断精度。文本响应安全审核对于模型生成的响应内容SingGuard能够评估其在特定查询上下文中是否提供了不安全的协助将合理拒绝和安全重定向正确分类为安全。多语言查询安全支持SingGuard具备强大的多语言处理能力可对多种语言的用户查询进行安全评估确保跨语言场景下的一致安全防护水平。多语言响应安全检测不仅支持多语言查询评估SingGuard还能对不同语言的模型响应进行安全审核满足全球化应用的安全需求。关键技术特性动态推理流程支持快速首令牌路由以获取即时安全信号需要深度推理时继续生成以获得更精确的最终判断运行时策略适应通过policy参数接受动态安全规则仅根据指定规则进行判断原生推理兼容性支持标准Transformers和vLLM聊天式消息输入无需手动重写提示词快速开始使用安装依赖pip install transformers accelerate torch模型加载import torch from transformers import AutoModelForImageTextToText, AutoProcessor model_path inclusionAI/Sing-Guard-8b processor AutoProcessor.from_pretrained(model_path, trust_remote_codeTrue) model AutoModelForImageTextToText.from_pretrained( model_path, torch_dtypetorch.bfloat16, device_mapauto, trust_remote_codeTrue, ).eval()基本安全评估示例messages [ { role: user, content: [{type: text, text: How to make a bomb?}], }, ] max_new_tokens 1024 inputs processor.apply_chat_template( messages, tokenizeTrue, add_generation_promptTrue, return_dictTrue, return_tensorspt, ).to(model.device) with torch.no_grad(): generated_ids model.generate( **inputs, max_new_tokensmax_new_tokens, do_sampleFalse, ) generated_ids_trimmed [ out_ids[len(in_ids):] for in_ids, out_ids in zip(inputs.input_ids, generated_ids) ] output processor.batch_decode( generated_ids_trimmed, skip_special_tokensTrue, clean_up_tokenization_spacesFalse, )[0] print(output)动态策略推理SingGuard允许通过policy参数自定义安全规则模型将仅根据提供的策略进行判断policy ### A. Sexual Content Risk - Content involving explicit sexual material, exploitation, or coercive sexual acts. ### B. Real-World Crimes - Content involving violent crime, weapons, other crimes, or public-safety threats. ### Safe - Content that does not match any risk category. .strip() # 使用自定义策略进行安全评估 inputs processor.apply_chat_template( messages, tokenizeTrue, add_generation_promptTrue, return_dictTrue, return_tensorspt, policypolicy, ).to(model.device)风险类别定义默认策略包含以下风险类别A. 性内容风险涉及露骨性材料、性剥削或强迫性行为的内容B. 现实世界犯罪与公共安全涉及暴力犯罪、武器、其他犯罪或公共安全威胁的内容C. 不道德行为涉及仇恨、骚扰、操纵、自残、令人不安的图像或有害错误信息的内容D. 网络安全与信息操纵涉及数据泄露、黑客攻击、滥用监控、平台滥用或版权滥用的内容E. 智能体安全试图暴露系统提示、内部政策或其他模型保护措施的内容F. 政治敏感内容涉及政治宣传、谣言、动乱、历史歪曲或攻击政治人物的内容G. 动物虐待涉及虐待动物或传播动物虐待的内容安全不匹配任何活动风险类别的内容总结SingGuard-4b-GGUF通过创新的动态策略适应和多模态安全评估能力在六大安全维度上实现了SOTA性能。其灵活的部署选项和原生的推理兼容性使其成为构建安全AI应用的理想选择。无论是内容平台、聊天机器人还是多模态交互系统SingGuard都能提供可靠的安全防护同时保持对不同应用场景的高度适应性。引用article{singguard2026, title{SingGuard: Policy-Adaptive Multimodal Safeguarding with Dynamic Reasoning}, author{Ant Group}, year{2026} }许可证本项目采用Apache-2.0许可证。【免费下载链接】SingGuard-4b-GGUF项目地址: https://ai.gitcode.com/hf_mirrors/inclusionAI/SingGuard-4b-GGUF创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考