本文介绍如何创建RAM用户并限制RAM用户调用内容安全API的访问IP地址。操作步骤 使用RAM管理员登录 RAM控制台。创建RAM用户，勾选 OpenAPI调用访问，并记录下RAM用户生成的AccessKey。具体操作，请参见 创建RAM用户。创建自定义策略规则，...
需授权内容安全访问目标 OSS Bucket，且该 Bucket 与内容安全服务处于同一地域。详见 授权内容安全访问OSS存储空间。前提条件 已安装Go依赖。关于安装Go依赖的具体操作，请参见 安装Go依赖。说明 请一定按照 安装Go依赖 页面中的版本安装，...
人机审核服务配置 如果您使用了内容安全机器审核增强版服务，同时希望机器审核之后需要人工审核的数据直接进入人审环节，则可以在机器审核Service服务中配置 人机审核 规则，让满足要求的机审数据，直接进入人审环节。例如，您使用了内容...
内容安全文档审核 增强版 服务，基于内容治理经验和众多行业场景的常见内容管理标准，为您预置了文档审核的通用策略配置，如果预置配置无法满足您的业务需求，您可以调整文档审核的策略。本文介绍如何调整文档审核的风险检测策略。应用场景...
需授权内容安全访问目标 OSS Bucket，且该 Bucket 与内容安全服务处于同一地域。详见 授权内容安全访问OSS存储空间。前提条件 已安装Go依赖。关于安装Go依赖的具体操作，请参见 安装Go依赖。说明 请一定按照 安装Go依赖 页面中的版本安装，...
更多信息，请参见 授权内容安全访问OSS存储空间。文件路径格式：oss:/bucket-name.endpoint/object-name dataId String 否 dataIdxxxx 检测对象对应的数据ID。由大小写英文字母、数字、下划线（_）、短划线（-）、英文句号（.）组成，不...
本文介绍如何创建RAM用户并限制RAM用户调用内容安全API的访问IP地址。操作步骤 使用阿里云账号（主账号）或RAM管理员登录 RAM控制台。创建RAM用户，勾选 OpenAPI调用访问，并记录下RAM用户生成的AccessKey。具体操作，请参见 创建RAM用户。...
更多信息，请参见 授权内容安全访问OSS存储空间。文件路径格式：oss:/bucket-name.endpoint/object-name dataId String 否 dataIdxxxx 检测对象对应的数据ID。由大小写英文字母、数字、下划线（_）、短划线（-）、英文句号（.）组成，不...
文件检测能够提取各类文件中的图片和文字内容，进行内容安全检测。文件检测除了支持解析文件内容，还可以在解析过程中将文件同步转成图片，并结合图片检测、图片OCR等方式，实现更全面的保障文件内容合规性。本文介绍如何调用文件检测接口...
为确保内容安全，生成的文本需经护栏系统检测且确认无风险后方可对用户透出。通常，流式内容检测采用以下几种切片机制，累计一定字符后触发审核：切片方式一：按字符数切片：每累计满N个字符，将该N个字符作为一个批次进行审核。切片方式二...
内容安全控制台中呈现了内容检测API检测出的数据结果。针对您的业务场景，您可以对机器的检测结果进行二次人工审核。人工审核后，下次同样的检测内容识别出的结果会与您设置的结果保持一致。本文介绍了使用自助审核的具体操作。背景信息 ...
方案优势 得益于阿里云内部产品间的方案整合优势，相比于使用其他第三方内容安全服务，阿里云内容安全组件进行RTC拉流时，将不会对您产生额外的音视频通话时长费用，并具备以下优势：审核时效更快，全链路延迟通常在秒级，而旁路转推流可能...
如果您审核发现内容安全文本检测的检测结果有误，您可以通过该API向我们反馈。使用说明 业务接口：/green/text/feedback QPS限制 本接口的单用户QPS限制为20次/秒。超过限制，API调用会被限流，这可能会影响您的业务，请合理调用。请求参数...
内容安全视频审核 增强版 服务，基于内容治理经验和众多行业场景的常见内容管理标准，为您预置了视频审核的通用策略配置，如果预置配置无法满足您的业务需求，您可以调整视频审核的策略。本文介绍如何调整视频审核的风险检测策略。应用场景...
内容安全默认依据阿里巴巴全局风险图库为您提供检测服务，可以满足大部分的常规检测需求。为了使检测结果更贴合您的实际业务，内容安全也支持自定义图库。您可以使用自定义图库来管理需要针对性地拦截、放行、人工审核的图片，应对突发的...
本文介绍内容安全支持检测恶意内容嵌入的类型、如何配置检测任务以及查看检测结果。支持检测恶意内容嵌入的类型 当前内容安全OSS违规检测支持以下两种恶意内容嵌入的类型。如果您是其他渠道的图片，可以使用 图片审核增强版API接口 的...
四、风险标签 标签含义 您可以在 内容安全控制台 查看 每个服务支持的标签及其细分检测范围信息。以下是风险标签值、对应的分值区间以及对应的含义：标签值（label）置信分区间（confidence）中文含义 pornographic_adultContent 0~100分，...
通过内容安全的图片审核 增强版，您可以根据业务所处的行业场景规范或平台内容治理规则，基于API返回的丰富的风险标签和置信分，对具体图片内容制定进一步的审核或治理措施。版本对比 图片审核 增强版 相对于图片审核1.0版提供更多的风险...
对接火山引擎RTC 前提条件 已开通内容安全语音审核增强版服务。具体操作，请参见 开通内容审核增强版服务。已开通火山引擎实时音视频（RTC）产品。具体操作，请参见 开通实时音视频服务。方案一：原生化审核（推荐）技术架构 内容安全支持...
内容安全图片审核 增强版 API，基于内容治理经验和众多行业场景的常见内容管理范围，已经为您预置了风险检测范围的细分范围的开关配置。首次使用时，建议您可以登录 控制台-规则配置 查看初始的检测范围开关配置。应用场景 当您的业务遇到...
完成以上配置后，您可以使用RAM用户调用内容安全API。步骤三：访问产品控制台 控制台地址：AI安全护栏产品控制台 建议您先完成相关配置的确认，再正式接入产品，具体可查看 操作指南 步骤四：安装并接入 具体参考如下文档：SDK参考 API接入...
如果您审核发现内容安全的检测结果与您的预期不符，您可以通过调用本接口向我们反馈，反馈的结果将在下次检测相同的图片时生效。使用说明 业务接口：/green/image/feedback 反馈您认为检测有误的结果样本和您期望得到的实际结果。说明 该...
通过内容安全的文档审核 增强版，您可以根据业务所处的行业场景规范或平台内容治理规则，基于API返回的丰富的风险标签和置信分，对文档截图内容和文字内容制定进一步的审核或治理措施。版本对比 文档审核增强版相对于文档审核1.0版提供更多...
基于模型匹配策略 当您在阿里云百炼控制台开通内容安全产品的SLR授权后，并在调用阿里云百炼的header中传入cip标识时，我们会根据您的模型版本自动匹配服务于该模型的内容安全服务，具体匹配逻辑如下：服务名称 service 适用模型范围 特性...
安装内容安全.NET SDK。通过.NET CLI工具安装SDK 说明 如果您需要安装指定版本，需添加-version 具体的版本号，例如 dotnet add package aliyun-net-sdk-core --version 1.0.0 。不添加默认安装此软件包的最新版本。dotnet add package ...
内容安全除了提供机器识别服务外，还提供纯人工审核服务，如果您对识别结果的准确率和召回率要求非常高，请使用人工审核功能。说明 使用该服务前，请联系我们的商务经理，进一步确定审核标准与内容范围。调用该接口不会返回机器识别结果，...
更多信息，请参见 授权内容安全访问OSS存储空间。文件路径格式：oss:/bucket-name.endpoint/object-name 说明 传入待比较图片中的第一张图片的URL。extras JSONObject 否 {"faceUrl":...
请求方法 内容安全支持基于URL发起HTTP或HTTPS POST请求。请求参数是JSON格式的结构体，以http body的方式发送到服务器端。其中，公共查询参数 clientInfo 位于url query参数里。以下是一条未编码的图片同步检测的请求示例：...
如果访问地址为阿里云OSS文件路径，需要先 授权内容安全访问OSS存储空间。404 NOT_FOUND 待检测内容未找到，通常是由于您的图片、视频、语音内容无法下载导致，请确认内容可通过公网访问到。480 DOWNLOAD_FAILED 下载失败，请确认待检测...
更多信息，请参见 授权内容安全访问OSS存储空间。文件路径格式：oss:/bucket-name.endpoint/object-name 说明 传入待比较图片中的第一张图片的URL。extras Map 否 xxx 传入待比较图片中的第二张图片。格式为 {"faceUrl":"http://xxx.jpg"} ...
导航 内容安全支持自定义文本库、图库和管理OSS检测内容，您可以在控制台执行相关操作，也可以通过接口调用进行操作，从而更好地融合到自有的管控系统链路中。说明 强烈建议您优先选择引用我们的SDK进行快速接入，省去封装签名和请求协议的...
带您快速玩转内容安全 检测场景 支持的功能 使用方式 快速入门 帮助您检测存储在OSS空间的图片、视频和语音文件，是否存在鉴黄、涉政暴恐等风险。如果存在风险，OSS违规功能会根据您的配置冻结或者删除风险文件。OSS违规检测包含如下功能：...
内容安全URL风险检测能力，帮助用户识别第三方URL链接是否存在欺诈、色情、赌博等风险，守护平台内容生态。本文介绍使用异步API接口进行URL风险检测的方法。接入指引 注册阿里云账号：立即注册，按照操作提示完成账号注册。开通内容安全...
更多信息，请参见 授权内容安全访问OSS存储空间。文件路径格式：oss:/bucket-name.endpoint/object-name 返回数据 名称 类型 示例值 描述 code Integer 200 错误码，和HTTP状态码一致。更多信息，请参见 公共错误码。msg String OK 请求...
内容安全采用阿里云默认的机器审核标准为您提供内容检测服务。如果您在使用过程中发现默认的审核标准对您的业务需求过于严格或者宽松，您可以使用内容安全的自定义机审标准功能。本文介绍了如何配置自定义机审标准。背景信息 业务场景...
infoType String 是 customImage,textInImage 需要获取的辅助信息内容，取值：customImage：自定义图库命中信息 textInImage：图片中文字信息 publicFigure：命中人物信息 logoData：标识标志信息 支持指定多个内容，以英文逗号分隔。...
全链路防护：从输入到输出，构建端到端安全闭环，全面应对大模型在真实业务中面临的内容安全、外部攻击、隐私泄露与输出失控等关键挑战。智能双引擎：深度集成Qwen3-Guard与基于Qwen系列SFT的审核大模型，融合对抗检测与语义理解能力，可...
请求参数 名称 类型 是否必须 示例值 描述 Service String 是 query_security_check AI输入内容安全检测（query_security_check）AI生成内容安全检测（response_security_check）AI输入内容安全检测_出海版（query_security_check_cb）AI...
重要 针对原先已经在百炼调用内容安全的客户，如需调整为调用AI安全护栏，请联系商务经理。本服务专为百炼平台用户提供，旨在提升大模型的文字输入和输出安全审核体验。在遵守百炼平台红线管控政策的基础上，我们提供了灵活的审核标签管理...
通过内容安全的人工审核 增强版，您可以根据人工审核的结果，直接进行业务风险的处理。人工审核：直接调用人工审核增强版API接口，传入需要审核的内容，审核之后会返回人审后的结果。人机审核：在机器审核增强版服务中配置人机的功能，满足...