内容安全提供7*24小时的人工审核服务（人机审核和纯人工审核）。人机审核服务可返回机器识别结果，并根据机器识别的结果选择性进行人工审核。纯人工审核服务对全量的内容数据进行人工审核，仅返回人工审核的结果，不返回机器识别结果。前提...
如果内容安全的人工审核结果不符合您的预想，您可以对审核结果进行复核。文本介绍如何复核人工审核的结果。背景信息 人工审核模块展示所有人工审核的数据，从审核模式来分，包括人机审核和纯人工审核。从审核结果来分，包括 正常（pass）、...
前提条件 开通 内容安全增强版 集成 内容安全增强版-文本审核大模型、内容安全增强版-图片审核大模型、内容安全增强版-视频检测大模型版、内容安全增强版-文档检测大模型版。内容审核大模型一览表 阿里云内容安全当前提供图片审核大模型、...
您可以在内容安全控制台查看内容检测API的调用统计数据。背景信息 内容安全控制台汇总了内容检测API的调用统计数据，支持查询最近1年内图片、视频、文本、语音检测接口的总调用次数，以及不同检测场景下检测结果（确认违规量、疑似违规量、...
在使用OSS违规检测前，您需要为内容安全授予访问OSS存储空间的权限，才能对存储在OSS空间中的文件进行检测。本文介绍了如何授权内容安全访问OSS存储空间。说明 防盗链功能通过设置Referer白名单以及是否允许空Referer，限制仅白名单中的...
本文向您介绍如何在AI...在 检测结果 风险报表 页面，选择 内容安全检测/敏感数据检测/提示词攻击检测 页签 支持按天/按月/按账号/按服务查看调用 趋势统计 以及调用 风险分布，风险分布 统计中包含Top5命中标签和全部命中标签的列表展示。
本文以调用 内容安全（Content Moderation）TextModeration 接口 审核文本内容 为例，为您介绍使用阿里云CLI调用 内容安全增强版 OpenAPI的操作步骤。前置概念 阿里云CLI（Alibaba Cloud Command Line Interface）是基于OpenAPI构建的通用...
内容安全支持以异步消息通知的方式向您发送机器内容识别和您自助审核的结果。若您的业务需要使用或集成相关数据，您需要配置消息通知。本文介绍了配置OSS违规检测消息通知的具体操作。相关概念 在配置回调通知前，请了解下表中描述的相关...
操作步骤 登录 内容安全控制台。在左侧导航栏，选择 机器审核V1.0 检测结果。在 检测结果 页面，设置查询条件查询检测结果。您可以查看 图片、视频、文本、语音 的检测结果。支持的查询条件包含：识别场景、命中分类、识别结果、时间范围、...
内容检测API支持通过RAM用户（即子账号）的方式进行调用。使用RAM用户调用内容检测API之前，您需要创建RAM用户并完成授权。本文介绍如何配置RAM用户的权限。操作步骤 使用RAM管理员登录...完成以上配置后，您可以使用RAM用户调用内容安全API。
内容安全支持以异步消息通知的方式向您发送内容识别和您自助审核的结果。如果您的业务需要使用或集成相关数据，则可以配置回调通知。本文介绍了配置内容检测API回调通知的操作方法。背景信息 说明 内容检测API和OSS违规检测均支持回调通知...
内容检测API支持通过RAM用户（即子账号）的方式进行调用。使用RAM用户调用内容检测API之前，您需要创建RAM用户并完成授权。本文介绍如何配置RAM用户的权限。...创建RAM用户。...完成以上配置后，您可以使用RAM用户调用内容安全API。
以下是支持这种模式的service：AI输入内容安全检测（query_security_check）AI生成内容安全检测（response_security_check）独占实例计费方案说明 独占实例收费方案：该种模式下，收费方案由两块费用组成，分别为计算资源的费用和按量付费...
在使用内容检测API过程中，如果您发现内容安全的算法结果在您的业务中被认为是不符合预期的，您可以通过反馈接口将样本回流给我们。如果您有自己的审核平台，您可以直接对接反馈接口，将审核后认为识别有误的样本回流给我们。在收到您的...
内容安全控制台中呈现了内容检测API检测出的数据结果。针对您的业务场景，您可以对机器的检测结果进行二次人工审核。人工审核后，下次同样的检测内容识别出的结果会与您设置的结果保持一致。本文介绍了使用自助审核的具体操作。背景信息 ...
本文介绍内容安全支持检测恶意内容嵌入的类型、如何配置检测任务以及查看检测结果。支持检测恶意内容嵌入的类型 当前内容安全OSS违规检测支持以下两种恶意内容嵌入的类型。如果您是其他渠道的图片，可以使用 图片审核增强版API接口 的...
本文介绍如何创建RAM用户并限制RAM用户调用内容安全API的访问IP地址。操作步骤 使用RAM管理员登录 RAM控制台。创建RAM用户，勾选 OpenAPI调用访问，并记录下RAM用户生成的AccessKey。具体操作，请参见 创建RAM用户。创建自定义策略规则，...
方案优势 得益于阿里云内部产品间的方案整合优势，相比于使用其他第三方内容安全服务，阿里云内容安全组件进行RTC拉流时，将不会对您产生额外的音视频通话时长费用，并具备以下优势：审核时效更快，全链路延迟通常在秒级，而旁路转推流可能...
需授权内容安全访问目标 OSS Bucket，且该 Bucket 与内容安全服务处于同一地域。详见 授权内容安全访问OSS存储空间。前提条件 已安装Go依赖。关于安装Go依赖的具体操作，请参见 安装Go依赖。说明 请一定按照 安装Go依赖 页面中的版本安装，...
本方案适用于在大模型流式生成内容过程中进行动态、实时审核于管控。大模型流式审核方案 客户应用...若检测发现风险，建议立即停止后续内容输出，并对已透出的风险内容执行撤回操作，或替换为预设的合规代答内容，以保障用户体验与内容安全。
本文介绍如何创建RAM用户并限制RAM用户调用内容安全API的访问IP地址。操作步骤 使用阿里云账号（主账号）或RAM管理员登录 RAM控制台。创建RAM用户，勾选 OpenAPI调用访问，并记录下RAM用户生成的AccessKey。具体操作，请参见 创建RAM用户。...
需授权内容安全访问目标 OSS Bucket，且该 Bucket 与内容安全服务处于同一地域。详见 授权内容安全访问OSS存储空间。前提条件 已安装Go依赖。关于安装Go依赖的具体操作，请参见 安装Go依赖。说明 请一定按照 安装Go依赖 页面中的版本安装，...
内容安全文档审核 增强版 服务，基于内容治理经验和众多行业场景的常见内容管理标准，为您预置了文档审核的通用策略配置，如果预置配置无法满足您的业务需求，您可以调整文档审核的策略。本文介绍如何调整文档审核的风险检测策略。应用场景...
人机审核服务配置 如果您使用了内容安全机器审核增强版服务，同时希望机器审核之后需要人工审核的数据直接进入人审环节，则可以在机器审核Service服务中配置 人机审核 规则，让满足要求的机审数据，直接进入人审环节。例如，您使用了内容...
内容安全除了提供机器识别服务外，还提供纯人工审核服务，如果您对识别结果的准确率和召回率要求非常高，请使用人工审核功能。说明 使用该服务前，请联系我们的商务经理，进一步确定审核标准与内容范围。调用该接口不会返回机器识别结果，...
内容安全默认依据阿里巴巴全局风险图库为您提供检测服务，可以满足大部分的常规检测需求。为了使检测结果更贴合您的实际业务，内容安全也支持自定义图库。您可以使用自定义图库来管理需要针对性地拦截、放行、人工审核的图片，应对突发的...
文件检测能够提取各类文件中的图片和文字内容，进行内容安全检测。文件检测除了支持解析文件内容，还可以在解析过程中将文件同步转成图片，并结合图片检测、图片OCR等方式，实现更全面的保障文件内容合规性。本文介绍如何调用文件检测接口...
内容安全除了提供机器识别服务外，还提供纯人工审核服务，如果您对识别结果的准确率和召回率要求非常高，请使用人工审核功能。说明 使用该服务前，请联系我们的商务经理，进一步确定审核标准与内容范围。调用该接口不会返回机器识别结果，...
内容安全除了提供机器识别服务外，还提供纯人工审核服务，如果您对识别结果的准确率和召回率要求非常高，请使用人工审核功能。说明 使用该服务前，请联系我们的商务经理，进一步确定审核标准与内容范围。调用该接口不会返回机器识别结果。...
如果您审核发现内容安全文本检测的检测结果有误，您可以通过该API向我们反馈。使用说明 业务接口：/green/text/feedback QPS限制 本接口的单用户QPS限制为20次/秒。超过限制，API调用会被限流，这可能会影响您的业务，请合理调用。请求参数...
内容安全视频审核 增强版 服务，基于内容治理经验和众多行业场景的常见内容管理标准，为您预置了视频审核的通用策略配置，如果预置配置无法满足您的业务需求，您可以调整视频审核的策略。本文介绍如何调整视频审核的风险检测策略。应用场景...
完成以上配置后，您可以使用RAM用户调用内容安全API。步骤三：访问产品控制台 控制台地址：AI安全护栏产品控制台 建议您先完成相关配置的确认，再正式接入产品，具体可查看 操作指南 步骤四：安装并接入 具体参考如下文档：SDK参考 API接入...
通过内容安全的图片审核 增强版，您可以根据业务所处的行业场景规范或平台内容治理规则，基于API返回的丰富的风险标签和置信分，对具体图片内容制定进一步的审核或治理措施。版本对比 图片审核 增强版 相对于图片审核1.0版提供更多的风险...
安装内容安全.NET SDK。通过.NET CLI工具安装SDK 说明 如果您需要安装指定版本，需添加-version 具体的版本号，例如 dotnet add package aliyun-net-sdk-core --version 1.0.0 。不添加默认安装此软件包的最新版本。dotnet add package ...
服务内容 安全管家MSS的服务内容如下 服务内容（企业版）服务分类 服务内容 交付内容细则 交付输出物 SLA（Service Level Agreement）安全咨询 提供基础安全产品：云安全中心、WAF（不包含Bot防护）、DDoS、云防火墙产品的配置问题、策略...
内容安全图片审核 增强版 API，基于内容治理经验和众多行业场景的常见内容管理范围，已经为您预置了风险检测范围的细分范围的开关配置。首次使用时，建议您可以登录 控制台-规则配置 查看初始的检测范围开关配置。应用场景 当您的业务遇到...
对接火山引擎RTC 前提条件 已开通内容安全语音审核增强版服务。具体操作，请参见 开通内容审核增强版服务。已开通火山引擎实时音视频（RTC）产品。具体操作，请参见 开通实时音视频服务。方案一：原生化审核（推荐）技术架构 内容安全支持...
如果您审核发现内容安全的检测结果与您的预期不符，您可以通过调用本接口向我们反馈，反馈的结果将在下次检测相同的图片时生效。使用说明 业务接口：/green/image/feedback 反馈您认为检测有误的结果样本和您期望得到的实际结果。说明 该...
请求方法 内容安全支持基于URL发起HTTP或HTTPS POST请求。请求参数是JSON格式的结构体，以http body的方式发送到服务器端。其中，公共查询参数 clientInfo 位于url query参数里。以下是一条未编码的图片同步检测的请求示例：...
本文介绍了调用内容检测API的公共返回参数和公共错误码。公共返回参数 所有请求均返回JSON格式数据。下表描述了返回参数中的公共字段。名称 类型 描述 Code Integer 错误码。2xx：表示成功。4xx：表示请求有误。5xx：表示后端有误。更多...