内容安全提供7*24小时的人工审核服务（人机审核和纯人工审核）。人机审核服务可返回机器识别结果，并根据机器识别的结果选择性进行人工审核。纯人工审核服务对全量的内容数据进行人工审核，仅返回人工审核的结果，不返回机器识别结果。前提...
前提条件 开通 内容安全增强版 集成 内容安全增强版-文本审核大模型、内容安全增强版-图片审核大模型、内容安全增强版-视频检测大模型版、内容安全增强版-文档检测大模型版。内容审核大模型一览表 阿里云内容安全当前提供图片审核大模型、...
本文介绍了如何使用内容安全服务提供的内容检测API SDK。SDK使用说明 在使用SDK前，需了解各个接口的具体功能。更多信息，请参见 API 概览。我们将图像检测相关的功能封装成一个接口（例如图片鉴黄、图片涉政暴恐检测、图片OCR、图片Logo...
本文向您介绍如何在AI...在 检测结果 风险报表 页面，选择 内容安全检测/敏感数据检测/提示词攻击检测 页签 支持按天/按月/按账号/按服务查看调用 趋势统计 以及调用 风险分布，风险分布 统计中包含Top5命中标签和全部命中标签的列表展示。
本文以调用 内容安全（Content Moderation）TextModeration 接口 审核文本内容 为例，为您介绍使用阿里云CLI调用 内容安全增强版 OpenAPI的操作步骤。前置概念 阿里云CLI（Alibaba Cloud Command Line Interface）是基于OpenAPI构建的通用...
内容安全支持以异步消息通知的方式向您发送机器内容识别和您自助审核的结果。若您的业务需要使用或集成相关数据，您需要配置消息通知。本文介绍了配置OSS违规检测消息通知的具体操作。相关概念 在配置回调通知前，请了解下表中描述的相关...
操作步骤 登录 内容安全控制台。在左侧导航栏，选择 机器审核V1.0 检测结果。在 检测结果 页面，设置查询条件查询检测结果。您可以查看 图片、视频、文本、语音 的检测结果。支持的查询条件包含：识别场景、命中分类、识别结果、时间范围、...
内容安全支持以异步消息通知的方式向您发送内容识别和您自助审核的结果。如果您的业务需要使用或集成相关数据，则可以配置回调通知。本文介绍了配置内容检测API回调通知的操作方法。背景信息 说明 内容检测API和OSS违规检测均支持回调通知...
使用RAM用户调用内容检测API之前，您需要创建RAM用户并完成授权。本文介绍如何配置RAM用户的权限。操作步骤 使用RAM管理员登录 RAM控制台。创建RAM用户。具体操作，请参见 创建RAM用户...完成以上配置后，您可以使用RAM用户调用内容安全API。
使用RAM用户调用内容检测API之前，您需要创建RAM用户并完成授权。本文介绍如何配置RAM用户的权限。...创建RAM用户。具体操作，请参见 创建RAM用户。向RAM用户授权系统策略权限：...完成以上配置后，您可以使用RAM用户调用内容安全API。
在使用内容检测API过程中，如果您发现内容安全的算法结果在您的业务中被认为是不符合预期的，您可以通过反馈接口将样本回流给我们。如果您有自己的审核平台，您可以直接对接反馈接口，将审核后认为识别有误的样本回流给我们。在收到您的...
以下是支持这种模式的service：AI输入内容安全检测（query_security_check）AI生成内容安全检测（response_security_check）独占实例计费方案说明 独占实例收费方案：该种模式下，收费方案由两块费用组成，分别为计算资源的费用和按量付费...
本文介绍如何创建RAM用户并限制RAM用户调用内容安全API的访问IP地址。操作步骤 使用RAM管理员登录 RAM控制台。创建RAM用户，勾选 OpenAPI调用访问，并记录下RAM用户生成的AccessKey。具体操作，请参见 创建RAM用户。创建自定义策略规则，...
需授权内容安全访问目标 OSS Bucket，且该 Bucket 与内容安全服务处于同一地域。详见 授权内容安全访问OSS存储空间。前提条件 已安装Go依赖。关于安装Go依赖的具体操作，请参见 安装Go依赖。说明 请一定按照 安装Go依赖 页面中的版本安装，...
本文介绍如何创建RAM用户并限制RAM用户调用内容安全API的访问IP地址。操作步骤 使用阿里云账号（主账号）或RAM管理员登录 RAM控制台。创建RAM用户，勾选 OpenAPI调用访问，并记录下RAM用户生成的AccessKey。具体操作，请参见 创建RAM用户。...
需授权内容安全访问目标 OSS Bucket，且该 Bucket 与内容安全服务处于同一地域。详见 授权内容安全访问OSS存储空间。前提条件 已安装Go依赖。关于安装Go依赖的具体操作，请参见 安装Go依赖。说明 请一定按照 安装Go依赖 页面中的版本安装，...
人机审核服务配置 如果您使用了内容安全机器审核增强版服务，同时希望机器审核之后需要人工审核的数据直接进入人审环节，则可以在机器审核Service服务中配置 人机审核 规则，让满足要求的机审数据，直接进入人审环节。例如，您使用了内容...
您可以在内容安全控制台查看内容检测API的调用统计数据。背景信息 内容安全控制台汇总了内容检测API的调用统计数据，支持查询最近1年内图片、视频、文本、语音检测接口的总调用次数，以及不同检测场景下检测结果（确认违规量、疑似违规量、...
内容安全文档审核 增强版 服务，基于内容治理经验和众多行业场景的常见内容管理标准，为您预置了文档审核的通用策略配置，如果预置配置无法满足您的业务需求，您可以调整文档审核的策略。本文介绍如何调整文档审核的风险检测策略。应用场景...
内容安全除了提供机器识别服务外，还提供纯人工审核服务，如果您对识别结果的准确率和召回率要求非常高，请使用人工审核功能。说明 使用该服务前，请联系我们的商务经理，进一步确定审核标准与内容范围。调用该接口不会返回机器识别结果，...
为确保内容安全，生成的文本需经护栏系统检测且确认无风险后方可对用户透出。通常，流式内容检测采用以下几种切片机制，累计一定字符后触发审核：切片方式一：按字符数切片：每累计满N个字符，将该N个字符作为一个批次进行审核。切片方式二...
内容安全除了提供机器识别服务外，还提供纯人工审核服务，如果您对识别结果的准确率和召回率要求非常高，请使用人工审核功能。说明 使用该服务前，请联系我们的商务经理，进一步确定审核标准与内容范围。调用该接口不会返回机器识别结果，...
内容安全除了提供机器识别服务外，还提供纯人工审核服务，如果您对识别结果的准确率和召回率要求非常高，请使用人工审核功能。说明 使用该服务前，请联系我们的商务经理，进一步确定审核标准与内容范围。调用该接口不会返回机器识别结果。...
文件检测能够提取各类文件中的图片和文字内容，进行内容安全检测。文件检测除了支持解析文件内容，还可以在解析过程中将文件同步转成图片，并结合图片检测、图片OCR等方式，实现更全面的保障文件内容合规性。本文介绍如何调用文件检测接口...
方案优势 得益于阿里云内部产品间的方案整合优势，相比于使用其他第三方内容安全服务，阿里云内容安全组件进行RTC拉流时，将不会对您产生额外的音视频通话时长费用，并具备以下优势：审核时效更快，全链路延迟通常在秒级，而旁路转推流可能...
内容安全控制台中呈现了内容检测API检测出的数据结果。针对您的业务场景，您可以对机器的检测结果进行二次人工审核。人工审核后，下次同样的检测内容识别出的结果会与您设置的结果保持一致。本文介绍了使用自助审核的具体操作。背景信息 ...
如果您审核发现内容安全文本检测的检测结果有误，您可以通过该API向我们反馈。使用说明 业务接口：/green/text/feedback QPS限制 本接口的单用户QPS限制为20次/秒。超过限制，API调用会被限流，这可能会影响您的业务，请合理调用。请求参数...
接入云产品或安全厂商的日志。设置并开启预定义或自定义的威胁检测规则，深入分析收集到的日志，识别并还原出完整的攻击链路。识别安全威胁生成安全告警。聚合多个安全告警生成安全事件。根据处置策略（推荐处置策略、自定义处置策略）或者...
内容安全默认依据阿里巴巴全局风险图库为您提供检测服务，可以满足大部分的常规检测需求。为了使检测结果更贴合您的实际业务，内容安全也支持自定义图库。您可以使用自定义图库来管理需要针对性地拦截、放行、人工审核的图片，应对突发的...
内容安全视频审核 增强版 服务，基于内容治理经验和众多行业场景的常见内容管理标准，为您预置了视频审核的通用策略配置，如果预置配置无法满足您的业务需求，您可以调整视频审核的策略。本文介绍如何调整视频审核的风险检测策略。应用场景...
本文介绍内容安全支持检测恶意内容嵌入的类型、如何配置检测任务以及查看检测结果。支持检测恶意内容嵌入的类型 当前内容安全OSS违规检测支持以下两种恶意内容嵌入的类型。如果您是其他渠道的图片，可以使用 图片审核增强版API接口 的...
一、使用说明 为了在百炼平台使用安全内容服务，您需要按照以下步骤进行服务的开通和配置：步骤1：开通内容安全增强版服务 访问 内容审核增强版服务开通 页面，仔细阅读并选中服务协议，单击 立即开通 按钮开通服务。步骤2：百炼平台授权和...
通过内容安全的图片审核 增强版，您可以根据业务所处的行业场景规范或平台内容治理规则，基于API返回的丰富的风险标签和置信分，对具体图片内容制定进一步的审核或治理措施。版本对比 图片审核 增强版 相对于图片审核1.0版提供更多的风险...
内容安全图片审核 增强版 API，基于内容治理经验和众多行业场景的常见内容管理范围，已经为您预置了风险检测范围的细分范围的开关配置。首次使用时，建议您可以登录 控制台-规则配置 查看初始的检测范围开关配置。应用场景 当您的业务遇到...
对接火山引擎RTC 前提条件 已开通内容安全语音审核增强版服务。具体操作，请参见 开通内容审核增强版服务。已开通火山引擎实时音视频（RTC）产品。具体操作，请参见 开通实时音视频服务。方案一：原生化审核（推荐）技术架构 内容安全支持...
完成以上配置后，您可以使用RAM用户调用内容安全API。步骤三：访问产品控制台 控制台地址：AI安全护栏产品控制台 建议您先完成相关配置的确认，再正式接入产品，具体可查看 操作指南 步骤四：安装并接入 具体参考如下文档：SDK参考 API接入...
如果您审核发现内容安全的检测结果与您的预期不符，您可以通过调用本接口向我们反馈，反馈的结果将在下次检测相同的图片时生效。使用说明 业务接口：/green/image/feedback 反馈您认为检测有误的结果样本和您期望得到的实际结果。说明 该...
安装内容安全.NET SDK。通过.NET CLI工具安装SDK 说明 如果您需要安装指定版本，需添加-version 具体的版本号，例如 dotnet add package aliyun-net-sdk-core --version 1.0.0 。不添加默认安装此软件包的最新版本。dotnet add package ...
通过内容安全的文档审核 增强版，您可以根据业务所处的行业场景规范或平台内容治理规则，基于API返回的丰富的风险标签和置信分，对文档截图内容和文字内容制定进一步的审核或治理措施。版本对比 文档审核增强版相对于文档审核1.0版提供更多...
基于模型匹配策略 当您在阿里云百炼控制台开通内容安全产品的SLR授权后，并在调用阿里云百炼的header中传入cip标识时，我们会根据您的模型版本自动匹配服务于该模型的内容安全服务，具体匹配逻辑如下：服务名称 service 适用模型范围 特性...