常见问题 内容安全1.0版常见问题 相关协议 内容检测产品服务条款 内容检测API服务等级协议
本文以某社交平台为例，该平台的用户每天会上传大量的图片（图片上传后会存储于OSS对象存储服务tmpsample Bucket），为了快速监控该网站新增的图片是否涉及色情、涉政暴恐等，该平台使用内容安全OSS违规检测功能。本文主要介绍如何使用OSS...
您可以在内容安全控制台查看人工审核的统计数据。前提条件 已开通人工审核服务。人工审核服务目前需要通过售后人员开通，如果未开通内容安全服务，控制台不会展示人工审核内容。请通过钉钉加入阿里云内容安全问题答疑群聊（群号：35573806...
背景信息 人工审核回调分为阿里云人工审核回调通知和复核人工审核回调通知：人工审核回调通知：内容安全人工审核团队完成人工审核后，服务端将识别的结果以POST请求的方式，发送到您设置的HTTP回调通知地址。复核人工审核回调通知：内容...
检测响应 安全告警、攻击分析、日志管理 威胁分析与响应 仪表板、安全告警、安全事件处置、响应编排、处置中心、日志管理、规则管理、接入中心 主机防护 病毒查杀、网页防篡改、主机规则管理、核心文件监控 容器防护 容器主动防御、容器...
事件规则 事件规则包括以下内容：事件规则中的过滤功能由事件模式提供。更多信息，请参见 事件模式。事件规则中的转换功能将CloudEvents转换为事件目标可以接收的格式。更多信息，请参见 事件内容转换。更多信息 控制台上的具体操作，请...
如果内容安全的人工审核结果不符合您的预想，您可以对审核结果进行复核。文本介绍如何复核人工审核的结果。背景信息 人工审核模块展示所有人工审核的数据，从审核模式来分，包括人机审核和纯人工审核。从审核结果来分，包括 正常（pass）、...
背景与目的 为提升日志处理效率并降低用户资源消耗，云安全中心将下线威胁分析与响应（CTDR）2.0的“进程文件写日志”数据源 与 CTDR 1.0的“文件读写日志”数据源，同时将依赖该数据源进行主机告警聚合安全事件自动调查路径，改为依赖云...
在使用OSS违规检测前，您需要为内容安全授予访问OSS存储空间的权限，才能对存储在OSS空间中的文件进行检测。本文介绍了如何授权内容安全访问OSS存储空间。说明 防盗链功能通过设置Referer白名单以及是否允许空Referer，限制仅白名单中的...
内容安全支持对海量多媒体内容进行快速检测，接入便捷、成本低，且经历大规模实战检验，有效帮助您节省审核费用成本和时效。内容安全具备以下优势：性价比高 相较于人工审核，内容安全基于AI算法的机器审核可以节省90%以上的审核费用成本，...
勒索病毒入侵服务器或数据库后，会对您的业务数据进行加密勒索，从而导致您...提供一种便捷方式来报告钓鱼电子邮件、可疑网络安全事件的渠道，以方便公司员工快速了解当前网络安全事件趋势，并快速响应和处理安全事件。推荐使用：安全管家服务
内容安全提供7*24小时的人工审核服务（人机审核和纯人工审核）。人机审核服务可返回机器识别结果，并根据机器识别的结果选择性进行人工审核。纯人工审核服务对全量的内容数据进行人工审核，仅返回人工审核的结果，不返回机器识别结果。前提...
勒索病毒入侵服务器或数据库后，会对您的业务数据进行加密勒索，从而导致您...提供一种便捷方式来报告钓鱼电子邮件、可疑网络安全事件的渠道，以方便公司员工快速了解当前网络安全事件趋势，并快速响应和处理安全事件。推荐使用：安全管家服务
前提条件 开通 内容安全增强版 集成 内容安全增强版-文本审核大模型、内容安全增强版-图片审核大模型、内容安全增强版-视频检测大模型版、内容安全增强版-文档检测大模型版。内容审核大模型一览表 阿里云内容安全当前提供图片审核大模型、...
本文以调用 内容安全（Content Moderation）TextModeration 接口 审核文本内容 为例，为您介绍使用阿里云CLI调用 内容安全增强版 OpenAPI的操作步骤。前置概念 阿里云CLI（Alibaba Cloud Command Line Interface）是基于OpenAPI构建的通用...
本文向您介绍如何在AI...在 检测结果 风险报表 页面，选择 内容安全检测/敏感数据检测/提示词攻击检测 页签 支持按天/按月/按账号/按服务查看调用 趋势统计 以及调用 风险分布，风险分布 统计中包含Top5命中标签和全部命中标签的列表展示。
本文介绍了如何使用内容安全服务提供的内容检测API SDK。SDK使用说明 在使用SDK前，需了解各个接口的具体功能。更多信息，请参见 API 概览。我们将图像检测相关的功能封装成一个接口（例如图片鉴黄、图片涉政暴恐检测、图片OCR、图片Logo...
内容安全支持以异步消息通知的方式向您发送机器内容识别和您自助审核的结果。若您的业务需要使用或集成相关数据，您需要配置消息通知。本文介绍了配置OSS违规检测消息通知的具体操作。相关概念 在配置回调通知前，请了解下表中描述的相关...
Automation and Response)是一种综合性的安全解决方案，通过将不同的系统或服务按照一定的逻辑进行编排连接，实现安全告警和事件的自动化运维，旨在加强企业安全防御，提高安全事件响应效率。背景信息 在基础安全领域，安全专家有大量日常...
内容安全支持以异步消息通知的方式向您发送内容识别和您自助审核的结果。如果您的业务需要使用或集成相关数据，则可以配置回调通知。本文介绍了配置内容检测API回调通知的操作方法。背景信息 说明 内容检测API和OSS违规检测均支持回调通知...
操作步骤 登录 内容安全控制台。在左侧导航栏，选择 机器审核V1.0 检测结果。在 检测结果 页面，设置查询条件查询检测结果。您可以查看 图片、视频、文本、语音 的检测结果。支持的查询条件包含：识别场景、命中分类、识别结果、时间范围、...
使用RAM用户调用内容检测API之前，您需要创建RAM用户并完成授权。本文介绍如何配置RAM用户的权限。操作步骤 使用RAM管理员登录 RAM控制台。创建RAM用户。具体操作，请参见 创建RAM用户...完成以上配置后，您可以使用RAM用户调用内容安全API。
使用RAM用户调用内容检测API之前，您需要创建RAM用户并完成授权。本文介绍如何配置RAM用户的权限。...创建RAM用户。具体操作，请参见 创建RAM用户。向RAM用户授权系统策略权限：...完成以上配置后，您可以使用RAM用户调用内容安全API。
在使用内容检测API过程中，如果您发现内容安全的算法结果在您的业务中被认为是不符合预期的，您可以通过反馈接口将样本回流给我们。如果您有自己的审核平台，您可以直接对接反馈接口，将审核后认为识别有误的样本回流给我们。在收到您的...
以下是支持这种模式的service：AI输入内容安全检测（query_security_check）AI生成内容安全检测（response_security_check）独占实例计费方案说明 独占实例收费方案：该种模式下，收费方案由两块费用组成，分别为计算资源的费用和按量付费...
发现云资源安全异常，需要阿里云协助时...注意在问题描述中，应写清楚描述所遇到的安全事件，比如账号被盗、服务器遭遇挖矿病毒等，以及当前业务受损状态，包括数据丢失、业务宕机、异常账单等，以便工程师快速响应，帮助您制定风险处置方案。
更多信息，请参见 授权内容安全访问OSS存储空间。文件路径格式：oss:/bucket-name.endpoint/object-name dataId String 否 dataIdxxxx 检测对象对应的数据ID。由大小写英文字母、数字、下划线（_）、短划线（-）、英文句号（.）组成，不...
本文介绍如何创建RAM用户并限制RAM用户调用内容安全API的访问IP地址。操作步骤 使用RAM管理员登录 RAM控制台。创建RAM用户，勾选 OpenAPI调用访问，并记录下RAM用户生成的AccessKey。具体操作，请参见 创建RAM用户。创建自定义策略规则，...
人机审核服务配置 如果您使用了内容安全机器审核增强版服务，同时希望机器审核之后需要人工审核的数据直接进入人审环节，则可以在机器审核Service服务中配置 人机审核 规则，让满足要求的机审数据，直接进入人审环节。例如，您使用了内容...
威胁分析与响应CTDR（Cloud Threat Detection and Response）利用阿里云日志服务SLS的原子能力，实现产品日志的标准化接入，随后CTDR通过分析采集到的日志，识别并还原出完整的攻击链路，从而形成详细的安全事件，提升您的告警分析和处理...
需授权内容安全访问目标 OSS Bucket，且该 Bucket 与内容安全服务处于同一地域。详见 授权内容安全访问OSS存储空间。前提条件 已安装Go依赖。关于安装Go依赖的具体操作，请参见 安装Go依赖。说明 请一定按照 安装Go依赖 页面中的版本安装，...
内容安全文档审核 增强版 服务，基于内容治理经验和众多行业场景的常见内容管理标准，为您预置了文档审核的通用策略配置，如果预置配置无法满足您的业务需求，您可以调整文档审核的策略。本文介绍如何调整文档审核的风险检测策略。应用场景...
需授权内容安全访问目标 OSS Bucket，且该 Bucket 与内容安全服务处于同一地域。详见 授权内容安全访问OSS存储空间。前提条件 已安装Go依赖。关于安装Go依赖的具体操作，请参见 安装Go依赖。说明 请一定按照 安装Go依赖 页面中的版本安装，...
更多信息，请参见 授权内容安全访问OSS存储空间。文件路径格式：oss:/bucket-name.endpoint/object-name dataId String 否 dataIdxxxx 检测对象对应的数据ID。由大小写英文字母、数字、下划线（_）、短划线（-）、英文句号（.）组成，不...
本文介绍如何创建RAM用户并限制RAM用户调用内容安全API的访问IP地址。操作步骤 使用阿里云账号（主账号）或RAM管理员登录 RAM控制台。创建RAM用户，勾选 OpenAPI调用访问，并记录下RAM用户生成的AccessKey。具体操作，请参见 创建RAM用户。...
更多信息，请参见 授权内容安全访问OSS存储空间。文件路径格式：oss:/bucket-name.endpoint/object-name dataId String 否 dataIdxxxx 检测对象对应的数据ID。由大小写英文字母、数字、下划线（_）、短划线（-）、英文句号（.）组成，不...
文件检测能够提取各类文件中的图片和文字内容，进行内容安全检测。文件检测除了支持解析文件内容，还可以在解析过程中将文件同步转成图片，并结合图片检测、图片OCR等方式，实现更全面的保障文件内容合规性。本文介绍如何调用文件检测接口...
为确保内容安全，生成的文本需经护栏系统检测且确认无风险后方可对用户透出。通常，流式内容检测采用以下几种切片机制，累计一定字符后触发审核：切片方式一：按字符数切片：每累计满N个字符，将该N个字符作为一个批次进行审核。切片方式二...
内容 工具和应用程序代码可以通过内容里的信息来标识事件与系统层面的关系或者事件或其他事件的关系。数据 事件发生的特定领域信息，包括事件发生的相关信息、变更数据的详细说明或更多其他信息。事件格式 指定如何将CloudEvent序列化为...
方案优势 得益于阿里云内部产品间的方案整合优势，相比于使用其他第三方内容安全服务，阿里云内容安全组件进行RTC拉流时，将不会对您产生额外的音视频通话时长费用，并具备以下优势：审核时效更快，全链路延迟通常在秒级，而旁路转推流可能...