AI风险检测

概述:

为应对部分客户通过变换风险内容格式(如变形、混淆)以规避传统拦截策略的行为,我们引入 AI 风险拦截能力。

账号开启免审模式的,可单独配置 AI 检测策略。

系统将自动识别该账号下所有短信内容,判断是否包含风险信息,包括但不限于各类引流话术、涉黄涉黑内容及变体表达(示例:“浏览器输入12345点 com”)。

处理逻辑:

若短信内容被判定为含风险信息,系统将根据策略自动执行拦截失败或转入审核;

若短信内容未检测到风险,则正常下发。


目录:

1.开通检测账号&配置参数    点击跳转

2.账号开启AI检测    点击跳转

3.短信触发了风险拦截    点击跳转

 

(一)开通检测账号&配置参数

首先要开通AI检测的,需要在群里找运维开通检测账号
开通好账号之后,我们会拿到对应的appid和appkey

 

(二)账号开启AI检测

批量开启AI检测:https://doc.huiwwl.com/document_new/page/right?cont_id=1875

注:账号有模板时,模板内容不会触发AI拦截

(1)不检测:

账号不需要AI识别风险内容的时候选择

(2)检测内容,存在风险时直接失败:

通过AI识别发送短信是否存在风险内容,

当短信内容存在风险时,直接失败该短信,返回UT:0032错误码

当短信内容不存在风险时,正常下发该短信

(3)检测内容,存在风险时进入审核:

通过AI识别发送短信是否存在风险内容,

当短信内容存在风险时,把对应短信放入审核中

当短信内容不存在风险时,正常下发该短信

 

选夜间时,该账号只有在夜间时间内,才会进行AI检测

全局营销发送时间以外的时段为夜间时段

(三)短信触发了风险拦截

账号设置了存在风险时进审核的,风险短信会进入审核,显示风险拦截,如下图

 

账号设置了存在风险时直接失败的,风险短信会直接失败,返回UT:0032错误,如下图