• 找新知
  • 找课程
  • 找服务/产品
  • 找LIVE
  • 找活动
  • 找新知号/店
新知一下
海量新知
1 5 9 9 5 7 5

营销大促时期不可忽略的“内容陷阱” !

同盾智能风控 | 同盾科技-专注于智能风控和分析 2019/10/09 14:09

又到了一年一度的电商大促时期,大大小小的电商平台都推出了各自的营销活动,来提高自己平台曝光度从而增加业务交易量。对于商家来说,618大促的着眼点在于有风控兜底的大批量交易,平台更注重的是在整体风险可控的情况下最终的GMV(成交总额)。然而,对于电商平台来说,除了有直接损失的比如恶意“薅羊毛”、恶意“刷单”等风险,还存在着一种更为严重的但却往往更为容易忽视的风险——内容风险。

新知图谱, 营销大促时期不可忽略的“内容陷阱” !

一、背景

内容风险的防控,又叫内容审核或内容安全,之所以会容易被忽视,一方面主要是平台容易想当然的理解为只有社区、聊天等平台工具才会存在这种风险,或者认为风险的危害性较小; 另一方面,即使对明确了的风险,平台也会对技术投入与实际收益摇摆不定,不愿也不能从主营业务上分到资源来做好内容防控。 也就是常说的,在风险认知和风险技术储备两方面上有所回避,存在侥幸心理和幸存者偏差认知。

二、风险分析

我们先来分不同的角色来聊一聊,电商平台中可能存在的内容安全漏洞。

1、平台运营/商户

平台的运营方或平台的商户,作为B端的代表,其发表的内容相对来说会更“安全”一点,但由于其发布内容具有极大的曝光量,当真正出现问题的时候,往往都是重大的违规事件,受到监管机构或者媒体的关注,约谈关停、平台口碑败坏都是可预见的风险结果。

不同的电商平台,运营和商户,譬如营销H5页面、商品资料发布等,这些内容总避不开:

(1)对活动信息的描述;

(2)对商品信息的描述。

我们举例来看下某电商平台对于商品的信息规范约束:

1. 商品信息中禁止包含色情文字、图片;

2.商品信息中禁止含有攻击性语言;

3.商品信息中禁止含有私人联系方式、外网链接等,如邮箱、电话等联系方式。

新知图谱, 营销大促时期不可忽略的“内容陷阱” !

图:违禁举例,广告

从这些限制维度已经能够看到,平台从合规和体验上已经做了一定程度的规则限制。

但是根据《互联网信息服务管理办法》所约定的“九不准”来看,平台在对政治敏感、暴力恐怖、反动等内容没有做明确的约束,这些也是传统的监管方严格查处的敏感违规内容,常规渠道不允许售卖的管制刀具、持械、特殊标志等都是需要严格防控的。

2015年4月24日,《中华人民共和国广告法》修订通过,9月1日正式公布实施。新广告法除了对包括过滤涉黄、涉政、暴恐等合规的内容要求,还对广告用语有方向性的指导要求,如果对新广告法的要求解读不到位,也会面临着监管压力:据了解,各级工商部门对大小电商平台公开渠道的内容人工或自动爬取,进行不定期的网络抽样监管,对违规内容进行电子存证,最终进行相关处罚,对企业口碑产生不可逆转的破坏和影响。

如图所示,可以看到常见的违反新广告法的常见问题:一类是极限用语,包括首个、首先、首选等“首”系列,第一、唯一等“一”系列,世界级、国家级等“级”系列,另一类是对医疗效果做承诺式断言式的保证。

新知图谱, 营销大促时期不可忽略的“内容陷阱” !

新知图谱, 营销大促时期不可忽略的“内容陷阱” !

图 “断言式”医药效果用语

新知图谱, 营销大促时期不可忽略的“内容陷阱” !

图:极限用词

那么,在营销活动中,包括历史未审核的存量商品信息,新增的SKU,营销活动的二次创造等,都需要进行严格的审核,也越是在严肃时期,对面向广大互联网用户展示的内容信息也就越需要怀有敬畏之心。

2、平台用户

电商平台常见的UGC场景主要是用户资料编辑、交易评论等,当然一些垂直领域的电商平台,比如社区电商、直播电商等,也会有像发帖评论、视频直播、私信聊天等强内容分享的场景。这些场景的UGC量在大型营销活动的推动下,不管是正常的有效还是违规的内容都会有大规模的增长,甚至数量级上的增长,互联网用户发布的内容更随意,违规的类型也多种多样,包括但也不限于黄赌毒、低俗辱骂、恶意灌水、暴力恐怖、反动言论等,对电商平台的内容风险防控提出极大的挑战。

新知图谱, 营销大促时期不可忽略的“内容陷阱” !

图:违禁举例。枪械

为了更好的讨论违规处置方式,从内容发布的目的性上来看,可以把用户分为正常用户、非恶意违规用户、恶意违规用户和恶意违规团伙等。

非恶意违规的用户相对来说会更好处理,因为不管是文本、图像或者其他类型的违规内容,针对内容本身,采用基于语义的文本。分类模型、基于深度学习的图像分类模型或其他如语音等的识别模型,识别出了不适合发布的内容,给到用户友好的提醒或静默处理后,用户一般会按照指定的要求做相应的处理,不会去频繁的进行发布尝试。

恶意违规的用户或恶意违规的团伙则不然,因为其目的不纯粹,所以通常会存在各种对抗的过程,除了从单元素(单纯文本/图片/语音等)展现上的变形外,甚至会有明显的迁移过程,从图文到音频视频等,甚至还有多元素的结合发送违规内容。这里说的用户和团伙的概念都是指逻辑上的团伙,比如现实物理上的人借助上中游的黑产工具实现的批量对抗方式,在实际业务中往往也是体现出团伙的属性。特别地,“色情流”产业链、“赌博流”产业链、外挂引流、境外势力等操控的实际个人或者团伙,在进行内容发布时都会有显性或者隐性的团伙特征出现。这些用户除了加强在内容维度上进行算法模型或者规则策略的对抗外,一种常用的方式是采用动态的方案进行补偿(如敏感词智能调整、内容指纹进行样本补足等),而更为事半功倍的方式是从用户维度出发,建立对用户的 ,这里包括从时间频次、设备、IP、地理位置等建立的规则评价,积累沉淀的黑灰名单,以及(划重点)综合用户和内容特征建立的无监督学习模型,可以有效的发现恶意团伙,在没有明确违规团伙的特征情况下,可以提前有效地对团伙挖掘处置。

新知图谱, 营销大促时期不可忽略的“内容陷阱” !

三、解决方案

前面也提到了电商平台更注重电商交易业务本身,容易忽视对内容审核业务,另外也忌惮对内容审核业务的巨大投入导致本末倒置,因此,电商平台采用第三方的审核服务,以在对核心业务投入不产生较大干扰的前提下,对平台的内容风险进行防控,让专业的平台做专业的事,或许是更为明智、性价比更高的合理方案。

同盾智能内容安全保护,是基于同盾积累的多行业海量样本数据,运营深度学习算法、政策权威指令、用户行为检测等,精准过滤色情、涉政、暴恐、辱骂、垃圾广告等多类违规风险,降低审核成本,提高内容安全性。通过搭建的多层级防控体系进行立体式全方位的反垃圾识别,以提供风险决策、风险等级、风险分类等信息,供决策端进行风险处置。在用户行为、内容聚类、关键词、内容指纹、基于深度学习的分类模型等,都有着完善的技术方案和操作流程。为企业提供广告过滤、智能鉴黄、暴恐识别、政治敏感过滤等反垃圾服务,对发布者和发布内容进行分析,识别并处理垃圾信息。凭借着丰富的反垃圾技术和运营经验,以及沉淀的海量数据,可快速、精准过滤有害信息。协助客户降低运营风险,提升用户体验,共同营造健康绿色的网络环境。

相关推荐

更多“营销”相关内容

新知精选