隐秘而激烈的反黑产战斗：一人每天发送100万条垃圾评论-其他
-
-
类目：电商运营
-
联系人：
-
微信号：
-
Q Q 号：
-
手机号：
-
浏览量：
624
【商户信息】
【货源详情】
隐秘而激烈的反黑产战斗：一人每天发送100万条垃圾评论-其他 2020年3月，查特安全中心在后台审查内容时发现可疑视频，视频涉及儿童，多次被拦截，未能接受审查。
正常情况下，与儿童相关的正常视频不会被阻止，只要内容充足，机制就会推荐，从而获得更多的流量暴露。
查特安全小组经过分析认为，该视频涉嫌性骚扰儿童。经过追踪调查上传该视频的账号来自四川遂宁。抖音平台立即向当地公安机关举报，告知他们所知道的相关信息。
遂宁市公安局非常重视这条举报线索，立即抽调正干警察成立专责小组，开展案件调查工作。经过精密调查，嫌疑人被锁定在遂宁市奉溪县。3月29日，奉溪县公安局安大队逮捕嫌疑人，提交审判。
据嫌疑人透露，嫌疑人多次以“提供Wifi”等方式引诱村里男孩到嫌疑人的住处，拍摄淫秽视频，同时发送到多个视频社交平台。这次嫌疑人被马实战发、抖音(抖音)安全组和当地公安部共同处罚。
抖音(抖音)安全中心后面有隐秘而强大的安全防御系统，总是与动摇平台的黑灰色产业、淫秽势力作斗争。抖音(抖音)安全中心负责人司令介绍说，在抖音(抖音)初期成立安全中心小组，设立产品、技术、运营和审计职位，帮助数千人与公司其他安全小组一起维持抖音(抖音)平台的安全。
假明星、儿童色情等内容都是违规的，一旦接触到安全防御系统的红线，就会启动复杂精密的预防惩戒机制，咬住猎物，牵连攻防，造成致命的打击。4个月来，抖音(抖音)安全组已经与公安机关联合打击了25个黑火山团和87名刑事拘留人员。
黑山是整个行业和社会必须面对的长期难题。阿里巴巴、腾讯等超级平台公司都成立了专门的部门机构来做这件事。这个部门与商业化部门不同，通常内部自行使用，不直接创造经济效益。它们更像是整个内容生态系统的保镖，起到基础保障和安防保卫的作用。
抖音(抖音)安全中心也是如此。在一系列攻击和防御工作的背后，每天为6亿人，抖音(抖音)平台的内容安全、用户维护、业务保护和社会责任集中在这个安全防御系统上。
抓住发布“看片加微，好看不贵”的人
一个抖音(抖音)账户继续将变色的妹妹视频上传到抖音(抖音)内容审计系统，负责内容审计的同事们发现了这个视频，并想利用3354号账户将变色的视频从抖音(抖音)转换为离线状态。(Windows)。
“我们比较有经验，快点拦住它们。”美男说，对方上传的视频以女性内衣为背景，快速连接内衣识别模型，查看并阻止了该类型的视频。
这支黑产队知道内容被拦截后，开始改变内容战略，背景被黄瓜两根手指所取代，食指上写着微信号，中指上写着“电影加味，看着也不贵”。
抖音(抖音)安全团队立即打击了这种新的性暗示因素教育认识模式、在线模式和该类型的内容。黑山团改变方案，使用“花果手指”。据调查，小组根据彩绘发现了“茄子”等外观相似的水果，将香蕉模型主动在线化。
7月，抖音(抖音)安全组对拦截的数据进行采样，从评论、视频、诱导频道下落等角度分解信息。抽丝剥茧，寻根溯源，他们发现了黑山队违法违规的线索。
抖音(抖音)安全小组与公安机关联合，锁定了湖南长沙一家色情犯罪团体的藏身处。但是还不能实施逮捕，需要更多的证据。
抖音(抖音)队反黑人员试图通过添加色情帮派转换微信cual(QR)代码成为“朋友”，但没有人能增加成功。他们感到苦恼。
经过一番讨论后，他们决定派人进行现场调查，寻找线索。
一名抖音(抖音)反黑人员协助公安机关，在巢穴连续三天触摸，以多种方式进入公司。潜伏者在现场发现，他们就是发布抖音(抖音)“黄瓜短信”诱导性视频的团队——抖音(抖音)安全组正在寻找的团队。(威廉莎士比亚、黄瓜、黄瓜、黄瓜、黄瓜、黄瓜、黄瓜、黄瓜、黄瓜)。
掌握了他们违法违规犯罪的事实后，公安机关实施逮捕，在现场逮捕了11名嫌疑人、2000多名手机设备。他们都被认定为“帮助信息网络犯罪的犯罪”扣押。
朱兰抖音(抖音)安全中心主任通过公安机关对嫌疑人进行审问后得知，该组织在营业期间每天通过受理平台登记新的抖音(抖音)账户，但并非所有账户都可以使用，大部分账户被抖音(抖音)封锁，账户利用率约为20%的100个账户中有1~2个可以使用(威廉莎士比亚、账户、账户、账户、账户、账户、账户、账户、账户)这证明在线风控拦截已经发挥了很大的效果。
周健还表示，根据犯罪嫌疑人的说法，这只是他们的藏身之所，在过去的两个月里，他们已经禁止了5000多个账户的抖音(抖音)。
这些黑产队通常配备先进的技术设备，提高工作效率。
从一个事例可以看出，一个黑山队的人使用集体控制软件传输转换信息，效率是实际人的100倍。该黑产队通过实物发送后，继续在视频、社交媒体上发送垃圾评论进行诱导。
一个人每天工作8个小时，发送的垃圾评论约1万个，但利用技术手段的黑山队可以通过军控软件控制数百台、数百台、数百台设备，发送垃圾评论。不停地24小时不停地运行。这样每天发送的垃圾信息很容易突破百万等级。
“个人认为，离线打击是提高恶行成本的最佳做法。这些犯罪集团有他们自己的沟通权。通过对这些作恶者的惩戒，我们可以对色情作品转换的黑灰色产业界起到冲击作用。(大卫亚设，北方执行部队。)朱兰说。
自2020年1月以来，抖音(抖音)安全中心的色情转换和色情招募账号超过100万人，只有9月份。(阿尔伯特爱因斯坦，北方执行部队)。
间就封禁305248个帐号。据刺猬公社调查发现，这并非只是抖音才会遇到的问题，而是整个内容行业都时刻面对黑产产业链带来的困扰。
中国通信院发布的《移动数字金融与电子商务反欺诈白皮书》显示，黑产从业人数超过500万，每年涉及金额达到千亿级别。数字金融和电子商务是欺诈行为高发“重灾区”，是形形色色的黑产主要攻击的对象。
平台经济是一种新型的复杂经济现象。《互联网平台治理研究报告（2019年）》指出，特别是那些规模很“大”的超级大型平台企业，甚至已经成为具备准公共产品属性的基础设施。
抖音本身是一个超级短视频平台，核心功能是匹配双边或多边市场。正是其特殊的多边或多边市场结构，决定了平台具备市场参与者和组织者的多重身份，扮演了信息壁垒打破者与重构者的双重角色。
上述报告称，超大型平台企业崛起已经在推动经济社会的资源重组和权力重构，从治理的角度看，那些对市场“具化”程度越高、占据信息优势越多、公共产品属性越强的平台，应该受到更多的治理关注，并在平台治理中发挥更加重要的作用。
“我们的安全风控能力目前已经接入了上百个业务线中。”抖音安全风控中心的专家张曦盛介绍说，利用风控模型、风控策略，在平台上日均拦截违规行为超过10亿次。
直播大火，盯住假明星做专项打击
“假靳东”事件爆发之后，抖音一时间被推上风口浪尖。
帅帅介绍，实际上，抖音从4月份就已经开始针对仿冒名人做专项打击了。不过那时候，抖音团队看到的仿冒名人主要集中在热点名人身上，比如韩红、钟南山等。此时主要的问题是犯明星名誉形象，为此，抖音研发、上线明星人脸识别模型。模型上线之后，回扫查杀的违规假冒账号数量也比较少，最后封禁了不到800个账号。
7月开始，抖音安全中心从后台打击模型的数据上发现，在经过前期的打击之后，仿冒名人账号的数据不降反增。他们分析发现，主要是因为明星直播热潮的出现，以快速涨粉和直播带货变现为目的的电商黑产进来了。
这是黑产的一个特点，什么火黑产就跟什么，哪个平台平台流量大就盯上哪个平台，像候鸟一个样迁移。抖音安全团队2019年打击黑产时，他们主要做刷粉刷量，2020年已经盯上直播。
在明星人脸识别模型的基础上，抖音安全中心又基于黑产的特征，搭建了专门的审核机制、标准和流程，研发、上线了新的风控策略模型进行打击，效果很明显，两个月时间，封禁了超过34000个违规账号。
这种对抗一直在持续，黑灰产不遗余力地对抖音平台进行攻击。
10月份，“假靳东事件”爆发。
针对靳东事件，抖音安全团队制定应急方案，紧急上线用户搜索提示，提醒用户注意区分异常账号。两天时间对靳东相关账号进行速清，清查5000多个疑似靳东仿冒账号。截止10月底，完成下架话题143个，并处理了195万个问题存量视频。
在“假靳东”的背后，是黑灰产团队不断绕过平台策略进行攻击，也因此，当“靳东”、“王祖蓝”这样的昵称被专项打击行动拦截之后，开始出现“勒东”、“王阻蓝”一类账号。
9-10月，只是仿冒名人专项中，抖音封禁了超过56000个违规账号。
抖音安全中心专门设立安全风险巡查团队，对色情、低俗、虚假信息、不良导向及其他违法违规内容以及有作弊、欺诈行为的用户进行每日站内巡查和清理。
故事并没有结束，仿冒名人专项打击也没有结束，因为迎来了双十一购物节。在双十一背景下，明星直播带货场次增多，黑产团伙也借此冒充明星客服，进行诈骗。
据抖音安全团队介绍，黑灰产诈骗团伙作案的基本模式是，从上游购买抖音账号，在明星直播带货的过程中，将账号昵称改为“XX客服”“XX助理”类似，然后在直播间内寻找受害者，私信沟通，引流到微信等第三方平台实施退款类诈骗。
明星陈赫是抖音里知名的带货主播。一次，陈赫在直播间卖货过程中，抖音安全团队监测到有黑产团伙试图冒充明星陈赫客服账号在直播间进行诈骗。
此前，抖音安全团队上线了多个针对仿冒明星客服的模型策略，对相关黑灰产账号进行拦截、处理。黑产团伙发现这部分账号无法使用后，开始注册一些变种账号，比如“XX销后”等具有联想空间的账号昵称。
发现这种情况后，抖音安全中心实时更新模型策略进行对抗，在平台上与黑产团队对抗跟线下常见的扫黄打黑形式不一样。线下打击行动侧重“一次性打击”，把人抓了就完了，即便下次再次进行打击，黄赌毒、黑恶势力的行为特点变化不会太多。
但平台方与黑灰产团伙之间的对抗是长期持续的，黑产团队在网络另一端，很难寻踪踪迹，安全团队要实时制定拦截策略，甚至每时每刻都在研究对方下一步棋要怎么走，相互攻防。
这迫使安全团队要实时在线对抗黑产。
由于是实时对抗，期间还出现一个小插曲，他们曾在一起专项行动中，将陈赫本人的账号“误杀”，导致陈赫抖音的资料被重置。当时陈赫正在直播卖货，评论区有观众发言调侃：赫哥，你家账号都没了，你怎么还在这里直播？
正因为抖音安全团队对仿冒明星客服类黑灰产账号进行实时打击，尤其是在知名明星直播的过程中。这才有了对明星陈赫账号的误伤。事后，抖音安全团队对陈赫直播团队做了解释，也对系统做了优化。
安全团队的功能和作用在用常规使用抖音时难以被察觉到，在涉及平台的公序良俗、实时热点、内容品质格调等方面，他们是前线最敏锐的部队，也是最后一道防线。
1分钟内给60个视频点赞，正常人显然做不到
一条视频想要在抖音上展示出来，第一道关卡是机器审核系统。这里面有机器策略与模型。当视频播放量超过一定阈值后，会进入新的审核环节。
首先是初审，主要判断内容是否有违规风险，视频再次进入机器审核，根据策略和模型判断，进入人工初审环节。
对于超过一定播放量的内容会直接进入人工复审环节。帅帅透露，以此确保内容安全，不给用户带来负面影响。如果视频播放量继续增加，还有三审、四审环节，整个流程准确高效。
抖音平台做内容审核时有一个特色机制叫“背对背审核”。面对同一个视频，安全团队会安排两个审核员同时审查，如果结果一致，该视频会正常出现在抖音平台；如果不一样，该视频进入下一个环节，三、四个审核员同时进行再次审查、判断。
“每一个审核员都是不一样的个体，大家对审核标准的理解或多或少有差异。”帅帅说，为了防止风险遗漏，根据内容的重要性，他们会启动“背对背审核”机制。
内容审核与安全风控像一对双胞胎一样共生共处。抖音安全风控的发展也经历了很多过程和转变。
对抗初期，风控团队试用名单频控策略与黑产对抗。这份名单来自风控团队每次对抗后，对黑产的名单记录，以备下次再遇到时做应对。
而频控指频率防控，“一个人如果1分钟内给60个视频点赞，正常人显然是做不到的，在这个阶段我们对作弊者做了初步的限制。”张曦盛说。
第一阶段相对初级，靠人力资源顶上去，在第二阶段，风控团队制定决策引擎和工具平台，通过平台化工具帮助安全风控人员提高对抗效率。这一阶段也就实现了实施打击压制的效果。
与黑产对抗时，风控团队获取的信息往往不对称，黑产会从各个维度发起攻击，尝试绕过安全防线。单一维度的防御很容易被突破。
在第三阶段，风控团队运营一些技术构建起了一个立体的防御体系，全面识别风险。风控团队处于被动防御和主动出击的过渡阶段。
第四阶段时，风控团队展开安全运营与风控研究工作，主动了解对手是如何攻击抖音安全系统的，内部组建了相应的攻防团队，模拟黑产对业务的攻击，并反复研究黑产作恶路径。
在于黑产对抗过程中，风控团队研发了很多智能风控系统用于反欺诈、色情打击、谣言打击，如今构建了一个比较全面的防御体系，对各个环节的风险进行判断。
用户注册抖音账号时，会有系统识别它是不是批量机器注册，登陆环节检查是否有账号盗用的风险，在电商场景分析账号是否为羊毛党，社区环境中判断账号的头像和昵称有没有内容风险。
这背后是一套模型和策略识别体系做支撑，在抖音安全中心内部叫鲨鱼反欺诈系统。每一个账号注册请求都会有数据输入到该系统，系统根据注册信息打一个风险分数出来。
如果分数风险值较高被判断为机器人注册，该账号会被直接封禁；如果某账号有盗用风险，系统会向手机号码主人发一个验证信息，提醒号码持有人的风险存在。
抖音上的黑产团队早期以文本形式发送广告，在评论中添加导流信息，比如美女配料、添加微信号等等。风控团队使用文本模型和敏感词打击。
黑产团队逐步渗透到账号头像、简介等资料信息中，近期出现了一个新型的色情导流形式。黑产团队上传的视频画质正常，没有性感暴露的地方，但语音说了一些色情和淫秽内容。魔高一尺道高一丈，“我们又引入了一种新技术，通过语音转文字的技术进行识别打击。”
这是一项停不下来的工作。
在与黑产对抗过程中，张曦盛发现：“坏人总是相似的，而好人则各有各种各样的不同”，“这是因为灰黑产团伙在作恶的时候追求规模化效益，他们用许多设备自动化操作，很多时候避免不了相似性。”
张曦盛展示了五个抖音账号。这五个账号表面上看起来没什么问题，但实际上，五个账号在同一天注册，系统版本号都是安卓手机的某个版本，账号昵称数字连号，安装抖音、注册抖音账号的时间是同一天。
“正常用户很难有如此高的相似度。”张曦盛说，普通用户肯定会追求各种多样性，而这也是一个生态所追求的多元生态。
