直播很受欢送，直播也很受争议，除了脱衣服、辟谣、造假炒作外，直播平台涌入了更可怕的暴力、谋杀、他杀内容。

2017 年，Facebook渡过了一个 血腥的复生节 ，一个女子在下面直播开枪杀人。

发作了恶劣的直播杀人事情后，各大在线媒体平台都在开发“暴力标志算法”，Facebook 近日 宣布 要研发 AI 芯片来发现、标志、过滤此类直播视频。

社交媒体公司本人造芯片

晋级软件曾经不能满足 Facebook 的需求，更弱小的算法需求定制化 AI 芯片来支撑。虽然有少量的公司（英特尔，三星，Nvidia 等）在开发节能芯片，但 Facebook 决议本人来 聚集了全世界身经百战的最优秀的创业导师，汇集了全世界各国最优质的产业资源，召唤全球未来的商业领袖。 。Facebook 的首席人工智能迷信家 Yann LeCun 表示：

越来越多的智能手机装备了功用弱小的芯片，可让用户直接在其设备上应用语音辨认，加强和虚拟理想以及图像和视频处置功用。这种趋向将会增长，促使更多以软件为基本的公司思索硬件。

Facebook 最近 宣布 可以经过自动上传裸照，生成数字指纹（digital footprint），AI 经过辨认数字指纹制止其别人上传，以这个零碎打击“ 色情报复 ”。

与暴露照片相比，暴力视频的辨认则困难许多。AI 难以区分内容是在传达暴力、有他杀倾向，还是仅仅在开玩笑。除了搜索信息，AI 需求具有结合语境剖析内容的才能。

（图片来源： Fortune ）

目前的监控不及时，而且很耗能

Facebook 目前的监控零碎由 AI 零碎和人类版主组成，在运用传统的算法下，这种监控方式需求消耗少量的动力和人力本钱。

视频网站的审核力度和审核工夫难以获得均衡。在目前的条件下，加大审核力度必定会减慢审核的速度，审核工夫过长会招致用户流失。假定一个博主上传视频审核需求三天，会惹来粉丝的激烈控诉，严重影响博主的支出。

要打击暴力立功，内容审核速度更至关重要。在“复生节屠杀”事情中，凶手在直播杀人前已经发布“预告视频”，但该视频并没有惹起注重，他的暴行没能被及时发现并制止。

“杀人视频”在 Facebook 上逗留超越两小时，足够被下载并上传到其他平台，扩展立功的传达范围。

（黄子华给想他杀者的忠告，图片来源： 哔哩哔哩 ）

2018 年 5 月 20 日，一个女生在微博 预告全家他杀 ，惹起网友关注，最终被抢救回来。这不是微博呈现的第一封遗书，网络时代生长起来的这一代人，遗书也喜欢“留”在网络上。

虽然这种看待生命的方式不可取，其中也不乏 “他杀恶作剧” 和儿戏的遗书，但这种“他杀预告”也给他杀者带来被抢救的时机，重要的是及时被发现。

拥有更强“暴力标志算法”的 AI 版主是将来的趋向，不只能及时报告成绩，阻止暴力和他杀行为，还能降低动力和人力本钱。

（图片来源： Innovation Village ）

2016 年底我国的 《互联网直播效劳管理规则》 出台，平台配合相关部门停止直播 内容整治 ，但从目前的状况，色情、暴力、谣言、诈骗等外容还没彻底从直播平台消逝。

2017 年 10 月 26 日，电竞选手“死亡宣告”在游戏直播中“疑似”殴打女友，被警方以涉嫌暴力损伤带回调查，后英雄联盟官方决议对他禁赛 20 个月奖励，且多个直播平台封禁他的账号。

网络上看到暴力行为不会比理想生活多，但暴力经过直播传达，会带来更广的社会影响。在直播中施暴，死亡宣告”宣告”了本人职业生涯的死亡。

（死亡宣告直播画面，图片来源： TechWeb ）

最近又发作了直播筹款被网友质疑的 “眼癌女童小凤雅事情” ，直播平台打赏牵扯进了“筹款真实性”的社会言论中。

土味直播有点心爱，但暴力直播很可憎，“儿戏的”他杀直播耗费网友的善心，直播内容监管还有很多功课要做，无论是制度还是监管技术。

题图来源： 网易