「电影中那种很逼真的杀人镜头是如何拍摄的？」假如你在知乎抛出这个成绩，收到的答复中能够会有这样的一条「其实吧，那些人都是死刑犯，反正都要执行死刑的，所以就拉来拍电影或电视剧了。」问「数学剖析应该买哪套教材？」，会有人答「数学教师不喜欢我。」
抖迟钝、讲故事，在知乎这个最大的中文问答社区很罕见，但这引发的一个成绩是，这样的答复是契合现实的吗？它会不会惹人烦？
在最近的一次产品内测中，知乎把对一条答复中「有理由支持」的理由细化成了「现实错误」、「答非所问」、「怂恿心情」和「不解释」四种，所谓无用的、低质的答复究竟都是哪些内容？知乎希望在算法层面更好地答复这个成绩。
据知乎的反应，内测期有50000名用户参与其中，经过用户选择判别和瓦力（知乎在2016年上线的算法机器人）智能学习的结合，一共处置了超越20000条答非所问的答复。换句话说，用户的每次选择都是「瓦力」这个机器人学习的时机和进程。
知乎把AI的作用聚焦在了社区标准上，这既包括一条答复能否触及「答非所问」，还有社区中能否呈现了让用户感到不适的言语「不友善」。
在2018GMIC的演讲中，知乎合伙人李大海用了两个详细的案例展现AI是如何在知乎被使用的，他将知乎视为一个中文语料库，「用户在知乎上累计提出了2300万个成绩，并播种了接近1亿的答复。」李大海表示，在问答爆炸的形态下，知乎的算法机器人「瓦力」取得了落地场景，在这里，瓦力的作用是协助优化和执行社区标准。
「用户对一个答复的赞同或许支持，他们对任何内容的告发，他们对一个成绩发起一个话题，或许对成绩或许话题停止公共编辑，在某种水平上我们都可以把它以为是对相应文本语料停止标注。有了这样标注数据当前，我们就可以去应用有监视的机器学习算法去失掉一个更好的语义表示，从而能让我们对言语的了解可以到达一个更高的层次。」李大海称7年的运营经历关于AI落地是十分有协助的，由于它可以把社区气氛这个很虚无的大成绩分解为很多小的目的明白的，可以处理的成绩，降低这个成绩的难度。
在李大海的举例中，「答非所问」和「不友善的评论」是损伤社区气氛的两个次要成绩，关于前者，处理办法除了在更短的工夫里处置知友告发的不良答复，知乎还经过树立随机森林模型对答复停止辨认、分类。
在一开端，知乎会树立一个模型，比方成绩是「知乎的宠物是狗还是狐」，让每个树本人投票。精确率可以到达97%，但成绩是它的召回率不高，这意味着一些答非所问的答复会被放过。知乎开发了新的模型，任何一个答复只需收回来，很快就可以被分类。将支持理由细化，也正是提升AI辨认才能的无效办法。
关于「不友善」的评论，李大海在演讲中表示，阴阳怪气，也就是反讽的辨认是十分难的，反讽是一种完全正面的词语去表达负面的意思，是一个很初级的修辞手法，机器人很难明白的。像谢尔顿作为物理学家，他的智商在全人类排名前10，他也经常听不懂他人对他的挖苦。
在训练中知乎会把内容自身的特征尽能够的feed到模型中去，包括像文本特征，一些数值特征，还有像反讽词表，以及一些表现符特征等等。举例来说，假如一个评论有很多好的用户，他们都停止了支持，这就是一个负向的。假如另外一个评论有很多用户点了赞同，它能够就是正向的。基于此知乎可以构建少量的一个标注数据，但这样一个方案还在开发进程中。
目前，关于「不友善的评论」，瓦力每天可以实时阻拦处置3000条内容，掩盖内容从群众版本的不友善，到五花八门的歧视、歹意贴标签，对各种亲朋的「问候」以及把戏单一的变体等。
但是，把辨认「不友善的评论」的全部任务交给人工智能仍是不实在际的，知乎在产品专栏中写道：「由于数据不平衡、数据排查标注本钱较高和上述数据的散布特点，全量内容模型要做到精确率 98% 以上十分困难，因而我们依据人工审核量，选择一个适合的阈值，在保证每天召回量的根底上，维持召回内容的处置精确率到 80% 以上，并将召回的内容停止人工审核。」
「我们置信知乎经过这种庞大的高质量用户行为的学习和剖析，一定在语义和用户关系这两个层面上一个更深的建模和了解。可以像在反讽前沿范畴的打破，任何一个打破对中文互联网，甚至全球互联网讨论环境中都应该有十分正面的作用。」李大海表示。（本文作者/宫赫婧，依据知乎受权内容停止整理。编辑/苏建勋）
更多精彩内容，关注钛媒体微信号（ID：taimeiti），或许下载钛媒体App
