央广网科技6月24日消息 6月23-24日，知乎举办了一场“阴阳怪气”主题书法展，现场知乎社区治理团队首次亮相，分享了知乎在识别阴阳怪气类内容上的探索。知乎借助AI技术，并辅以人机结合和多元的产品举措，多重手段加强对社区氛围的维护。据悉，现阶段知乎已实现对95%以上的违法违规、广告导流和不友善等内容的主动打击、覆盖和筛查 。
在知乎看来，阴阳怪气通常以“不针对发言内容，而是批评对方的语气”以及“提出反对意见，但不给或给出极少数论据支持”这两类常见言论为代表，此类评论极大了伤害创作者和交流者的体验，但难以解决。
解决阴阳怪气类评论的难点核心主要在于网络语言的复杂性，情感分析不同于普通文本分析。由于双方不同关系、说话的不同场景和时间都会带来迥然不同的表意。即便是人工判定都存在标准化难度，算法模型的训练挑战就更为艰辛。
知乎运营总监孙达云、内容质量管理团队技术负责人刘兆来分别从运营、技术角度，对知乎在构建良性社区氛围上所做的努力进行了阐述。在过去一年里，知乎不断优化算法机器人“瓦力”，着力挑战识别阴阳怪气这一情感分析领域的传统难题，通过综合使用情感模型、用户亲密度模型和文本识别模型，其识别准确率得以大幅优化，已超过大部分人工判断。
针对阴阳怪气评论通常表达负面情感的特点，知乎构建了内容情感倾向性识别的算法模型和识别用户亲密度的模型，并通过训练不断迭代完善。此外，针对阴阳怪气评论的典型特征，知乎建立了文本识别模型不断标记训练样本。三大模型的结合，不仅摆脱单一算法模型的局限性，也让“瓦力”的阴阳怪气识别准确率超过了大多数人工判断。
据了解，知乎还将在近期对该技术进行产品化尝试，向用户提供“瓦力”阴阳怪气智能过滤选项，同时，还将对“瓦力”进行更多训练，不断提升准确率和召回率，最终将阴阳怪气识别技术全面应用到社区治理中。
知乎不断在社区治理方面加大AI技术投入，通过阴阳怪气评论的治理，探索了一条优化互联网社交礼仪的创新之路。对于饱受网络暴力困扰的用户而言，阴阳怪气识别技术能够让用户更舒适地参与网络讨论。
