头条、快手们深陷审核风波，AI算法被打脸了？

本篇文章1982字，读完约5分钟

硅谷多巴胺实验室的创始人拉姆齐·布朗说:“这个世界上肯定有让人上瘾的代码。”

这句话在今天的头条、颤音和快手等国内应用中很有经验。一线城市的白领和五线城市的年轻人经常在手机上浏览这些令人上瘾的软件。

业内人士告诉时代财经，这些流行的应用都使用人工智能算法来推动兴趣，这将根据用户的喜好不断更新用户感兴趣的内容，这也是人们上瘾的原因之一。有鉴于此，颤音最近甚至推出了“反上瘾系统”，但在过去这种机制只出现在游戏平台上。

在经历了最初的高速增长期后，颤音、快手等互联网内容平台相继遭遇监管的障碍。在过去的一两个月里，诸如罚款、面试、下架和永久关闭等词语不断出现，所有这些都指向平台的人工智能算法和审计机制。

一连串的审计风暴不禁让用户产生了疑问。为什么这些自称“技术驱动”的互联网公司仍然存在如此大的审计漏洞，还需要不断加大人工审计的力度？有网友开玩笑说:“说一个好的人工智能算法会让人失业吗？事实证明，人工智能可以增加就业。”

人工智能吸收用户，但是他们不能被有效地监督

今年3月底，央视一个接一个地曝光了大量低俗短片，如《未成年母亲》，今天的头条因广告问题被推到了舆论的前沿。两家公司的首席执行官，苏华和张一鸣，相继发表了致歉信。

张一鸣4月11日表示，他宣布永久关闭内涵细分应用，并加强了对今天头条新闻的审查。全面纠正算法和机器审计的缺陷，不断加强人工操作和审计，将现有6000人的操作审计团队扩大到10000人

快手最近大规模招聘内容审计师，一口气增加了3000名审计编辑。招募条件是党员和党员优先。

渐渐扩大的审计风暴，终于也传来了颤音。颤音首先关闭所有评论并关闭直播系统。最近，它还检查并删除了805个视频，并禁止了677个涉嫌发布虚假视频的账户，并接受了北京市工商局的采访。

随后，颤音首席执行官张南透露，目前有数以千计的审计团队，“团队成员的数量每天都在增加。”

新招聘的人员不仅增加了公司在运营层面的开支，也意味着基于社区的产品如快手、今日头条和颤音不能完全依靠他们擅长的人工智能算法进行ugc内容的审核，“人工审核”仍然占据着非常重要的位置。

今天的“前辈”在这里的标题，在其成立之初，定位为一个技术驱动的技术公司，使用人工智能算法实现基于个性化推荐的最终内容消费。中国政法大学知识产权研究中心的特别研究员李军辉表示，人工智能和算法可以帮助企业吸收大量用户，提高产品粘性，但它们无法逆转补救和引导的作用，这显然是技术和管理的不足。

人工智能什么时候能胜任内容审查？

早在十年前，当谷歌、facebook、百度等开始使用算法进行审查时，媒体和企业家们就不断勾画出人工智能时代到来的场景。到目前为止，尽管人工智能通过学习不断提高系统识别和判断内容类型的概率，但不得不承认，目前对内容的审查主要依赖于手工操作。

几天前，麻省理工学院、斯坦福大学和openai的联合研究报告显示，人工智能领域比以往任何时候都更加活跃。尽管人工智能在完成一些非常具体的任务方面已经超过了人类，但它在一般智能方面仍然极其有限。

以每月拥有超过20亿用户的facebook为例。在内容审查方面，这一全球性企业面临着更严峻的挑战。

facebook首席执行官扎克伯格(Zuckerberg)最近表示，根据人工智能目前的智能水平，只需暂时增加劳动力数量来解决审计问题。目前，facebook有一个15，000人的运营审计团队，预计到今年年底将增至20，000人。

据facebook的技术团队称，目前，人工智能的机器审计主要用于文本内容。如果机器检测到包含敏感词的内容，它将删除或警告用户。然而，对于图片和视频的检查，机器不能像提取文本内容那样提取关键词，而且检查仍然离不开人力。

然而，与此相反，在当前的信息爆炸时代，如果没有人工智能和算法来帮助审计，许多互联网公司显然无法运营，而是需要越来越多地依靠人工智能。

《今日头条》内容质量中心主任、副总编辑托马斯·李·贝(thomas lee Be)此前接受采访时表示，该头条每天可以处理约1000篇文章，而该机器每秒可以处理100篇文章。《今日头条》的新内容是每天500，000篇文章，所有这些都是手工完成的。一个人要工作500天才能完成它。人工智能是不可或缺的。

今天的标题算法架构师曹欢欢告诉时代财经:“目前，标题共享内容识别技术模型主要分为黄色模型、粗俗模型、尴尬模型等。，主要是通过大量样本库进行比较分析。”以该模型为例，样本数据库超过一百万级，准确率超过80%，召回率超过95%。“模型的这一部分更注重召回率，甚至牺牲了一些准确性并提高了安全性。”

李俊辉认为，在未来，社会软件和短视频应用应该是“算法+人工”的竞争，其中人工的专业性将逐步升级，以弥补或增强算法的积极引导作用，并让人工指导人工智能算法如何更好地审计。