今日头条上线“灵犬”小程序，将对外开放反低俗技术模型

11月17日，在今日头条一年一度的创作者盛会“生机大会”上，今日头条正式推出小程序工具，“灵犬反低俗助手”成为首批小程序之一。

“灵犬”基于今日头条反低俗模型，是国内首款使用人工智能技术反低俗的小程序。用户在输入框内任意输入一段文字或文章链接，即可检测内容健康指数，并给出算法鉴定结果。

在今日头条App搜索“灵犬”，就可打开“灵犬反低俗助手”小程序页面。对于网民输入的文字或链接，“灵犬”会先进行提取、分词和语义识别，然后根据设定的规则，输出对应的分数、评级和结论。这里面，分数指的是“健康概率”，评级是“质量指数”，结论则会告知是否可以得到“算法推荐”。这是基于算法模型处理低俗内容的一般路径：“收集数据－标注样本－训练模型”。在人工智能反复训练中，灵犬会实现自我进化。

这个“反低俗”小程序在实际应用中有何用途呢？对于创作者来说，输入之后能够判断出自己的作品是否违规，是否涉嫌色情、抄袭、标题党等，也会得到一个结论：起这个标题或写这篇文章是否会被推荐；用户发现不良内容则可以举报，共同打击低俗内容；此外，“灵犬”系统是智能识别，本身对头条平台上的内容也会有个自动的监测过程，过滤掉低俗内容。

据了解，除了运用AI等技术手段，今日头条目前也已投入数千人的专业审核团队，并搭建色情、低俗、标题党、虚假信息、低质模型180多个，有效提升了内容审核的效率和准确度。后续头条还将对外开放更多技术模型，包括辟谣模型、打击标题党模型等。