进入2018年，内容监管持续升级，很多互联网企业因为内容安全问题受到不同程度的处罚，有的产品甚至被监管部门直接叫停。

而在另一面，这些遭遇监管的企业其实他们也很“努力”，比如说A企业，在叫停某产品前，其审核团队人数就达到了6000人；而B企业规模并不是很大，但它的审核人数也有两千人。

与此同时，以算法知名和取胜的A企业，也走上了人工+技术（人工智能）的道路，然而在监管面前，它还是遭遇了各种“滑铁卢”。

这是为什么？难道真的仅仅是价值观问题，还是另有一些原因？在一次闭门沙龙中，网易云易盾高级产品运营魏晓惠分享的《如何成为一名优秀的内容安全（反垃圾）产品经理》议题，给我们提供了另外一个视角。

认识内容安全（反垃圾）

作为内容平台一定要有一个认识——内容安全（反垃圾）是公司的命门，因此，必须把内容安全的认识提高到非常高的高度。

现实中，无论是从国家政策还是从产品发展、社区氛围的维度，过滤垃圾信息能力都是决定产品和公司能否健康发展的重要指标。

那反垃圾，到底反的是什么垃圾？顾名思义，就是不符合产品定位的内容，可以笼统分为违法信息和有害信息，违法信息即国家法律明确指出的内容，如涉黄、涉赌、涉毒、涉暴等；有害信息可理解为与产品定位、发展相左的内容，如贴片广告、无意义刷屏等等。

垃圾内容有形式多样、内容多变的特征，决定了企业自建团队做反垃圾业务都是具有巨大挑战的工作。

而且，技术的不断更新，对于企业级反垃圾产品团队来说也是巨大的挑战。也正因为如此，企业违规事件频出，而内容安全（反垃圾）相关产品也在市面上陆续出现。

难在哪里？内容安全（反垃圾）产品经理与其他产品经理的区别

与普通产品相比，反垃圾产品的服务性更强。反垃圾产品的目的，就是提供一系列完整、高效的服务，为客户的产品内容健康打好基础。

同时，反垃圾系统涉及审核、管理、算法、运营、数据统计展示等众多体系，这决定不同方向的产品经理的工作职责也有很大不同。

最后，反垃圾产品经理必须要时刻关注监管部门的相关要求，及时更新自己的产品，积极配合相关部门做好维护网络环境的工作。

必须达到什么程度？内容安全产品经理应具备的素质 

从两个方面来看：

1.业务架构方向

由于反垃圾业务的特殊性，产品经理需要了解市场，了解客户群体潜在的风险危机，了解不同行业甚至不同场景下的风险差异，从而在业务架构时，能多方位考虑。在把控大局的同时，又能精细化处理细节问题，从而提出“接地气”的解决方案。

以文本为例，策略产品经理应必备的素质有：

a.    行业分析能力及个性化策略能力：互联网的行业的多样性决定了每个行业遇到的问题都有独特的行业特征，产品经理需要了解各个行业样本可能出现的垃圾特征，深入分析研究客户的产品所在的点线面体，从而为多样化的需求提供适合的应对方案，真正做到深入行业，洞察未来，与客户一起成长，与时俱进；

b.    过硬的语言功底：策略的流程可理解为垃圾样本分析——垃圾特征提炼——策略输出三部分。目前过滤内容仍以汉语为主，而汉语语法深奥，词句的构成复杂，汉语语法基础的缺失不可避免会导致策略偏差，具备良好的汉语功底是有效提炼样本特征、提高过滤准确性的基本条件；

c.    政治素质、法律意识、计算机知识：要保证效果，庞大的垃圾样本库必不可少，具备良好的政治素质、法律意识，准确识别及预测新型垃圾样本，进行风险尺度的把控，是策略向产品经理必备的素质；其次，整理后、特征素材需要转换成计算机语言添加流入策略库，最终生成算法模型，自动化处理，这要求产品经理具备一定的计算机知识；最后，新垃圾层出不穷，原先的策略可能随时被推翻被否定，这也要求心理素质必须过硬。

2.系统架构方向

架构功能完备、准确率高的反垃圾产品，需要产品经理做好各类前期规划与协调工作。

a.    功能完备的系统：包括易于操作的审核系统、功能齐全的管理系统、便于管理的策略系统等，这些系统缺一不可；

b.    要保证准确率高：首先机器识别准确率要高，文本、图片等的识别模型的管理、版本迭代优化情况都要做到实时跟踪；机器算法之外，如果要用到人工审核，则审核系统的操作便捷，系统收集审核人员的需求，页面展示易用性，功能完整性等都是产品经理需要重视的问题；

要实现以上的内容，产品经理至少需要具备以下素质：

a.    系统开发基础：要做好完善的系统，具备一定的代码知识和开发基础，了解模型如何实现、优化空间、实现最优结果；

b.    考虑周全：功能的前期策划、如何展示提高效率，减少重复、无效劳动等，都是产品经理需要考虑的点；

c.    协调各个部门能力：功能实现、算法优化需要产品经理与各个部门协调资源，推进落地实现。

综上来看，内容安全实际是一项门槛高、专业要求高的事情。

结束语

随着国家管控力度不断加强，要想保证产品和公司持续、稳定的发展，公司除了加强价值观建设和人工审核之外，也要求产品经理和技术能力双重的提升，才能应对内容的各种不确定性。

对于一般企业而言，持续、高成本的技术投入，势必会增加企业运营的成本，因此将内容安全（反垃圾）交付专业的第三方机构来做，或许是他们当下做为稳妥的做法。

而对于有实力、有资本的大企业，不论是战略上还是战术上都得重视，因为这不仅仅是价值观和技术的问题，也需要人员的长期培养、垃圾特征库的长期积累等。

[招生]科锐逆向工程师培训(2024年11月15日实地，远程教学同时开班, 第51期)