陌陌信息内容管理制度

一、总则
为确保陌陌平台相关内容严格遵守国家相关法律法规要求，禁止出现各类违法和有害信息，特制订此制度，加强对有害信息的过滤审核和生态管理，全面保障平台信息安全工作。

二、总体要求
1、通过完善过滤系统，加强对平台有害信息的机器甄别能力，辅助人工核查、巡查等手段，有效管控平台各类有害信息；
2、配合管理部门开展的各类专项行动，进行自查自纠；
3、落实值班管理，对接各管理部门，及时响应处置各类指令要求；
4、进行舆情搜集、预判，提取关键词进行提取管控；
5、协助信息安全评估小组开展针对新平台、新应用的上线安全评估工作；
6、加强举报受理工作，通过公众监督，加强有害信息的审核过滤；
7、加强人员培训，提高有害信息的甄别能力和审核人员的业务水平。

三、法律底线
严格按照《互联网信息服务管理办法》、《网络信息内容生态治理规定》等法律法规的要求，开展内容管理工作。
1、网络信息内容生产者不得制作、复制、发布、传播含有下列内容的信息：
（1）反对宪法所确定的基本原则的；
（2）危害国家安全，泄露国家秘密，颠覆国家政权，破坏国家统一的；
（3）损害国家荣誉和利益的；
（4）歪曲、丑化、亵渎、否定英雄烈士事迹和精神，以侮辱、诽谤或者其他方式侵害英雄烈士的姓名、肖像、名誉、荣誉的；
（5）宣扬恐怖主义、极端主义或者煽动实施恐怖活动、极端主义活动的；
（6）煽动民族仇恨、民族歧视，破坏民族团结的；
（7）破坏国家宗教政策，宣扬邪教和封建迷信的；
（8）散布谣言，扰乱经济秩序和社会秩序的；
（9）散布淫秽、色情、赌博、暴力、凶杀、恐怖或者教唆犯罪的；
（10）侮辱或者诽谤他人，侵害他人名誉、隐私和其他合法权益的；
（11）法律、行政法规禁止的其他内容。
2、网络信息内容生产者应当采取措施，防范和抵制制作、复制、发布含有下列内容的不良信息：
（1）使用夸张标题，内容与标题严重不符的；
（2）炒作绯闻、丑闻、劣迹等的；
（3）不当评述自然灾害、重大事故等灾难的；
（4）带有性暗示、性挑逗等易使人产生性联想的；
（5）展现血腥、惊悚、残忍等致人身心不适的；
（6）煽动人群歧视、地域歧视等的；
（7）宣扬低俗、庸俗、媚俗内容的；
（8）可能引发未成年人模仿不安全行为和违反社会公德行为、诱导未成年人不良嗜好等的；
（9）其他对网络生态造成不良影响的内容。

四、审核规范
1、不得发布政治内容，特别是国史、党史、宗教信息、政治人员变动、转载境外非法媒体等信息均不允许讨论，此类话题一律予以删除直至永久处理。禁止对党和国家历任领导人的任何形式的讨论，发表调侃、恶搞言论或者发表谩骂、影射、讽刺、诽谤等攻击性言论永久封禁；
2、不得发布违禁的色情内容，特别是求种、放链接、色情影片截图、AV封面、AV动图以及过于暴露情节的内容等，禁止一切超出泳装以上部分的福利。违规者将予以最高永久封禁处理；
3、不得讨论黄、赌、毒内容，此类内容一律删除，情节严重者将予以永久封禁处理；
4、不得发布、讨论种族歧视、民族歧视、宗教歧视等内容，不得恶意挑起地域攻击和对其他群体的攻击内容，此类相关话题一律删除，并可以根据情况严重程度予以两天到永久封禁处理。
5、不得对他人进行人身攻击，不得毫无证据对他人进行诽谤、造谣，此类话题予以删除、封禁处理，根据情节严重程度予以两天到永久封禁处理，同时也请尊重自己，不要自称为“XX狗”；不得预设他人立场进行群体攻击（如五毛、美分、狗粉，果粉等），对讽刺、挖苦、酸话和挑口水的行为处以两天以上禁言处罚，情节严重的恶意行为予以永久不予解禁。恶意制造谣言永久封禁。
6、个人私下恩怨不得带到平台来，审核人员有权对此相关内容进行处理。
7、在动态、评论以及相关话题中涉嫌对他人构成污蔑、诽谤、造谣等引起当事人不满的行为，审核根据情况予以删除乃至封禁等处理。恶意暴露他人隐私的予以删除和封禁处理。
8、不得发布任何以推广为目的的网站链接、QQ群、微信二维码等。情况严重或者屡次发布者，可视严重程度给予两天直至永久的处罚。
9、禁止发布任何形式的新闻资讯内容。
10、其它包括但不限于制造谣言、散布谣言、编造故事骗关注、恶意诽谤等。

五、直播审核
1、适用对象：
陌陌所有主播、用户及直播间内容；
2、审核流程：
陌陌直播由机器初审+人工全量+质检回查三层审核流程及用户举报组成；
3、审核要求
（1）实时监控：音视频模型与人工监控互为补充，配合三重审核架构，实时监控全量直播间。三重审核架构：初级监控（一审）、分级分类监控（二审）、重点内容巡查（三审）
（2）回查核验：清理回查各类违规内容；对比真人实名图片确保主播为本人。
（3）监督举报：通过鼓励全民举报，以及内部质检，提升对违规内容的阻断效率。
（4）人工审核
直播间7*24小时实时人工监控，判罚处置时，推送具体的违规原因，便于督促主播改进，也便于对监控违规数据的统计和案例收集。
（5）技术识别
平台与多家行业龙头机构（依图、数美、阿里云、图谱科技）合作，运用业内领先的音视频识别技术识别违规内容。识别技术包括音频检测、画像识别、图片检测以及文本检测。

六、内容过滤规则及技术能力
陌陌过滤规则主要是通过文本、图片、音频、视频模型制定不同精度的策略，根据可疑程度分为三层过滤：高准确率策略命中，执行拦截或屏蔽操作阻止发布；中准确率策略命中，执行先屏蔽送人工审，确认无问题后再放出；低准确率策略命中，降低分发流量，减少曝光，如曝光过程中触发其他策略则升级审核策略进一步送审。
当前各线上过滤库和过滤模型的准确率性能平均可达到97%左右的准确率，召回率（或称覆盖率）可达到90%以上，误伤率3%-5%区间。以上三个指标是较为平衡状态下的均值，每个模型均可以根据业务需求，调整模型信心率阈值，有倾向性的提高某项指标。模型的过滤时效为毫秒级，文本类内容基本上为实时识别，图片和音视频内容的识别时效在500至1000ms之间。

七、技术研发
在安全技术研发方面，在原有关键词过滤，黑名单机制，本文、图片、音视频识别等过滤识别系统的基础上，进一步改进过滤系统的算法，提升对有害信息的识别效率，通过“系统+人工”的方式全面清理平台上的各类违法和有害信息，加强平台系统防护。
（1）加强对有害信息过滤的升级改造，不断完善关键词和有害信息样本库；
（2）借助外部资源和力量，加强对系统安全漏洞的扫描和修复；
（3）建立和完善入侵检测与防御、防病毒、防拒绝服务攻击、异常流量监测、漏洞扫描、集中账号管理、数据加密、安全审计等网络安全防护技术手段；
（4）严格落实重要数据库和系统主要设备的冗灾备份措施；
（5）对接公安网监、网信、广电、全扫等政府系统，定期检查系统安全；

八、未成年人保护
根据《儿童个人信息网络保护规定》及《未成年人网络保护条例（送审稿）》的相关要求，积极落实平台在引导和保护未成年人的管理责任。
1、账户管理
（1）注册环节管理。平台基于手机账户的实名注册方式，平台通过用户协议明确禁止18岁以下未成年人进行用户注册。
（2）巡查监测。平台通过完善技术模型，从账户昵称、个人简介、头像等环节加强日常审核，同时结合用户举报，对于发现疑似未成年人的账户，通过推送实人认证的方式对账户身份进行验证，对于无法通过验证或者验证后发现是未成年人的，引导进入平台的未成年人模式。
2、完善青少年模式
在此模式下，将限制未成年用户的使用时长，禁止参与观看直播、充值、打赏等相关功能，同时在青少年模式下，重点推荐“科普知识”、“优秀传统文化”等优质内容，加强对青少年的正向引导。
3、加强涉未成年人内容审核标准
（1）涉及未成年人性行为或其他有色情意图的亲密行为；
（2）展示未成年人敏感部位的画面；
（3）未成年妈妈、18岁（不含）以下怀孕、打胎等婚育相关内容；
（4）残害、虐待、体罚未成年人，展示校园欺凌的内容；披露未成年人个人隐私或有损未成年人人格尊严；
（5）宣扬或鼓励未成年人进行吸毒、赌博、犯罪等违法行为；
（6）宣扬或鼓励未成年人进行厌学弃学、早恋、抽烟喝酒、纹身等不适行为。
4、加强未成年人网络行为规范
（1）禁止未成年人开设直播间；
（2）禁止直播过程中未成年人出镜；
（3）对于平台识别的未成年人，限制其充值、打赏功能。