以下文章来源于微信珊瑚安全 ，作者安安
微信珊瑚安全
腾讯官方内容安全沟通的小站点，深度思考互联网内容安全体系，科普安全知识，与行业共同探讨内容安全相关的方法论和经验，助力微信生态健康发展。
随着互联网的发展普及，互联网内容出现井喷、信息爆炸，同时带动内容安全风险的激增。这给开发者多方带来考验，也影响互联网内容生态的健康发展。
而传统人工审核存在成本高、存在主观误判、审核人员心理冲击等劣势，在信息爆发时代已逐渐跟不上步伐。依托AI算法进行审核，显然更符合互联网发展的需求。
今天为大家带来一款内容审核神器—“珊瑚安全API”的使用技巧和注意事项。在此之前，先花点时间一起了解珊瑚安全API。
微信珊瑚安全API是腾讯为小程序开发者、公众号运营者提供的内容风险防控工具。它基于AI技术、海量数据、内容安全专业知识，提供多种类型内容的审核服务，包括图片审核能力、文本审核能力。
珊瑚图片安全API：查看文档
珊瑚文本安全API：查看文档
在了解微信珊瑚安全API与使用入口后，正式进入使用前的技巧分享
在正式接入前，最好准备一批来自你业务中的图片进行测试。推荐测试图片集不少于100张，并且包含正常图片及各种违规的图片。因为微信珊瑚安全算法训练数据来自于多个行业，AI算法已经过多场景训练，但是场景训练因数据来源并不完全均衡，可能存在一些场景表现强度有差异的情况。将包含图片、文本、视频内容的展示和分享的小程序接入内容安全产品，可以大幅度降低内容中存在的问题，可以有效减少客户投诉、人工审核的问题。但接入内容安全产品并不意味着一劳永逸解决所有问题，所有AI算法均可能存在误判。微信珊瑚安全是较好的内容安全审核的辅助工具，但为了进一步确保内容安全，我们仍建议在一些环节设置人工审核确认，以弥补AI算法存在的一些不足。例如API判断为REVIEW的内容，说明可能存在风险，需要人工确认；API判断为PASS的内容，可能包含被漏掉的违规内容，可以按照一定比例抽查。当你发现我们的服务存在误判时，欢迎来到「珊瑚安全」专区及时反馈给我们，我们将定期进行AI算法升级，以提升完善审核服务。初次接入测试可以购买10000次免费资源包，有效期一年。按照接入文档完成开发，可参照代码demo提升开发效率，调用API，测试效果。如果有任何问题，建议PC端访问产品页面，点击产品页面右侧的“联系客服”按钮，及时得到帮助。希望本篇内容，能够为初次上手微信珊瑚安全的你提供一些帮助。如果你在使用过程中遇到更多问题，欢迎反馈给客服，或者在微信开放社区「珊瑚安全」专区发帖，我将尽力为你解答疑问。
阅读原文
