小程序因內(nèi)容違規(guī)而離線？想要審查和識別違規(guī)但不知道如何開始？

上周，我們上線內(nèi)容安全接口并使用這個“神器”來幫助每個人解決問題。

今天，讓我們仔細(xì)看看這個“神器”，以幫助您更好地解決上述問題。

這個幫手幫你做內(nèi)容審核

用戶通過小程序發(fā)布的內(nèi)容大而且多變，并且不可能逐個檢查。

小程序內(nèi)容安全接口輔助開發(fā)者準(zhǔn)確快速驗(yàn)證小程序的文本、圖片內(nèi)容是否包含淫穢色情，非法犯罪，政治參與等，防止不良信息混入，維持小程序內(nèi)容健康。

溫馨提醒，即使開發(fā)人員擁有內(nèi)容安全的界面，這也是一個很好的“幫手”，并且不能掉以輕心。

三大能力，快速發(fā)現(xiàn)并處理違規(guī)內(nèi)容

可以成為“好幫手”，當(dāng)然還有“超級能力”。 小程序內(nèi)容安全界面提供三種功能，從圖像到文本，以準(zhǔn)確識別違規(guī)內(nèi)容。

圖片智能鑒黃

無論是用戶通過照片上傳的內(nèi)容，自定義頭像，還是文章評論的圖片圖片智能鑒黃接口都能夠進(jìn)行主動識別及獲取色情量化程度信息，都能實(shí)現(xiàn)準(zhǔn)確快速的色情傾向判斷。

智能人臉識別

“眼盲”面部識別能力可以提取圖中的面部信息并執(zhí)行相似度判斷，包括重要政治人物、公眾人物和其他圖像人臉識別，以幫助開發(fā)人員避免違規(guī)和侵權(quán)風(fēng)險。

惡意文本檢測

該文本包含許多潛在的非法元素。內(nèi)容安全界面提供更高級智能的惡意文本檢測能力，可以準(zhǔn)確識別文本內(nèi)容中的非法文本信息，并協(xié)助檢測違規(guī)和惡意內(nèi)容。

這些場景已經(jīng)能實(shí)際使用了

目前，內(nèi)容安全界面已經(jīng)能夠用于小程序處的文本，圖像等的內(nèi)容驗(yàn)證。

用戶的個人資料、媒體類用戶發(fā)表的文章及評論、游戲類用戶編輯上傳的素材等，開發(fā)人員可以使用內(nèi)容安全界面進(jìn)行文本檢測。

此外，內(nèi)容安全接口可以檢測用戶拍照上傳、電商類商品上架圖片、用戶頭像、媒體類用戶文章配圖、社交類用戶上傳的圖片。

更多你關(guān)注的Q&A

在了解了小程序內(nèi)容安全界面的基本信息后，您可能會有一些問題：這個界面適合誰？有什么影響？問答了解——

Q1： 開放內(nèi)容安全接口能為開發(fā)者帶來什么好處？

A：我們注意到，近年來，由于產(chǎn)品中存在非法內(nèi)容，它已經(jīng)受到處罰，甚至關(guān)閉了貨架，開發(fā)者的內(nèi)容審核工作刻不容緩。因此，我們推出了內(nèi)容安全界面，希望能夠幫助開發(fā)人員及時發(fā)現(xiàn)和處理圖像和文本內(nèi)容中的違規(guī)行為，從而使開發(fā)人員能夠?qū)Ｗ⒂诟哔|(zhì)量的小程序開發(fā)。

Q2： 哪些小程序可以使用內(nèi)容安全接口，有使用要求嗎？

A：目前，內(nèi)容安全接口面向所有的小程序開發(fā)者，免費(fèi)提供一定額度的接口調(diào)用量主要為小程序內(nèi)容審查工作提供幫助，平臺不保留小程序開發(fā)人員提交的測試數(shù)據(jù)。如果呼叫量要求超過上限，則開發(fā)者可以通過業(yè)務(wù)邏輯優(yōu)化，自行開發(fā)的內(nèi)容審查手段和其他第三方內(nèi)容審查界面進(jìn)行內(nèi)容審查。

Q3： 有了內(nèi)容安全接口，開發(fā)者是不是就能省略內(nèi)容審核工作？

A：目前，內(nèi)容安全界面僅提供內(nèi)容審核的基礎(chǔ)能力來幫助開發(fā)人員發(fā)現(xiàn)有害內(nèi)容，但對于內(nèi)容檢測結(jié)果以及其他非法內(nèi)容（如暴力，恐怖，血腥），開發(fā)人員仍需要進(jìn)行良好的管理職責(zé)。自行開展審核并對有害內(nèi)容進(jìn)行刪除等處理，并且不能忽略內(nèi)容審核工作。

同時，開發(fā)人員可以通過《文本內(nèi)容安全接口》和《圖片內(nèi)容安全接口》了解有關(guān)小程序內(nèi)容安全接口的更多信息，以創(chuàng)建更環(huán)保，更健康的小程序生態(tài)系統(tǒng)。