被忽視的內(nèi)容安全，App領(lǐng)域成了重災(zāi)難區(qū)

近年來(lái)，各類互聯(lián)網(wǎng)企業(yè)接連不斷因內(nèi)容違規(guī)問(wèn)題被罰。企業(yè)有意自查，對(duì)內(nèi)容進(jìn)行把控，卻處處是難題。行業(yè)到底怎么了？或者，更多想問(wèn)的是我們的內(nèi)容安全屏障到底怎么了？

各家互聯(lián)網(wǎng)平臺(tái)都不約而同地開(kāi)始升級(jí)風(fēng)險(xiǎn)管控力度，App內(nèi)容巡查重要性，預(yù)防網(wǎng)暴能力，新上線“風(fēng)險(xiǎn)提醒”“發(fā)文警示”等功能，整治不當(dāng)私信和不當(dāng)評(píng)論，推動(dòng)形成預(yù)防網(wǎng)暴的合力。

在加強(qiáng)風(fēng)險(xiǎn)管控的背后，App內(nèi)容巡查，是網(wǎng)暴已達(dá)到猖狂的程度。就拿近期的案例而言，上海姑娘因打賞外賣員200元被網(wǎng)暴跳樓；19歲女孩***中被慫恿喝農(nóng)作物***，類似事件則多次被推上熱搜，而這只是互聯(lián)網(wǎng)內(nèi)容安全問(wèn)題的冰山一角。

今年3月份，人民日?qǐng)?bào)連發(fā)三篇評(píng)論斥責(zé)網(wǎng)暴。更早之前，***網(wǎng)信辦也開(kāi)展了“清朗·2022年春節(jié)網(wǎng)絡(luò)環(huán)境整治”專項(xiàng)行動(dòng)，其中***整治任務(wù)中，排在首位的就是“網(wǎng)暴、散播謠言等問(wèn)題”，包括借疫情、社會(huì)熱點(diǎn)事件等挑動(dòng)，進(jìn)行人肉搜索、攻擊等情況。

針對(duì)此次專項(xiàng)行動(dòng)，中國(guó)信通院與網(wǎng)易、博特智能等企業(yè)在2022年也完成了面向互聯(lián)網(wǎng)信息服務(wù)類企業(yè)的《內(nèi)容審核體系成熟度評(píng)估規(guī)范》，該規(guī)范將能幫助互聯(lián)網(wǎng)信息服務(wù)類企業(yè)全方面梳理內(nèi)容安全體系，及時(shí)查漏補(bǔ)缺，協(xié)助互聯(lián)網(wǎng)信息服務(wù)類企業(yè)開(kāi)展“自查自糾”。

就在近期，中國(guó)信通院再次牽頭會(huì)同阿里、網(wǎng)易、中國(guó)移動(dòng)、博特智能、YY***、映客***等互聯(lián)網(wǎng)信息平臺(tái)、機(jī)器審核服務(wù)商，召開(kāi)了內(nèi)容審核機(jī)審能力調(diào)研會(huì)，***對(duì)互聯(lián)網(wǎng)信息平臺(tái)在文本、圖片、視頻、音頻領(lǐng)域的機(jī)審能力進(jìn)行了深入調(diào)研，App內(nèi)容巡查怎么做，將為***有關(guān)部門(mén)開(kāi)展后續(xù)規(guī)范工作提供科學(xué)依據(jù)。

這也預(yù)示著內(nèi)容安全領(lǐng)域的相關(guān)行業(yè)標(biāo)準(zhǔn)即將出臺(tái)，平臺(tái)對(duì)展示用戶內(nèi)容的審核負(fù)責(zé)任，將被正式規(guī)范約束。

智能app內(nèi)容檢測(cè)的能力

內(nèi)容更新檢測(cè)

網(wǎng)站、公眾號(hào)、微博每日更新文章數(shù)量是否存在應(yīng)更新未更新的情況

內(nèi)容表述錯(cuò)誤檢測(cè)

發(fā)布的內(nèi)容中是否存***、意識(shí)形態(tài)問(wèn)題、敏感信息和自定義檢測(cè)內(nèi)容

錯(cuò)鏈暗鏈檢測(cè)

發(fā)布的內(nèi)容中是否存在鏈接無(wú)法訪問(wèn)、內(nèi)容空白、配圖無(wú)法打開(kāi)等問(wèn)題以及被植入不可見(jiàn)的引流第三方鏈接

通過(guò)內(nèi)容自動(dòng)比對(duì)、智能內(nèi)容審核以及智能文本糾錯(cuò)方式，定期進(jìn)行內(nèi)容巡查，有效規(guī)避內(nèi)容表述不當(dāng)及違規(guī)風(fēng)險(xiǎn)

移動(dòng)app內(nèi)容巡查介紹

移動(dòng)APP作為時(shí)下便捷的用戶信息延展平臺(tái)，內(nèi)容監(jiān)管平臺(tái)可為移動(dòng)應(yīng)用開(kāi)發(fā)商提供內(nèi)容過(guò)濾方案，避免用戶在開(kāi)發(fā)的APP中發(fā)表不當(dāng)言論，規(guī)避監(jiān)管風(fēng)險(xiǎn)，帶來(lái)安全價(jià)值。

針對(duì)業(yè)務(wù)系統(tǒng)包括APP中的文本、圖片、音頻和視頻等信息進(jìn)行安全檢測(cè)和過(guò)濾，結(jié)合***監(jiān)管政策要求，提供對(duì)內(nèi)容的涉政、違禁、廣告等風(fēng)險(xiǎn)內(nèi)容過(guò)濾審核。

App內(nèi)容巡查-App內(nèi)容巡查方式-博特智能(推薦商家)由北京信工博特智能科技有限公司提供。北京信工博特智能科技有限公司為客戶提供“博特智能稿件審核,APP內(nèi)容巡查,網(wǎng)站與新媒體內(nèi)容監(jiān)測(cè)”等業(yè)務(wù)，公司擁有“博特智能政務(wù)助手,智能內(nèi)容巡檢系統(tǒng),APP內(nèi)容巡查”等品牌，專注于系統(tǒng)軟件等行業(yè)。，在北京市朝陽(yáng)區(qū)光華路SOHO1期的名聲不錯(cuò)。歡迎來(lái)電垂詢，聯(lián)系人：葛總監(jiān)。