人工智能時(shí)代網(wǎng)絡(luò)內(nèi)容治理面臨的新挑戰(zhàn)和解決策略研究

曾志毅 田野

摘 要 進(jìn)入21世紀(jì)以來(lái)，隨著社會(huì)的發(fā)展和生活水平的不斷提高，互聯(lián)網(wǎng)技術(shù)也得到了進(jìn)一步發(fā)展，算法推薦平臺(tái)應(yīng)運(yùn)而生，在滿足網(wǎng)民需求的同時(shí)，也深刻地影響了我國(guó)的互聯(lián)網(wǎng)內(nèi)容生態(tài)。但是，由于純粹算法推薦本身的價(jià)值陷阱，網(wǎng)絡(luò)內(nèi)容建設(shè)不可避免地出現(xiàn)了一些新變化和新問(wèn)題，給政府互聯(lián)網(wǎng)治理帶來(lái)了一些新的挑戰(zhàn)，主要表現(xiàn)為馬太效應(yīng)、低俗內(nèi)容泛濫、易受平臺(tái)操縱、網(wǎng)絡(luò)水軍影響力擴(kuò)大等等。據(jù)此，文章提出，政府應(yīng)通過(guò)法制建設(shè)、技術(shù)手段建設(shè)、優(yōu)質(zhì)內(nèi)容建設(shè)、輿情引導(dǎo)等手段加強(qiáng)網(wǎng)絡(luò)內(nèi)容建設(shè)，以建設(shè)一個(gè)生態(tài)良好的網(wǎng)絡(luò)空間。

關(guān)鍵詞 人工智能；網(wǎng)絡(luò)內(nèi)容；互聯(lián)網(wǎng)治理

中圖分類號(hào) TP3 文獻(xiàn)標(biāo)識(shí)碼 A 文章編號(hào) 1674-6708（2019）229-0166-02

近年來(lái)，隨著大數(shù)據(jù)、人工智能、云計(jì)算等互聯(lián)網(wǎng)技術(shù)的發(fā)展，以今日頭條、抖音、快手為代表的算法推薦平臺(tái)迅速崛起，在滿足網(wǎng)民需求的同時(shí)，也深刻地影響了我國(guó)的互聯(lián)網(wǎng)內(nèi)容生態(tài)。但是，由于純粹算法推薦本身的價(jià)值陷阱，網(wǎng)絡(luò)內(nèi)容建設(shè)不可避免地出現(xiàn)了一些新變化和新問(wèn)題，給政府互聯(lián)網(wǎng)治理帶來(lái)了一些新的挑戰(zhàn)。

1 人工智能時(shí)代網(wǎng)絡(luò)內(nèi)容建設(shè)出現(xiàn)的新變化和新問(wèn)題

1.1 算法推薦平臺(tái)迅速崛起

隨著互聯(lián)網(wǎng)技術(shù)的不斷發(fā)展，算法推薦應(yīng)運(yùn)而生并且迅速應(yīng)用于各大平臺(tái)。新浪、優(yōu)酷、微博等門戶網(wǎng)站、視頻網(wǎng)站、社交媒體都會(huì)利用用戶提供的基本信息，對(duì)用戶進(jìn)行內(nèi)容推薦。隨著社會(huì)的發(fā)展以及各個(gè)媒體基礎(chǔ)設(shè)施的不斷更新，人工智能算法已經(jīng)得到普遍應(yīng)用和推廣。鳳凰新媒體總裁岳建雄曾說(shuō)過(guò)，人工智能算法已經(jīng)成為各個(gè)媒體所具備的基礎(chǔ)能力，而不是核心競(jìng)爭(zhēng)力，因此，各媒體在此基礎(chǔ)上要不斷開發(fā)探索具有競(jìng)爭(zhēng)力的算法。[ 1 ]近年來(lái)，迅速發(fā)展壯大的今日頭條、抖音、快手更是將人工智能算法推薦運(yùn)用到了一個(gè)新的高度。今日頭條資深算法架構(gòu)師曹歡歡2018年1月公布了頭條使用的5種推薦算法，包括傳統(tǒng)的協(xié)同過(guò)濾模型，監(jiān)督學(xué)習(xí)算法Logistic？Regression模型，基于深度學(xué)習(xí)的Factorization？Machine，以及DNN和GBDT。據(jù)其透露，主要有4類最重要的用戶特征，將會(huì)輸入給算法，影響到頭條推薦算法的工作。第一類是關(guān)聯(lián)性特征，根據(jù)用戶信息來(lái)評(píng)估與相關(guān)內(nèi)容屬性之間的關(guān)系。第二類是環(huán)境特征，包括地形、氣候、時(shí)間。第三類是頻率特征。主要是指一個(gè)話題出現(xiàn)的頻率和熱度，反映了用戶的算法偏向。第四類是協(xié)和特征，它可以從舊算法轉(zhuǎn)變?yōu)樾滤惴?，并將其推廣到更廣泛的領(lǐng)域[2]。

1.2 算法推薦帶來(lái)馬太效應(yīng)和低俗內(nèi)容泛濫等弊端

優(yōu)秀的算法推薦節(jié)省了網(wǎng)民尋找優(yōu)質(zhì)內(nèi)容和感興趣內(nèi)容的時(shí)間成本，同時(shí)也讓平臺(tái)對(duì)網(wǎng)民的詳細(xì)信息有了更加全面的掌握，有助于調(diào)整平臺(tái)發(fā)展策略、內(nèi)容生產(chǎn)定位和廣告精準(zhǔn)投放，實(shí)現(xiàn)了網(wǎng)民和平臺(tái)的雙贏。不過(guò)，基于人工智能的純粹算法推薦的弊端也是非常明顯。

1）容易導(dǎo)致平臺(tái)內(nèi)容出現(xiàn)較大的強(qiáng)弱差距，使得一部分優(yōu)質(zhì)內(nèi)容無(wú)法有效展示。比如，在抖音平臺(tái)上，某用戶拍攝上傳一個(gè)視頻，初期平臺(tái)會(huì)適當(dāng)給予一定流量，視頻上傳完成后，會(huì)得到其他用戶的關(guān)注，其他用戶根據(jù)個(gè)人喜好對(duì)該視頻進(jìn)行瀏覽、點(diǎn)贊、評(píng)論和轉(zhuǎn)發(fā)，通過(guò)用戶的轉(zhuǎn)發(fā)和點(diǎn)贊可以判斷出該視頻的受歡迎程度，抖音平臺(tái)會(huì)根據(jù)視頻的受歡迎程度給予第二次流量，同時(shí)獲得二次傳播機(jī)會(huì)。如果該視頻受歡迎程度低，那么抖音平臺(tái)為了傳播質(zhì)量，不會(huì)給予第二次傳播機(jī)會(huì)，這種情況會(huì)導(dǎo)致上傳的視頻失去流量，也難以大火[3]。？也就是說(shuō)，如果一個(gè)視頻第一輪表現(xiàn)不佳，也就不會(huì)進(jìn)入下一輪。很多優(yōu)秀的視頻內(nèi)容可能因此被埋沒。

2）平庸、低俗的內(nèi)容可能獲得更多的傳播，出現(xiàn)泛濫的情況。以今日頭條、抖音和快手等為代表的互聯(lián)網(wǎng)應(yīng)用以人工智能的算法推薦，作為主要推薦方式，代替了原有的編輯推薦制，只是根據(jù)用戶需要推薦相關(guān)內(nèi)容，卻不顧內(nèi)容的真實(shí)性和質(zhì)量，這種方式反而迅速贏得了網(wǎng)民的喜愛，也贏得了市場(chǎng)，但是因?yàn)檫^(guò)度商業(yè)化的原因，內(nèi)容低俗、娛樂(lè)過(guò)度、虛假信息等眾多問(wèn)題也一直困擾著這些平臺(tái)的發(fā)展。尤其是今年以來(lái)，各大網(wǎng)絡(luò)平臺(tái)的播放質(zhì)量尤其低下，導(dǎo)致網(wǎng)絡(luò)平臺(tái)市場(chǎng)陷入混亂狀態(tài)，值得一提的是，2018年4月由于各大網(wǎng)絡(luò)平臺(tái)為了吸引用戶眼球，賺取流量和人氣，播放早戀、早孕等視頻，甚至這些主人翁通過(guò)此次平臺(tái)傳播而成為了網(wǎng)紅，使得更多未成年少女為了獲取人氣爭(zhēng)相早戀早孕，帶壞了社會(huì)風(fēng)氣。針對(duì)這些不良事件的發(fā)生，國(guó)家廣播電視總局也對(duì)各大平臺(tái)進(jìn)行了警告處理，并且勒令其進(jìn)行全面整改，積極傳播正能量事件，堅(jiān)決杜絕此類事件的再次發(fā)生[4]。？這些平臺(tái)雖然賺足了流量和人氣，但是無(wú)疑喪失了道德底線。

3）算法推薦下信息存在被平臺(tái)操控的可能。為了增加用戶，獲得更大的商業(yè)價(jià)值，互聯(lián)網(wǎng)平臺(tái)往往都在不斷地開發(fā)和測(cè)試新的算法，在這個(gè)過(guò)程中，不可避免加入人的判斷。今日頭條資深算法架構(gòu)師曹歡歡曾經(jīng)說(shuō)過(guò)，互聯(lián)網(wǎng)平臺(tái)的算法推薦并不是只有機(jī)器操控，其中還摻雜了許多人為因素，這就容易導(dǎo)致產(chǎn)生算法推薦的信息不夠精準(zhǔn)的風(fēng)險(xiǎn)。在大數(shù)據(jù)時(shí)代，這個(gè)操控可能會(huì)更有針對(duì)性。因?yàn)槟闼械臄?shù)據(jù)幾乎都在平臺(tái)的監(jiān)視之下？[5]。在2016年美國(guó)大選中，美國(guó)的媒體、意見領(lǐng)袖和民眾就紛紛發(fā)聲，認(rèn)為Facebook提供了假新聞，對(duì)人們形成誤導(dǎo)，影響了大選。

1.3 智能寫作獲得巨大進(jìn)步和機(jī)器人水軍泛濫

隨著社會(huì)的發(fā)展和科技水平的不斷提高，機(jī)器人寫作越來(lái)越廣泛。就寫作水平而言，目前計(jì)算機(jī)能夠完成結(jié)構(gòu)比較清晰、格式固定的新聞稿。

隨著機(jī)器人寫作的廣泛應(yīng)用，許多機(jī)器人水軍為了從中獲取利益擾亂網(wǎng)絡(luò)平臺(tái)秩序，導(dǎo)致網(wǎng)絡(luò)平臺(tái)內(nèi)容安全受到威脅?！熬W(wǎng)絡(luò)水軍普遍從事編造虛假信息、誹謗攻擊、非法推廣等違法活動(dòng)，嚴(yán)重侵害公民的人身財(cái)產(chǎn)權(quán)利，并且容易侵蝕網(wǎng)絡(luò)正能量、破壞網(wǎng)絡(luò)正常生態(tài)。

網(wǎng)絡(luò)水軍成為互聯(lián)網(wǎng)輿論中一股不可忽視的力量，通過(guò)對(duì)目標(biāo)對(duì)象進(jìn)行分析，進(jìn)行有針對(duì)性地發(fā)文，通過(guò)對(duì)帖子的惡意追捧，營(yíng)造虛假輿論，大量占據(jù)網(wǎng)絡(luò)信息傳播資源，快速擴(kuò)散消極負(fù)能量的帖子，引導(dǎo)輿論導(dǎo)向朝著負(fù)面方向發(fā)展。通過(guò)相關(guān)調(diào)查研究發(fā)現(xiàn)，人類觀點(diǎn)的轉(zhuǎn)變往往和網(wǎng)絡(luò)平臺(tái)播放的內(nèi)容有關(guān)，也就是說(shuō)，機(jī)器人水軍在一定程度上影響了人們的觀點(diǎn)。

2 人工智能時(shí)代政府加強(qiáng)網(wǎng)絡(luò)內(nèi)容建設(shè)的對(duì)策

2.1 加強(qiáng)創(chuàng)新，依法加強(qiáng)網(wǎng)絡(luò)內(nèi)容治理

互聯(lián)網(wǎng)不是法外之地，針對(duì)當(dāng)前網(wǎng)絡(luò)內(nèi)容存在的問(wèn)題，我國(guó)必須創(chuàng)新和完善相關(guān)領(lǐng)域的立法工作，依法加強(qiáng)網(wǎng)絡(luò)平臺(tái)管理，樹立積極正能量的網(wǎng)絡(luò)文化。在網(wǎng)絡(luò)信息技術(shù)快速發(fā)展的過(guò)程中，可能會(huì)出現(xiàn)一些不可抗力因素或者法律之外的情況，因此，我國(guó)相關(guān)部門應(yīng)該對(duì)于新興網(wǎng)絡(luò)技術(shù)方面嚴(yán)加管理，詳細(xì)調(diào)查，為了試網(wǎng)絡(luò)平臺(tái)更好更健康的發(fā)展下去，我國(guó)相關(guān)部門根據(jù)調(diào)查情況，結(jié)合現(xiàn)有網(wǎng)絡(luò)信息技術(shù)的發(fā)展情況，制定順應(yīng)社會(huì)發(fā)展的法律規(guī)章制度。

2.2 提升能力，利用新興技術(shù)加強(qiáng)監(jiān)管

互聯(lián)網(wǎng)時(shí)代，面對(duì)數(shù)據(jù)的爆炸性增長(zhǎng)和不斷發(fā)展的網(wǎng)絡(luò)技術(shù)，網(wǎng)絡(luò)內(nèi)容治理也必須不斷創(chuàng)新，利用新的技術(shù)手段和工具，加強(qiáng)網(wǎng)絡(luò)內(nèi)容的管理。通過(guò)云計(jì)算、大數(shù)據(jù)、人工智能等新興信息技術(shù)對(duì)網(wǎng)絡(luò)上出現(xiàn)的違法違規(guī)內(nèi)容，做到第一時(shí)間的監(jiān)測(cè)發(fā)現(xiàn)、分析判斷、防范處置，通過(guò)新興技術(shù)對(duì)網(wǎng)絡(luò)中的違法亂紀(jì)現(xiàn)象進(jìn)行加強(qiáng)管理，從而提升網(wǎng)絡(luò)空間治理能力。

2.3 鼓勵(lì)原創(chuàng)，加強(qiáng)優(yōu)質(zhì)內(nèi)容的版權(quán)保護(hù)和傳播

傳媒行業(yè)最重視的就是內(nèi)容質(zhì)量，隨著互聯(lián)網(wǎng)技術(shù)和算法推薦平臺(tái)快速發(fā)展，優(yōu)質(zhì)原創(chuàng)內(nèi)容價(jià)值越加凸顯，對(duì)網(wǎng)絡(luò)內(nèi)容版權(quán)的保護(hù)有必要盡早提上日程。另外，優(yōu)質(zhì)內(nèi)容也應(yīng)當(dāng)在網(wǎng)絡(luò)平臺(tái)中起到帶頭作用，通過(guò)對(duì)優(yōu)秀網(wǎng)絡(luò)內(nèi)容進(jìn)行平臺(tái)優(yōu)選和創(chuàng)作支持，加大對(duì)優(yōu)秀網(wǎng)絡(luò)內(nèi)容的傳播力度，以此來(lái)沖淡負(fù)面作品的社會(huì)影響，向社會(huì)廣泛傳播正？能量。

2.4 大力發(fā)聲，把握輿情引導(dǎo)權(quán)

目前，網(wǎng)絡(luò)平臺(tái)的機(jī)器人水軍日益增加，對(duì)網(wǎng)絡(luò)平臺(tái)的輿論導(dǎo)向產(chǎn)生了極其惡劣的影響，針對(duì)這一現(xiàn)象，我國(guó)相關(guān)部門應(yīng)該對(duì)機(jī)器人水軍進(jìn)行重點(diǎn)關(guān)注，及時(shí)掌握其動(dòng)態(tài)，根據(jù)機(jī)器人水軍的運(yùn)行規(guī)則，制定相關(guān)解決措施，并且在官方平臺(tái)積極發(fā)聲，引領(lǐng)正確的輿論導(dǎo)向，特別是嚴(yán)重?fù)p害我國(guó)主權(quán)完整和國(guó)家利益的聲音，應(yīng)該及時(shí)予以駁斥和？澄清。

參考文獻(xiàn)

[1]中國(guó)青年網(wǎng).“人工智能+新媒體”論壇聚焦媒體智能之道.[2018-11-13].https：//baijiahao.baidu.com/s？id=161 7006460982543973𝔴=spider&for;=pc.

[2]36氪.今日頭條用了哪五種推薦算法？資深架構(gòu)師曹歡歡首次公開揭秘.[2018-1-12]. https：//baijiahao.baidu.com/ s？id=1589381367542792109𝔴=spider&for;=pc.

[3]聽潮一哥.從零到萬(wàn)的粉絲，抖音推薦算法是怎樣的.[2018-5-17]. https：//baijiahao.baidu.com/s？id=160070107164 1513252𝔴=spider&for;=pc.

[4]觀察者網(wǎng).今日頭條、快手被約談平臺(tái)回應(yīng)：全面清查暫停新用戶上傳.[2018-4-15]. https：//www.guancha.cn/ society/2018_04_05_452733.shtml.

[5]維克托·邁爾-舍恩伯格，尼思·庫(kù)克耶著.盛楊燕，周濤，譯.大數(shù)據(jù)時(shí)代：生活、工作與思維的大變革[M].杭州：浙江人民出版社，2013：195.