圖文內(nèi)容識別技術(shù)在青少年上網(wǎng)監(jiān)護中的應用

王晶瑩 張媛媛 王新元 劉煜松

摘要：如今互聯(lián)網(wǎng)正在高速發(fā)展，信息的傳播方式不斷發(fā)生轉(zhuǎn)變，網(wǎng)絡上的信息量也在急速膨脹，雖然降低了網(wǎng)民獲取資源的門檻，但為網(wǎng)絡中不良文化的滋生和傳播提供了條件。如今大量青少年觸網(wǎng)且上網(wǎng)年齡不斷低齡化，但青少年各方面不夠成熟，辨別是非能力差，缺乏自我保護能力，法律意識薄弱，很容易受到負面影響。現(xiàn)今在計算機視覺領域中，圖文內(nèi)容識別技術(shù)發(fā)展迅猛，識別準確率高、速度快、成本低。圖像識別技術(shù)能夠有效地應用于青少年上網(wǎng)監(jiān)護過程中，達到高效監(jiān)護的效果。

關(guān)鍵詞：青少年上網(wǎng)監(jiān)護;內(nèi)容識別技術(shù)

中圖分類號：TP391? ? ? 文獻標識碼：A

文章編號：1009-3044（2021）36-0148-03

開放科學（資源服務）標識碼（OSID）：

1 背景

根據(jù)中國互聯(lián)網(wǎng)絡信息中心（CNNIC）報告顯示，2019年未成年人互聯(lián)網(wǎng)普及率達93.1%，并且青少年上網(wǎng)年齡還在持續(xù)低齡化。紛繁復雜的網(wǎng)絡信息非常容易影響缺乏辨別是非能力的未成年人，很容易誤入“歧途”[1]。據(jù)《社會藍皮書》調(diào)查顯示，在青少年的成長中父母的陪伴起到重要的作用，父母的在場很大程度上可以防止少年兒童過度上網(wǎng)[2]。本項目致力于將監(jiān)護人的引導置入青少年健康教育的環(huán)節(jié)中，實現(xiàn)監(jiān)護人對青少年反常上網(wǎng)行為的監(jiān)管。為監(jiān)護青少年安全上網(wǎng)，通過自動定時截圖、人工智能識別、反饋瀏覽信息等環(huán)節(jié)，實現(xiàn)對青少年上網(wǎng)時長、上網(wǎng)時段、瀏覽內(nèi)容等實時監(jiān)護。促進監(jiān)護人與青少年之間的溝通，對青少年身心健康的保護更有效，減少不良信息對青少年成長的影響，保護青少年身心健康，同時也能夠大幅度降低人工審核成本。

2 青少年上網(wǎng)狀況

2.1 教育與學習

隨著互聯(lián)網(wǎng)的發(fā)展和生活水平的提高，電腦越來越普及，各類行業(yè)都以互聯(lián)網(wǎng)為基礎建立起廣泛的應用。其中，教育行業(yè)也更加深入地與互聯(lián)網(wǎng)科技結(jié)合，形成“互聯(lián)網(wǎng)+教育”的新型教育形式。網(wǎng)上授課、網(wǎng)上答題、網(wǎng)上考試等各種教學形式變得更加日常化，上至大學生，下至小學生，更加頻繁地使用電腦或移動設備等在微信、學習通等教學平臺上完成老師布置的學習任務。 青少年獨自接觸手機電腦的機會大大增加，而網(wǎng)絡上的信息復雜且不可控，容易分散青少年的注意力，反而影響青少年的健康成長。

2.2 游戲

除了必須進行的學習任務以外，游戲行業(yè)的普及也成為青少年接觸電腦和手機的重要原因。各類游戲利用人類心理需求或弱點吸引了大批用戶，游戲受眾人群年齡跨度大、熱度高、討論范圍廣。未成年人難以禁受誘惑，常被各種游戲吸引，耗費大量時間、金錢、精力等。并且部分游戲中充斥著大量不利于青少年成長發(fā)展的價值觀，諸如攀比、貪婪、暴力、不切實際、自私、報復心、逐利等，長期在此類游戲環(huán)境下耳濡目染，很有可能造成青少年的價值觀扭曲以及與現(xiàn)實世界產(chǎn)生隔閡等不良后果。

3 家長監(jiān)管困難的原因

3.1 電腦等上網(wǎng)設備的普及

隨著經(jīng)濟的發(fā)展，人們的生活水平不斷提高，電腦等可聯(lián)網(wǎng)設備越來越普及。如今，幾乎每個家庭都會有一臺電腦，為青少年上網(wǎng)提供了設備基礎。青少年上網(wǎng)更加方便，上網(wǎng)的機會更多。

3.2 網(wǎng)絡環(huán)境發(fā)達且難以管控

互聯(lián)網(wǎng)的高速發(fā)展使中國互聯(lián)網(wǎng)網(wǎng)民數(shù)量高速增長，在各類網(wǎng)絡通信技術(shù)的進步下，各行各業(yè)包括工業(yè)、金融、醫(yī)療、教育等進入新型科技產(chǎn)業(yè)行列。中國進入“互聯(lián)網(wǎng)+”時代，因此青少年在很多時候會不可避免地接觸網(wǎng)絡，時刻受到網(wǎng)絡信息的影響。各類廣告也因此層出不窮，出現(xiàn)在各種頁面彈窗和綁定程序中，令人防不勝防。

3.3 青少年觸網(wǎng)低齡化

在互聯(lián)網(wǎng)時代生長的青少年，觸網(wǎng)年齡不斷減小。未成年人生理和心理都尚未發(fā)育成熟，還處于模仿階段，在接觸到部分網(wǎng)絡信息時容易受其影響從而進行模仿。未成年人因此更容易學習到更多內(nèi)容，但其中不免有不利于青少年身心發(fā)展的部分，如果這類內(nèi)容也讓未成年人爭相效仿，就會使其誤入歧途，后果不堪設想。此外，未成年階段判斷能力尚不足，這一點容易被心懷不軌的不法分子利用，諸如欺騙兒童盜刷父母支付寶微信、誘騙兒童暴露自己的隱私部位等。

3.4 家長無法時刻陪伴青少年

青少年需要上網(wǎng)的時段不固定，由于青少年自身自控力不強，自己無法控制上網(wǎng)時長，導致獨自上網(wǎng)時使用電腦時間過長。而家長常常因為有工作或其他事務，無法無時無刻地監(jiān)督青少年上網(wǎng)情況。

4 圖文內(nèi)容識別監(jiān)護流程

此項目致力于確保青少年健康安全上網(wǎng)，項目由電腦應用程序和手機App組成，由電腦應用程序定時截取青少年的電腦屏幕，對截取的圖片進行分析鑒定，當鑒定到青少年瀏覽不良內(nèi)容時，監(jiān)護人使用的移動端App會收到消息提醒，以此來起到監(jiān)督和提醒的作用，家長還可以通過手機App獲取青少年上網(wǎng)時長等信息。

此項目的功能實現(xiàn)主要由為三個模塊組成：定時截取屏幕，內(nèi)容識別分析鑒定，手機端App接收反饋。

4.1 定時截取屏幕

圖文內(nèi)容識別監(jiān)護的第一步是在青少年上網(wǎng)時，使用Win32 API自動定時調(diào)用屏幕截圖來獲取計算機界面顯示的青少年當前瀏覽的內(nèi)容，通過屏幕內(nèi)容發(fā)生變化的時間來計算青少年的上網(wǎng)時間，并將截取的屏幕圖片傳輸?shù)綀D像文字內(nèi)容識別分析模塊進行下一步的操作。監(jiān)護人可以設置截圖的間隔時長，來滿足不同程度的監(jiān)護需求。截取屏幕流程如圖1所示。

4.2 圖像文字內(nèi)容識別分析鑒定

通過調(diào)用圖文內(nèi)容識別接口，由于截取屏幕頻率高、數(shù)據(jù)大、人工審核存在速度慢、成本高等問題。內(nèi)容安全識別使用深度學習算法，有效降低人工成本，智能識別違規(guī)內(nèi)容，大幅度提高審核的效率[3]。根據(jù)審核返回的結(jié)果判斷當前所瀏覽內(nèi)容是否健康，如果發(fā)現(xiàn)瀏覽內(nèi)容不適合青少年或檢測結(jié)果不確定，則向手機端App發(fā)送通知信息;發(fā)現(xiàn)青少年上網(wǎng)時長反常等異常問題，及時向手機端App發(fā)送消息通知。內(nèi)容識別流程如圖2所示。

4.3 手機端App接收反饋

手機端App由青少年的監(jiān)護人下載使用，當App收到來自OCR圖像文字分析鑒定模塊發(fā)來的反饋時，代表青少年目前所觀看的內(nèi)容可能并不適合于他們，App會以彈窗的形式提示監(jiān)護人，并將瀏覽的不良內(nèi)容反饋給監(jiān)護人，起到監(jiān)督和提醒的作用。通過手機App可以規(guī)定青少年的上網(wǎng)時間，如果電腦應用程序檢測到上網(wǎng)時間超出規(guī)定時間，手機App同樣會收到提醒。手機端接收反饋流程如圖3所示。

4.4 整體運行流程

青少年用戶在PC端啟動桌面程序。如果已有賬號則直接登錄，如果沒有賬號，則在注冊后進行登錄。登錄成功后，系統(tǒng)記錄下用戶的上線時間，下線后系統(tǒng)記錄用戶的下線時間，通過用戶的上線與下線時間來計算用戶的上網(wǎng)時長和上網(wǎng)時段等上網(wǎng)信息。如果出現(xiàn)超時情況，則發(fā)送違規(guī)消息至App。在用戶上網(wǎng)期間系統(tǒng)自動定時截圖并使用內(nèi)容識別功能進行分析鑒定，如果出現(xiàn)違規(guī)或不確定的內(nèi)容時，則發(fā)消息至監(jiān)護人App通知監(jiān)護人，由監(jiān)護人進行判斷或與青少年展開溝通教育等。

5 研究方法及創(chuàng)新點

1）目前許多網(wǎng)絡平臺推出了“青少年模式”、防沉迷系統(tǒng)，但難以起到切實監(jiān)控與對青少年身心健康實施保護的作用，該項目為保護青少年觸網(wǎng)身心健康提供了一個新的解決方案[4]。通過監(jiān)控青少年上網(wǎng)數(shù)據(jù)，規(guī)范青少年上網(wǎng)行為，為青少年合理上網(wǎng)提供來自監(jiān)護人的管理和約束，有效促進青少年與監(jiān)護人之間的溝通，保護青少年身心健康。

2）該監(jiān)護流程中運用了人工智能內(nèi)容識別技術(shù)[5]，實現(xiàn)對PC端頁面內(nèi)容的實時監(jiān)測。基于深度學習，對青少年瀏覽界面中的圖片、文字進行內(nèi)容風險智能識別和審核，大幅度降低人工審核成本，實現(xiàn)對用戶瀏覽界面中可能出現(xiàn)的涉及色情、暴恐、涉政等違規(guī)內(nèi)容的監(jiān)督預防。

3）青少年網(wǎng)絡健康機制將屏幕截取與內(nèi)容安全識別技術(shù)有效結(jié)合，本產(chǎn)品中使用win32 GDI圖形設備接口實現(xiàn)截圖功能。GDI連接了顯示圖像和物理設備，使用基于函數(shù)的編程方式提升編程效率。

4）將通過自動定時截取屏幕獲取的上網(wǎng)時長、上網(wǎng)時段、上網(wǎng)內(nèi)容等數(shù)據(jù)以圖像化的形式展現(xiàn)，向監(jiān)護人清晰有效地傳達上網(wǎng)數(shù)據(jù)，能夠更加直觀地了解青少年當前的上網(wǎng)習慣，從而制定更好的上網(wǎng)方案。

5）使用ASP.NET Web Api框架開發(fā)，作為桌面應用和移動設備的后臺，進行識別結(jié)果處理等[6]。應用uni-app開發(fā)技術(shù)實現(xiàn)App信息傳達，實現(xiàn)實時有效的監(jiān)控、提醒和安全等目的，并提供一套友好的人機交互功能。

6 優(yōu)勢及作用

將圖文內(nèi)容識別技術(shù)應用于青少年上網(wǎng)監(jiān)護系統(tǒng)中能起到多方面作用。

6.1 有效監(jiān)護

目前市場上已出現(xiàn)的“青少年模式”此類青少年防沉迷系統(tǒng)，主要限制的是用戶對應用的使用權(quán)限，但在用戶自制力等多方因素的影響下變得形同虛設。本系統(tǒng)不同于已有的防沉迷系統(tǒng)，更多地從對青少年這一類用戶的監(jiān)護角度出發(fā)，注重對青少年使用電子產(chǎn)品的外部約束。通過監(jiān)護人對青少年的制約影響，來達到對青少年上網(wǎng)時長、上網(wǎng)時段、上網(wǎng)內(nèi)容等方面的有效監(jiān)護。

6.2 促進溝通

采用監(jiān)護人監(jiān)護這一方式，一定程度上促進了青少年與監(jiān)護人之間的溝通。在征得使用者同意后，監(jiān)護人可以獲知一部分青少年的瀏覽內(nèi)容，更好地察覺青少年成長過程中的心理變化。從而及時地有針對性地與青少年進行溝通，避免正處于不成熟階段的青少年過度地受到網(wǎng)絡中不良信息的影響或過長時間沉溺于網(wǎng)絡世界所導致的心理障礙產(chǎn)生、身體素質(zhì)下降、人生觀和價值觀的扭曲、受到網(wǎng)絡欺詐甚至犯罪等情況。青少年監(jiān)護人是在青少年成長階段中親密且信任的人，對青少年心理指導可以起到關(guān)鍵性作用。

6.3 合理上網(wǎng)

本產(chǎn)品對使用者上網(wǎng)時長、上網(wǎng)時段、上網(wǎng)內(nèi)容等方面進行有效監(jiān)護，監(jiān)護人可以直觀地通過圖像化的形式結(jié)合相關(guān)數(shù)據(jù)觀察青少年的上網(wǎng)習慣，并以此為依據(jù)對青少年進行合理的上網(wǎng)規(guī)劃。

6.4 高效識別

本產(chǎn)品對使用者內(nèi)容的識別由人工智能完成，幫助發(fā)現(xiàn)青少年上網(wǎng)內(nèi)容中可能涉及色情、暴恐、政治敏感等的內(nèi)容，能夠降低人工審核的成本，并提高識別效率。本產(chǎn)品還能夠?qū)o法界定的內(nèi)容發(fā)送給監(jiān)護人，避免錯誤判斷。

7 結(jié)束語

將圖文內(nèi)容識別技術(shù)應用在青少年上網(wǎng)監(jiān)護中，可以實現(xiàn)對青少年上網(wǎng)情況的有效監(jiān)護，一定程度上確保青少年不受紛繁復雜的網(wǎng)絡環(huán)境的負面影響，解決監(jiān)護人無法隨時陪伴在孩子身邊的痛點問題。還可以加強青少年與家長之間的溝通，拉近監(jiān)護人與青少年之間的距離，讓監(jiān)護人走進青少年的內(nèi)心世界，減小代溝。

參考文獻：

[1] 謝忠保.互聯(lián)網(wǎng)對青少年的影響[J].青年研究，2000（9）：8-13.

[2] 昝玉林.國外應對青少年網(wǎng)絡成癮的對策及啟示[J].中國青年研究，2007（2）：80-83.

[3] 黃元飛，張景璐，古利勇.綠色上網(wǎng)及相關(guān)技術(shù)發(fā)展趨勢[J].電信科學，2006，22（9）：1-5.

[4] 尹瑞鳳.如何加強學生的網(wǎng)絡德育教育[J].新課程（下），2011（2）：114.

[5] 鄭遠攀，李廣陽，李曄.深度學習在圖像識別中的應用研究綜述[J].計算機工程與應用，2019，55（12）：20-36.

[6] 王仲洲，楊曉洪，王劍平，等.基于REST風格的WEBAPI架構(gòu)研究[J].微處理機，2016，37（5）：52-55.

【通聯(lián)編輯：謝媛媛】