AI監(jiān)測大腦藏倫理風(fēng)險

劉興亮

據(jù)報道，國內(nèi)有工廠引進(jìn)員工腦電波掃描系統(tǒng)，通過工人帽子上的傳感器追蹤其腦電波。在工人整個值班期間，傳感器會持續(xù)收集腦活動數(shù)據(jù)，通過對這些數(shù)據(jù)的分析，能獲悉工人的煩躁、抑郁和消極心態(tài)。此時把工人送去休息，或許有利于生產(chǎn)效率和企業(yè)的人文建設(shè)。

這可以說明，用人工智能監(jiān)測大腦，在技術(shù)上已經(jīng)成為可能。那么，我們是否可以依賴腦電波掃描系統(tǒng)？如果系統(tǒng)犯錯，或者數(shù)據(jù)解讀錯誤，責(zé)任將由誰承擔(dān)？

在我看來，這個技術(shù)是靠譜的，至少從原理上來講，有很強的可行性。至于這一系統(tǒng)的準(zhǔn)確性具體能達(dá)到多少，還很難說。我只能說，這個系統(tǒng)從技術(shù)操作角度來說，是沒有多大障礙的。接下來就是要看更多的實踐結(jié)果。這就像一種新的藥物研發(fā)過程一樣，藥物研發(fā)出來之后，還需要幾年的臨床試驗。系統(tǒng)的確會存在一定的失誤率，不可能百分之百準(zhǔn)確，但是只要將失誤率控制在一個可控范圍之內(nèi)，就是可以接受的。

在此之前，我就做過人工智能在未來生活中可能扮演什么角色的分析，明確提出了醫(yī)生極可能失業(yè)的預(yù)測——這主要是基于機器對人身體監(jiān)測的作用而做出的結(jié)論。

與此不同的是，我今天所談的問題是對人腦的監(jiān)控與診斷。當(dāng)然不是判斷你是否腦血管有破損可能，大腦是否萎縮，而是實時監(jiān)控你的大腦活動、情緒狀況以及所思所想。

也就是說人的頭腦，被機器所掌控，并據(jù)此調(diào)整你的現(xiàn)狀與行為模式。聽起來有些諷刺，但未必不是現(xiàn)實。

但是，設(shè)想一個人的大腦出于善意的目的而被監(jiān)控，這里邊其實隱藏著很大的倫理風(fēng)險。人性是不可試探的，就如神圣是不可試探的一樣。

如果一個人明確地知道自己的思想被他人掌控，勢必帶來類似于一個硬幣的兩個面的影響——他可能被迫變得更主動和積極于工作，提高效率;也可能伴隨著消極思想的狀態(tài)，以便自我隱匿和保護。至于下班后能不能切換回來是很成問題的，長此以往下去，人將變得拒絕思考、停止進(jìn)步。

按照道德的要求成為一個“心中無不可與人言者”的楷模是人的極致追求，在現(xiàn)實中能夠做到哪一步，個體間差異極大。

當(dāng)然，也有學(xué)者認(rèn)為極難借助腦造影術(shù)解讀心理情緒狀況，并且就目前在工廠進(jìn)行試驗所取得的成就，也可能具有相對性。對此，我們還是抱著審慎的樂觀態(tài)度拭目以待吧。