“美妙新世界”，歸功于個性化與算法放大

胡泳

在20世紀90年代末，互聯(lián)網(wǎng)用戶通過Lycos等搜索引擎和雅虎等網(wǎng)絡目錄發(fā)現(xiàn)內(nèi)容。那時的內(nèi)容消費，需要用戶有意搜索一個關鍵詞，或瀏覽一個特定的網(wǎng)站或論壇。也因此，邊緣化的內(nèi)容無法通過這些早期的互聯(lián)網(wǎng)服務觸達更大的受眾。

似乎是突然之間，我們就可以在網(wǎng)上隨意接觸到另類的和邊緣的內(nèi)容，使得上個世紀的最后那幾年與新世紀相比，簡直堪稱“純真年代”。于今我們熟悉的社交媒體上，充滿了分裂性的或欺騙性的內(nèi)容，這要歸功于數(shù)字媒介對兩個關鍵技術的擁抱：個性化—經(jīng)由網(wǎng)絡cookies和大數(shù)據(jù)系統(tǒng)大量收集用戶數(shù)據(jù)來加以實現(xiàn)；以及算法放大—使用強大的人工智能來選擇顯示給用戶的內(nèi)容。

個性化和算法放大，推動互聯(lián)網(wǎng)越來越走向赫胥黎筆下的“美妙新世界”。用戶認為，我們用自己喜歡的運動隊、音樂家和個人愛好來滿足我們對應用程序和網(wǎng)站的個性化需求，這是天經(jīng)地義的。然而，當數(shù)據(jù)科學家和軟件工程師將內(nèi)容個性化和算法放大融合在一起時，他們創(chuàng)造了那些吸人眼球但無法控制的怪獸，例如Facebook的News Feed、TikTok的For You和YouTube的推薦引擎。盡管這些算法，如Facebook的“基于參與的排名”，被包裝為增加了內(nèi)容的“相關性”，但它們實際上延續(xù)著偏見，并以其創(chuàng)造者幾乎無法理解的方式影響了社會，更不必說對用戶和監(jiān)管機構的漠視了。

社交媒體平臺有一個基本的經(jīng)濟動機來維持用戶參與。它確保許多信息源持續(xù)推廣最刺激、最具煽動性的內(nèi)容，因為越是如此，平臺就越可以獲得成功和盈利。Twitter在2015年才采用算法推送。臉書在創(chuàng)立頭兩年大幅增長，當時它只是托管用戶檔案，但沒有個性化的News Feed。這兩個平臺曾經(jīng)提供非算法的、按時間順序排列的信息流。

從系統(tǒng)的角度來看，成功在于正確預測你會喜歡什么，評論什么，或分享什么。這才是最重要的，平臺將此稱為“參與”。然而誰也不知道隨著系統(tǒng)的發(fā)展，每一項參數(shù)究竟能獲得多少權重，以及該權重會持續(xù)多久。例如，F(xiàn)acebook在2016年初強調要考慮到人們?yōu)g覽一個帖子的時間，但之后又認為這是一個“嘈雜”的信號，而且“在一些方面有偏見”，這使得它“難以使用”。

關于政治大選、疫苗風險、賽博戰(zhàn)爭，分裂性的或欺騙性的內(nèi)容持續(xù)對當代生活產(chǎn)生重大影響，而這些信息的最大來源，皆為我們在生活中花費很大一部分時間使用的社交平臺。在這些平臺上，陰謀論和惡作劇以接近光速的速度傳播，而這在很大程度上要歸咎于所有服務使用的推薦算法?？伤惴ū旧韰s是不透明的，只有這些公司的高級工程師才了解它們，甚至在機器學習興起之后，就連工程師們對算法都不甚了然。另一方面，惡意行為者通過操控算法實施“計算性宣傳”，大大增加了通過流量、定向和內(nèi)容影響公眾行為的可能性。

我們是怎么走到這一步的？首先是公共利益讓位給了平臺利益，即人們一直在優(yōu)先考慮平臺的利益而不是公共利益。其次，當代社會還有一個文化上的盲點，即盲目相信創(chuàng)新的積極力量，F(xiàn)acebook首席執(zhí)行官扎克伯格著名的座右銘“快速行動，打破陳規(guī)”就是該盲點的最好體現(xiàn)。此種精神的源頭，是管理理論針對一系列變化的回應，包括技術的加速度和交易的全球化。公司可以快速行動并破壞事物，而不必為破壞行為負責。

鑒于此，我們并不能把發(fā)現(xiàn)解決方案的希望純?nèi)患耐性谄脚_身上，因為那幾乎與它們的財務利益背道而馳。我們需要重拾公共利益，同時改變高科技公司破壞性的文化。