新技術(shù)帶來的治理風(fēng)險

文/ACCA（特許公認會計師公會）

機器人與人工智能領(lǐng)域的發(fā)展一日千里。而認知系統(tǒng)對財會專業(yè)人士而言又意味著什么？在未來，社交、移動和云技術(shù)的融合將會對財務(wù)產(chǎn)生更為根本的影響。CFO 必須準備好迎接這些挑戰(zhàn)。

科幻故事與科幻電影對未來的描述往往是反烏托邦式的：機器人和其他類型的人工智能（AI）從最初人類的助手變成了一種威脅。正是有了類似電影《2001：太空漫游》中的HAL 9000、《我，機器人》中的VIKI、《黑客帝國》中的“特工”，以及《終結(jié)者》中的“天網(wǎng)”，我們才看到人工智能可能會背叛自己的人類創(chuàng)造者，控制人類社會，甚至對人類存亡構(gòu)成威脅。

這種事情真的可能發(fā)生嗎？2014 年，宇宙學(xué)家和物理學(xué)家斯蒂芬·霍金（Stephen Hawking）教授曾在《獨立報》（The Independent）撰文：“成功創(chuàng)造出人工智能或許是人類歷史上最重要的事件。不幸的是，除非我們知道如何避免風(fēng)險，否則這或許也將是最后一件。”如果一個人工智能通過了“洛夫萊斯（Lovelace）測試”，我們或許還能盡量一搏，阻止最糟糕的情況發(fā)生?；艚鹫f：“人類受到極其緩慢的生物進化的限制，無法與人工智能抗衡，最終將被其取而代之?！?/p>

我們能做點什么避免這種情況發(fā)生呢？“我越來越傾向于認為一些監(jiān)管是很有必要的，可以在國家或國際層面上做點什么，為的就是確保我們不會做出任何傻事?！碧厮估嚬竞蚐pace X公司首席執(zhí)行官、工程師埃隆·馬斯克（Elon Musk）在麻省理工大學(xué)航空航天百年學(xué)術(shù)研討會上這樣說道。他說：“我們必須謹小慎微。在人工智能問題上，我們是在召喚惡魔?！?/p>

馬斯克擔(dān)心的問題之一就是國防承包商和由他們創(chuàng)造的自動化戰(zhàn)爭機器人。這類機器人的設(shè)計目的是殺死或者傷害人類。通過對比可以發(fā)現(xiàn)，人工智能的一些新近發(fā)展還是比較溫和的。比如被技術(shù)行業(yè)稱為“認知計算系統(tǒng)”的沃森機器人。IBM 設(shè)計它的目的是將其作為“人類能力極限的自然延伸”，更多的是一個輔助者，而不是威脅。

進化抑或革命？

2011年，沃森機器人在美國智力競賽節(jié)目“危險邊緣”（Jeopardy!）中戰(zhàn)勝了兩位知名的人類選手。它似乎能夠聽懂問題，還能搶在人類對手之前給出正確答案，就好像魔法一樣。這引發(fā)了公眾的聯(lián)想。然而，表象有可能具有欺騙性。引用作家、未來學(xué)家亞瑟·克拉克（Arthur C Clarke）的話說：“任何足夠先進的技術(shù)都容易與魔法混淆?！蔽稚皇悄Хǎ怯嬎銠C系統(tǒng)飛速進化的一種體現(xiàn)。

人類的進化經(jīng)過了數(shù)百萬年。而計算機系統(tǒng)這種非生物智能卻無需如此費時，就能發(fā)展出無論從廣度還是精妙度上都足以比肩人類的智能。幾十年前擺滿整整一個房間的電腦所具備的處理能力如今一部智能手機就可以搞定。隨著處理器越來越小、越來越強大，軟件開發(fā)者向產(chǎn)品中加入了更多規(guī)則驅(qū)動工具。這些“專家級”系統(tǒng)的速度越來越快，也越來越智能。

而這些還是早在2011年的時候，沃森機器人就證明一個計算機系統(tǒng)可以利用“自然語言處理”軟件來聽懂人類的話，幾秒鐘內(nèi)就能搜索海量復(fù)雜信息，生成和評估假設(shè)，進行調(diào)整并從經(jīng)驗中學(xué)習(xí)。隨后，沃森也不斷升級并有更多認知計算機系統(tǒng)和所謂的人工智能加入其中。你的手機里或許就有一個。

話雖如此，這些系統(tǒng)真的“智能”嗎？它們確實能做一些人類需要開動腦筋才能完成的事情；也確實能夠讓我們誤將它們當(dāng)做同類。然而，認知科學(xué)家道格拉斯·霍夫施塔特（Douglas Hofstadter）教授說：“沃森只不過是一種與數(shù)據(jù)庫連接的正文檢索算法，類似于谷歌搜索。它在搜索正文時并不清楚其中的意思。如此說來，它不算智能?！闭J知系統(tǒng)有其自身局限性。

和孩子一樣，沃森和其它認知系統(tǒng)都需要教育。他們可以結(jié)合結(jié)構(gòu)和非結(jié)構(gòu)數(shù)據(jù)，再利用情景確定最恰當(dāng)?shù)幕卮稹５绻窍瘛皩ξ襾碚f最好的藥片/平板電腦（tablet）是哪個”這種問題，最佳回答取決于你是在藥房還是在電腦店。認知系統(tǒng)需要接受訓(xùn)練才能正確回答這類問題；它們需要學(xué)習(xí)根據(jù)以往經(jīng)驗調(diào)整今后的回答。

相比持槍行兇的機器人和能夠自我復(fù)制、擁有意識和渴望凌駕于上的軟件實體，這聽起來似乎威脅要小得多。但即便今天的認知系統(tǒng)（尚）不具備對人類的實質(zhì)性威脅，對一些行業(yè)的知識型工作者來說已經(jīng)是足夠壞的消息了。其中就有會計行業(yè)。當(dāng)前的爭論主要集中在機器人流程自動化（RPA）究竟是夸大其詞、大有裨益，還是令人驚恐。

不只是游戲

目前，沃森仍然在參加各種游戲。比如，EdgeUpSports正在開發(fā)一款虛擬橄欖球應(yīng)用，采用沃森機器人分析大量現(xiàn)有的球賽數(shù)據(jù)?！袄梦稚募夹g(shù)，我們能夠改變虛擬橄欖球的比賽方式，搭建一個平臺，幫助球隊老板進行分析，提高聯(lián)賽勝率?！惫綜EO、主教練Illya Tabakh 這樣解釋說。

2014年，IBM 的一個決定使這一切變成可能。他們在云端向普通商業(yè)用戶開放沃森服務(wù)以及借此營利。只是，沃森并不僅僅可以用來玩游戲，它從來就不是為此而生的。千百個“沃森生態(tài)系統(tǒng)合作伙伴”正利用沃森的智能設(shè)計自己的應(yīng)用。近期推出的軟件工具讓非IBM 商業(yè)發(fā)展更加便利，或許會鼓勵更多開發(fā)者效仿，全面激勵新產(chǎn)品的誕生。

IBM透露會將目標對準一些重點垂直產(chǎn)業(yè)，例如零售、保險和醫(yī)療保健。2015 年4 月，IBM 公布了官方在這方面進行的首個項目：IBM“沃森醫(yī)療”（Watson Health）和“沃森醫(yī)療云端服務(wù)”（WatsonHealth Cloud）。IBM 在隨后陸續(xù)宣布的舉措還包括：為波士頓兒童醫(yī)院開發(fā)診療系統(tǒng)用于改善對罕見遺傳病的診斷；將沃森機器人項目推廣至印度，當(dāng)?shù)氐鸟R尼帕爾醫(yī)院將采用這種機器人協(xié)助診斷腫瘤。

IBM和圍繞“沃森生態(tài)系統(tǒng)”聚集起來的合作伙伴并不是唯一為人工智能的無限可能感到振奮的一群。就在IBM 探索認知系統(tǒng)可能性的同時，還有很多科技企業(yè)在做著同樣的事情。

著眼于未來

IBM近期收購Merge Healthcare Incorporated，有望為沃森機器人安上眼睛?！拔稚邆鋸姶蟮恼J知和分析能力。再加上收購Merge 等公司的戰(zhàn)略舉措，IBM 得以同致力于改變醫(yī)療保健行業(yè)面貌的機構(gòu)開展合作。”IBM研發(fā)部門高級副總裁John Kelly 博士這樣說道，“為沃森機器人安上‘眼睛’，讓它看見醫(yī)學(xué)影像，無異于為這個行業(yè)開辟了全新的可能性?！?/p>

毫無疑問，IBM和圍繞“沃森生態(tài)系統(tǒng)”聚集起來的合作伙伴并不是唯一為人工智能的無限可能感到振奮的一群。就在IBM探索認知系統(tǒng)可能性的同時，還有很多科技企業(yè)在做著同樣的事情。從認知計算到人工智能，谷歌已然成為這場比賽的領(lǐng)先者。

還有很多家喻戶曉的企業(yè)也熱衷于開發(fā)人工智能的商業(yè)潛力。他們希望這類系統(tǒng)足夠聰明到幫助人類，同時又不至于足夠聰明到傷害人類。

去年10月，F(xiàn)acebook 宣布推出新一代虛擬助手“M”。Facebook為其加載認知計算引擎，訓(xùn)練它，并將其添加至Facebook Messenger app。這個虛擬助手可以替你搜索信息。在你的允許下，“M”很樂意為你效勞，協(xié)助你完成真實世界中的一些任務(wù)。例如預(yù)訂出行或餐廳、在線購物并安排送貨等等，目前來看還是很有幫助的。

蘋果公司也在人工智能領(lǐng)域投入巨資。2015 年，蘋果收購英國公司VocallQ 及旗下的認知計算品牌。他們的產(chǎn)品可以學(xué)習(xí)你的講話方式，憑借對此前對話的“記憶”改進未來的每一次對話。聽起來很熟悉是不是？蘋果除了收購人工智能技術(shù)，改進機器對人類語言的處理，還收購了專注于圖像識別的Perceptio 公司。認知系統(tǒng)和人工智能的可能性似乎是無窮無盡的。

認知系統(tǒng)能否成就人工智能，人類如何應(yīng)對才能避免禍及自身，我們?nèi)孕枋媚恳源?。IBM 董事長兼CEO吉尼·羅曼提（Ginni Rometty）表示樂觀?！拔磥?，人類每做出一個決定都需要沃森這樣的認知系統(tǒng)提供信息。我們的生活會越來越好。”她說道。然而在1943 年，沃森機器人名字的由來、IBM 創(chuàng)始者托馬斯 J 沃森（Thomas J Watson）卻說過另一句著名的話：“我覺得全世界能賣出5臺電腦就不錯了。”