科技失控

宇文

新技術(shù)的研究和應(yīng)用不可避免會帶來倫理、法律等層面的爭議，如何控制風(fēng)險，避免讓人們成為新技術(shù)的失錯犧牲品？

我們生活在技術(shù)潛力超乎尋常的年代。從納米技術(shù)到合成有機物，新技術(shù)帶給人類翻天覆地的變化。技術(shù)的潛力令人驚嘆也令人畏懼。無人機和新的智能手機一樣可能輕而易舉引爆炸彈，3D打印既可以制作工具也可以制作槍支。超級計算機能輕松管理個人檔案，也能易如反掌導(dǎo)致華爾街崩潰。

但是新技術(shù)無法回答如何解決這些技術(shù)所引發(fā)的道德問題和投資風(fēng)險。作為未來科技領(lǐng)域權(quán)威的道德和倫理研究者，瓦拉赫在《科技失控》一書中，探討了作為技術(shù)的發(fā)明生產(chǎn)者和消費者如何應(yīng)對飛速的技術(shù)發(fā)展所帶來的道德模糊問題。

Q： 人們是否應(yīng)該將決定權(quán)交給機器？

A： 殺人機器人只是把人類的決策權(quán)交給機器的一個例子。越來越多的非自主計算機和機器人有可能破壞了人（個人或企業(yè)）應(yīng)為其行為負(fù)責(zé)的基本原則，并有可能為任何技術(shù)的部署造成的危害承擔(dān)責(zé)任。談到非軍事機器人的用途將會使這一點更加清晰。大部分為家用目的開發(fā)的系統(tǒng)不應(yīng)該被禁止，在許多情況下，他們的好處遠(yuǎn)遠(yuǎn)大于風(fēng)險。盡管如此，它們稀釋了負(fù)責(zé)任的人或企業(yè)代理這一核心原則，因此成為令人不安的先例。

當(dāng)事故發(fā)生時誰將被追究責(zé)任？汽車制造商們在責(zé)任問題解決之前是不愿意營銷自動駕駛車輛的。但是目前，法律將判定自動駕駛車輛的制造商為大多數(shù)事故負(fù)責(zé)。如果讓司機為一起他們無法在很短時間內(nèi)掌握方向盤的事故負(fù)責(zé)肯定會很不舒服。除了解決各種技術(shù)難題，發(fā)生事故后的責(zé)任和法律后果如何管理是完全自動駕駛車輛投入市場速度很慢的原因。在很多情況下，賠償責(zé)任的問題不能且不應(yīng)由生產(chǎn)商或工程師決定。立法機構(gòu)、法院、保險機構(gòu)必須為此做出決定。

解決這些社會擔(dān)憂，一種可能的辦法是對完全自動化駕駛汽車提供無過錯保險。如果自動駕駛汽車提供了真正的凈優(yōu)勢，那么立法機關(guān)可以制定政策，放松這一行業(yè)的發(fā)展。可以肯定，如果有一項立法可以減少自動化系統(tǒng)因為設(shè)計師和工程師有時無法預(yù)見的情況導(dǎo)致的系統(tǒng)故障和事故所承擔(dān)的責(zé)任，那么肯定會大大促進整個機器人行業(yè)的發(fā)展。

實踐倫理學(xué)家和社會理論家對于減輕企業(yè)和個人的責(zé)任、問責(zé)制度，以及為越來越自動化的系統(tǒng)行為負(fù)責(zé)等引起的內(nèi)在危險十分擔(dān)心。2010年，為了表達(dá)他們的擔(dān)心，提出了五項規(guī)則以重申人類不能逃脫對于計算機物品的設(shè)計、開發(fā)或部署造成的道德責(zé)任。50多名技術(shù)和道德領(lǐng)域相關(guān)的學(xué)者簽字表達(dá)對這五項規(guī)則的支持。其中，“規(guī)則1：設(shè)計、開發(fā)或部署計算機物品的人應(yīng)當(dāng)為該物品承擔(dān)道德責(zé)任。這項責(zé)任是與其他設(shè)計、開發(fā)、部署或知情情況下將該物件作為社會技術(shù)系統(tǒng)的一部分進行使用的人共同承擔(dān)?！边@一條如果被寫進法律，則有望改變現(xiàn)狀。

Q： 在您看來，如何防止技術(shù)失控？

A： 我在《科技失控》一書中，詳細(xì)探討了飛速的技術(shù)發(fā)展所引發(fā)的道德和倫理爭議，并指出技術(shù)本身可能逐漸成為脫離人類控制的強大力量，我希望科學(xué)界、產(chǎn)業(yè)界、投資界能夠真正將前沿科技的研究納入到監(jiān)管范疇之列，確保新技術(shù)的研究和應(yīng)用符合倫理基本原則，以真正實現(xiàn)技術(shù)服務(wù)于人而不是變成傷害人、瓦解社會的禍根。

應(yīng)當(dāng)繼續(xù)支持科技創(chuàng)新及創(chuàng)新成果投入應(yīng)用，但要加強上游預(yù)防，要控制存在潛在好處和風(fēng)險的技術(shù)開發(fā)以及其投入社會使用的方式，對于加強新技術(shù)上游預(yù)防我有三大操作建議。首先，要建立負(fù)責(zé)任的工程設(shè)計文化。要讓科技、設(shè)計擔(dān)負(fù)對于人類社會的責(zé)任，最重要的就是完善相關(guān)的倫理和法律準(zhǔn)則，在新科技產(chǎn)品、服務(wù)的設(shè)計過程中確保其安全性，并對于失控等狀態(tài)下的責(zé)任作出預(yù)設(shè)。其次，建立靈活有效的監(jiān)督機制。這其中涉及政府監(jiān)管體系、非政府組織與相關(guān)行業(yè)組織共同參與的監(jiān)督體系，還要加大新聞媒體對于科技創(chuàng)新問題的議程把握能力。第三，響應(yīng)互聯(lián)網(wǎng)時代去中心化運作的潮流要求，培育可以質(zhì)疑、制衡專家的知情公民。