只有把穩(wěn)倫理舵才能揚(yáng)好科技帆

劉晶瑤

前段時(shí)間，電影《奧本海默》上映。讓人印象深刻的，不只是蘑菇云騰起的烈焰、城市文明被瞬間摧毀，核戰(zhàn)爭(zhēng)的幽靈驅(qū)之不散，更是籠罩在物理學(xué)家身上，令其終身無(wú)法擺脫的陰影——“一邊拯救世界、一邊毀滅世界”的爭(zhēng)議。影片透過(guò)原子彈之父一生的糾結(jié)，深刻反思了科技倫理的重要性。

無(wú)論是科學(xué)家，還是政府和社會(huì)，都必須深刻意識(shí)到，科技發(fā)展的目的不是為一人、一城、一國(guó)攫取利益，而應(yīng)當(dāng)是造福全社會(huì)、增進(jìn)全人類福祉。

日前，十部門聯(lián)合印發(fā)《科技倫理審查辦法（試行）》，意在規(guī)范科學(xué)研究、技術(shù)開發(fā)等科技活動(dòng)的科技倫理審查工作，強(qiáng)化科技倫理風(fēng)險(xiǎn)防控，促進(jìn)負(fù)責(zé)任創(chuàng)新。

有人說(shuō)過(guò)，“技術(shù)具有兩面性：行善與威懾。在全部歷史中它都給我們帶來(lái)了福與禍。”環(huán)顧生活的日常，不少領(lǐng)域?qū)萍嫉臑E用，已經(jīng)打開了“潘多拉的魔盒”——算法濫用導(dǎo)致個(gè)人隱私泄露，“AI換臉”成為新型詐騙手段，科技與狠活引發(fā)食品安全憂慮……加強(qiáng)對(duì)科學(xué)研究和技術(shù)開發(fā)活動(dòng)的全過(guò)程倫理監(jiān)管，目的正在于錨定正確發(fā)展方向，通過(guò)建立剛性治理體系，對(duì)不負(fù)責(zé)任的研究和失序，加以有效遏制和規(guī)避。

《科技倫理審查辦法（試行）》的出臺(tái)，將著重解決科技倫理審查職責(zé)不明確、程序不規(guī)范、機(jī)制不健全等問(wèn)題。其重點(diǎn)之一就是，要求建立需要開展專家復(fù)核的科技活動(dòng)清單制度，對(duì)可能產(chǎn)生較大倫理風(fēng)險(xiǎn)挑戰(zhàn)的新興科技活動(dòng)實(shí)施清單管理。其中包括具有輿論社會(huì)動(dòng)員能力和社會(huì)意識(shí)引導(dǎo)能力的算法模型、應(yīng)用程序及系統(tǒng)的研發(fā)，面向存在安全、人身健康風(fēng)險(xiǎn)等場(chǎng)景的具有高度自主能力的自動(dòng)化決策系統(tǒng)的研發(fā)等。

與此同時(shí)也應(yīng)當(dāng)看到，加強(qiáng)審查絕不等于束縛創(chuàng)新，而是警惕失序，規(guī)避倫理風(fēng)險(xiǎn)，將倫理考量貫穿于科研發(fā)展全流程。請(qǐng)記住，“科技向善”的關(guān)鍵還是“人類向善”，唯有堅(jiān)守道德底線，把穩(wěn)倫理舵，才能揚(yáng)好科技帆。