總序2019年5月9日，我作為第一作者與翟曉梅、朱偉和邱仁宗三位教授在Nature發(fā)表評(píng)論文章Reboot Ethics Governance in China（《重建中國(guó)的倫理治理》），另一國(guó)際知名科學(xué)期刊Science在同一天發(fā)表了對(duì)我們這篇文章的評(píng)論報(bào)道。本文以基因編輯嬰兒事件為切入點(diǎn)，澄清了國(guó)外大量評(píng)論文章對(duì)我國(guó)沒有任何監(jiān)管措施的不實(shí)指責(zé)，分析了中國(guó)科技創(chuàng)新、研究和應(yīng)用領(lǐng)域存在的典型倫理治理問題，論述了重建當(dāng)前中國(guó)科技治理和監(jiān)管體系的迫切性和必要性，提出加強(qiáng)監(jiān)管與倫理先行、建立全國(guó)性的臨床研究登記注冊(cè)平臺(tái)、明確監(jiān)督機(jī)構(gòu)、提供信息、政府支持生命倫理學(xué)教育和培訓(xùn)以及嚴(yán)防歧視等六項(xiàng)政策建議。這篇文章也積極回應(yīng)了同年3月14日七個(gè)國(guó)家的科學(xué)家和倫理學(xué)家在Nature發(fā)表的呼吁暫停生殖系基因編輯并完善國(guó)際治理框架的評(píng)論文章，在*受矚目的國(guó)際主流科學(xué)期刊發(fā)出中國(guó)聲音。新興科技倫理治理是全球共同面對(duì)的挑戰(zhàn)，新興技術(shù)內(nèi)在的獨(dú)特性使得相應(yīng)的監(jiān)管和規(guī)制問題比傳統(tǒng)技術(shù)復(fù)雜棘手得多。切入具體新興科技引發(fā)的倫理和治理問題探究之前，對(duì)新興技術(shù)的概念辨析和特點(diǎn)歸納是立論前提。如何界定和劃分新興技術(shù)，可隨我們對(duì)新興技術(shù)的進(jìn)一步認(rèn)識(shí)和技術(shù)本身進(jìn)一步發(fā)展而有所改變，莫衷一是。但我們首先要澄清的是：新興和新興技術(shù)這兩個(gè)術(shù)語(yǔ)或概念的意義。新興技術(shù)的新興有什么意涵？新興技術(shù)的英文翻譯是emerging technologies，科學(xué)哲學(xué)中討論過emerge或emergence概念，曾譯為突現(xiàn)或涌現(xiàn)。著名科學(xué)哲學(xué)家波普爾1977年11月8日在劍橋大學(xué)達(dá)爾文學(xué)院題為Natural Selection and the Emergence of Mind的講座中闡述了他的突現(xiàn)（emergence）理論。波普爾認(rèn)為科學(xué)提供給我們一幅宇宙圖景，表明宇宙是有原發(fā)性和創(chuàng)造性的，宇宙會(huì)在新的層次突現(xiàn)新的事物。例如，巨大恒星中心的重原子核、有機(jī)分子、生命、意識(shí)、人類精神產(chǎn)品（如藝術(shù)、科學(xué)）都是不同層次的突現(xiàn)。突現(xiàn)不是一般的出現(xiàn)，它有如下的特點(diǎn)：①突現(xiàn)出來的是新事物，與現(xiàn)有的事物有質(zhì)的不同。波普爾在1977年出版的Self and Its Brain: An Argument for Interactionism一書中，有力批駁了《舊約》中所說的太陽(yáng)底下沒有新事；②新事物的出現(xiàn)是突發(fā)的，仿佛從前所未知的隱藏的地方顯露出來；③新事物的出現(xiàn)往往是不可預(yù)測(cè)的，可能是引發(fā)其產(chǎn)生的因素太復(fù)雜，存在著許多不確定性，或者這些因素相互之間的依賴關(guān)系過于復(fù)雜難以把握；④新事物的出現(xiàn)往往對(duì)宇宙的演化或自然和社會(huì)的發(fā)展有非常重要的影響。就生命起源而言，生命在宇宙中的突現(xiàn)（emergence）是依賴于當(dāng)時(shí)的許多復(fù)雜的、我們至少目前不可模擬和未知的偶然條件及其相互作用。具備哪些特點(diǎn)可被稱為新興技術(shù)？Rotolo等人2015年在線發(fā)表的What Is an Emerging Technology?一文指出：①新興技術(shù)在概念、技術(shù)、方法方面具有相當(dāng)?shù)男路f性，而不是一般的新穎，它們具有革新性和創(chuàng)新性；②它們發(fā)展的速度比常規(guī)技術(shù)快得多；③新興技術(shù)相互之間具有連貫性和凝聚力，它們之間相互促進(jìn)、相互影響；④擁有十分突出的影響，有時(shí)可能起顛覆性作用，可能會(huì)使社會(huì)大大受益（解決長(zhǎng)期以來存在的社會(huì)問題和全球性問題），同時(shí)可能引起的風(fēng)險(xiǎn)或傷害也非常大，以至于可能威脅人類的生存；⑤具有不確定性和歧義性，不確定性是它們自身的發(fā)展及其對(duì)人和社會(huì)的影響難以預(yù)測(cè)，而歧義性是指人們對(duì)新興技術(shù)做出決策時(shí)難以對(duì)其前景、方法或成果取得一致的理解或評(píng)價(jià)。我們?cè)谝压�開發(fā)表的兩篇文章中指出，從倫理學(xué)以及監(jiān)管和治理角度看，新興技術(shù)有以下四個(gè)主要特點(diǎn)值得深刻反思：新興技術(shù)的主要特點(diǎn)之一：它們有可能給人和社會(huì)帶來巨大受益，同時(shí)又有可能帶來巨大風(fēng)險(xiǎn)，以至可能威脅到人類未來世代的健康以及人類的生存。例如人工智能可使人類從一般的智能活動(dòng)擺脫出來，集中精力于創(chuàng)新發(fā)現(xiàn)發(fā)明，然而同人類一樣聰明甚至超越人類的人工智能系統(tǒng)，一旦失去控制，可能對(duì)人類在地球的存在帶來威脅。*早提出技術(shù)奇點(diǎn)（technological singularity）或奇點(diǎn)（singularity）這一概念的是匈牙利裔美國(guó)物理學(xué)家馮·諾依曼。在牛津大學(xué)任教的瑞典哲學(xué)家波斯特羅姆則提出存在風(fēng)險(xiǎn)（existential risk）概念，意指人類不慎使用核技術(shù)、納米技術(shù)、基因工程技術(shù)以及人工智能技術(shù)等而導(dǎo)致永遠(yuǎn)毀滅起源于地球的智能生命，即人類永遭毀滅。英國(guó)科學(xué)家霍金不止一次警告說，人工智能有可能毀滅人類。合成生物學(xué)的研究和廣泛應(yīng)用可以幫助人類用多快好省的方法解決困擾已久的糧食、營(yíng)養(yǎng)、燃料、藥物和疫苗的生產(chǎn)問題，然而如果合成出傳染力強(qiáng)、傳播迅速且對(duì)疫苗有耐藥性的新病毒，則可能使數(shù)千萬人喪失生命。新興技術(shù)的主要特點(diǎn)之二：它們的不確定性。當(dāng)風(fēng)險(xiǎn)的嚴(yán)重程度及其發(fā)生的概率可以預(yù)測(cè)時(shí)，我們采取風(fēng)險(xiǎn)評(píng)估和風(fēng)險(xiǎn)防控方法加以應(yīng)對(duì)。與風(fēng)險(xiǎn)不同的是，不確定性是我們對(duì)采取何種干預(yù)措施或不采取干預(yù)措施的未來事態(tài)的決定因素缺乏必要的知識(shí)，因而難以預(yù)測(cè)其可能的風(fēng)險(xiǎn)的一種狀態(tài)。我們對(duì)所采取的干預(yù)措施可能引起的后果難以預(yù)測(cè)，影響后果的因素可能太多、太復(fù)雜、相互依賴性太強(qiáng)而不能把握。例如用于管理電網(wǎng)、核電站等重要設(shè)施的人工智能軟件可能發(fā)生難以預(yù)測(cè)的差錯(cuò)。賀建奎所做的生殖系基因組編輯是典型的不確定性例子。將卵子、精子、受精卵或胚胎中的基因組進(jìn)行編輯后, 目前無法判斷基因組編輯是否損害了正�；�因，脫靶和嵌合體會(huì)引發(fā)何種健康風(fēng)險(xiǎn)，被敲除掉的可能導(dǎo)致HIV病毒感染的CCR5基因是否具有抵御其他感染的免疫功能，更不能把握基因組經(jīng)過修飾的胚胎發(fā)育成人后能否預(yù)防艾滋病感染，對(duì)其他疾病尤其是傳染病是否有易感性，其身體狀況比沒有經(jīng)過編輯的孩子是好還是差，其未來的孩子的身體狀況以及未來后代的身體狀況怎樣等，對(duì)這些問題我們當(dāng)下都無法回答，因?yàn)槿狈Ρ匾�的知識(shí)和信息。在這種情況下我們無法對(duì)生殖系基因組編輯進(jìn)行必要的風(fēng)險(xiǎn)-受益評(píng)估，也不能對(duì)提供胚胎的HIV患者夫婦提供必要和充分的信息，使他們有能力作出有效的、自主的知情同意。這個(gè)例子還說明，與風(fēng)險(xiǎn)相對(duì)照，不確定性包括不知道的未知事情（unknown unknowns）的情況，即我們不知道還有哪些我們應(yīng)該知道而目前不知道的情況。風(fēng)險(xiǎn)與不確定性的區(qū)別具有規(guī)范性意義。規(guī)范性的決策理論要求我們面臨風(fēng)險(xiǎn)或不確定性時(shí)區(qū)分不同的合乎理性的決策策略，例如面臨不確定性時(shí)對(duì)于確定什么樣的目標(biāo)必須小心謹(jǐn)慎。新興技術(shù)之不確定性，可能由于多種原因。由于新興技術(shù)的新穎性，科學(xué)家也不能預(yù)測(cè)他們研制的產(chǎn)品如何影響生物多樣性和自然環(huán)境，例如我們沒有類似的經(jīng)驗(yàn)可用來預(yù)測(cè)合成有機(jī)體和基因驅(qū)動(dòng)蚊子的環(huán)境影響，即我們不可能預(yù)測(cè)所有潛在的環(huán)境危害的性質(zhì)、概率和嚴(yán)重程度；科學(xué)家和監(jiān)管機(jī)構(gòu)均處于無知狀況之中，不能確定影響人的健康和損害環(huán)境的概率及其性質(zhì)，因而無法采取有效措施加以應(yīng)對(duì)。新興技術(shù)的主要特點(diǎn)之三：它們往往具有雙重用途的特性。即一方面可被善意使用，為人類造福；另一方面也可被惡意使用，給人類帶來禍害。例如合成流感病毒可用來研制疫苗，也可用來制造生物武器。這是大多數(shù)常規(guī)技術(shù)不可能具備的特點(diǎn)。例如制造電視機(jī)，很難說技術(shù)本身有雙重用途。而且一門新興技術(shù)越發(fā)達(dá)，其被惡意利用的可能性就越大。在人工智能軟件開發(fā)中，技術(shù)越先進(jìn)，其被利用作為惡意軟件、敲詐軟件的可能性也越大；惡意使用者施行攻擊的成本降低，攻擊的成效提高，影響的規(guī)模增大。雙重用途的特性增加了不確定性，例如我們難以完全掌握恐怖主義利用新興技術(shù)進(jìn)行襲擊的概率，因?yàn)椴豢赡塬@得所有必要的情報(bào)信息。新興技術(shù)的主要特點(diǎn)之四：它們會(huì)產(chǎn)生出一些從未出現(xiàn)的新的倫理問題。例如，人工智能軟件可以幫助人類做出涉及未來的決策，而人工智能的決策是根據(jù)大數(shù)據(jù)利用算法做出的，算法在大數(shù)據(jù)中分析出人們的行為模式，根據(jù)這種模式預(yù)測(cè)某一群人未來會(huì)采取何種行動(dòng)，包括消費(fèi)者會(huì)購(gòu)買何種商品，搜索何種人適合擔(dān)任企業(yè)的高管，某種疾病在某一地區(qū)或全國(guó)發(fā)生的概率，或某一地區(qū)犯過罪的人有沒有可能再犯等，*終根據(jù)這種預(yù)測(cè)制定相應(yīng)的干預(yù)策略。然而，模式是根據(jù)已有數(shù)據(jù)識(shí)別出來的，而數(shù)據(jù)是人們過去的行為留下的信息，根據(jù)過去的行為數(shù)據(jù)挖掘識(shí)別出的行為模式來預(yù)測(cè)人們未來的行為，很有可能發(fā)生偏差或偏見。例如美國(guó)多次報(bào)告算法中的偏差，都是種族主義和性別歧視偏見導(dǎo)致的。安保機(jī)構(gòu)根據(jù)算法往往推測(cè)黑人容易重新犯罪，盡管并沒有可靠的統(tǒng)計(jì)數(shù)據(jù)。人有自由意志，一個(gè)人過去犯罪，可以選擇今后不再犯罪。由于大數(shù)據(jù)往往將編程技術(shù)等詞與男性相關(guān)聯(lián)，管家家務(wù)等詞則與女性相關(guān)聯(lián)，因此人工智能的搜索軟件往往推薦男性擔(dān)任企業(yè)高級(jí)執(zhí)行官。新興技術(shù)的倫理問題，亦即在有關(guān)新興技術(shù)的創(chuàng)新、研發(fā)和應(yīng)用方面我們應(yīng)該做什么和應(yīng)該如何做的規(guī)范性問題，包括概念性倫理問題、實(shí)質(zhì)倫理問題和程序倫理問題。我們?nèi)绾卧谠S多因素不確定的情況下對(duì)新興技術(shù)的創(chuàng)新、研發(fā)和應(yīng)用方面的風(fēng)險(xiǎn)-受益比做出合適的動(dòng)態(tài)權(quán)衡，以及尊重作為新興科技利益攸關(guān)者的人，維護(hù)他們作為人的權(quán)利和尊嚴(yán)以及社會(huì)公正，這是新興技術(shù)的兩類基本倫理問題。本叢書基于我們研究團(tuán)隊(duì)近五年來主持的國(guó)家重點(diǎn)研發(fā)計(jì)劃項(xiàng)目合成生物學(xué)倫理、政策法規(guī)框架研究和國(guó)家社科基金重大項(xiàng)目大數(shù)據(jù)時(shí)代生物樣本庫(kù)的哲學(xué)研究以及在前沿新興科技（合成生物學(xué)、生物樣本數(shù)據(jù)庫(kù)、干細(xì)胞、基因編輯、人工智能和機(jī)器人等）倫理和治理問題領(lǐng)域長(zhǎng)期的交叉學(xué)科研究基礎(chǔ)和優(yōu)勢(shì)，既注重理論與實(shí)踐緊密聯(lián)系，又強(qiáng)調(diào)分論和總論點(diǎn)面結(jié)合；既有倫理原則建構(gòu)的宏觀視野，又有新興科技前沿的精準(zhǔn)把握。本叢書采納國(guó)際大科學(xué)計(jì)劃HGP（Human Genome Project）的倫理、法律和社會(huì)意涵（Ethical,Legal and Social Implications，ELSI）跨學(xué)科研究框架，在全球視域和中國(guó)情境下對(duì)各種新興科技的倫理和治理問題展開全面系統(tǒng)研究，關(guān)注相關(guān)基本概念的哲學(xué)反思和倫理分析，側(cè)重科技倫理學(xué)的基本進(jìn)路、方法論基礎(chǔ)和道德形而上學(xué)建構(gòu)等理論探索。運(yùn)用規(guī)范倫理學(xué)基本理論和方法，一方面應(yīng)用基本規(guī)范倫理原則，另一方面建構(gòu)前沿新興科技的新的倫理原則和框架，鑒別、分析和解決前沿新興科技引發(fā)的具體倫理和治理問題，并提出相應(yīng)的政策建議。2019年7月，中央深改委會(huì)議審議通過《國(guó)家科技倫理委員會(huì)組建方案》，推動(dòng)構(gòu)建覆蓋全面、導(dǎo)向明確、規(guī)范有序、協(xié)調(diào)一致的科技倫理治理體系。黨的十九屆四中全會(huì)決定提出：健全科技倫理治理體制。國(guó)家十四五規(guī)劃綱要提出：大力弘揚(yáng)新時(shí)代科學(xué)家精神，強(qiáng)化科研誠(chéng)信建設(shè)，健全科技倫理體系。2022年3月，中共中央辦公廳、國(guó)務(wù)院辦公廳印發(fā)《關(guān)于加強(qiáng)科技倫理治理的意見》，對(duì)我國(guó)科技倫理治理工作作出頂層設(shè)計(jì)。本叢書的研究?jī)?nèi)容契合這一國(guó)家重大戰(zhàn)略需求，期冀為科技創(chuàng)新的倫理治理體系建設(shè)和治理能力現(xiàn)代化提供智力支持、做出力所能及的貢獻(xiàn)。