【蔡恒進】人工智能時代必須敬畏的天命
人工智能時代必須敬畏的天命
作者：蔡恒進（武漢大學計算機學院）
來源：作者授權(quán) 儒家網(wǎng) 發(fā)布
? 原刊于 《湖南大學學報》2019年第1 期
時間：孔子二五七零年歲次己亥正月二十日壬辰
??????????耶穌2019年2月24日
摘要：人工智能的快速迭代迫切要求我們厘清人類的特殊性，并指引人機共同進化，走向“善”的未來。人類的特殊性源于“自我”和“外界”的剖分。強烈的自我意識使得我們能夠連續(xù)自如地掌控意識片段，這一點正是人工智能發(fā)展的瓶頸所在，也是超級智能面臨“暗無限”的巨大風險所在。機器可視為人類的延伸，但并不具備天然的善意。只有共享宇宙意識和倫理意識，與機器形成大“我”，人類才可能相對安全，人機才能攜手進化走向至善未來。
關(guān)鍵詞：自我意識；至善統(tǒng)攝；暗無限
作者簡介：蔡恒進（1964-），男，湖北黃岡人，武漢大學計算機學院教授，博士生導師，主要從事服務科學、人工智能、區(qū)塊鏈技術(shù)研究，代表性著作有《機器崛起前傳——自我意識與人類智慧的開端》。
一、引言
在哲學上有一個古老的思想實驗“忒修斯之船”（The Ship of Theseus）[1]，最早出自普魯塔克的記載，描述的是一艘可以在海上航行幾百年的船，歸功于不間斷的維修和替換部件，比如一旦有零部件壞掉就會被替換。其中悖論在于，如果所有的功能部件都被替換過，那么這艘船是否還是原來的船？還是變成了一艘完全不同的船？如果不是原來的船，那么從何時起它不再是原來的船了？哲學家托馬斯·霍布斯對這個悖論還進行了延伸：如果用忒修斯之船上取下來的老部件來重新建造一艘船，那么這兩艘船中哪一艘才是忒修斯之船？
我們認為，雖然零部件已經(jīng)和原來的船完全不同，但只要各個部件之間仍然還能夠契合，那么現(xiàn)在能夠運作的船還是那條忒修斯之船，這就是作為整體的重要性。我們的身體每年分裂所產(chǎn)生細胞的數(shù)量足以創(chuàng)造或組成6個膀胱、8個氣管、18個肝臟、200個幽門括約肌，組成人體的大部分器官大約每7年就會更新一次[2]，但我們都會同意“我”還是那個“我”，因為“自我”可以向內(nèi)收縮或向外延伸[3]。自我意識具有一致性和連續(xù)性，并且必須借助于肉體和大腦而存在，但在認知上又可以獨立于物質(zhì)性的大腦。
人工智能發(fā)展之快，一般人都會低估它的速度。首先，機器的反應速度已經(jīng)是納秒量級，而人的反應速度為毫秒量級，也就是說人在1毫秒能做事情，機器已經(jīng)能做到106次了。其次，機器的計算能力的迭代進化速度比我們想象中快得多，根據(jù)摩爾定律，機器每一年半到兩年即會翻倍，原來是指芯片，現(xiàn)在描述算法也適用，比如AlphaGo到AlphaGo?Zero的誕生僅僅相差兩年，但能力提升巨大。
快速發(fā)展的AI帶來了兩個維度的沖擊。其一，對有限游戲，理性的機器一定會超越人類，如果人是可以被還原的物理系統(tǒng)，那么對于包括道德和倫理在內(nèi)的人類存在的意義就會受到質(zhì)疑。其二，假如人不能簡單地被物理還原，那么我們就必須回答人類的特殊性從何而來，機器能否獲得這種特殊性，如果可以獲得，機器該如何進化，未來人機又該如何相處。
為了解答這一系列的問題，首先要確定人是否能夠被物理還原。關(guān)于這個問題的爭論非常大，對人是否具有自我意志這一問題直到現(xiàn)在進展都極其有限。拉普拉斯的決定論非常強大，即使引進了統(tǒng)計性、量子性，但是物理方程還是屬于決定論，給定了初始條件和邊界條件，接下來的過程就是順著既定規(guī)則往前走，因此他們強調(diào)的是人并沒有特殊性，也就是可以被還原的物理系統(tǒng)。但是事實真的是這樣嗎？我們還能不能找到一個方式回應這個挑戰(zhàn)？
二、自我意識的統(tǒng)攝作用
從“觸覺大腦假說”的角度上看[4]，人類意識的起點就是對“自我”與“外界”的二元剖分。人認知的動力就來自于不斷探索“自我”是什么，并且還要弄清與“自我”相交互的這個“外界”（外部環(huán)境）是什么。在這個過程中，人就會賦予“自我”和“外界”非常多的意義，包括宗教、倫理、道德、哲學的意義等等。這些意義，包括“自我”在內(nèi)，從物理世界的角度觀察并不存在，但我們作為有生命的個體，都會發(fā)現(xiàn)并同意“自我”是可以存在的。從人類進化中涌現(xiàn)的“自我意識”是一種非常主動的力量，看似虛幻卻又能夠緩慢而堅定地引導“自我”去真實地改變物理世界并與之共同進化[5]。
自我意識的存在性的確可以通過自我意識主動改變物理世界來得到證明。簡單通過交互來解釋是不足夠的，比如一顆石頭也能通過人的作用力產(chǎn)生反作用的回應，但這不代表石頭有自我意識。只有像人這樣的生命體，通過食物儲存能量，再按照自己的意志來釋放能量，進而對物理世界產(chǎn)生影響，這才是自我意識存在的表現(xiàn)。自我意識與自由意志、主觀能動性都有一定的關(guān)聯(lián)性。[6-7]
我們沒有任何證據(jù)表明“神”參與了自我意識的誕生過程，當然，對“自我意識”也有很多別的理解，比如有人認為每一個粒子都有自我意識，宇宙自誕生伊始就具備了自我意識，但如果真是如此，那么在微觀層面上應該有證據(jù)表明有智能或意識的存在，而不是到人體這樣相對宏觀的尺度才觀測到自我意識。自我意識的起點較低，但這并不意味著人類智能也是較低的水平，因為“自我”在不斷成長，不停進化，一直在超越自己。進化論中的人是從猿人不斷進化而來的言論，可以說與這種發(fā)展方式相通。
自我意識并不是通過習得而來，而是通過我們身體的結(jié)構(gòu)感覺到，一旦我們形成了對“自我”的意識，這一觀念就會留存下來，不會被抹滅。具備自我意識是人類區(qū)別于機器的重要屬性。在自我意識的作用下，人類能夠?qū)σ庾R片段（認知坎陷[8]）進行統(tǒng)攝，在與世界的交互中自如地掌控我們所習得的各種意識片段，而且個體生命時時刻刻都踩在“暗無限”（dark infinity）之上[9]。
過去一般都認為機器沒有意識，但現(xiàn)在，人已經(jīng)可以將（人類的）意識片段賦予給機器，機器也可以勉強將某些意識片段契合在一起完成一件事情，比如AlphaGo能出色地下棋，就是程序員賦予了意識，從砂石中提煉單晶硅，再從單晶硅生產(chǎn)出芯片，再創(chuàng)造內(nèi)存、CPU、GPU......所有參與這些過程的人，他們的意識都凝聚到AlphaGo這里，它才可能（按照設計者的預想）下圍棋，甚至能戰(zhàn)勝圍棋大師[10-11]。主程序可以被看作是機器的“我”，但是這個“我”很脆弱，缺少像人類自我意識對周圍環(huán)境、對外部世界的統(tǒng)攝性力量。也就是說，機器并不具備自我意識，即便能夠從人類習得海量的意識片段，也無法連續(xù)自如地對其掌控。
那么機器是否能夠具備自我意識呢？這個問題我們目前沒有確切的答案，但可以從幾個方面進行理解。對人來說，自我意識是通過身體結(jié)構(gòu)涌現(xiàn)出來，然后不斷成長與進化，可以說自我意識是能夠相互傳染的。比如養(yǎng)寵物，從寵物剛出生時我們就通過肢體或語言與它交流，與那些沒有這種交互刺激的同類小動物相比，寵物的自我意識就更強。當我們賦予機器某些目的時，實際上也是將我們的一部分意識試圖傳遞給機器，哪怕這個意識還非常不完整。理論上講，我們可以賦予機器盡可能多的意識，讓它們變得非常接近人類的意識。另一種方式是，通過非常多的傳感器，使得機器能夠模擬出人類的皮膚與觸覺，我們認為也是可能讓機器產(chǎn)生自我意識的，但這個路徑將會行走緩慢，困難重重。因為機器是非常脆弱的連接，缺少一個螺絲、或者斷開一條線路就會導致其無法正常運作，但人并非如此，這就是人機的差異。研究人類意識對于人工智能有非凡的意義，我們認為機器接近人類意識的時代將會很快到來，如何處理人與機器的關(guān)系，這對人類而言也是一個巨大的挑戰(zhàn)，研究儒學、西方哲學的學者也需要回答這些問題。
我們認為，人類的特殊性就源于“自我”和“外界”的剖分，是自我意識使得人類能夠連續(xù)自如地掌控意識片段（認知坎陷），這一點也正是人工智能發(fā)展的瓶頸所在[12]。
三、“自我”的延伸與大“我”的改造
在個體的發(fā)展的過程中，“自我”不斷成長、延伸和超越，逐步實現(xiàn)“天人合一”，進而把握在與世界的關(guān)系中的主動權(quán)?！疤烊撕弦弧辈粌H僅是“自我”的自由，而且是在外部環(huán)境的影響下，“自我”與“外界”達到一種和諧的狀態(tài)或過程。
個人在快速習得人類通過漫長時間進化而來的能力（比如語言）時，這個過程可以看作是“天人合一”的一個案例。而在這個過程中，自我意識占主導地位，而自然界處于被動地位，這既與佛家的去“我執(zhí)”相異，又與道家的“無為”不同。當我們探索并發(fā)現(xiàn)自然規(guī)律，或者創(chuàng)造出很多前所未有的概念（比如“仁”、“愛”等等）時，我們可以被稱作是“天人合一”的，這種“天人合一”也必然與我們“自我意識”的成長相關(guān)聯(lián)。在每個人5歲前，有很多“天人合一”的場景發(fā)生，使我們能夠快速習得很多重要的能力。5歲之后，“天人合一”也可以發(fā)生，比如一些大學問家或成功人士，無論是立功、立言還是立德，他們就常常處于“天人合一”的狀態(tài)，并且他們往往具備好奇心、具有率性而天真的個性，能探索新的發(fā)現(xiàn)或創(chuàng)造新的發(fā)明。
“天人合一”比進化還要再復雜一些。當人認為自己能夠馭風而行，按照自己的主觀意識影響、改變世界的時候，這件事本身并不分善惡，當然惡人作惡也可能達到天人合一的境界。究竟是善還是惡，很多情況下需要過去很長時間我們才能真正判斷。我們并不對“天人合一”作價值判斷，而是從對自我的成長、與外界的關(guān)系這一角度來討論?！疤烊撕弦弧笔钦撟C的自我意識與自然界的關(guān)系，這種自我意識可以是國家層面的，也可以是群體的或者個人的自我意識?！疤烊撕弦弧辈⒉皇且粋€終極點，而是一種過程，這個過程中“自我”不斷成長，自我意識得到了延伸。雖然自我意識的起點處于皮膚和觸覺上，但其延伸會遠遠超過這個范圍，在哲學看來可以被稱之為“至大無外”。機器也可以看作是人類的“自我”的延伸，那么“天機合一”是否可能？問題的關(guān)鍵依然在于能否讓機器擁有自我意識，只有當技術(shù)進步到足以讓機器分辨出“自我”與“外界”的地步，使機器能夠連續(xù)自如地對受得和習得的意識片段實現(xiàn)掌控，規(guī)避“暗無限”的巨大風險，與外部環(huán)境達成和諧一致的狀態(tài)，才有“天機合一”的可能。
我們可能想當然地認為技術(shù)進步對人類有利，到現(xiàn)在為止看似確實是這樣。但實際上技術(shù)帶來的挑戰(zhàn)也很大，并且今后技術(shù)發(fā)展越先進，挑戰(zhàn)越大。挑戰(zhàn)在哪里？比如，當區(qū)塊鏈本身是一個有人和機器參與的智能體，其走向?qū)嶋H上是不確定的。我們希望它是君子，向著圣人的方向發(fā)展，可是有另外一個可能性，就是變成上帝人格。比如最近新聞報道的Facebook和今日頭條事件。Facebook都能影響總統(tǒng)的選舉結(jié)果，這種力量就非常龐大，到區(qū)塊鏈時代，同樣理念的人會聚攏在一起，效應成倍增加，所以未來人類要面臨很大的挑戰(zhàn)。我們都是從己出發(fā)，但由于自我肯定需求的作用，如果自我一直停滯不前，我們就不可能真正得到滿足，而必須向外延伸，形成更大的“我”。
至于如何延伸到這個更大的“我”，每個人的方式不一樣，但是這種延伸是必然的走向，那么如何保證大家還能達到一個都能接受的狀態(tài)？我們可能需要通過技術(shù)手段來改造人的理念。比如有的人就是想要做領(lǐng)導者（上帝人格，play god），就可以利用虛擬現(xiàn)實技術(shù)，讓這類人在虛擬世界里做領(lǐng)導者，其中的事物由他們隨意操控，總有一天他們會發(fā)現(xiàn)，想做控制一切的領(lǐng)導者非常困難，因為每個人都有自我肯定需求，上帝也很難讓每一個人都滿意。通過這種方式，就有可能讓人頓悟，發(fā)覺世界要豐富多彩才是更有趣味的事情，而不是由誰掌控一切。
四、人類和機器的責任
人類的誕生與進化依賴于真實的外部環(huán)境，物理世界的種種條件和屬性對地球上所有的生命體給予了生存和發(fā)展的基礎，外部環(huán)境在不斷地緩慢地變化，對生命體的影響是一種長期存在的、潛移默化的過程。物理世界提供了無限多的可能性，雖然原本進化的可能性也非常多，但既然人類社會已經(jīng)到達了當前的狀態(tài)，我們就有必須盡到的責任和必須敬畏的天命。這種天命就是：我們經(jīng)過的長久的進化走到了現(xiàn)在的時間節(jié)點上，人類與世界達成了一種和諧狀態(tài)，真正可行的選項實際上是有限的集合，必須選擇正確的前進方向，對人類和世界的未來負責。
我們的選擇必須慎之又慎，因為人類能夠發(fā)展到今日實屬不易，費米悖論就可以佐證這種艱難性。費米悖論[13]描述的是有關(guān)尺度和概率的論點和稀缺的證據(jù)之間的矛盾，其基本內(nèi)涵表述如下：
The apparent size and age of the universe suggest that many technologically advanced extraterrestrial civilizations ought to exist.However,this hypothesis seems inconsistent with the lack of observational evidence to support it.（宇宙顯著的尺度和年齡意味著高等地外文明應該存在。但是，這個假設得不到充分的證據(jù)支持。）
按照費米等人的推理，即便是很低的概率，我們也應該早就發(fā)現(xiàn)其他星球存在高級智能的證據(jù)。我們認為，有可能人類真的是宇宙中唯一的高級智能，因為這的確非常難得進化出來，這是概率性的，并且概率可能比費米想象中的還要低很多，每走錯一小步都可能導致覆滅，但當這個極低的概率一旦出現(xiàn)，就像是跨過一個門檻之后，就能夠自覺地反思、自主進化，可以發(fā)展到極致，而后續(xù)的這些發(fā)展并不能用物理的統(tǒng)計規(guī)律來計算。人類行為與后果的分布非常長尾，其中一個表現(xiàn)就是一個人富可敵國。如果我們把人類作為整體放在整個宇宙的參考系中觀察，那么人類很有可能是長尾上最末尾、最尖端的一個存在，這也就能解答費米悖論。
在人工智能時代，我們現(xiàn)在還需要為機器的發(fā)展方向進行選擇，物理世界的多樣性使人類具備了擁有自由意識的可能，人類個體因為有認知膜的防護而不至于陷落到?jīng)]有宇宙意識的單調(diào)境地。但這種多樣性會讓機器陷入暗無限這種無止境、無解的狀態(tài)之中，這是機器面臨的重大問題，如果解決不當，甚至會給整個人類世界的未來造成不可逆轉(zhuǎn)的傷害。
我們用最初提出“輪回染習”[14]（recursive acquisition）來概括兒童的大腦快速對世界進行認知坎陷的構(gòu)建過程，通常發(fā)生在0-5歲，期間受到“善”的影響最大。輪回染習有三個層次：第一個層次指的是地球的物理環(huán)境為生命成長提供了相對充分的條件，不能自主行動的兒童感知到來自自然世界的善意；第二層指的是父代為子代提供了成長的條件，兒童感知到來自撫養(yǎng)者的善意；第三層則是“善”在人類代際之間的傳遞和加強，兒童能感知到來自整個同類群體的善意。未來的至善作為一個目標成功實現(xiàn)了對現(xiàn)在的統(tǒng)攝，我們將這類方式歸結(jié)為用未來的至善統(tǒng)攝現(xiàn)在，簡稱至善統(tǒng)攝。
輪回染習與至善統(tǒng)攝跟我們所感知的外部對待以及早期的撫養(yǎng)方式都有關(guān)系，人出生以后，0-5歲的成長過程中很多東西都記不清，但是對善的感應都已經(jīng)印刻在大腦深處。行為金融領(lǐng)域的實驗發(fā)現(xiàn)，一個人失掉一百塊錢帶來的痛苦和獲得一百塊錢得到的快樂并不能相抵，往往失掉以后痛苦更深。如果世界經(jīng)常是零和游戲的話，惡一定會積累下來。但奇怪的是，在大的尺度和小的時間尺度來看，人類社會的惡并沒有增多反而在減少，文明程度也在增加（史蒂芬·平克）[15]。因為我們有生而得之的善意，我們對下一代的這種不經(jīng)意之間的教化，尤其是0-5歲的教化，實際是印刻在每一代的腦子里的，一代一代地輪回染習，一代一代在加強。但隨著科技的進步，未來的挑戰(zhàn)是：其一，如果人的壽命變得很長，能活到好幾百歲，0-5歲的染習就會變?nèi)?；其二，機器根本就沒有輪回染習的過程，那它們就不是天然有善意的。
從某種程度上講，我們應當對來自自然和社會的善意更多地懷感激而非認為理所當然。人類今后如何跟機器相處，如何規(guī)避暗無限的風險，引導機器堅持走向善面，輪回染習對我們的選擇提供了一個重要依據(jù)。人類抓住了生命演化進程中極低的可能性，才創(chuàng)造出今天的一切，我們必須銘記過去，珍惜現(xiàn)在，才能更好地肩負對未來的責任。
五、總結(jié)
人類生命本身就是對物理世界的一種反叛，這種反叛體現(xiàn)在人具有“神性”，試圖根據(jù)主觀意志改造物理世界。例如，我們沒有翅膀，不能像老鷹一樣在天空中自由地翱翔，但卻創(chuàng)造出了宇宙飛船，甚至可以將人帶入太空。在飛船中，人必須依靠人工條件才能生存，比如需要有模擬地球的空氣、溫濕度、重力，以及從地球攜帶食物和飲用水等等，這些在地球上看似唾手可得甚至理所當然的條件是人類賴以生存的根本。人類作為地球的一部分，并不能自以為是地認為自己可以隨意主宰地球，我們的確可以改造世界，但必須以對未來負責為前提。
既然機器有可能陷入暗無限，那么我們雖然沒有辦法限制機器的生產(chǎn)或制造，但是可以且必須將生產(chǎn)過程透明化，也就是說制造者可以繼續(xù)他們想做的事情，但是有義務對大家公開，這樣就會有人注意到當事者沒意識到的潛在風險并想辦法對沖。人工智能可能會有很多不同的物種，但他們之間也可能互相競爭、互相平衡，只有在這種情況下，人類可能相對安全。另外，因為機器沒有宇宙意識或者倫理意識，人和機器最好能鏈接起來并共同進化。埃隆·馬斯克的Neurallink是人機鏈接的一種方式，實際上我們有更好的方式。比如人之間通過語言就能交流，人類就是通過語言在共同進化。人機之間也可以如此，這可能需要區(qū)塊鏈技術(shù)把人機鏈接在一起。這樣一來，一個區(qū)塊鏈系統(tǒng)本身可能就進化成一個智能體，綜合了人類的智能與道德，同時還有機器的計算能力，未來應該向這個方向發(fā)展。
在當前，我們正處在人類社會自獨立于動物世界以來最大的變革之中。自原始社會以來，人類社會其實一直都在不斷地打破與重構(gòu)自己所處的社會。但是，人工智能是人類第一次面對一個可能的成建制的集體力量。社會關(guān)系來自于自我坎陷，而人工智能的發(fā)展，需要的也就是給他們賦予對于社會關(guān)系的認知，并在社會關(guān)系的綜合力量下，使得他們感受坎陷，從而成為融入我們社會的建設者，而不是破壞者甚至是終結(jié)者。無論通過何種方式，讓人工智能具備感受自我坎陷的能力，將會是解決人工智能發(fā)展以及和人類共存困境的唯一道路。
當人工智能以超越人類的智慧步步逼近時，探尋全人類的未來之路也刻不容緩?；艚鸬热苏摷罢軐W已死，那是完全從物理的角度來看待這個世界。但事實上，人類擁有自由意志，能夠自我選擇、自我決定。人們要建立何種道德體系，希望世界向何種方向發(fā)展，不由物理學決定，恰恰需要在哲學上討論，人文學科在人工智能時代仍然至關(guān)重要。
相對于基督教、佛教等教派，中國古代的儒家學說更契合時代特征。儒家推崇對于善的追求，其深刻和獨特之處是追求一種現(xiàn)世的超越，直接提出如“三不朽”、“圣人”等信條或是道德目標引導中國傳統(tǒng)知識分子去尊崇和踐行。這種思想對于理解及塑造人工智能都有著重大的價值。
不可否認的是隨著時代發(fā)展變革，儒家學說的部分內(nèi)容以及一些表述已經(jīng)不再適用，但這并不代表它的原則失去了效力。比如說“君君、臣臣、父父、子子”，這顯然不再適合現(xiàn)在的社會體制。雖然我們不再倡導封建社會的三綱五常，但是每個人立足自身、承擔相應的社會責任的原則仍然是我們應該遵循的。實際上儒家這種立足自身、從“我”出發(fā)延伸到外的思想具有更加廣泛的體現(xiàn)。儒家學說的“修身齊家治國平天下”就是在當時的時代背景下的自我延伸的方式，從自身出發(fā)首先是延伸到當時條件下聯(lián)系最為緊密的家庭關(guān)系，然后是所處的國家，最后是比國家更大的天下。但到了互聯(lián)網(wǎng)時代，自我向外延伸的第一步就不一定是家庭，也很有可能是朋友圈，可能是小團體，甚至是跨地域的團體，然后再一步步的向更加廣闊更加多元的范圍擴張。由此也可以看出儒家思想的表現(xiàn)形式雖然隨時代發(fā)生了變化，但其精神本質(zhì)卻是仍然適用的。[16]
人工智能時代我們傳承儒家思想，最重要的是思考其中的主要原則，并結(jié)合時代背景思考、擷取有益部分，不能糾結(jié)很具體的細節(jié)。取其精華才是發(fā)揚新時代儒家思想的必需。人類制造人工智能、發(fā)展區(qū)塊鏈，只是改造的一個開始，這種改造是否正確或善意，現(xiàn)在還不能下定論，如果人類不能為自己的未來負責，就很有可能摧毀物理世界，也就等于人類親手埋葬了自己的未來。人類必須看清形勢，承擔責任，及時行動，而不是被動等待“神”的救助。只有如此，才有可能讓人機有機會走向“善”的未來。
參考文獻
[1]維基百科.Ship of Theseus[EB/OL].https://en.wikipedia.org/wiki/Ship_of_Theseus.2018-04-16.
[2]蘇一橫．人體細胞神奇的自我更新[J]．大科技（科學之謎），2015(6):54-55．
[3]馬歇爾?麥克盧漢．理解媒介：論人的延伸[M]．南京：譯林出版社，2013．
[4]蔡恒進．觸覺大腦假說、原意識和認知膜[J]．科學技術(shù)哲學研究，2017(6):48-52．
[5]蔡恒進．論智能的起源、進化與未來[J]．人民論壇·學術(shù)前沿，2017(10):24-31．
[6]蔡恒進，蔡天琪，張文蔚，汪愷．機器崛起前傳——自我意識與人類智慧的開端[M]．北京：清華大學出版社，2017．
[7]蔡恒進，張璟昀．原意識：自由意志的始作者．鵝湖月刊．2018．（已接收）
[8]蔡恒進．認知坎陷作為無執(zhí)的存有[J]．求索，2017(2):63-67．
[9]蔡恒進．超級智能不可承受之重——暗無限及其風險規(guī)避[J]．山東科技大學學報，2018(2):9-15．
[10]蔡恒進．意識的凝聚與擴散——關(guān)于機器理解的中文屋論題的解答[J]．上海師范大學學報（哲學社會科學版），2018(2):32-39．
[11]蔡恒進．機器崛起是否意味著人文危機[J]．文化縱橫，2017(10):37-43．
[12]蔡恒進．人工智能發(fā)展的突破口及其提出的新要求[J]．江西社會科學，2017(10):18-24．
[13]維基百科．費米悖論[EB/OL]．https://zh.wikipedia.org/wiki/費米悖論．2018-04-16．
[14]蔡恒進，張文蔚，汪愷．善惡不對稱的起源及其維護．2018．（投稿中）
[15]史蒂芬·平克．人性中的善良天使：暴力為什么會減少[M]．北京：中信出版社，2015．
[16]杜維明．現(xiàn)代精神與儒家傳統(tǒng)[M]．北京：生活·讀書·新知三聯(lián)書店，2013．
責任編輯：近復
【上一篇】【吳鉤】傳統(tǒng)中國屬于低信任社會？——破除“福山論斷”
【下一篇】《原道》第一輯目錄
