新興技術：人類福音還是潘多拉魔盒？

　　從網(wǎng)絡化醫(yī)療設備到物聯(lián)網(wǎng)，從抗旱作物到仿生假肢，新興技術正在給諸多領域帶來革命性的影響。

　　毋庸置疑，新興技術蘊含著前所未有的巨大機遇。一旦實驗室研發(fā)出的技術在現(xiàn)實世界中顯出它們的效用，投資就會蜂擁而至，社會發(fā)展也將明顯提速。

　　然而，新興技術究竟會發(fā)展到哪一步卻有著高度的不確定性。潛在的二階或三階效應無法被輕易預測，這使得人類很難采取針對性的措施。即便是在技術剛問世時就能預見它們的后果，也仍然需要在取舍之間權(quán)衡利弊。比如，即使事先知道大規(guī)模使用化石燃料可幫助很多人擺脫貧困但同時也會引起氣候變化，人們?nèi)匀徊粫痛朔艞壢剂显诠I(yè)中的使用。

　　那么，新興技術到底為人類帶來了哪些影響?如何才能更好地發(fā)揮新興技術的作用，又如何控制可能產(chǎn)生的風險?這些都需要人們持續(xù)不斷地加強科學認知。

　　什么是新興技術?

　　典型的新興技術包括合成生物學、基因驅(qū)動技術和人工智能技術。

　　其中，合成生物學可以創(chuàng)造出將生物質(zhì)轉(zhuǎn)化為柴油的細菌，基因驅(qū)動技術可以幫助消滅瘧疾等蟲媒疾病，而人工智能技術則是從無人駕駛汽車到個人護理機器人得以誕生的幕后功臣。

　　總體而言，新興技術可以分為三大類：首先是那些與信息、網(wǎng)絡和數(shù)據(jù)傳輸有關的技術，包括人工智能、物聯(lián)網(wǎng)和大數(shù)據(jù);其次是生物學技術，比如抗旱作物和生物燃料的基因工程、人造肉、基于RNA1、基因組和微生物群的新治療技術;第三是那些用于制造更堅韌材料(比如納米碳纖維復合材料)和更優(yōu)質(zhì)電池(比如采用了鍺納米線的電池)、回收核廢料以及從海水淡化副產(chǎn)品中提取金屬的化學技術。

　　變革力量和潛在風險

　　新興技術所帶來的變革性力量正在一次次刷新人們的生活。與它所帶來的效益和驚喜相對應的，是人們對于新興技術可能產(chǎn)生的不良影響的擔憂。

　　這些風險有些可預見，有些則不可預見。

　　可預見的風險包括：管控不力(就像有時候在轉(zhuǎn)基因作物試驗中發(fā)生的那樣)或存儲錯誤(就像2014年美國疾病控制實驗室處理致命病毒時發(fā)生安全事故)所造成的危險物質(zhì)泄漏;新興技術的失竊或非法販賣;電腦病毒、黑客對人體植入物的攻擊，或者生化戰(zhàn)爭。

　　像合成生物學和人工智能這些新技能的形成，尤其會伴隨著風險，更糟糕的是后者還無法在實驗室里得到充分評估。一旦新興技術這個精靈跑出瓶子,就可能被用錯地方，或?qū)е掳l(fā)明初期無法預測的后果。猶如打開了潘多拉的魔盒，一發(fā)不可收拾。

　　以合成生物學為例，它的問世讓人類在基因改造上更進了一步。目前正在開發(fā)中的合成生物學應用有：從大腸桿菌生產(chǎn)生物燃料;人工設計生物體用于污染物或爆炸物的感測器;通過光遺傳學技術使神經(jīng)細胞對光敏感并用激光控制神經(jīng)信號，這項技術有望對神經(jīng)系統(tǒng)紊亂疾病的治療產(chǎn)生革命性影響;3D打印抗癌病毒等。

　　但與這些巨大潛在利益相伴的是一系列難以控制的風險。

　　如今的酵母已經(jīng)被用于制作嗎啡。不難想象，合成生物學很可能會為非法藥物的生產(chǎn)大開方便之門。用廉價的人工合成品替代像香根草這樣的高價值出口農(nóng)產(chǎn)品，則可能會奪走農(nóng)民賴以為生的收入來源，動搖原本就很脆弱的經(jīng)濟根基。隨著DNA讀取技術越來越經(jīng)濟易得，有人可能會盜取一綹頭發(fā)或其他遺傳物質(zhì)來收集醫(yī)學敏感信息或做親子鑒定，從而侵犯他人的隱私。

　　不過，最令人擔心的風險還是合成生物體本質(zhì)上所具有的危害性，無論這種危害是源于失誤還是恐怖目的。因為生物體的自我復制本質(zhì)將會讓它們變得既強健又具有攻擊性。這種特性一旦被用于恐怖活動，后果不可想象。再加上合成生物學是“小技術”，不需要大型且昂貴的設施，所用的資源也不容易追蹤?？梢韵胍?，有朝一日可能會有一個無賴發(fā)明出了某種大規(guī)模殺傷性武器，比如像埃博拉那樣致命并且像流感一樣易于傳染的病毒。

　　再比如基因驅(qū)動技術，該技術為人們祛除某些最嚴重的健康和環(huán)境風險提供了一個前所未有的機會。比如，它可以通過改編蚊子的基因組，根除整個地區(qū)的瘧疾和其他蟲媒疾病;還可用于對付除草劑和殺蟲劑抗性，以及消滅威脅生態(tài)系統(tǒng)生物多樣性的入侵物種。

　　然而，基因驅(qū)動技術也可能會給野生生物、莊稼和家畜造成意想不到的損害并殃及其他相關的生態(tài)系統(tǒng)。

　　就人工智能而言，如今已經(jīng)得到了普遍的認識和應用。比如統(tǒng)計學方法顯著改進了谷歌自動翻譯服務器以及像蘋果Siri這樣的個人數(shù)字助理設備的性能，而谷歌自動駕駛汽車已經(jīng)在公共道路上行駛了數(shù)十萬英里。

　　這樣的技術轉(zhuǎn)型如果操作妥當，無疑會極大地提高生產(chǎn)率和生活水平。但操作不當?shù)暮蠊麉s會是災難性的。按照世界頂尖人工智能教科書的合著者之一、加州大學伯克利分校教授斯圖爾特·拉塞爾(StuartRussell)的說法，核心問題在于人工智能的目標與人類目標之間的關系。也就是說，如果比人類聰明的人工智能產(chǎn)品制造出來后，其目標設定與其發(fā)明者的初衷稍有偏離，不知道能否阻止它們利用各種現(xiàn)有資源來實現(xiàn)這些目標。到時候恐怕只能像黑猩猩阻止人類為所欲為一樣無助。

　　人工智能所帶來的近期挑戰(zhàn)亦不容忽視。在未來數(shù)十年內(nèi),人工智能有可能會部分或全部替代眾多行業(yè)中的人類勞動，那么是否能通過足夠及時的再培訓保住工人們的就業(yè)率?另外，以往的技術革命浪潮在砍掉舊崗位的同時也會創(chuàng)造出新的工作機會，但由人工智能技術所引發(fā)的結(jié)構(gòu)性失業(yè)則可能會長期持續(xù)，這又該如何調(diào)整?還有，一些國家正在努力開發(fā)能夠評估信息、選擇目標并且不借助人力開火的致命性自武器系統(tǒng)，如果它們觸犯了國際法，誰來負責?在武器系統(tǒng)使用之前或者使用期間，如果發(fā)生人為干預怎么辦?人類勢必會插手自動武器的編程，問題是在開始使用武器的一刻，人類是否會終止對武器的控制?這些都尚無答案。

　　風險控制和挑戰(zhàn)

　　有什么辦法能預防上述風險和后果的發(fā)生?

　　簡而言之，人類需要把眼光放遠，做好面向未來的準備，以抵消“技術進步快于社會對技術控制的勢頭”。

　　正如上述所說，從正式規(guī)定到行業(yè)內(nèi)部行為準則，再到文化規(guī)范，有效的治理機制可以降低由濫用新興技術引發(fā)的各種風險。然而，治理機制的缺位卻對風險的管控提出了根本性的挑戰(zhàn)。

　　首先，目前的監(jiān)管框架不夠完善。法律法規(guī)在某些特定新興技術領域較為完善，而在其他領域、哪怕是從概念上講和前者相似的領域卻十分薄弱，甚至是完全缺位。比如，商用飛機上自動駕駛系統(tǒng)的使用長期以來一直受到嚴格監(jiān)管，但是對于無人機的使用，無論國家層面還是國際層面，迄今都還沒有令人滿意的監(jiān)管政策。

　　對于新興技術的不良后果，各地的文化心態(tài)也存在差別。

　　舉例來說，對轉(zhuǎn)基因產(chǎn)品的公眾接受度在美國比在歐洲要高，所以歐盟把預防性原則變成了制度，而美國人則相信大多數(shù)挑戰(zhàn)都可以靠“技術手段”來化解。

　　因此，應當通過相應的保障、監(jiān)管和治理措施整合、協(xié)調(diào)各國的行動，使之具備應對潛在全球性風險的能力以及適應不同文化偏好的靈活性。

　　對于那些未來發(fā)展方向高度不確定、其后果要經(jīng)過很長時間才會顯現(xiàn)出來的技術，必須在今天就做出決策，并且不同的階段應有不同的監(jiān)管措施。與此同時，決策過程中只顧眼前利益的思維慣性必須得到克服。

　　隨著新發(fā)明涉及的學科和技術越來越多，監(jiān)管的難度也越來越大。現(xiàn)在的問題是缺少相應的機制來決定哪個監(jiān)管部門(如果存在的話)應該對新興技術負起責任。

　　總的來說，在預防和創(chuàng)新之間求得平衡很難。具有潛在效益的創(chuàng)新成果，不冒一定風險是無法得到檢驗的。另外，監(jiān)管漏洞的存在會使權(quán)力出現(xiàn)真空，導致宗教運動組織乘虛而入，從而對社會施加更多影響并可能扼殺創(chuàng)新熱情。

　　這就需要那些政府監(jiān)管力量薄弱或缺失的新興技術行業(yè)通過行業(yè)自律來展現(xiàn)它們的負責任態(tài)度以彌補監(jiān)管漏洞。比如“生物黑客”組織就在合成生物學研究領域做這方面的嘗試。

　　更為基本的問題還在于技術進步對社會、經(jīng)濟和道德的影響。新興技術有望使全世界人民實現(xiàn)長期富足，但同時很多國家還不得不努力解決失業(yè)和不充分就業(yè)的問題。從道德角度來看，利用科學技術增強人類體力和智力的“超人主義”是基本人權(quán)還是少數(shù)有錢人的特權(quán)?會不會加劇社會不平等?

　　另一方面，人類喜歡將機器原型人格化，從而減輕在安全、道德或法律方面的擔憂。而致命性自動武器的研發(fā)則更容易遭到公眾的一致反對。就這些而言，新興技術所產(chǎn)生的社會影響本身就構(gòu)成了重大風險，很難預料它們會對新興技術的使用和未來發(fā)展產(chǎn)生怎樣的影響。