大數(shù)據(jù)要落地需破除三大障礙

　　大數(shù)據(jù)無疑是今年時髦的詞匯了。不管是云計算、社交網(wǎng)絡，還是物聯(lián)網(wǎng)、移動互聯(lián)網(wǎng)和智慧城市，都要與大數(shù)據(jù)扯上關(guān)系。各種與大數(shù)據(jù)有關(guān)的會議、文章、書籍鋪天蓋地。有人談論大數(shù)據(jù)時代的公民生活[1]，也有人談論大數(shù)據(jù)時代網(wǎng)絡反腐[2]。仿佛一夜之間我們就進入了大數(shù)據(jù)時代。

　　大數(shù)據(jù)火爆，引發(fā)思想啟蒙

　　國際上，大數(shù)據(jù)還真是熱火朝天，各方都在積極行動。一方面，政府積極介入推動。2009年，聯(lián)合國啟動“全球脈動計劃”，借大數(shù)據(jù)推動落后地區(qū)發(fā)展。2012年1月，世界經(jīng)濟論壇年會把“大數(shù)據(jù)、大影響”作為重要議題。美國從開放政府數(shù)據(jù)、開展關(guān)鍵技術(shù)研究和推動大數(shù)據(jù)應用三方面布局大數(shù)據(jù)產(chǎn)業(yè)。美國在開放政府上非常積極，通過Data.gov開放37萬個數(shù)據(jù)集，并開放網(wǎng)站的API和源代碼，提供上千個數(shù)據(jù)應用。除了推動推動本國政府數(shù)據(jù)開放，美國倡導發(fā)起全球開放政府數(shù)據(jù)運動, 已有41個國家響應。美國政府還投資兩億美元促進大數(shù)據(jù)核心技術(shù)研究和和應用，把大數(shù)據(jù)放在與集成電路、互聯(lián)網(wǎng)同等重要的位置，從國家層面推進。

　　另一方面，資本市場也對大數(shù)據(jù)鐘愛有加。2012年4月，大數(shù)據(jù)分析公司Splunk高調(diào)IPO，引發(fā)投資者關(guān)注。12月初，為企業(yè)市場提供Hadoop解決方案的創(chuàng)業(yè)公司Cloudera在E輪融資中獲得6500萬美元融資，估值約為7億美元。近期，高盛聯(lián)席主席斯科特·斯坦福說：“投資大數(shù)據(jù)及其運用回報率最高”。大數(shù)據(jù)領(lǐng)域的企業(yè)并購熱度也在上升，單筆平均并購金額方面，大數(shù)據(jù)超過云計算位居IT領(lǐng)域榜首，在總并購額上也位居第二。

　　在各方力量的推動下，大數(shù)據(jù)科研和產(chǎn)品開發(fā)逐漸活躍起來。一個新概念的興起，最初往往會有人快速地“新瓶裝舊酒”。已經(jīng)存在好多年的商業(yè)智能、數(shù)據(jù)倉庫等技術(shù)被重新包裝，以大數(shù)據(jù)系統(tǒng)的面目出現(xiàn)在市場上。這也使人困惑：到底大數(shù)據(jù)與傳統(tǒng)數(shù)據(jù)分析技術(shù)有什么差別？可以說大數(shù)據(jù)最重要的特征是將數(shù)據(jù)處理的對象擴展到互聯(lián)網(wǎng)級別（Internet Scale），技術(shù)上的進展主要包括：1）單數(shù)據(jù)集達到PB級別；2）非結(jié)構(gòu)化占主流；3）幾天至數(shù)秒內(nèi)完成高速處理。技術(shù)形成了批處理、流處理和交互分析三種計算模式：離線批處理（Batch Processing）技術(shù)以MapReduce和Hadoop系統(tǒng)為代表，實時流處理（Stream Processing）技術(shù)以Yahoo的S4系統(tǒng)和Twitter的Storm系統(tǒng)為代表，交互式分析（Interactive Analysis）技術(shù)以谷歌的Dremel系統(tǒng)為代表。

　　大數(shù)據(jù)的火爆，也帶動了國內(nèi)學術(shù)界、產(chǎn)業(yè)界和政府對大數(shù)據(jù)的熱情，但筆者覺得更大意義在于喚醒了人們對數(shù)據(jù)的重視。今年以來，中國計算機學會、中國通信學會先后成立了大數(shù)據(jù)委員會，研究大數(shù)據(jù)中的科學與工程問題，科技部的《中國云科技發(fā)展“十二五”專項規(guī)劃》和工信部的《物聯(lián)網(wǎng)“十二五”發(fā)展規(guī)劃》等都把大數(shù)據(jù)技術(shù)作為一項重點予以支持。這些舉措著眼長遠，短期難以看到效果。但這種熱潮的確觸發(fā)了一場思想啟蒙運動，使得“大數(shù)據(jù)是資產(chǎn)，不是包袱”、“要拿數(shù)據(jù)說話”等觀念逐步深入人心，改變了以往不重視數(shù)據(jù)積累，不相信數(shù)據(jù)分析等認識。有了這種思維模式的改變，大數(shù)據(jù)的應用就有了希望。

　　空談誤國，拒絕被大數(shù)據(jù)忽悠

　　炒作歸炒作，但真正可以落地，或者已經(jīng)落地的應用有哪些？在哪里？聯(lián)合國“全球脈動（Global Pulse）”今年5月發(fā)布的報告，給出了用Twitter預測大米價格、用谷歌趨勢（Google trends）跟蹤登革熱疫情等生動案例；美國中央情報局官員也披露大數(shù)據(jù)在幫助他們追捕恐怖分子方面立下功勞；有人聲稱成功利用Twitter預測了本屆美國大選。這些聽起來很炫的案例在各種場合被人們反復引用。各大咨詢公司和解決方案提供商也都會盡力挖掘大數(shù)據(jù)的應用場景。但實際看到的大規(guī)模應用案例除了互聯(lián)網(wǎng)搜索引擎、電商和社交網(wǎng)站，以及少數(shù)國家的政府網(wǎng)站外，其他領(lǐng)域還并不多見。國內(nèi)應用案例就更是鳳毛麟角了。

　　空泛的炒作時間長了難免令人厭倦。有人開始質(zhì)疑，大數(shù)據(jù)是大價值還是大忽悠？也有人警告說，“大數(shù)據(jù)是機會，但不是所有人的機會”，只有擁有大數(shù)據(jù)的大型企業(yè)和政府機構(gòu)才有應用大數(shù)據(jù)的潛力與機會；“大數(shù)據(jù)的確會有價值，但沒有那么大”[3]，就看你會不會挖掘，是否善于運用數(shù)據(jù)分析的結(jié)果了。只有冷靜分析大數(shù)據(jù)對自身的價值與機遇，才能避免被忽悠。

　　實干興邦，破除大數(shù)據(jù)落地三大障礙

　　應該說，全球來看，對大數(shù)據(jù)認識、研究和應用還都處于初期階段。特別是對我國來說，大數(shù)據(jù)真正落地，還需要邁過三道坎。

　　第一，數(shù)據(jù)是否足夠豐富和開放？豐富的數(shù)據(jù)源是大數(shù)據(jù)產(chǎn)業(yè)發(fā)展的前提。而我國數(shù)字化的數(shù)據(jù)資源總量遠遠低于美歐，每年新增數(shù)據(jù)量僅為美國的7%，歐洲的12%，其中政府和制造業(yè)的數(shù)據(jù)資源積累遠遠落后于國外。就已有有限的數(shù)據(jù)資源來說，還存在標準化、準確性、完整性低，利用價值不高的情況，這大大降低了數(shù)據(jù)的價值。同時，我國政府、企業(yè)和行業(yè)信息化系統(tǒng)建設往往缺少統(tǒng)一規(guī)劃和科學論證，系統(tǒng)之間缺乏統(tǒng)一的標準，形成了眾多 “信息孤島”，而且受行政壟斷和商業(yè)利益所限，數(shù)據(jù)開放程度較低，這給數(shù)據(jù)利用造成極大障礙。制約我國數(shù)據(jù)資源開放和共享的一個重要因素是政策法規(guī)不完善，一方面欠缺推動政府和公共數(shù)據(jù)的政策，另一方面數(shù)據(jù)保護和隱私保護方面的制度不完善抑制了開放的積極性。因此，建立一個良性發(fā)展的數(shù)據(jù)共享生態(tài)系統(tǒng)，是我國大數(shù)據(jù)發(fā)展需要買過去的第一道砍。

　　第二，是否掌握強大的數(shù)據(jù)分析工具？要以低成本和可擴展的方式處理大數(shù)據(jù)，這就需要對整個IT架構(gòu)進行重構(gòu)，開發(fā)先進的軟件平臺和算法。這方面，國外又一次走在我們前面。特別是近年來以開源模式發(fā)展起來的Hadoop等大數(shù)據(jù)處理軟件平臺，及其相關(guān)產(chǎn)業(yè)已經(jīng)在美國初步形成。而我國數(shù)據(jù)處理技術(shù)基礎薄弱，總體上以跟隨為主，難以滿足大數(shù)據(jù)大規(guī)模應用的需求。如果把大數(shù)據(jù)比作石油，那數(shù)據(jù)分析工具就是勘探、鉆井、提煉、加工的技術(shù)。我國必須掌握大數(shù)據(jù)關(guān)鍵技術(shù)，才能將資源轉(zhuǎn)化為價值。應該說，要邁過這道坎，開源技術(shù)為我們提供了很好的基礎。

　　第三，管理理念和運作方式能否適配數(shù)據(jù)化決策？大數(shù)據(jù)開發(fā)的根本目的是以數(shù)據(jù)分析為基礎，幫助人們做出更明智的決策，優(yōu)化企業(yè)和社會運轉(zhuǎn)。哈佛商業(yè)評論說，大數(shù)據(jù)本質(zhì)上是“一場管理革命”。大數(shù)據(jù)時代的決策不能僅憑經(jīng)驗，而真正要“拿數(shù)據(jù)說話”。因此，大數(shù)據(jù)能夠真正發(fā)揮作用，深層次看，還要改善我們的管理模式，需要管理方式和架構(gòu)的與大數(shù)據(jù)技術(shù)工具相適配。這或許是我們最難邁過的一道坎了。