2018-01-22 17:11:28
來源:
引 言
隨著人類社會發(fā)展步入信息化時代的浪潮,數(shù)據(jù)已經(jīng)成為推動經(jīng)濟社會發(fā)展、科技進步和新軍事變革的重要戰(zhàn)略資源。大數(shù)據(jù)已經(jīng)滲透到人類社會生活的各個領域,也給軍事情報的分析研究工作帶來前所未有的變革和挑戰(zhàn)。
一方面隨著軍事信息化的高速發(fā)展,可以輕而易舉地獲取大量情報數(shù)據(jù),出現(xiàn)了數(shù)據(jù)超載現(xiàn)象;另一方面獲取的數(shù)據(jù)包羅萬象,內(nèi)容繁雜,虛實混雜,真?zhèn)坞y辨,出現(xiàn)了有效情報信息短缺現(xiàn)象。如何從這些超載數(shù)據(jù)中挖掘和提煉出準確、高價值的情報信息,成為了迫切需要解決的問題。
當前隨著新軍事革命進一步深化,世界各國都在尋求占領大數(shù)據(jù)時代的軍事制高點。2012年,美國政府將“大數(shù)據(jù)”提升為最高國策,將對數(shù)據(jù)的占有和控制作為陸權、海權、空權、天權之外的另一種國家核心能力。2013年的“棱鏡門”事件,也展現(xiàn)了美國情報部門在大數(shù)據(jù)采集、處理、分析和應用技術上遠遠領先于世界其他各國。此外,英國、法國、日本、澳大利亞等國家也在開始積極投身于推動大數(shù)據(jù)技術在現(xiàn)代軍事戰(zhàn)爭中的應用。
本文針對大數(shù)據(jù)時代對軍事情報處理工作帶來的變革與挑戰(zhàn),開展了新一代軍事情報分析與服務系統(tǒng)架構的研究和設計,提出了面向大數(shù)據(jù)的軍事領域情報分析與服務系統(tǒng)的通用體系架構和運行模式設計,并對系統(tǒng)架構涉及的關鍵技術進行了深入分析。
1研究背景
1.1 大數(shù)據(jù)概念
大數(shù)據(jù)(Big Data),或稱巨量數(shù)據(jù),是具有規(guī)模龐大、類型多樣、處理時效緊、數(shù)據(jù)來源可靠性低等綜合屬性的數(shù)據(jù)集合。研究機構Gartner指出,大數(shù)據(jù)是需要新處理模式才能具有更強的決策力、洞察發(fā)現(xiàn)力和流程優(yōu)化能力的海量、高增長率和多樣化的信息資產(chǎn)[2]。大數(shù)據(jù)通常具有如下四個“V”的特性[3 -5 ]:
(1) 數(shù)據(jù)規(guī)模龐大(Volume)。數(shù)據(jù)量級已經(jīng)從TB發(fā)展至PB乃至ZB,所需收集、存儲、分發(fā)的數(shù)據(jù)規(guī)模遠超傳統(tǒng)信息管理技術的管理能力。
(2) 數(shù)據(jù)類型多樣化(Variety)。所處理的對象類型繁多,既包括數(shù)字、表格等結構化數(shù)據(jù),也包括網(wǎng)頁、圖片、視頻、圖像與位置等半結構化數(shù)據(jù)和非結構化數(shù)據(jù),數(shù)據(jù)的關聯(lián)度一般較低。
(3) 數(shù)據(jù)處理要求響應速度快(Velocity)。即各類數(shù)據(jù)流、信息流往往高速產(chǎn)生,需要快速、持續(xù)的實時傳輸和處理,大數(shù)據(jù)處理工具亦在快速演進。
(4) 數(shù)據(jù)價值密度低(Value)。大數(shù)據(jù)往往意味著極高的價值,但由于規(guī)模巨大和類型多樣導致數(shù)據(jù)的價值密度很低,因此也增加了價值挖掘的難度。
目前,大數(shù)據(jù)處理相關技術和工具取得了長足的發(fā)展,形成了比較完善的大數(shù)據(jù)處理生態(tài)體系,包括大規(guī)模分布式計算技術、內(nèi)存計算技術、流處理技術等,相應的軟件產(chǎn)品如大數(shù)據(jù)批處理計算框架Hadoop、快速分析框架Spark、流處理框架Storm等,如圖1所示。
?圖1 大數(shù)據(jù)處理相關技術
與傳統(tǒng)的關系數(shù)據(jù)庫和集中式數(shù)據(jù)處理技術相比,Hadoop、Spark和Storm框架能夠有效滿足針對大數(shù)據(jù)的存儲、管理、分析和處理需求,在可伸縮性、健壯性、計算性能和成本上具有無可替代的優(yōu)勢。
1.2 軍事情報分析系統(tǒng)研究
軍事情報分析是指軍事情報機構和人員對搜集和偵察得到的情報材料進行整理、鑒別、綜合和研判的過程,目的是最大限度地揭示情報的價值[6],為戰(zhàn)略決策和作戰(zhàn)指揮提供準確可靠的信息保障。軍事情報分析系統(tǒng)旨在實現(xiàn)情報分析處理過程的自動化操作,為情報機構和人員提供按照作戰(zhàn)需求對各種來源和類型的情報數(shù)據(jù)進行整編、分析和綜合、挖掘和提煉高價值情報信息的工具和手段。與傳統(tǒng)依賴人工實現(xiàn)軍事情報分析不同,現(xiàn)代情報分析系統(tǒng)能夠極大地提高情報分析處理的效率,滿足作戰(zhàn)決策的高時效性要求。情報分析處理過程如圖2所示。
圖2 戰(zhàn)場概念圖與情報分析處理過程
在信息化戰(zhàn)場環(huán)境中,情報數(shù)據(jù)來源不僅包括各類傳感器搜集和偵察獲取的預警偵察信息,也包括基礎戰(zhàn)場環(huán)境信息,以及公開來源的開源情報信息等,涵蓋電文、圖像、視頻、地理地形等數(shù)據(jù)類型,經(jīng)過數(shù)據(jù)篩選、轉換、識別等預處理后得到支撐戰(zhàn)場指揮決策和態(tài)勢感知的情報信息,在根據(jù)作戰(zhàn)任務對情報信息進行綜合、分析和研判等處理后,針對作戰(zhàn)情報保障需求生成目標情報、動向情報和專題情報等類型產(chǎn)品,并根據(jù)訂閱關系分發(fā)給情報用戶[7]。
隨著軍事信息化的進一步發(fā)展,現(xiàn)代高技術戰(zhàn)爭的復雜性和實時性,使得軍事情報分析處理面臨一系列新的挑戰(zhàn):
(1)情報數(shù)據(jù)更加多元化。在情報大數(shù)據(jù)時代,情報來源不僅包括技偵、航偵、諜報等手段獲取的偵察情報信息,也包括實時預警探測獲取的戰(zhàn)場目標和環(huán)境信息,同時還包括互聯(lián)網(wǎng)、媒體等公開的開源情報信息;情報內(nèi)容不僅包括傳統(tǒng)軍事情報內(nèi)容,也包括政治、外交、安全、科技等諸多方面;情報類型既包括結構化數(shù)據(jù),也更多地表現(xiàn)為圖形圖像、視頻音頻、位置等半結構化和非結構化數(shù)據(jù)。
(2)情報價值獲取更加困難。一方面,情報量大大增加,現(xiàn)代戰(zhàn)爭要求在短時間內(nèi)對大量情報數(shù)據(jù)進行有效分析,對分析處理的時效性要求更強,遠遠超過現(xiàn)有技術能力的限度。另一方面,由于敵方大量采用反偵察措施,使情報數(shù)據(jù)虛實混雜、真?zhèn)坞y辨,有效性和可信性大為降低,極大地增加了情報分析的困難[6]。
(3)傳統(tǒng)情報處理和應用模式無法滿足應用需求。隨著戰(zhàn)場空間范圍和維度的不斷擴展,傳感器、作戰(zhàn)目標類型層出不窮,情報信息在來源、時間、空間和內(nèi)容維度上都呈現(xiàn)出廣域分布式的特點。在情報處理模式上,傳統(tǒng)的集中式“處理-分發(fā)”模式無法滿足海量數(shù)據(jù)實時處理和靈敏作戰(zhàn)、快速打擊的需要;在情報應用模式上,傳統(tǒng)“煙囪式”系統(tǒng)間的點對點通信無法滿足網(wǎng)絡信息體系下隨遇接入、按需獲取的服務化應用需求。
綜上所述,現(xiàn)代軍事情報數(shù)據(jù)完全符合大數(shù)據(jù)的特點,使得傳統(tǒng)情報分析已經(jīng)無法滿足現(xiàn)代軍事作戰(zhàn)的需求。因此,如何充分利用大數(shù)據(jù)處理、網(wǎng)絡通信和服務化技術,開展軍事情報分析與服務系統(tǒng)架構的研究和設計工作,為情報機構和情報人員解決廣域分布式環(huán)境下情報數(shù)據(jù)的搜集、處理和應用難題,已成為當前軍事情報分析工作的迫切需求,也是現(xiàn)代軍事變革的一個重要方面。
2基于大數(shù)據(jù)的情報分析與服務系統(tǒng)架構設計
本節(jié)從系統(tǒng)總體架構和系統(tǒng)運行模式方面,對基于大數(shù)據(jù)的軍事情報分析與服務系統(tǒng)架構展開詳細描述。2.1 系統(tǒng)總體架構設計
系統(tǒng)總體架構設計首先需要面向海量異構軍事情報數(shù)據(jù)的分析應用需求,采用大數(shù)據(jù)處理技術,提供面向軍事情報數(shù)據(jù)的搜集、整編分析、綜合處理、情報服務等業(yè)務應用,為戰(zhàn)略決策、作戰(zhàn)指揮提供情報數(shù)據(jù)和服務支撐;其次為解決情報體系多節(jié)點之間的資源共享與協(xié)同應用問題,應充分考慮系統(tǒng)架構的開放性和靈活性,實現(xiàn)數(shù)據(jù)與平臺、平臺與應用之間的松散耦合;最后需要充分遵循或參考相關的軍事系統(tǒng)標準和技術規(guī)范,以實現(xiàn)與現(xiàn)有情報系統(tǒng)的無縫連接,提高現(xiàn)有裝備的利用效率。
基于大數(shù)據(jù)的軍事情報分析與服務系統(tǒng)總體架構可以劃分為六個方面,包括資源層、支撐層、服務層、應用層以及安全保密體系和技術標準規(guī)范,如圖3所示。
圖3 基于大數(shù)據(jù)的軍事情報分析與服務系統(tǒng)總體架構
資源層是整體架構的最底層,提供系統(tǒng)運行的物理支撐環(huán)境,包括基礎設施和數(shù)據(jù)資源兩部分。基礎設施部分為系統(tǒng)構建和運行提供所需的計算、存儲、網(wǎng)絡等基礎硬件資源以及操作系統(tǒng)、應用軟件等基礎軟件資源,并提供資源調度管理、配置管理和狀態(tài)監(jiān)控等功能;數(shù)據(jù)資源部分集系統(tǒng)中各類數(shù)據(jù)資源為一體,提供統(tǒng)一的數(shù)據(jù)資源搜集、整合和邏輯描述能力,主要由軍事情報元數(shù)據(jù)和各類業(yè)務情報數(shù)據(jù)組成。
支撐層是整體架構的基礎層,提供情報大數(shù)據(jù)分析處理和服務化應用的平臺和業(yè)務支撐環(huán)境,包括平臺支撐和應用支撐兩部分。平臺支撐部分為系統(tǒng)構建和運行提供平臺環(huán)境,包括面向服務支撐環(huán)境、SQL/NoSQL數(shù)據(jù)存儲、Hadoop分布式基礎架構、Spark集群計算環(huán)境和Storm流處理環(huán)境。面向服務支撐環(huán)境支持以面向服務的體系架構進行系統(tǒng)開發(fā),SQL/NoSQL數(shù)據(jù)存儲模塊用于支撐海量情報數(shù)據(jù)資源的存儲和管理,Hadoop、Spark和Storm大數(shù)據(jù)處理框架提供了海量大數(shù)據(jù)的分布式并行處理環(huán)境[8]。應用支撐部分為系統(tǒng)的構建和運行提供基礎業(yè)務支撐,為服務層和應用層提供共性功能模塊支持,包括數(shù)據(jù)預處理、圖像分析、報文分析、音頻分析、視頻分析、電磁分析、關聯(lián)挖掘、時序分析、語義分析、知識推理等基礎服務。
服務層依托支撐層提供的信息共享與協(xié)同環(huán)境,在實現(xiàn)特定業(yè)務處理功能的同時,提供各業(yè)務領域的信息服務。服務層包括電磁情報處理、圖像情報處理、文字情報處理、音頻情報處理、信息采集、情報目錄、情報檢索、情報關聯(lián)分析、情報發(fā)布/訂閱、情報質量評估、情報集成共享以及情報歸檔備份等服務,為各項軍事情報分析業(yè)務應用提供共用服務支撐。
應用層以服務層運行的相關業(yè)務服務為基礎,是面向具體業(yè)務應用的實現(xiàn)層,主要用于為人機交互操作提供支持。應用層包括綜合情報應用、專題情報應用、作戰(zhàn)情報應用、情報態(tài)勢應用、情報服務門戶等軟件模塊。
安全保密體系和技術標準規(guī)范貫穿情報分析與服務系統(tǒng)的整體架構設計。安全保密體系從技術和機制的角度確保系統(tǒng)的安全和保密運行,主要包括安全審計、容災備份、加密解密、訪問控制等。技術標準規(guī)范提供了系統(tǒng)中各階段數(shù)據(jù)和使用技術的參考標準,主要包括基礎設施標準、數(shù)據(jù)標準規(guī)范、信息服務標準和通信接口規(guī)范等。
系統(tǒng)總體架構設計采用分層和面向服務思想,通過提供標準化的服務接口、服務組件和服務訪問方式,保證系統(tǒng)架構的開放性和靈活性,實現(xiàn)服務組件在各類業(yè)務應用中的重用;采用成熟的大數(shù)據(jù)處理技術框架構建分布式平臺支撐,采用自然語言理解、圖形圖像分析、數(shù)據(jù)挖掘等技術構建業(yè)務支撐環(huán)境,滿足各類軍事情報分析業(yè)務的需求;通過實現(xiàn)各類情報分析業(yè)務的流程化和組件化,遵循相關的系統(tǒng)接口規(guī)范,充分保證與現(xiàn)有裝備的集成能力。
2.2 運行模式
基于大數(shù)據(jù)的情報分析與服務系統(tǒng)的運行模式如圖4所示。根據(jù)作戰(zhàn)需要,系統(tǒng)動態(tài)引接多種源頭和多種類型的情報數(shù)據(jù),包括預警雷達、偵察衛(wèi)星和航空偵察等多種來源,也包括報文、圖形圖像、視頻、電磁等多種載體類型。根據(jù)情報保障需求,系統(tǒng)分析得到的情報產(chǎn)品按照用戶制定訂閱/分發(fā)關系,自動推送給聯(lián)合指揮所、區(qū)域指揮所、部隊情報用戶、單兵情報用戶以及其他授權用戶等。
按照分布式組織管理、資源統(tǒng)一共享的原則,系統(tǒng)采用分布式運行管理技術,對情報分析任務、計算能力、數(shù)據(jù)資源進行統(tǒng)一管控,依據(jù)情報保障需求實現(xiàn)協(xié)同調度,共同完成情報分析任務。采用面向服務體系架構,系統(tǒng)對核心情報分析功能軟件進行服務化封裝,包括圖像情報分析服務、報文情報分析服務、電磁情報分析服務、開源情報分析服務以及情報數(shù)據(jù)服務等,并依托服務注冊機制進行統(tǒng)一分類管理,形成軟件服務資源目錄,實現(xiàn)情報分析功能在系統(tǒng)內(nèi)各節(jié)點之間的共享。
圖4 基于大數(shù)據(jù)的分布式軍事情報分析與服務系統(tǒng)運行模式
3關鍵技術分析
基于大數(shù)據(jù)的軍事情報分析與服務系統(tǒng)實現(xiàn)的關鍵技術主要包括情報大數(shù)據(jù)計算分析框架、多源異構情報數(shù)據(jù)綜合處理、分布式廣域情報應用服務等。
(1)情報大數(shù)據(jù)計算分析框架技術。面向海量異構情報大數(shù)據(jù)的存儲、管理和分析需求,提供易于開發(fā)和使用的海量數(shù)據(jù)處理平臺,為情報大數(shù)據(jù)的實時、動態(tài)、精準的分析和處理提供支撐。通過采用分布式網(wǎng)絡化架構,實現(xiàn)計算節(jié)點之間的負載均衡和抗毀接替,保障情報分析任務的動態(tài)調配和資源動態(tài)管理。Hadoop+Spark+Storm提供了面向情報大數(shù)據(jù)分析處理的典型框架,利用大規(guī)模廉價機器構建HDFS分布式文件系統(tǒng)提供高吞吐量的情報數(shù)據(jù)存儲和訪問,利用MapReduce并行編程模型提供大規(guī)模情報數(shù)據(jù)的并行運算處理,基于Spark與Storm大數(shù)據(jù)處理引擎實現(xiàn)實時情報數(shù)據(jù)流的快速交互式處理,共同支撐戰(zhàn)場情報高實時、大容量的處理要求。
(2)多源異構情報數(shù)據(jù)綜合處理技術。由于情報數(shù)據(jù)資源存在來源眾多、類型差異較大、內(nèi)容良莠不齊等現(xiàn)象,情報分析存在很大的不確定性。如何從情報大數(shù)據(jù)中去粗取精、去偽存真,是情報大數(shù)據(jù)分析面臨的關鍵挑戰(zhàn)。多源異構情報信息綜合處理根據(jù)情報來源和格式不同開展圖像、文本、視頻、音頻、電磁等多元情報分析,提取情報大數(shù)據(jù)的時間、空間、目標和主題要素,進而通過要素分布特征將不同來源的情報信息相互關聯(lián)、印證,形成多層次、全方位的統(tǒng)一情報態(tài)勢,保障情報分析結果的精準性和有效性。在情報處理模式上,采用云計算的分層服務模式理念,對系統(tǒng)中各節(jié)點計算和存儲資源、各類通用情報分析處理服務進行統(tǒng)一運行管理,通過網(wǎng)絡將松散耦合的情報服務組件進行分布式部署、組合和使用,提高情報處理的實時性。
(3)分布式廣域情報應用服務技術。面向廣域分布式的戰(zhàn)場空間和多樣化的傳感器和作戰(zhàn)目標類型,針對不同作戰(zhàn)任務的情報保障需求,采用面向服務技術靈活定義情報分析處理流程,組織調度部署于各節(jié)點的情報分析服務協(xié)同工作,提供情報數(shù)據(jù)管理和服務應用的統(tǒng)一接口,實現(xiàn)體系化的情報分析能力共享,保證整體處理能力最大化,推動情報處理和服務模式實現(xiàn)由傳統(tǒng)的“任務、處理、利用和分發(fā)”(TPED)模式向現(xiàn)代“任務、發(fā)布、處理和利用”(TPPU)模式的轉變,為廣域分布的各類傳感器和打擊武器提供隨遇接入、按需共享的情報應用服務,滿足海量數(shù)據(jù)實時處理和靈敏作戰(zhàn)、快速打擊的作戰(zhàn)需求。
結 語
大數(shù)據(jù)時代的到來,改變了傳統(tǒng)軍事情報分析的面貌。基于先進大數(shù)據(jù)處理技術和工具,構建現(xiàn)代軍事情報分析與服務系統(tǒng)成為了一種新的解決思路。本文對基于大數(shù)據(jù)的軍事情報分析與服務系統(tǒng)架構進行了初步研究和設計,并對其中部分關鍵技術展開了分析。在探索新軍事變革的今天,立足于大數(shù)據(jù)處理技術解決現(xiàn)代軍事情報分析面臨的四“V”特性,對于提高信息化戰(zhàn)爭情報分析和作戰(zhàn)指揮決策具有重要意義,也是當前軍事情報變革的發(fā)展方向。
【參考文獻】
[1] 惠朝陽, 藍軍. 基于圖式的軍事情報分析[J]. 現(xiàn)代情報, 2009, 29(11):43-45.
[2] 中國企業(yè)評價協(xié)會. 中國電子商務企業(yè)發(fā)展報告(2013)[M]. 中國發(fā)展出版社, 2013.
[3] 張春磊, 楊小牛. 大數(shù)據(jù)分析(BDA)及其在情報領域的應用[J]. 中國電子科學研究院學報, 2013, 8(1):18-22.
[4] 劉智慧, 張泉靈. 大數(shù)據(jù)技術研究綜述[J]. 浙江大學學報(工學版), 2014, 48(6):957-972.
[5] 楊小牛, 楊志邦, 賴蘭劍. 下一代信號情報偵察體系架構:大數(shù)據(jù)概念的應用[J]. 中國電子科學研究院學報, 2013, 8(1):1-7.
[6] 李永波. 基于數(shù)據(jù)挖掘的軍事情報分析系統(tǒng)研究[D]. 重慶大學, 2005.
[7] 蔣盤林. 大數(shù)據(jù)通用處理平臺及其在ISR領域的潛在軍事應用[J]. 通信對抗, 2013, 32(3):1-5.
[8] 李毅, 劉興川, 孫亭. 基于大數(shù)據(jù)的公安情報分析系統(tǒng)研究[C]// 2014中國指揮控制大會. 2014.
作者為中國電子科學研究院專家郭繼光, 黃勝。本篇節(jié)選自論文《基于大數(shù)據(jù)的軍事情報分析與服務系統(tǒng)架構研究》,發(fā)表于《中國電子科學研究院學報》第12卷第4期。