構建未來情報體系—— AI及大數據時代情報分析人員的戰略價值

知遠戰略與防務研究所 沐儉/編譯來自:美國戰略與國際問題研究中心網站
【知遠導讀】本篇推送編輯節選自美國戰略與國際問題研究中心(CSIS)技術與情報專項研究小組撰寫的一篇利用新興科技提高情報分析人員的戰略情報分析能力的文章,原題為The Analytic Edge:Leveraging Emerging Technologies to Transform Intelligence Analysis。本文首先研究瞭將技術集成到情報分析過程中的新方法,然後就將人工智能和其它技術整合到戰略分析中的關鍵障礙和限制進行瞭討論,最後探討瞭在AI及大數據時代,情報分析人員應如何提高自身的戰略價值,並為決策者提供最大化的情報價值,以及構建未來情報體系的意義。

如果美國現在投資於技術轉型,2030年的情報分析人員將會以難以置信甚至同情、憐憫的眼光來回看2020年的同行們。憑借世界領先的人工智能、前沿數據分析和無限的雲計算能力,未來的分析員將能夠幾乎持續地掌握他們的目標作戰環境。從開源情報到高度機密情報的一切信息領域,他們都將能快速地在所有信息范圍內挖掘、融合、可視化和使用高質量數據。他們將能迅速向政策制定者提供高水平的、具有豐富數據的建議。對於前輩們采用的權宜分析技術,以及過時的“讀、寫、想”的分析過程,未來分析員們或許會聳聳肩,認為這都是過去時代的遺風,與大數據時代的速度和規模毫不相容。然而,2020年的情報分析人員們既沒有時間,也沒有興趣去考慮這種幻想出來的未來情境。隨著數據量呈指數級增加,他們處理數據的能力也會略有增長。他們的監視器充滿瞭多條情報排列、使用孤立的共享驅動器、手動管理的電子表格和數據庫以及錯誤百出的kmz文件,沒有接口來合成數據。他們被提供給他們的眾多“新工具”和“人工智能解決方案”搞得手足無措,對它們的實用性和戰略分析可用性感到失望。在客戶的要求和時間安排不間斷的情況下,分析員們會默認使用他們慣用的那一小套可信賴的孤立信息來源和經過時間考驗的情報技術來收集信息,並提供一份“足夠好”的、或多或少準時的情報產品。雖然目前的情景不像上述的那樣黯淡,未來可能也不像上面說的那樣光明,但情報部門的分析員們在2020年確實完全滯後於技術水平曲線。數據和顛覆性技術的爆炸式增長,新的全球威脅的快速演變和出現,以及政策制定者決策周期的加快,很可能會顛覆情報分析過程。情報部門如何快速地將先進技術集成到全源情報分析中,將對其在未來情報環境中的競爭能力以及提供及時、準確和相關的分析產品非常重要。在對未來的情報分析員進行展望和塑造的同時,情報部門能夠而且必須利用新興技術來增強分析人員的能力。新技術在情報分析工作中的局限性對於分析人員而言,雖然人工智能和相關技術所帶來的優勢可能是巨大的,但情報部門在將這些工具應用到全源分析方面則面臨著一些關鍵的障礙和限制。研究小組在第一階段確定的技術獲取、數字基礎設施和數據架構的廣泛挑戰阻礙瞭情報收集和處理任務,這也將影響到情報分析任務。但結構性障礙既不是唯一的障礙,通常也不是主要障礙。阻礙采用新興技術進行分析的主要原因是技術在滿足分析人員的情報和可解釋性標準方面的自身局限性,以及分析人員和機構對其傳統情報和分析方法的文化和制度偏好。數據獲取和融合準確而有洞察力的人工智能應用需要捕獲、整理和管理一定的數據。用於分析的潛在相關情報和數據的絕對數量可能超過瞭技術能力很強的分析員的處理、過濾和吸收能力。數據集標準化和融合所面臨的挑戰將進一步使數據的利用復雜化,這些數據集既有通過密悉方式獲取的,也有從公開來源收集的。跟上數據發展步伐情報部門融合情報和數據處理工具的速度和規模必須要跟上情報和數據不斷增加的數量和多樣化的步伐。即使人工智能實現瞭優化和精簡,傳感器、情報流和開源情報數據的激增(5G網和物聯網設備加速瞭這一進程)仍然會使分析人員的處理能力不堪重負。無法捕獲和分析實時數據將使情報部門分析員在向決策者提供態勢感知方面落後於標準曲線。數據融合對於分析員來說,最好的人工智能應用程序將能同時利用密悉和開源情報數據來訓練算法並獲得見解,但不兼容的架構和安全壁壘可能會阻礙“低端”與“高端”數據的融合。與數據一樣,機器學習算法和開源模型在移植到機密系統和集成到分析工作流時也可能面臨類似的障礙。數據標簽最好的人工智能應用程序也需要大量的數據,而這些數據又需要大量的標簽和標記——這是一項冗長、耗時且主要是由人工來完成的任務1。與私營部門可以眾包並雇傭“零工經濟”標簽者不同的是,情報部門的機密數據集需要在內部進行標記,而且大部分工作是由分析人員手動完成。雖然在短期內完成這些工作並非不可能,但隨著數據繼續呈指數級增長,手工標簽和標記將不堪重負2。算法的限制分析依賴於嚴謹的情報技術和對用於得出結論的邏輯、證據、假設和推論的清晰解釋/推理。戰略分析的復雜性,透明度及情報保障的標準和要求,以及建模分析過程和功能的內在挑戰,將對目前人工智能分析工作流程的使用產生理論和實踐的限制。 戰略分析建模復雜的情報技術和戰略分析認知技能天生就難以定義、標準化和復制,因此也難以建模,從而給人工智能應用帶來瞭實際限制。將新情報的含意置於環境中並加以識別,權衡並連接數據以形成情報圖,將情報根據邏輯組織起來並有說服力地進行論證和評估——這一分析過程融合瞭藝術與科學、標準化情報技術應用和情報研究員的靈性與悟性,以及從硬數據、演繹推理、文化專長和長期磨練出的分析直覺裡得出的判斷。如果分析任務不能實現數字化,那麼應用人工智能的能力將會受到限制3。偏差人工智能中生成見解需要分析人員幫助塑造、完善和引導算法與模型,但分析人員在對情報問題進行概念化、設計模型和選擇輸入數據的方式上會存在偏差,從而導致有偏差的、可能不準確的結果。數據中固有偏差的透明度、模型的使用方式以及它們對結論和信心水平的影響將是至關重要的,但客戶可能不容易理解4。可解釋性為瞭應用人工智能得出的結果,分析人員需要瞭解產生這些結果的算法和模型的邏輯、偏差、假設和推論——這些可能是可知的,也可能是不可知的。許多最復雜的人工智能應用程序和機器見解都源自“黑箱”算法,在這些算法中,機器邏輯和流程很難定義(如果不是不可能的話)。缺乏證據鏈的透明度,在哪裡和如何使用人工智能,以及有效性條件等意味著機器得出的結論或將是不可信和不可用的5。真實性分析人員必須不斷評估情報的質量、準確性和相關性,同時學習如何衡量一個曾經被視為理所當然的新因素:真實性。通過欺騙算法來使數據誤分類的技術,以及利用生成性敵對網絡6來對密悉和開源數據進行深度偽造的技術,可能會對分析人員造成混淆,從而導致分析失誤和政策決策錯誤7。隨著對手變得越來越善於篡改數據,並以更快的速度和規模發動有針對性的虛假信息欺騙行動,確保數據和情報的真實性隻會變得更加困難。安全性分析人員還將面臨來自敵對國情報機構咄咄逼人的、有針對性的人工智能對抗行動,這些情報機構旨在滲透和破壞人工智能系統,並由此影響分析人員對人工智能工具和結果的信心。匆忙采用人工智能可能會以嚴格的人工智能安全標準、協議和測試要求為代價,給一系列“反人工智能”威脅帶來漏洞,這些威脅包括註入到人工智能模型內的“有毒”數據,以及被完全入侵和操縱的系統8。即使對手無法獲得如此級別的訪問權限,讓分析人員相信他們的人工智能系統已經受損、無法使用,也可以達到同樣的效果9。在分析上厭惡改革盡管技術上的障礙是巨大而真實的,但人工智能應用的最大障礙或許是分析員自己。在情報分析領域,根深蒂固的是機構、官僚和文化上的偏好,以及對他們認為是全球黃金標準的久經考驗的情報術和技能的偏愛。對數字智慧的投資不足、人工智能和開源情報任務價值的不確定性,以及對風險和變化的文化厭惡,可能會阻礙最具創新能力的分析人員和部門將新興技術融入到他們的任務中。數字素養分析人員需要具備基本的數字技能,以便在分析中有效地利用人工智能和分析工具,並向甚至不太精通數字技術的政策客戶解釋由人工智能得出的見解。要發展這些技能,分析人員不僅需要受到專業培訓,而且還需要得到領導和管理層的支持。然而,機構領導人需要在對數字技能的投資與傳統的情報技術、語言和其它區域性培訓之間取得平衡,這些也將對情報部門的分析能力至關重要。官僚主義障礙人工智能投資需要多年的承諾來貫徹實施和整合,需要社會資本的管理支出來獲得機構支持,還需要領導層對風險和偶爾失敗的接受。然而,中高層管理人員往往隻會在他們的職位上呆2-3年,他們可能不願意把自己已經緊張的時間和資源花在任務回報不確定且有失敗風險的新技術上,特別是如果他們的情報部門領導人和監督機構不鼓勵這種冒險的話。任務價值如果分析人員和管理人員沒有從技術中看到明確和實質性的“任務收益”,那麼培訓、激勵和領導支持可能仍然不足以激發采納技術的熱情。見解和生產力的邊際收益可能無法證明獲得人工智能和分析能力所需要的時間、費用和機會成本。分析員也可能被提供瞭太多的技術工具,以至於看不到任何工具的價值,特別是那些沒有專門設計和定制以滿足其獨特分析需求的工具。對傳統情報技術有信心和信任的分析人員,更有可能放棄,不采用其自身不能適應的新技術。對非傳統方法的信任利用人工智能能力需要將開源情報作為重要的分析來源,並學習如何獲得對機器導出結果的信任。阻礙新技術的采用是情報部門對構成判斷的密悉報告的偏好,對開源情報作為診斷數據的懷疑(這種懷疑隻會隨著深度偽造和虛假而增加),對人工智能安全的擔憂,以及對經過時間考驗的情報技術而非黑箱程序的信任。對密悉報告的偏愛或許是無可厚非的,因為一個信號情報的截獲或人力情報來源可能是唯一的辨別計劃和意圖的方式。然而,在等待密悉信息被收集和處理的同時,忽略瞭及時、實用的開源情報見解,將會使分析人員滯後於決策者的信息需求和決策周期。新技術時代專業情報分析人員的戰略價值很明顯,在權衡其優勢和局限性時,人工智能、雲計算和高級分析等新興技術可以通過自動化來完成關鍵分析任務,為分析員創造更多的戰略帶寬。但是技術為分析本身創造的價值是什麼呢? 高水準的分析必須為決策者解答復雜的問題(例如,一個盟友和敵對勢力之間的沖突前景如何? X國的大規模抗議會不會演變成內戰)?要回答這些問題就需要回答一系列相互關聯的子問題,這些子問題必須聯接成一個連貫的分析故事,即:發生瞭什麼,為什麼,它的影響,它的前景,以及對美國的利益有哪些影響。那麼,新技術在哪些方面最有助於解決這些問題呢?技術的直接價值在於能解決如何捕捉、整理、關聯和理解海量的情報和數據流等問題,這些數據與分析員所在的國傢、問題或所關心的目標有關。技術還可以幫助分析人員評估影響——探測和衡量問題或行為者對作戰環境的影響。人工智能和相關技術的滯後回答瞭原因。理解外國行為者的驅動因素、意圖和動機,以及塑造他們行為的歷史、背景和個性,這些主要屬於人類學專傢的領域。隨著人工智能技術的進步,它可能會越來越有能力確定這些驅動因素,從而幫助預測問題的發展前景。但目前,解釋情報對美國決策者的影響,仍將是人類分析員的獨特優勢。雖然新興技術將為情報部門的分析提供巨大價值,但在未來幾年將出現另一個問題:情報部門的分析本身對美國政策的價值到底有多大? 盡管情報部門仍將享有許多優勢,如在密悉情報收集方面,但高質量的開源情報、可從商業渠道獲得的地理空間情報和信號情報以及數據分析的結合將使情報分析競爭變得更加激烈。任何受過訓練和裝備精良的組織都將能夠以更快的速度和更低的成本對當前事件進行全源分析,其質量可與情報部門的分析員相媲美。在未來越來越普遍的傳感器和持續感知的信息環境中,商業部門更快的技術采用率和開源情報的優越設施可以使其在評估快速變化的全球事件方面比情報部門更具優勢。在向美國決策者提供有關未來幾年的威脅和事件的情報方面,情報分析人員的競爭優勢可能會減弱。但是,由於情報部門的目標是將自己與開源情報區分,它對美國政策的價值將不會來自於一個稍好一點的“美國有線新聞網” 的時事分析。雖然情報部門可以而且必須提供及時的分析,以保持與政策制定者的相關性,但情報部門的優勢仍應是其經驗豐富的分析人員的專業知識,以及他們能單獨為政策制定者提供的分析,即他們應對全球事件的起因、前景以及對美國利益的影響和新出現的威脅有著獨特和無與倫比的洞察力。當然,新技術仍將非常重要。一個掌握瞭人工智能和開源情報技能的情報部門分析員,能夠快速瞭解正在發生的事情,瞭解秘密情報和歷史背景,瞭解其中的原因,能對全球威脅、未來情景及其對美國政策的影響提供獨到的見解。新興技術、人類學專業知識和情報技術的結合,將使情報部門的分析人員處於獨特的位置,可以解答決策者在未來幾年可能提出的各種棘手的、通常以技術為導向的問題,比如:哪些是新的?隨著美國的競爭對手越來越多地采用非常規的、間接的、秘密的手段來獲得戰略優勢,分析員必須要能發現政治、準軍事、信息和經濟領域中新的、逐漸增加的“灰色地帶”活動10。具備人工智能信號探測、模式發現和可視化工具以及敵方戰略、戰役和作戰原則方面的專業知識的分析人員將處於最佳位置,能發現新的行動,辨別作戰環境中逐漸增加的但有意義的變化,為美國政策制定者提供早期預警,降低戰略意外風險。哪些是真的?隨著外國虛假信息和影響活動的加速(其速度越來越快、規模越來越大、越來越復雜且看起來似乎更像真的),美國決策者將需要情報部門來協助區分“真實與虛構”。分析員將需要具備人工智能能力,比如在生成式對抗網絡中檢測合成的、不真實的深度造假,以及情緒分析,以衡量影響行動的因素。具有基本技術技能和國傢專業知識的分析員將非常適合評估對手的信息戰戰略和潛在的未來行動。未來怎麼做?預期戰略情報不是預測具體的威脅,而是設想和正確評估潛在事件和敵對行動的可能性。基於人工智能的建模、戰爭推演和場景分析,可以幫助分析人員辨別和發現潛在的行動過程,預測敵決策點,以及在低概率但對美國利益影響很大的情況發生之前,發現它們的種種跡象。為當前及未來的情報分析人員賦能情報部門在戰略分析中整合和利用創新技術的能力,對於產生和維持決策者的決策優勢,以對抗日益復雜的敵人和競爭對手是至關重要的。為瞭保持分析優勢,情報部門必須同時開始設想、規劃和投資未來分析任務,並迅速在今天的情報技術中采納和吸收新興技術。將當前和未來分析需求連接在一起的將是情報分析人員自己。由於招聘名額有限、培養時間長、人員流動性低、保留率高,所以情報部門的員工不容易被具有新技術的人才所取代11。的確,正如前中央情報局首席學習官約瑟夫·加廷(Joseph Gartin)所斷言的,“未來的勞動力已經在這裡瞭”,2020年的分析人員或將成為今後的領導者、管理者,對於許多人來說,到2030年他們仍然將是分析員。情報部門領導層和重要的利益攸關方——決策者、國會、技術和研究部門——必須為這些分析人員提供技術和培訓,使他們能在今天茁壯成長的同時,為未來的成功奠定數字基礎、制度優勢和文化規范。那麼,當前應怎麼做?利用開源情報在提供信息和推動分析判斷方面,以及在一個大數據時代中的戰略必要性方面,情報部門都必須將開源情報同傳統的密悉情報一道,重新定義為一種基礎情報。此外,開源情報不僅可以作為密悉情報評估的重要參考信息,而且其本身也可以作為一項分析任務。高質量的開源情報、商用地理空間情報和信號情報的結合意味著所有來源的情報分析現在都可以在非機密級別上進行。與其將其視為競爭,情報部門還不如將“成品開源情報”視為一個機會,以擴大情報的覆蓋范圍並對新客戶和利益相關者產生影響,這些新客戶和利益相關者可能會重視情報部門的情報技術和通過非機密手段獲得的見解,包括國內執法、外國政府、科技和工業領域以及廣大的美國公眾。重視科技情報有關外國人工智能系統和科技能力、計劃和意圖的情報也必須作為一個基礎情報任務來考慮,並進行收集和分析,這對於未來情報部門任務的規劃和資源至關重要。情報部門要能瞭解和預測新興技術——特別是人工智能、生物技術和量子計算——以及它們在外交政策、經濟競爭力、軍事和情報行動領域的應用。要做到這一點,既需要秘密收集對手的技術能力和應用,也需要關於外國科技創新(包括專利、合作夥伴關系、收購和擴張)的來源正規的開源情報。分析人員需要更多的技術和戰術知識來瞭解國外的人工智能系統,以及他們自己的人工智能收集、定位和獲取數據的能力和局限性。整合技術情報分析人員需要在數據科學和人工智能方面發展出某種程度的數字智慧,但是,與真正的技術專傢合作,如數據科學傢、機器學習工程師和產品設計師,則可以釋放出人工智能分析的真正潛力。將數據科學傢納入到分析部門中,將有助於數據科學傢理解和分析問題集,幫助分析人員理解相關的人工智能,聯合構建和定制模型,將正確的工具應用到正確的數據集上,並產生出有意義的結果12。機器學習工程師和產品設計師要接觸分析員的最終用戶,以瞭解如何設計、構建和調整軟件、工具和接口,以適應分析人員的獨特要求。擴散零星的成就在為全系統范圍內的技術采納創建數字基礎設施和制度化激勵措施的同時,情報部門領導層還應授權個人主管和任務中心去獲取、試驗和采用適合他們獨特任務需要的分析工具。某些分析任務,特別是像反恐這樣更側重於實用情報的任務,將更適合利用人工智能/機器學習。但是情報部門的領導者應該確定技術轉型單位的屬性、規范和最佳實踐,並尋求傳播經驗教訓,以在整個部門激勵創造性方法。教育政策制定者情報分析的價值最終源於產品對政策客戶的影響,以及客戶對其分析質量、清晰度和解釋其判斷的透明度的信任。隨著情報部門將人工智能和數據分析整合到其產品中,分析人員必須要能清楚而令人信服地向決策者解釋這些技術是如何應用的,它們在形成評估中的相對權重,以及它們對關鍵判斷的信心水平的影響。分析員要成為人工智能和分析應用的教育者,並學會與基於人工智能分析做出關鍵政策和行動決策的戰略領導者建立信任。在充實和推動分析判斷方面,在大數據時代的戰略必要性方面,情報部門必須同傳統的密悉情報一樣,將開源情報重新定義為基礎情報。 【1】U.S.technology and cloud-provider firm research interview.【2】U.S.technology and analytics firm research interview.【3】Paul R. Dougherty and H. James Wilson, Human + Machine: Reimagining Work in the Ageof AI (Cambridge, MA: Harvard Business Review Press, 2018),【4】Joseph Gartin, “Thinking About theIC’s Talent Management Issues in an AI/ML Environment,” Elevated Debate, July8, 2020, https://elevateddebate.com/thinking-about-the-ics-talent-management-issuesin-an-ai-ml-environment/.【5】Congressional Research Service,Artificial Intelligence and National Security (Washington, D.C.: CRS); PatrickTucker, “What the CIA’s Tech Director Wants from AI,” Defense One, September 6,2017, https://www.defenseone.com/technology/2017/09/cia-technology-director-artificial-intelligence/140801/.【6】“Two neural networks are trained in tandem: one is designed to be a generative network (the forger) and the other a discriminative network (the forgerydetector). The objective is for each to train and better itself off the other,reducing the need for big labeled training data.” See National Security Commission on Artificial Intelligence, Interim Report.【7】ODNI,The AIM Initiative; CRS, Artificial Intelligence and National Security; ErikLin-Greenberg, “Allies and Artificial Intelligence,” Texas National Security Review 3, no. 2 (Spring 2020): 56-76.【8】U.S.AI security software and analytics firm research interview, interview by CSIS Intelligence and Technology Task Force, July 2020.【9】同上。【10】For more analysis on competition in the “grayzone,” see the CSIS Gray Zone Project at https://www.csis.org/grayzone.【11】Gartin,“Thinking About the IC’s Talent Management Issues.”【12】U.S.technology and analytics firm research interview.


未來智能實驗室的主要工作包括:建立AI智能系統智商評測體系,開展世界人工智能智商評測;開展互聯網(城市)雲腦研究計劃,構建互聯網(城市)雲腦技術和企業圖譜,為提升企業,行業與城市的智能水平服務。


  如果您對實驗室的研究感興趣,歡迎加入未來智能實驗室線上平臺。掃描以下二維碼或點擊本文左下角“閱讀原文”