Next AI campaign—美國DARPA人工智慧科技研發計畫介紹

摘要

美國DARPA在人工智慧 (AI) 科技發展開始之初期即已投入研發資源，AI的兩次技術爆發期，該機構都參與其中。而近年隨著深度學習的突破，DARPA決議擴大對AI技術的投入，包括探索新的AI理論、演算法，以及開發更多的創新性應用，利用AI輔助科學研究或更先進的自主式系統等。本文整理DARPA所推動之AI研究計畫內容，瞭解美國國防部所關心的AI領域研究議題。

一、前言

近年來人工智慧 (Artificial Intelligence, AI) 發展非常迅速，給人們帶來許多意外驚喜。從2016年始各國即擴大對人工智慧的研發投入。在判斷人工智慧技術發展走向上，觀察先進國家主管科技事務部會署所推動的大型研究計畫內容，可以大致瞭解該領域的重點發展方向。本文嘗試透過整理美國國防高等研究計劃署 (Defense Advanced Research Projects Agency, DARPA) 近兩年所推動AI計畫內容，探討目前美國政府推動的AI科技發展方向。

二、DARPA機構簡介

六十年來，DARPA一直扮演美國推動國防科技研發突破的推手。DARPA的成立可追溯自蘇聯在1957年成功發射人造衛星，刺激美國在科技研發投入的決心，遂在國防部轄下成立專責的國防科技推動辦公室。其推動研究成果涵蓋從軍事科技如匿蹤科技、精準武器等到民用的網路、語音辨識、自動翻譯、全球定位系統等。DARPA 並不是一個獨立工作的研究機構，而是透過與美國國內的其他聯邦機構、學術界、產業界合作，打造研發生態環境，補助產學研界各類研究專題計畫。目前DARPA的六個技術辦公室聘僱約200位員工，包含約100位計畫經理人，監督管理約250項研發計畫。經理人制度是DARPA成功關鍵因素，這些計畫經理人通常來自學研、產業及政府的優秀人才，而且是所屬領域表現突出的菁英，在職通常3到5年。而這個期限促使經理人產生足夠的壓力在相對較短的期限取得計畫推動的成功。計畫經理人的工作相當繁重，包含設定計畫方向、計畫里程碑、追蹤管考計畫進度、瞭解研究人員表現等。同時還要瞭解科學與工程領域的下一波重大發展，與領域的學術巨擘溝通，以確定未來的新科技挑戰及可能的潛在解決方案。計畫經理人必須向DARPA的辦公室主任及其代理人報告工作進度。這些主管級的工作主要是制定辦公室的技術指導，僱用計畫經理人和監督計畫執行狀況。計畫經理人同時還得到安全、法律和合約問題、財務，人力資源和通信方面的專家支援。這些專業支援使項目經理能夠在相對較短的任期內完成重大任務。

在機構層級這部份，主任及其副主任扮演核准計畫及審查計畫的角色工作。同時確定機構的優先事務順序及財務平衡。DARPA的成功主要受益於這套特殊的聘僱和替代合約機制，讓DARPA可以迅速抓住機會推動工作有效執行任務。

三、DARPA推動AI計畫行動

從AI發展初期，DARPA就對此技術抱以厚望，對AI的研發投入歷程可謂全程參與。DARPA過去在人工智慧的投入促進了“第一波”基于規則，即所謂的手工構成的知識AI (Handcrafted Knowledge) 和“第二波”基于統計學習的AI技術的發展，其成果包含了知名的專家系統 (Expert System) 和搜索、機器學習演算法等。目前DARPA強化對第三波的人工智慧理論與應用的研發投入，希望能夠解決第一波與第二波的技術侷限及開發全新的AI科技與創新應用。DARPA一年的總預算約30億美元 (約936億台幣)，2018年該機構主任 Steven Walker在DARPA成立60年週年大會上宣布未來將投入約20億美元補助多年期AI研發計畫，將針對以下的研究議題進行作為未來的重點補助方向：

(一)AI新功能開發 (new capabilities)

開發應用在不同的情境中的AI功能，包括詐欺圖像檢測、網路攻擊的即時分析、人類語言技術、多模式自動目標辨識、全域戰線動態絞殺鏈、義肢控制、推動生醫科技進步、軟體作業流程自動認證等。

(二)強大的AI (robust AI)

針對過去AI的失敗案例及模式，進行研發與分析實證以補強AI的弱點。

(三)對抗的AI (adversarial AI)

降低AI系統被人為愚弄的機會，機器學習等AI系統容易被人為所輸入的數據資料所“欺騙”，造成誤判的結果。同時用於訓練AI的資料也可以預先被人為修改或破壞。因此在未來將大量部署AI系統前，針對前述問題提出技術解決方案。

(四)高性能AI (high performance AI)

DARPA在先進的數位處理器展示了AI演算法的模擬處理，具有1,000倍的加速和1,000倍的功率效率的效能；同時也研究AI專用的硬體設計。 DARPA還通過研究如何大幅降低對訓練用標籤數據的需求，來解决機器學習效率低下的問題。

(五)下世代AI (next generation AI)

DARPA開發下一代人工智慧演算法，希望能夠把電腦從工具轉變為人類解決問題的合作夥伴。DARPA的研究旨在使AI系統能夠解釋他們的行為，並且能夠獲取及理解常識知識。

DARPA的AI計畫可以分成三大區塊：包含了對AI探索 (AI Exploration)，正在進行中的AI研發計畫 (Ongoing AI Programs) 以及為AI座談會 (AI Colloquium) 這三類行動 (見圖1)。前兩者都是研究補助計畫，而後者則可視為DARPA為向未來將參與計畫的研發團隊及內部所作的溝通說明會。下文主要針對AI探索與AI進行中的AI計畫作簡要之說明。

(一)AI探索計畫 (AI Exploration)

AI探索型的計畫，其目的是針對新的理念落實在實際應用上，資助高風險、高回報的項目，獲得資助的研究者必須在18個月內確定新概念的可行性。這類計畫對學研界公開招標的主題如下：

1.科學知識自動萃取 (Automating Scientific Knowledge Extraction, ASKE)

主要針對在知識自動化發現、管理、應用的創新基礎與應用研究等主題，進行補助。計畫構想通過者可以得到不超過一百萬美元的補助。

2.基礎人工智慧語言習得 (Grounded Artificial Intelligence Language Acquisition, GAILA)

主要是針對人類語言技術、認知科學以及語言學習等主題。

3.教導AI使用被忽視的殘差 研究 (Teaching AI To Leverage Overlooked Residuals, TAILOR)

利用被忽視的統計殘差值，教導AI利用上下文推理，目的在於使用反事實預測來解釋個體差異，以提高人們干預行動的安全性及有效性。主要可應用在人類績效優化( human performance optimization, HPO) 干預對個人或團體的預測，以製定個人化的干預措施。首先是利用來自多個學科的HPO數據(如生物學、神經科學、生理學、心理學、社會學)。AI將結合上下文推理探索。如果這些數據和AI能够結合在一起，AI將學會利用殘差來推斷，如果對某個特定的個體使用不同的干預或方法，可能會發生什麽，那麽HPO在國家安全方面的能力可能會取得重大進展。主要可應用於軍事任務如近距離致命的戰鬥任務等。

4.AI研究助理 (Artificial Intelligence Research Associate, AIRA)

探索人工智慧研究助理的可行性，主要發展方向為：(1)針對可以協助研究人員發現複雜物理現象的科學定律及控制方法的科學工具，開發新型的演算法和研究方法；(2)對數據過於疏漏、吵雜或是難以建立可預測模型、產生可檢測的假說、識別可緩解因數據資料不足困難的高價值實驗、並量化訓練空間以外的預測可信度。

5.智慧神經介面 (intelligent neural interfaces, INI)

中心和外圍神經介面技術的應用包含了利用神經信號來控制癱瘓肌肉或控制義肢，機器人，飛行模擬器等。這些應用例子中，來自外部的感覺反饋也通過神經刺激傳遞到大腦。這些技術也應用了人工智慧方法，如神經網路、演化演算法、態空間機器學習演算法等。本計畫驗証人工智慧方法與原型，以擴大及改善下世代神經科學的應用空間。研究團隊必須對中樞和/或外圍神經接口解決兩個重要技術挑戰：(1)神經介面的維持與維護決策制定，以提高其強健性及可靠性；(2)設計生物神經電路模型以及極大化其資訊容量，以增加神經介面的頻寬及計算能力。

6.微型仿生強大AI網路 (Microscale Bio-mimetic Robust Artificial Intelligence Networks (μBRAIN))

模仿小型飛行昆蟲的計算能力，在受演化壓力下如何保持規模/大小/降低能耗而不折損性能，探索創新的計算架構與策略。

7.光子邊緣AI緊緻硬體 (Photonic Edge AI Compact Hardware (PEACH))

結合AI處理架構及創新的光電硬體，利用光學訊號的固定速度及多維度處理多樣性，能在顯著降低硬體複雜度的前提下，實現突破性的AI功能。目標是探索將AI硬體複雜性縮減1,000倍的方法，針對新的AI引擎，在處理延遲和功耗方面實現100倍的綜合改進，以便能夠在晶片級上實現未來的國防應用。

8.AI物理學 (The Physics of Artificial Intelligence (PAI))

探索利用AI結合先驗知識(如物理定律)的全新框架及方法知識，以增加對疏漏資訊與數據情況下仍保持穩健的執行能力。

9.應用於複雜軍事決策的串行交互不完全資訊博弈 (Serial Interactions in Imperfect Information Games Applied to Complex Military Decision-Making (SI3-CMD) )

針對AI和博弈論的技術領域提交創新的基礎或應用研究概念。可應用在複雜的軍事决策過程，以改變在多個代理人環境下的資訊不完善情境。

從計畫的數量及類型為DARPA網頁所呈現的資料顯示，這些計畫都是一些短期(18個月)的概念驗証型計畫，可以預期的是這類計畫的變動性非常高，所補助的主題也將是多變的，會依科技發展趨勢及需求而調整，而上述計畫補助金額皆不超過一百萬美元。

(二)進行中的AI計畫 (Ongoing AI Programs)

而進行中的AI計畫則是更為大型及長期性的研發專案，所開發的技術包含人工智慧的基礎研究到新技術開發等。其原始初衷為提高美國國防部的科技能力。但其中許多技術也能軍民共用，為民間科技廠商使用。進行中的研發計畫共涵蓋32項計畫案 (見表1) 。所推動的計畫技術類型繁多，包含了人工智慧基礎研究、自然語言處理、影像辨識及處理技術、自主式系統開發、文本處理等；以及應用研究，譬如怎樣結合人工智慧協助研究人員進行科學研發，或是協助情報國安部門的分析人員進行國家安全、全球情勢研判、網路資訊安全及防禦等；此外也有一些硬體技術的開發，如飛機自動化系統等。從該機構所推動的計畫類型來看，也可以看出目前學研界所關切的人工智慧發展重要發展方向及熱門研究議題所在，例如對深度學習的決策判斷機制為何、以及如何減少機器學習訓練過程中所需的巨量資料數，都是目前AI領域的產學研界關切的課題。

從DARPA官方網頁所蒐集的32項進行中的AI計畫，本研究嘗試依計畫屬性進行初步的分類：基礎研究(basic research)、應用研究(applied research)與先進技術開發(advanced technology development)等三類。由於官網並沒有就各計畫的性質有進行分類，因此本研究是檢視個別的計畫目的及所開發的技術說明進行分類 (見圖2) 。限於篇幅及個人專業知識所限，無法就所有計畫的屬性提出完整的整理分類，僅就幾個代表性的計畫作出說明。

(三)基礎研究類

從基礎研究類別來看，有數項計畫對人工智慧基礎原理及根本進行探索研究，像是可解釋的人工智慧(XAI)、減少標籤數據的機器學習法、機器學習之基礎限制等，都應視為人工智慧的基礎研究，這類計畫探討人工智慧決策的機制與黑箱、減少機器學習所需的資料量、或是瞭解機器學習的限制，從而針對原理的限制進行改進，從而提高人工智慧的效能。

1. 可解釋之人工智慧 (XAI)

機器學習的進步帶來智慧應用洪流，AI技術持續的突破將使得未來的自主化系統能夠感知、學習、決策及自主行動。但是這些高效、迅速、自主的系統受限於無法向使用者解釋說明的決策行為模式，使得人們無法信任的情況下，其發展將會受到限制。因此一種可解釋的新型AI才有可能成為人類未來發展所需的智慧化(intelligent)、自主化(autonomous)、共生(symbiotic)的下世代可信賴機器夥伴。

可解釋的人工智慧計畫目的旨在於創建一套機器學習技術：

• (1)在確保更高度的學習效能下，產生更多可解釋的模型 (精準預測)
• (2)使用戶能夠理解、適當信任和有效管理新一代AI夥伴。

新的機器學習系統將有能力解釋其基本原理、描述其本身優缺點、並對外傳達在未來將如何行為。要實現上述之目標，必須發展出新的或修正的機器學習科技，以產生可解釋的模型。這些模型將結合人機介面技術，轉化為讓使用者可理解及有用的對話。(圖3)

XAI計畫聚焦在發展幾個系統以解決兩個領域的挑戰性問題：(1)對異構多媒體資料中感興趣的事件分類的機器學習問題；(2)打造自主系統以執行各種模擬任務的決策策略的機器學習問題。這兩個領域的挑戰性問題被選擇出來代表分類與強化學習兩種重要的機器學習方法以及和美國國防部兩個重要的操作問題領域 (智慧分析和自主化系統) 的交集。

2. 減少標籤資料的學習法 (LwLL)

監督式機器學習利用大量的實例訓練來辨別事物，如影像及語音等。人類在訓練機器過程中提供大量的標籤資料作為學習實例，有了足夠的標籤資料後，機器才能建立精確的辨識模型。以深度神經網路(DNN)為例，要實現足夠好的辨識效率，DNN模型需要109~1010數量級的標籤數據。雖然目前已有眾包創建 (crowdsourcing) 資料集的方式來解決大量標籤資料困難，但是這種常用的方法在處理一些敏感資料卻存在處理成本上揚及時間耗費高等問題。因此本計畫目標為減少機器學習所需之標籤資料量。

建立模型所需標記數據量減少六個或以上之數量級，並通過減少所需數據量，使培訓機器學習模型過程更加高效。同時使模型適應新環境減少至只需數十至數百個標籤資料即可。為了大幅減少訓練精確模型所需的標記數據，減少標籤資料的學習法計劃將重點關注兩項技術目標：

• (1)開發有效學習與適應的學習演算法；
• (2)正式說明機器學習問題並證明學習與適應之極限。

3. 機器學習之基礎限制 (FunLoL)

近年來機器學習取得重大突破，開發出大量的應用。但目前機器學習社群仍然對特定的領域、問題及資料集缺乏相關的技術折衷與數學限制的理解。目前機器學習缺乏一個基礎的理論架構來說明資料數據、任務、資源與表現評估的關係，這些因素決定了那一類的任務適合於機器、那一類任務不行。

本計畫主要為開發及評估機器學習系統設計能力的方法，並基於透過理解其表現侷限的原理，提供可實行的指導架構。同時也研究機器學習的數學架構，提供可量化與推廣的學習措施，使系統設計具有可驗證的性質。理解這些屬性將有助於描述現有與新機器學習範本的基礎限制，並揭示如何在應用程式中評估執行結果的可信度。

(四)先進技術開發類

而在開發先進技術方面，則是嘗試運用人工智慧的技術，開發出各種泛用型的先進技術，可應用在不同的情境與用途，作為民用，也可以作為軍事用途，例如語音應用，可以作為飛行員控制飛行動作的控制方式，也可以用在聊天機器人上。本文則以CwC、ASIST和DEFT等計畫作為說明案例：

1. 與電腦溝通 (CwC)

與電腦溝通計畫是為實現更有效率的提昇人與機器互動成效。計畫目的讓電腦不僅是指令接收者，而是能與人互動的合作者，機器將能夠理解語言、手勢、臉部表情或其他表達方式與人進行溝通互動。該計畫對溝通的認知為能夠在合作互動的環境下交換複雜的想法，而所謂複雜的想法是由數個較簡單的想法構成，並能透過語言來傳遞溝通。但是人類的語言常因語意含糊造成溝通困難而增加技術實現的難度。本計畫將強化語言並改善語言規範。將開發之具體技術涵蓋：基本思想語料庫、特定語言與語境之基本複雜思想演算法、用於確認於溝通期間做與說之內容演算法。

2. 成功團隊的人工社會智慧 (ASIST)

人類能夠結合已有的知識及所觀察到的現象及背景線索，建構出圍繞環境的豐富心理模型，並且使用這些模型來評估目標、進行思維實驗、預測及更新對情勢之理解。當環境存在他者時，人們習慣使用心智理論 (Theory of Mind, ToM) 的技巧，觀察對方的行為來判斷其精神狀態，並進而預測其未來的行為。當人們組成一個工作團隊時，這個模型就複雜化。高效的團隊能夠很自然地把模型中的關鍵因素整合起來，以創造對環境、設備、團隊和策略的共享心理模型。ToM和創建共享心理模型的能力是人類社會智慧的關鍵要素。這兩種技能構成了人類在所有範圍內合作的基礎，無論環境是一個競技場還是一個軍事任務。目前，人工智慧在此研究領域仍有待開發；本計畫目的為開發基礎AI理論和系統，論證推斷人類合作夥伴的目標和情境知識所需的基本機器社交技能，預測合作夥伴需求，並提供環境感知行動，以讓AI隊友能展示出強大適應性及彈性表現。

本計畫將創造代理 (agent) 來推動“機器人ToM”，透過展示及維護共享模型參與合作團隊。計畫要求打造一個測試平台，使用量身定做的開放世界環境及標準介面來評估代理。介面將包含一組標準感測通道及通訊/行動通道。所設計的代理必須能夠在日益複雜及專業的環境運作，以適應突變狀態的發生，做出複雜的推理和預測論述。

3. 深度探尋與文本過濾 (DEFT)

美國國防部分析與研究人員必須處理大量的文件資訊，而國安單位所關注的國安或防務課題，通常有用的資訊不以顯著形式存在於文件上，而是隱式、間接的呈現。因此能夠提取間接參考文件資料的自動能力將大幅提高分析師處理資料效率。

自動化深度自然語言處理技術可能是一個能夠處理大量文本資料、並且理解文件上下文意義從而找出人們所未曾發現關聯性及隱含資訊的技術解決方案。本計畫運用自然語言處理技術，結合進行中的學術研究，對語言與人工智慧進行深入的理解，以解決機器對文本內容的推理、因果關係、異狀檢測等技能與人類的能力差距。納入前述能力的改進語言技術將可預期對文本內容分析自動化能力是必要的。

本計畫所開發的大量文本資訊處理技術，使機器具備整合個別事件、資訊納入大型領域模型能力，將可對分析人員在評估、規劃、預測及初始階段報告的撰寫，都有很大的幫助。如果本技術開發成功，將使過往分析人員只能有限的線性處理大量數據轉而能對有用的資訊進行更為細緻、策略性的探索。自動化方案所涉及的語言學和計算機科學領域在AI、計算語言學、機器學習、自然語言理解、話語與對話分析等研究主題將產生重大的貢獻。

(五)應用研究類

而在應用研究方面，由於應用主要強調可在真實、特定情境中找出問題的解決方案，應此在定義上相對好確認，本文整理了MediFor、ALIAS和SEE三個計畫分別代表影像作假評估、自動化系統及太空開發等作為說明案例：

1. 媒體取證 (MediFor)

由於數位科技與網路技術的進步，對視頻或圖片做假或是發佈虛假新聞訊息來操弄輿論帶動風向已經不是一個技術門檻非常高的工作。近年許多案例也說明這類虛假新聞對國家安全與穩定所帶來的危害與衝擊。

而目前對圖片及視頻作假的手法很難用目前常用的檢測方法或工具來診斷，需要開發新的技術來協助驗證。

本計畫試圖開發一種能夠自動評估圖像或視頻完整性的技術，同時將這些技術整合到點對點的媒體取證平台上，從而提高數位圖像處理水準。

媒體取證平臺若成功將具備自動檢測操作的能力，提供分析人員這些虛假圖像或視頻是如何修改操作的詳細資訊，以及視覺媒體整體完整性成因，以便對任何可疑圖像或視頻做出判斷分析。

2. 飛機人工駕駛艙自動化系統 (ALIAS)

本計劃利用過去50年來於飛機自動化系統方面取得之進步以及遙控飛機自動化等技術進展，設計可拆卸式插入組件，提高飛機自動化程度以減少機組人員工作負荷，增進任務性能並提高飛機安全性。ALIAS自動化系統將能應付飛行器從起飛到降落的整體任務及系統故障等突發狀況，並對飛行狀況的持續監控與及快速召回飛行程序，以增強飛行安全性。ALIAS使用易於人機互動的觸控及語音介面，並提供平台針對特定任務量身定制整合自主化功能。

3. 太空環境開發 (SEE)

太空環境開發計劃旨在開發新模型與傳感模式，以預測和觀察近地空間環境的動態，探索如何超越磁氣層、電離層、熱層耦合系統的磁流體動力學，描述-包括波/波、波/粒子和粒子/粒子之間相互作用，同時使用GPU與TPU等高性能計算晶片進行計算。同時也探索如何統一太空環境傳感器網絡，以產生共同操作太空環境圖像，及如何開發低成本、非傳統、開發與遠征手段，來觀察近地等離子體動力學現象。另一重要組成部分是了解人工智慧和機器學習如何協助將環境數據應用到模型中，並實際產生合成數據可行性。

本計畫預期將能未來的太空指揮官和操作員提供必要和精確的空間環境態勢感知能力，區分人爲和自然環境的動態擾動變化，以作出相應的太空作戰及戰術决策資訊。

四、結論

DARPA在國防與國安科技的長期投入為美國的軍事科技帶來重要突破，但是DARPA所補助的科技不全然純粹作為軍事用途，許多技術可以轉為民用，譬如今日民眾常用的滑鼠就是在1964年由DARPA所補助的ARPANET計畫下的執行團隊SRI公司的Douglas Engelbart 博士(圖靈獎得主)為了找出對使用者更友善的電腦互動裝置所發明出來。而今天DARPA所投資的各項AI研究計畫，可以看出大部份都有民用價值的共同性技術，可以為民間廠商所用。除了應用型的技術外，DARPA也不吝於投入基礎科學研究，類似可解釋的人工智慧(XAI)或減少標籤資料學習法(LwLL)計畫這類研究專案將能夠改變人工智慧面貌，提高強人工智慧成功的可能性。

DARPA作為美國國防部轄下的科技研發補助機構，設定國防與安全科技的研發專題方向及執行計畫補助等工作。但是從其所補助的計畫技術類型來看，其功能不僅是單純的事務機關，更扮演著推動科技發展起動者角色。對技術後進國家，觀察其所推動計畫類別具有很高的參考價值，可以瞭解某項科技發展的走向，作為本身設定計畫目的及願景的參考依據。

本文嘗試整理DARPA近兩年的AI計畫，唯受到個人領域專業知識所限，只能提供一個簡略的總體性說明，涉及深入的技術描述則難以提供更清晰的說明。文中的DARPA計畫說明可供國內主管科技部門及AI研究人員參考，瞭解該領域部份的科技發展動向，作為未來發展投入選擇的參考依據。