
讓無人機少講一點話,它們圍堵野火的成績反而變好。
通訊完全不設限的那一組,1,000 次測試裡只擋下 26.5% 的火。把交換經驗的距離壓到 10 格,圍堵率升到 41.1%。講得最少的那組贏了。
兩架無人機在燒了一半的森林上空短暫進入彼此的通訊範圍。它們沒有交換影像,沒有回報座標,只各自丟給對方十筆資料:某一步往哪個方向飛、當下量到的溫度、拿到多少獎勵、下一步的處境變成什麼樣。交換完就散開,回到聽不見對方的距離之外。
這一幕只發生在訓練場上。正式執行任務時,這群無人機彼此完全不通訊。
這是英國克蘭菲爾德大學(Cranfield University)四位研究者設計的通訊模型,2026 年 7 月發表在期刊 Drones。他們想問的事很單純:一群各自學習的滅火無人機,讓它們多講一點話,圍堵野火的表現會不會比較好。
實驗跑完,圍堵率最高的那一組,是通訊範圍被限制得最死的那一組。
先把火燒得像真的一樣
多代理人強化學習(MARL)用在野火滅火上已經有一批研究,作者指出既有做法通常踩在兩個簡化上。第一是火勢模型太乾淨,火從起火點向四面均勻擴散,長得像一個逐漸放大的圓。第二是學習架構高度集中,所有無人機共用一份經驗庫、共用一套策略,等於整群其實只有一個大腦在學。這兩個假設讓模擬裡的成績好看,但都很難搬到真實的火場作業條件上。
所以他們先重做環境。森林是一張 100 × 100 的格子,每一格有一個 0 到 1 的植被密度值,密度值先隨機生成,再用標準差 10 的高斯平滑處理過,讓茂密區與稀疏區各自連成片。稀疏區在模擬裡的作用等同天然防火線,火燒到那裡會慢下來,甚至斷開。
每一格有三種狀態:健康、燃燒、燒盡。燃燒中的格子會依機率點燃相鄰的健康格,基礎點燃機率是 0.25 乘上該格的植被密度;燃燒中的格子則以 0.1 的機率轉為燒盡,燒盡後永久退出傳播。
風是這次加進來的新東西。點燃機率被乘上一個跟風向有關的係數,風向與傳播方向的夾角越小,機率被放大得越多,反向則被壓低。風速從實測野火資料推出的常態分布抽樣,平均 5.19 公尺/秒、標準差 2.0,風向在整個圓周上均勻抽取,而且會在單一回合裡小幅飄動。
結果就是文章開頭那張照片的樣子。火不再是一個圓,它沿著風向抽成細長的一條,或整片偏向一側,或碎成好幾道不相連的火頭,也可能在代理人還沒找到它之前就衝到邊界。對強化學習來說,這代表有價值的經驗變得又稀少又難預測:早期策略還是隨機亂飛的階段,無人機撞上活躍火線的機率大幅下降。
每架無人機只看得到身邊的五乘五格
環境變難的同時,研究者把無人機能看到的東西砍掉了一大半。
原本的集中式版本裡,代理人拿得到隊友的精確位置和全域火勢狀態。新版本全部移除,每架無人機的觀測向量只有 42 個數字:以自身為中心的 5 × 5 溫度圖(前一版是 3 × 3)、起火區的初始方向與距離、一個表示附近有沒有隊友的簡單指標、風速與風向、以及自己的格座標和回合進度。
風速風向給了,但驅動火勢傳播的那組權重參數沒給。無人機必須自己從互動裡摸出風跟火怎麼連動。
動作空間刻意留得很簡單,每一步就是往周圍八格之一移動。滅火是自動的,只要燃燒中的格子落在無人機的撲滅半徑內,那一格就被移出火線,不再點燃鄰居。所有無人機在回合開始時隨機部署在環境邊界上。
網路用的是 Dueling DQN。42 個輸入先拆成三條路徑分開處理:溫度圖、位置與火勢資訊、環境變數,處理完再融合成 62 維。這麼做有個具體理由,溫度圖在原始輸入裡佔了 42 個裡的 25 個,不先壓一下會把其他資訊淹掉;經過特徵抽取後,熱資訊在融合層裡佔 62 個裡的 24 個。訓練另外用了優先經驗回放(PER)、Polyak 軟更新與梯度裁切。
獎勵函數有五項:撲滅格子的直接獎勵(每格 3 分,除以無人機數量)、朝高溫方向移動的塑形獎勵、隊友靠太近的分離懲罰、回合前段引導無人機朝起火區前進的暫時獎勵,以及火頭逼近邊界時的懲罰。回合結束時再依火有沒有被擋住,發一筆全隊平分的獎勵或罰則。每步的總獎勵裁在 −5 到 10 之間。
目標本身也重新定義過。作者放棄了「把燒掉的面積壓到最小」,改成「圍堵」,也就是火有沒有燒到環境邊界。理由很實際:在隨機性這麼強的環境裡,燒掉的面積小可能只是因為那場火本來就弱,或風把它吹進了稀疏區,跟無人機做了什麼無關。
通訊範圍縮小,圍堵率反而上升。
每架無人機有自己的 30,000 筆經驗庫、自己的策略網路。要等庫裡累積到 3,000 筆才開始訓練,每次抽 128 筆更新。五架一組,訓練 5,000 回合,每回合大約 200 到 300 步,最長 600 步。探索率從 0.9 在前 1,500 回合內降到 0.02。
各學各的收斂太慢,所以加進 SUPER(Selective Sharing of Valuable Experiences)這套選擇性經驗分享。每筆經驗依時序差分誤差排優先度,誤差大代表「結果跟預期差很多」,這種經驗最值得學。無人機只挑優先度高的少數幾筆送給鄰居,不送整個經驗庫,也不送模型參數。
研究者比較了三種設定。不設限那組,全隊每 10 個回合共享最多 100 筆高價值經驗。另外兩組要求兩架無人機必須落在指定半徑內才能配對,配對成功時各給對方 10 筆,半徑分別是 20 格和 10 格。這些交換全部只發生在訓練期間,執行階段每架無人機只靠自己的局部觀測飛。
三個模型各取訓練期最佳的權重,跑 1,000 個獨立回合測試。
| 通訊設定 | 圍堵率 | 逃逸率 |
|---|---|---|
| 不設限分享 | 26.5% | 73.5% |
| 20 格半徑 | 33.3% | 66.7% |
| 10 格半徑 | 41.1% | 58.9% |
訓練期的指標同一個方向。10 格那組的最高滾動平均獎勵是 34.254,20 格 30.508,不設限 28.806。拿到最多資訊的那組,訓練成績最差。
作者給的解釋落在經驗庫的組成上。不設限分享時,某些代理人或某些軌跡會反覆流進全隊的經驗庫,大家最後是在一批高度重複的資料上訓練。半徑限制把交換打散成一次次局部的兩兩相遇,誰跟誰交換取決於當下的空間分布,經驗庫因此保有比較多變化,策略的泛化看起來也比較好。這個解釋沒有另做實驗驗證。
四成一是這批模型的最好成績
把 41.1% 換個講法:最會圍堵的那組模型,1,000 場火裡有 589 場燒到了邊界。
另一個指標是無人機實際撲滅了多少燃燒中的格子。10 格那組平均約 27.0%,20 格約 20.0%,不設限約 17.5%。排序跟圍堵率一致,10 格的模型確實比較願意跟火正面接觸。
但作者接著說明,撲滅得多不等於圍堵策略好。翻進行為紀錄,他們找出兩個反覆出現的失敗模式。
無人機學會了滅火,沒學會圍堵。
第一個模式是追火。
論文附的軌跡圖裡,一架無人機貼著活躍火線一路跟,沿途撲滅了不少格子。追火在獎勵設計下完全合理,撲滅的格子當下就換成分數。但要圍堵,無人機得預判火頭會往哪走,提前繞到前面去封住那個方向,而做對這件事的正向回報只在回合結束時才出現,還要五架平分。每一架的選擇各自都說得通,整隊卻擋不住火。
第二個模式是失去情境感知。
每架無人機只靠身邊 5 × 5 格的溫度圖判斷該往哪飛。一旦飛離火場太遠,那張圖上什麼都沒有,代理人就失去了回頭的線索,開始在沒有滅火價值的區域裡遊蕩。論文那張圖裡,一架無人機脫離火線之後就再也沒有有效地回到火場。作者對此的建議是未來得加上事件觸發的通訊、有限的全域警示或學習得到的訊號機制,讓走失的成員找得回任務,而不必回頭要求全時的完整通訊。
多派幾架無人機能補上多少?
研究者做了兩組消融。
第一組把風拿掉,其餘照 10 格設定重訓。圍堵率從 41.1% 升到 46.9%。風確實讓任務變難,但拿掉之後仍有一半以上的回合失敗,而且沒有風的時候回合會拉得更長,燒掉的面積反而可能更大。環境的隨機性只是限制之一。
第二組把機隊從 5 架加到 7 架、9 架,圍堵率是 41.1%、48.0%、51.0%。空間覆蓋變廣有幫助,但機隊規模將近翻倍,換到的只有十個百分點。作者還補了一句:代理人變多之後,每次分享的經驗筆數也跟著上升,如果交換變得太頻繁、太重複,經驗分享的效果反而會被稀釋掉。
作者自己列出的限制
這篇論文的自我評價寫得很克制。MDPI 要求作者在正文之前列出主要發現。他們的說法是,受通訊限制的選擇性經驗分享改善了學習,但圍堵表現仍然有限,原因是稀疏獎勵、部分可觀測性與協同失敗,而簡化的模擬環境會高估協同表現。
他們坦承的簡化也不少。二維格子沒有地形高程、燃料含水率、局部氣象;風被假設成全域一致;通訊半徑內被當成完全可靠,沒有封包遺失與中斷;無人機被假設定位精準,也沒有電量與滅火劑存量的限制。格子的解析度不對應任何實際地面尺度,飛行高度沒有建模,跟有人駕駛的滅火機隊怎麼共用空域也不在討論範圍。
作者把問題留在獎勵與通訊機制的設計上。前面兩組消融換來的百分點,沒有一項讓無人機離開眼前那道火線,飛到還沒燒起來的地方等著。而圍堵能不能成立,就取決於有沒有無人機肯去等。
相關文章
一台玩具等級的無人機,已經開始有能力暗殺特定的人。
一台在市面上當玩具賣的 DJI Tello,沒有深度感測器、沒有 GPS、機上算力也很有限。一支羅馬尼亞軍事技術學院的團隊,只用開源模型和一面 3D 列印的斜鏡,就讓它自己找到人、認出臉、沿著地上的線飛。
烏克蘭怎麼讓無人機在看不完的戰場直播裡,記住每一台軍車?
前線上空塞滿偵察無人機,影像多到沒人看得完,畫質又被雲端壓縮得模糊。一支烏克蘭國防部團隊用單幀標注訓練出一套即時追蹤法,讓機器在低幀率的空拍畫面裡,靠著車輛周圍的地景,認出那是不是同一台軍車。
當一群無人機自己做出攸關任務的安全決定,人類要憑什麼相信它做對了。
一篇 2026 年發表於 Scientific Reports 的研究指出,當一群無人機自己做出攸關任務的安全決定,演算法判斷得對,和人類敢把任務交給它,是兩件不同的事。消融實驗顯示,拿掉解釋功能後系統表現分毫未減,操作員的信任分數卻幾乎腰斬。