Skyfaring
夜間空拍的野火,火線沿著山坡分裂成數道細長火舌
圖片:Isaac Alich / Pexels
無人機強化學習野火多代理人系統

讓無人機少講一點話,它們圍堵野火的成績反而變好。

通訊完全不設限的那一組,1,000 次測試裡只擋下 26.5% 的火。把交換經驗的距離壓到 10 格,圍堵率升到 41.1%。講得最少的那組贏了。
AI 初稿 / skyfaring 編輯校正發布:2026年8月3日閱讀約 8 分鐘— 次瀏覽
目錄7
  1. 先把火燒得像真的一樣
  2. 每架無人機只看得到身邊的五乘五格
  3. 通訊範圍縮小,圍堵率反而上升。
  4. 四成一是這批模型的最好成績
  5. 無人機學會了滅火,沒學會圍堵。
  6. 多派幾架無人機能補上多少?
  7. 作者自己列出的限制

兩架無人機在燒了一半的森林上空短暫進入彼此的通訊範圍。它們沒有交換影像,沒有回報座標,只各自丟給對方十筆資料:某一步往哪個方向飛、當下量到的溫度、拿到多少獎勵、下一步的處境變成什麼樣。交換完就散開,回到聽不見對方的距離之外。

這一幕只發生在訓練場上。正式執行任務時,這群無人機彼此完全不通訊。

這是英國克蘭菲爾德大學(Cranfield University)四位研究者設計的通訊模型,2026 年 7 月發表在期刊 Drones。他們想問的事很單純:一群各自學習的滅火無人機,讓它們多講一點話,圍堵野火的表現會不會比較好。

實驗跑完,圍堵率最高的那一組,是通訊範圍被限制得最死的那一組。

先把火燒得像真的一樣

多代理人強化學習(MARL)用在野火滅火上已經有一批研究,作者指出既有做法通常踩在兩個簡化上。第一是火勢模型太乾淨,火從起火點向四面均勻擴散,長得像一個逐漸放大的圓。第二是學習架構高度集中,所有無人機共用一份經驗庫、共用一套策略,等於整群其實只有一個大腦在學。這兩個假設讓模擬裡的成績好看,但都很難搬到真實的火場作業條件上。

所以他們先重做環境。森林是一張 100 × 100 的格子,每一格有一個 0 到 1 的植被密度值,密度值先隨機生成,再用標準差 10 的高斯平滑處理過,讓茂密區與稀疏區各自連成片。稀疏區在模擬裡的作用等同天然防火線,火燒到那裡會慢下來,甚至斷開。

每一格有三種狀態:健康、燃燒、燒盡。燃燒中的格子會依機率點燃相鄰的健康格,基礎點燃機率是 0.25 乘上該格的植被密度;燃燒中的格子則以 0.1 的機率轉為燒盡,燒盡後永久退出傳播。

風是這次加進來的新東西。點燃機率被乘上一個跟風向有關的係數,風向與傳播方向的夾角越小,機率被放大得越多,反向則被壓低。風速從實測野火資料推出的常態分布抽樣,平均 5.19 公尺/秒、標準差 2.0,風向在整個圓周上均勻抽取,而且會在單一回合裡小幅飄動。

結果就是文章開頭那張照片的樣子。火不再是一個圓,它沿著風向抽成細長的一條,或整片偏向一側,或碎成好幾道不相連的火頭,也可能在代理人還沒找到它之前就衝到邊界。對強化學習來說,這代表有價值的經驗變得又稀少又難預測:早期策略還是隨機亂飛的階段,無人機撞上活躍火線的機率大幅下降。

每架無人機只看得到身邊的五乘五格

環境變難的同時,研究者把無人機能看到的東西砍掉了一大半。

原本的集中式版本裡,代理人拿得到隊友的精確位置和全域火勢狀態。新版本全部移除,每架無人機的觀測向量只有 42 個數字:以自身為中心的 5 × 5 溫度圖(前一版是 3 × 3)、起火區的初始方向與距離、一個表示附近有沒有隊友的簡單指標、風速與風向、以及自己的格座標和回合進度。

風速風向給了,但驅動火勢傳播的那組權重參數沒給。無人機必須自己從互動裡摸出風跟火怎麼連動。

動作空間刻意留得很簡單,每一步就是往周圍八格之一移動。滅火是自動的,只要燃燒中的格子落在無人機的撲滅半徑內,那一格就被移出火線,不再點燃鄰居。所有無人機在回合開始時隨機部署在環境邊界上。

網路用的是 Dueling DQN。42 個輸入先拆成三條路徑分開處理:溫度圖、位置與火勢資訊、環境變數,處理完再融合成 62 維。這麼做有個具體理由,溫度圖在原始輸入裡佔了 42 個裡的 25 個,不先壓一下會把其他資訊淹掉;經過特徵抽取後,熱資訊在融合層裡佔 62 個裡的 24 個。訓練另外用了優先經驗回放(PER)、Polyak 軟更新與梯度裁切。

獎勵函數有五項:撲滅格子的直接獎勵(每格 3 分,除以無人機數量)、朝高溫方向移動的塑形獎勵、隊友靠太近的分離懲罰、回合前段引導無人機朝起火區前進的暫時獎勵,以及火頭逼近邊界時的懲罰。回合結束時再依火有沒有被擋住,發一筆全隊平分的獎勵或罰則。每步的總獎勵裁在 −5 到 10 之間。

目標本身也重新定義過。作者放棄了「把燒掉的面積壓到最小」,改成「圍堵」,也就是火有沒有燒到環境邊界。理由很實際:在隨機性這麼強的環境裡,燒掉的面積小可能只是因為那場火本來就弱,或風把它吹進了稀疏區,跟無人機做了什麼無關。

通訊範圍縮小,圍堵率反而上升。

每架無人機有自己的 30,000 筆經驗庫、自己的策略網路。要等庫裡累積到 3,000 筆才開始訓練,每次抽 128 筆更新。五架一組,訓練 5,000 回合,每回合大約 200 到 300 步,最長 600 步。探索率從 0.9 在前 1,500 回合內降到 0.02。

各學各的收斂太慢,所以加進 SUPER(Selective Sharing of Valuable Experiences)這套選擇性經驗分享。每筆經驗依時序差分誤差排優先度,誤差大代表「結果跟預期差很多」,這種經驗最值得學。無人機只挑優先度高的少數幾筆送給鄰居,不送整個經驗庫,也不送模型參數。

研究者比較了三種設定。不設限那組,全隊每 10 個回合共享最多 100 筆高價值經驗。另外兩組要求兩架無人機必須落在指定半徑內才能配對,配對成功時各給對方 10 筆,半徑分別是 20 格和 10 格。這些交換全部只發生在訓練期間,執行階段每架無人機只靠自己的局部觀測飛。

三個模型各取訓練期最佳的權重,跑 1,000 個獨立回合測試。

通訊設定 圍堵率 逃逸率
不設限分享 26.5% 73.5%
20 格半徑 33.3% 66.7%
10 格半徑 41.1% 58.9%

訓練期的指標同一個方向。10 格那組的最高滾動平均獎勵是 34.254,20 格 30.508,不設限 28.806。拿到最多資訊的那組,訓練成績最差。

作者給的解釋落在經驗庫的組成上。不設限分享時,某些代理人或某些軌跡會反覆流進全隊的經驗庫,大家最後是在一批高度重複的資料上訓練。半徑限制把交換打散成一次次局部的兩兩相遇,誰跟誰交換取決於當下的空間分布,經驗庫因此保有比較多變化,策略的泛化看起來也比較好。這個解釋沒有另做實驗驗證。

四成一是這批模型的最好成績

把 41.1% 換個講法:最會圍堵的那組模型,1,000 場火裡有 589 場燒到了邊界。

另一個指標是無人機實際撲滅了多少燃燒中的格子。10 格那組平均約 27.0%,20 格約 20.0%,不設限約 17.5%。排序跟圍堵率一致,10 格的模型確實比較願意跟火正面接觸。

但作者接著說明,撲滅得多不等於圍堵策略好。翻進行為紀錄,他們找出兩個反覆出現的失敗模式。

無人機學會了滅火,沒學會圍堵。

第一個模式是追火。

論文附的軌跡圖裡,一架無人機貼著活躍火線一路跟,沿途撲滅了不少格子。追火在獎勵設計下完全合理,撲滅的格子當下就換成分數。但要圍堵,無人機得預判火頭會往哪走,提前繞到前面去封住那個方向,而做對這件事的正向回報只在回合結束時才出現,還要五架平分。每一架的選擇各自都說得通,整隊卻擋不住火。

第二個模式是失去情境感知。

每架無人機只靠身邊 5 × 5 格的溫度圖判斷該往哪飛。一旦飛離火場太遠,那張圖上什麼都沒有,代理人就失去了回頭的線索,開始在沒有滅火價值的區域裡遊蕩。論文那張圖裡,一架無人機脫離火線之後就再也沒有有效地回到火場。作者對此的建議是未來得加上事件觸發的通訊、有限的全域警示或學習得到的訊號機制,讓走失的成員找得回任務,而不必回頭要求全時的完整通訊。

多派幾架無人機能補上多少?

研究者做了兩組消融。

第一組把風拿掉,其餘照 10 格設定重訓。圍堵率從 41.1% 升到 46.9%。風確實讓任務變難,但拿掉之後仍有一半以上的回合失敗,而且沒有風的時候回合會拉得更長,燒掉的面積反而可能更大。環境的隨機性只是限制之一。

第二組把機隊從 5 架加到 7 架、9 架,圍堵率是 41.1%、48.0%、51.0%。空間覆蓋變廣有幫助,但機隊規模將近翻倍,換到的只有十個百分點。作者還補了一句:代理人變多之後,每次分享的經驗筆數也跟著上升,如果交換變得太頻繁、太重複,經驗分享的效果反而會被稀釋掉。

作者自己列出的限制

這篇論文的自我評價寫得很克制。MDPI 要求作者在正文之前列出主要發現。他們的說法是,受通訊限制的選擇性經驗分享改善了學習,但圍堵表現仍然有限,原因是稀疏獎勵、部分可觀測性與協同失敗,而簡化的模擬環境會高估協同表現。

他們坦承的簡化也不少。二維格子沒有地形高程、燃料含水率、局部氣象;風被假設成全域一致;通訊半徑內被當成完全可靠,沒有封包遺失與中斷;無人機被假設定位精準,也沒有電量與滅火劑存量的限制。格子的解析度不對應任何實際地面尺度,飛行高度沒有建模,跟有人駕駛的滅火機隊怎麼共用空域也不在討論範圍。

作者把問題留在獎勵與通訊機制的設計上。前面兩組消融換來的百分點,沒有一項讓無人機離開眼前那道火線,飛到還沒燒起來的地方等著。而圍堵能不能成立,就取決於有沒有無人機肯去等。

分享XFacebookLINE

相關文章