無人機
當一群無人機自己做出攸關任務的安全決定,人類要憑什麼相信它做對了。
一篇 2026 年發表於 Scientific Reports 的研究指出,當一群無人機自己做出攸關任務的安全決定,演算法判斷得對,和人類敢把任務交給它,是兩件不同的事。消融實驗顯示,拿掉解釋功能後系統表現分毫未減,操作員的信任分數卻幾乎腰斬。
2026年6月16日5 分鐘·—
一篇 2026 年發表於 Scientific Reports 的研究指出,當一群無人機自己做出攸關任務的安全決定,演算法判斷得對,和人類敢把任務交給它,是兩件不同的事。消融實驗顯示,拿掉解釋功能後系統表現分毫未減,操作員的信任分數卻幾乎腰斬。
當攻方同時派出的無人機數量超過防守方的瞬時攔截能力,傳統的一對一分配邏輯就垮了。西北工業大學這篇論文的問題是:五十架藍方無人機要如何在沒有指揮官的情況下,自行決定誰去追誰?
來自中國北方自動控制技術研究所的這篇論文,揭示了 AI 無人機群訓練中的一個根本矛盾:越安全的策略,越難完成任務。解法是把兩個本來混在一起的問題分開來解。
一個 AI 系統在 500 次模擬中把無人機群造成的傷害壓低了 22%,不是因為它比規則更聰明,而是因為有人告訴它不要打已死的目標。action masking 這個零成本的設計決策,讓訓練速度快了整整 10 倍。