不圓 發自 凹非寺
量子位 | 公眾號 QbitAI

一條人形機器人發瘋的視頻在網上火了，視頻中快遞盒子亂飛，場面一度十分抓馬。

研究人員：希望是一場幻覺。

視頻中“發瘋”的機器人是今年機器人格斗的美國冠軍DeREK（原型為宇樹機器人G1），而抱著頭的這位，是該機器人團隊REKrobot的CEO兼機器人格斗手Cix。

看看他們在贏得比賽時意氣風發的樣子，估計也想象不到會發生這樣的事。

關于DeREK“發瘋”的技術原因，Cix是這樣解釋的：我們啟用了全身策略，但機器人的雙腳沒有接觸地面。

簡單地說，被吊起來的人形機器人進入了“行走模式”，但沒有識別到腳下的路，才導致了這次失控。

不過，網友們關心的顯然是另一方面：為什么要離那么近才能摁停止按鈕？它需要一個遠程無線的緊急制動！

更詳細的解釋

網友們關心的遠程緊急制動其實是存在的——只是不管用而已。

為什么會不管用？Cix沒有說出原因，但詳細解釋了整個過程：

DeREK的最初政策設計上不該出現這種情況，文檔里也寫明懸掛狀態下可運行。

問題在于最終狀態自動恢復成了行走模式。

通過網絡代碼強制終止未果，他們配發的無線電急停裝置現在需要5秒才能生效。

最后直到以太網電纜松脫，系統才真正停止。

而5秒，對于緊急制動來說，可是會要命的。

然而，雖然Cix自己沒找到原因，有網友對這件事情作出了深刻的思考，回答了以下幾個問題：

1、為什么無法關機或移除電池？

電池從機器人身體的側面安裝，位于機械臂后面，在機器人失去控制時，靠近這個區域將極其危險。

并且，電池固定在身體上，關閉它需要按住電源按鈕兩秒鐘，即使從安全距離用棍子操作也難以實現。

此外，電池本身的BMS按鈕可能僅由一款通用微控制器驅動，其軟件設計僅滿足基礎功能需求，并非用于緊急停止（E-Stop）。它很可能缺乏嚴格的安全設計，容易導致以下問題：按鈕失靈、物理損壞或軟件故障，從而在緊急情況下無法切斷電池電源。

2、為什么不能自己對抗機器人？

機器人的電機非常強勁。如果有所準備，或許能強行停住一個電機，但肯定沒法同時停住多個。每個電機的扭矩高達120至160牛米，比全速運轉的大功率3類電動自行車還要強。而且，越靠近電機軸心，扭矩越大。

一旦電機全力運轉時，肢體被夾在機身和機械臂的關節處，可能會造成極其嚴重的傷害——如果再加上慣性沖擊，這股力量足以切斷手指，甚至傷及骨頭。

3、為什么不能通過其他方式切斷電源？

由于電機慣性和高制動力，在失控操作期間，電機可能會將電能反送到總線。

如果拔掉電源，或BMS上的充電保護觸發，由于電池無法吸收的過電壓，所有電機和計算機電源可能會永久損壞。希望為電池添加硬件切斷的用戶應該了解這一風險。

DeREK的緊急制動系統搭載了一臺基于Rockchip RK3588 CPU的ARM Linux電腦（未經過可靠性或實時性評估），并可選配NVIDIA Jetson模塊。這些計算機由電池電源通過轉換器供電，且需要一定時間啟動。如果計算機系統斷電，將導致所有控制功能失效（具體行為取決于執行器在通信中斷時的預設策略）。

機器人的核心控制始終由Rockchip處理器和宇樹科技（Unitree）的閉源軟件掌控。在EDU版本中，用戶可以通過外部計算機或NVIDIA Jetson向Rockchip系統發送自定義指令——該系統應該內置了 RS485 協議轉換器，用于與電機通信。

但用戶無法獲得Rockchip系統的root訪問權限或更改其上運行的軟件。

4、為什么不能在計算機上實現緊急制動？

如果發生軟件故障，在計算機上實現的任何緊急停止程序可能會被無意中忽略。

從通信方式的角度來講，DeREK似乎通過配套遙控器使用Wi-Fi和/或藍牙進行控制。但必須指出，這兩種通信方式完全不適合用于安全關鍵控制系統——信號干擾極易導致失控。

舉個簡單例子：筆記本電腦的USB 3.0接口都會因干擾而影響2.4GHz無線鼠標的性能，更何況是復雜的機器人控制系統？

問題在于，急停（E-Stop）、進入阻尼模式以及退出開發者模式等關鍵操作，都需通過無線遙控器來完成。令人擔憂的是，當無線信號中斷時，系統將如何響應目前尚不明確。

5、為什么不能編程，讓它斷開控制器時關閉？

若通信中斷觸發急停，機器人很可能會突然關機并隨機傾倒，考慮到其自重，這本身就是安全隱患。并且，在系統完全停止前，很可能存在一段失控時間窗口，期間機器人可能出現異常動作。

如果控制器斷開連接，操作者將失去對機器人的所有控制，包括啟用或禁用任何安全功能或錯誤代碼。

在開發者模式下，開發者需對發送給機器人的所有指令承擔全責，直至Rockchip系統收到退出開發者模式的指令。開發者必須自行建立網絡通信，最關鍵的是，必須制定通信中斷時的安全協議。

雖然不清楚本次事件中DeREK的具體設置，但據稱該協議不會因通信中斷而觸發停機。

6、為什么不能通過軟件限制電機可用的力來降低這種風險？

簡單地說，機器人在正常運作時需要執行器提供全力輸出才能保持平衡。如果限制峰值力量輸出，機器人將喪失行走能力。

想想當你在艱難徒步中過度使用肌肉時的情形：隨著肌肉疲勞導致可用峰值力量下降，你可能會因失去平衡余量而意外跌倒。下次運動時，不妨特別留意肌肉的受力狀態。

7、最后的建議

這位網友認為，一個良好的安全解決方案應該是多步驟的。

除去操作環境安全及個人安全方面的建議，對機器人自身的安全系統設計，大致可分為以下幾點：

執行器和電池管理系統應至少符合PL(d) 或ASIL-D等級的安全標準，且執行器應具備帶外（OOB）硬件安全輸入；商用網絡、計算機、線纜等不得用于安全關鍵系統；即使是非正式項目，也應遵循安全開發流程，包括持續測試、故障模式分析和單點故障防護工作；使用AI制動目前難以認證，因此重點應放在監控和緊急切斷系統上。

不過，該網友也表示，以上并非專業工程或安全建議，實際應用請咨詢認證專家。

該網友對機器人安全性的看法獲得了一致好評：

不是第一次“失控”

機器人“發瘋”的現象也引起了不少網友的恐慌，以及一些科幻的猜想。

畢竟DeREK是個“格斗機器人”，很難想象這種事情如果發生在一個更小的空間里，會是個多讓人棘手的狀況。

畢竟，5秒的時間對緊急制動確實有些過長。

其實這并不是REXrobot第一次出狀況，在5月份的時候，還是Cix，就有機器人“突然”摔倒的問題。

有趣的是，在那個時候就有人問過機器人緊急制動的事情，Cix的回答和這次別無二致。

有網友建議Cix做一次詳細的事后分析，而不是借著這個視頻的東風馬上轉向融資——好像這件事本身就是為了炒作那樣。

對此，Cix語意不詳地回復：機器人格斗。

參考鏈接：
[1]https://www.reddit.com/r/robotics/comments/1m4mjmj/a_humanoid_robot_completely_lost_his_mind_derek/
[2]https://x.com/cixliv/status/1946648610940367008
[3]https://x.com/liminalsunset_/status/1946820928224231764
[4]https://x.com/REKrobot