研究笔记

安全研究 · 2026/06/07

物理行动前的具身门禁

关于具身能力为什么必须经过仿真、监督与紧急停止设计的种子笔记。

7 分钟阅读 具身笔记 seed
embodimentsafety

具身改变风险

虚拟人格的错误回应可以被修正,但物理行动可能破坏物体、侵入空间或制造安全隐患。这种差异会改变发布流程。

门禁顺序

最低路径应包括仿真、操作员审查、权限限定、日志记录、紧急停止和有人监督的实验室执行。每个门禁都应对用户可见,而不只是开发者内部机制。

评测目标

项目应衡量可逆性、行动延迟、不确定性报告,以及人类操作员能否在任意时刻中断回路。