Teaching Vision-Language-Action Models to Stop Safely 封面
HuggingFace
论文2026-11-1…

Teaching Vision-Language-Action Models to Stop Safely

Vision-language-action (VLA) models enable robots to perform diverse tasks from visual observations and language instructions. While prior work has explored task suppression and refusal, stopping prohibited behavior onc…

来源:HuggingFace Papers收录于 2026年11月21日

站内导读

中文

定位 这篇论文研究视觉-语言-动作模型在执行中途如何安全停下,提出状态感知回退模仿方法 SAFI,让机器人在被叫停时稳稳停住而不是丢下手中物体,补上现有安全评估的盲区。 核心能力

  • 揭示中途接管仍可能完成禁令任务,现有安全评估存在盲区
  • SAFI 两阶段:构造回退目标并联合策略适配,学会中途停住
  • 在 LIBERO 任务上接管后目标成功率降至 1.3%,零物理事故
  • 保留任务成功率保持高位,不牺牲原有技能

适用人群 做机器人策略安全、具身智能与 VLA 模型的研究者,以及需要给机器人加急停与安全护栏的工程团队,还有关注具身智能安全的产品团队。 注意 实验基于 OpenVLA-OFT 与 LIBERO、BadLIBERO 任务,结论适用范围以论文实验为准;方法针对「握持可作为替代回应」的任务设计。

相关项目 · HuggingFace

查看全部「HuggingFace」项目 →