中文 定位 这篇论文研究视觉-语言-动作模型在执行中途如何安全停下,提出状态感知回退模仿方法 SAFI,让机器人在被叫停时稳稳停住而不是丢下手中物体,补上现有安全评估的盲区。 核心能力
- 揭示中途接管仍可能完成禁令任务,现有安全评估存在盲区
- SAFI 两阶段:构造回退目标并联合策略适配,学会中途停住
- 在 LIBERO 任务上接管后目标成功率降至 1.3%,零物理事故
- 保留任务成功率保持高位,不牺牲原有技能
适用人群 做机器人策略安全、具身智能与 VLA 模型的研究者,以及需要给机器人加急停与安全护栏的工程团队,还有关注具身智能安全的产品团队。 注意 实验基于 OpenVLA-OFT 与 LIBERO、BadLIBERO 任务,结论适用范围以论文实验为准;方法针对「握持可作为替代回应」的任务设计。
日本語 概要 この論文は、視覚・言語・行動モデルが実行の途中で安全に停止する方法を研究し、状態認識型フォールバック模倣 SAFI を提案します。停止を命じられたロボットが手にした物を落とすのではなく、しっかりと静止できるようにします。 主な機能
- 途中からの介入でも禁止タスクが完了し得ることを示し評価の死角を指摘
- SAFI は 2 段階で、フォールバック目標の構築と方策の共同適応からなる
- LIBERO タスクで介入後の目標成功率を 1.3% まで下げ物理事故はゼロ
- 保持タスクの成功率を高く維持し既存の技能を損なわない
こんな人におすすめ ロボットの行動安全や身体性知能、VLA モデルを研究する人、ロボットに緊急停止や安全ガードを付けたいエンジニアチームに向いています。 注意点 実験は OpenVLA-OFT と LIBERO、BadLIBERO タスクに基づいており、結論の適用範囲は論文の実験条件に限られます。手法は「把持が適切な代替応答になる」タスクを対象に設計されています。
한국어 개요 이 논문은 시각-언어-행동 모델이 실행 도중에 안전하게 멈추는 방법을 연구하며, 상태 인식 폴백 모방 SAFI를 제안합니다. 정지 명령을 받은 로봇이 손에 든 물건을 떨어뜨리지 않고 안정적으로 멈출 수 있게 합니다. 핵심 기능
- 도중 개입에도 금지 작업이 완료될 수 있음을 보여 평가의 사각지대 지적
- SAFI는 2단계로 폴백 목표 구축과 정책 공동 적응으로 구성
- LIBERO 작업에서 개입 후 목표 성공률을 1.3%까지 낮추고 물리 사고 제로
- 유지 작업의 성공률을 높게 유지하며 기존 기술을 해치지 않음
이런 분께 추천 로봇 행동 안전, 체화 지능, VLA 모델을 연구하는 사람, 로봇에 긴급 정지와 안전 가드레일을 달고 싶은 엔지니어링 팀에 적합합니다. 주의사항 실험은 OpenVLA-OFT와 LIBERO, BadLIBERO 작업을 기반으로 하며 결론의 적용 범위는 논문의 실험 조건에 한정됩니다. 이 방법은 '파지가 적절한 대체 응답이 되는' 작업을 대상으로 설계되었습니다.
English What it is This paper studies how vision-language-action models can be made to stop safely once execution is underway. It introduces State-Aware Fallback Imitation (SAFI), which teaches a robot an explicit alternative response at intermediate states, so that when a prohibited task is interrupted the robot holds still instead of dropping what it carries. Key capabilities
- Shows that policies which refuse a task from the start can still complete it after a mid-task takeover
- SAFI builds fallback targets with stationary arm commands and consistent gripper targets, then adapts the policy jointly
- On evaluated LIBERO tasks, target success after takeover falls to 1.3%, with no physical incidents
- Retained-task success stays high, so safety does not come at the cost of existing skills
Who it is for Researchers working on robot policy safety, embodied AI, and VLA models, and engineering teams that need emergency-stop behavior and safety guardrails on real robots. Caveats Experiments use OpenVLA-OFT across LIBERO and BadLIBERO tasks, so the conclusions are scoped to those settings. SAFI is designed for tasks where holding provides an appropriate alternative response, and non-completion alone is an incomplete measure of safety.