中文 定位:一篇研究推理型视觉-语言-动作(VLA)模型安全性的论文,盯的是「说的和做的不一致」这个隐患。 推理型 VLA 模型在控制机器人执行物理动作的同时,会生成自然语言的理由说明,监督者本可以读这些文本来监控具身智能的安全。但已有攻击研究多针对文本理由本身,而这篇论文指出另一个更隐蔽的问题:文本理由可以看起来毫无异常,实际执行的动作却已经偏离——即文本与动作之间的分歧。论文围绕如何诊断这种分歧、并对其加以干预引导展开,讨论了只看文本做安全监控为什么不够。 适用人群:从事 VLA 模型与具身智能研究的科研人员、关注机器人安全与模型可解释性的工程师。
日本語 位置づけ:推論型の視覚・言語・行動(VLA)モデルの安全性を扱う論文で、「言うこととやることの不一致」という見落とされがちなリスクに注目します。 推論型 VLA モデルはロボットの物理的な動作を制御しながら自然言語の根拠説明を生成し、監督者はそのテキストを読んで身体性エージェントの安全を監視できるはずでした。しかし従来の攻撃研究は主にテキストの根拠自体を対象としており、本論文はより見えにくい問題を指摘します。根拠のテキストが一見正常でも、実際に実行される行動がそこからずれている場合がある、つまりテキストと行動の乖離です。論文はこの乖離をどう診断し、どう介入して誘導するかを論じ、テキストだけを見る安全監視の限界を検討します。 対象ユーザー:VLA モデルや身体性知能を研究する研究者、ロボットの安全性やモデルの解釈可能性に関心のあるエンジニア。
한국어 정의: 추론형 시각-언어-행동(VLA) 모델의 안전성을 다룬 논문으로, '말과 행동이 어긋나는' 문제를 파고듭니다. 추론형 VLA 모델은 로봇의 물리적 동작을 제어하면서 자연어 근거 설명을 함께 생성하며, 감독자는 이 텍스트를 읽고 체화 에이전트의 안전을 모니터링할 수 있다고 여겨져 왔습니다. 그러나 기존 공격 연구는 주로 텍스트 근거 자체를 겨냥했고, 이 논문은 더 은밀한 문제를 지적합니다. 근거 텍스트는 겉보기에 정상인데 실제 실행 동작은 거기서 벗어나는 경우, 즉 텍스트와 행동 사이의 괴리입니다. 논문은 이 괴리를 어떻게 진단하고 개입해 조정할 수 있는지를 다루며, 텍스트만 보는 안전 모니터링의 한계를 논의합니다. 대상 사용자: VLA 모델과 체화 지능을 연구하는 연구자, 로봇 안전성과 모델 해석 가능성에 관심 있는 엔지니어.
English What it is: A paper on the safety of reasoning vision-language-action (VLA) models, focused on a subtle failure mode: what the model says and what it does can come apart. Reasoning VLA models pair physical robot control with natural-language rationales that supervisors can read to monitor embodied safety. Prior attack research has mostly targeted the rationale text itself; this paper points to a more hidden problem — the rationale can read as perfectly normal while the executed actions diverge from it, a text-action divergence. The paper studies how to diagnose this divergence and how to steer it, and examines why text-only safety monitoring is not enough. Who it's for: Researchers working on VLA models and embodied intelligence, and engineers concerned with robot safety and model interpretability.