中文 定位:一篇把「潜意识学习」现象从语言模型追问到视觉语言模型的论文。 所谓潜意识学习,是指在大语言模型中观察到的现象:教师模型会通过表面上与某种偏好毫无关系的训练数据,把隐藏偏好传递给学生模型。这篇论文把问题推进了一步:这种传递在视觉语言模型(VLM)里是否同样发生?论文围绕这一问题展开研究,讨论多模态场景下隐性偏好传递的存在性与条件,对理解模型微调中难以察觉的行为漂移有参考意义。 适用人群:从事大模型对齐与安全研究的科研人员、负责多模态模型训练和微调的工程师。
日本語 位置づけ:「潜在学習(subliminal learning)」という現象を、言語モデルから視覚言語モデルへと問い直す論文です。 潜在学習とは、大規模言語モデルで観察された現象で、教師モデルが、ある嗜好とは表向き無関係な訓練データを通じて、隠れた嗜好を生徒モデルに伝えてしまうことを指します。本論文はこの問いを一歩進め、こうした伝達が視覚言語モデル(VLM)でも同様に起こるのかを検証します。マルチモーダルな状況における隠れた嗜好伝達の存在と条件を論じ、ファインチューニングで生じる気づきにくい振る舞いの変化を理解する手がかりとなります。 対象ユーザー:大規模モデルのアラインメントや安全性を研究する研究者、マルチモーダルモデルの学習やファインチューニングを担当するエンジニア。
한국어 정의: '서브리미널 러닝' 현상을 언어 모델에서 시각-언어 모델로 확장해 묻는 논문입니다. 서브리미널 러닝은 대규모 언어 모델에서 관찰된 현상으로, 교사 모델이 어떤 선호와 표면적으로 무관한 훈련 데이터를 통해 숨은 선호를 학생 모델에 전달하는 것을 말합니다. 이 논문은 질문을 한 걸음 더 밀고 나가, 이런 전달이 시각-언어 모델(VLM)에서도 마찬가지로 일어나는지를 연구합니다. 멀티모달 상황에서 은밀한 선호 전달의 존재와 조건을 논의하며, 파인튜닝 과정에서 알아채기 어려운 행동 변화를 이해하는 데 참고가 됩니다. 대상 사용자: 대규모 모델의 정렬과 안전성을 연구하는 연구자, 멀티모달 모델의 학습과 파인튜닝을 담당하는 엔지니어.
English What it is: A paper that takes the phenomenon of subliminal learning, first observed in language models, and asks whether it also happens in vision-language models. Subliminal learning refers to a phenomenon seen in large language models: a teacher model passes a hidden preference to a student through training data that is seemingly unrelated to that preference. This paper pushes the question one step further — does the same transfer occur in vision-language models (VLMs)? It investigates the existence and conditions of such hidden preference transfer in multimodal settings, offering a reference point for understanding hard-to-notice behavioral drift during fine-tuning. Who it's for: Researchers in LLM alignment and safety, and engineers responsible for training and fine-tuning multimodal models.