BICML · 2026
Fine-grained Analysis of Brain-LLM Alignment through Input Attribution
Michela Proietti, Roberto Capobianco, Mariya Toneva
ICML 2026 主会 · OpenReview
字号
OVERVIEW
论文概览
通过词级输入归因区分脑–LLM 对齐与下一词预测究竟依赖哪些上下文信息。
ABSTRACT
中文摘要
作者提出细粒度输入归因方法，识别哪些词最影响模型对人脑活动的预测，并用它分析脑对齐与下一词预测的关系。结果显示，两者依赖的词集合大部分不同：下一词预测更受近因、首因和句法信息影响，而脑对齐更重视语义及篇章层信息，并呈现更有选择性的近因效应。该方法可扩展到其他语言加工任务，用于判断模型预测中哪些输入成分具有认知相关性。
RESEARCH RELEVANCE
与你研究的关系
它与 decoder-grounded 语义图谱的方法论一致：不能只看总相关性，还要把模型对齐归因到具体刺激成分。
LIMITATIONS
局限与核查重点
归因方法仍依赖模型与基线选择，词级差异不能直接证明脑区的因果语言机制。
SOURCE
来源与原文
ICML 2026 主会 · OpenReview
Michela Proietti, Roberto Capobianco, Mariya Toneva. Fine-grained Analysis of Brain-LLM Alignment through Input Attribution. ICML 2026 主会 · OpenReview. https://openreview.net/forum?id=8JgaMrEw52