BICML · 2026
SAEs-BrainMap: Unveiling the Emergence of Specialized Concepts in Deep Models via Brain Alignment
Ziming Mao, Jia Xu, Wenxuan Pan, Mufan Xue, Yaochu Jin, Guoyuan Yang
ICML 2026 主会 · OpenReview
字号
OVERVIEW
论文概览
利用稀疏自编码器拆解深度模型内部概念，再以脑对齐追踪专门化概念何时、在哪里出现。
ABSTRACT
中文摘要
该工作使用稀疏自编码器把深度模型中的密集表征分解为更可解释的稀疏特征，并将这些特征与脑活动对齐，以研究通用视觉概念如何在网络训练和层级中逐渐专门化。BrainMap 不只比较整层表示相似度，而是把对齐落实到可命名、可定位的概念单元，为分析人工模型与脑表征的共同组织提供细粒度工具。
RESEARCH RELEVANCE
与你研究的关系
适合迁移到你的 voxel-level semantic atlas：把 CLIP/生成模型特征先稀疏分解，再分析哪些概念由哪些体素集合支持。
LIMITATIONS
局限与核查重点
SAE 特征的可命名性与唯一性有限；脑对齐仍属于关联证据，不能直接视为生物概念单元。
SOURCE
来源与原文
ICML 2026 主会 · OpenReview
Ziming Mao, Jia Xu, Wenxuan Pan, Mufan Xue, Yaochu Jin, Guoyuan Yang. SAEs-BrainMap: Unveiling the Emergence of Specialized Concepts in Deep Models via Brain Alignment. ICML 2026 主会 · OpenReview. https://openreview.net/forum?id=neyeQYrNvo