Mechanistic Interpretability of EEG Foundation Models via Sparse Autoencoders

ABSTRACT

中文摘要

EEG 基础模型在临床任务上取得最先进性能，但驱动预测的内部计算仍不透明，成为临床信任的障碍。我们在 SleepFM、REVE 和 LaBraM 三种架构不同的 EEG Transformer 上应用 TopK 稀疏自编码器（SAE），从嵌入中提取稀疏特征字典。通过将特征落地到异常、年龄、性别和用药等临床分类体系，我们跨架构比较单语义性与纠缠。一套由字典内部健康审计驱动的超参数程序，能够稳健迁移到全部三个架构。通过概念操控，我们提出“目标相对非目标”的探针面积指标，量化操控选择性，并揭示三个操作区间：可选择操控、已编码但纠缠、以及未编码。该框架暴露了关键表征失败，包括导致模型总体性能崩溃的“破坏球”式干预，以及年龄—病理混杂等临床纠缠，即无法在不破坏另一个概念的情况下抑制某概念。最后，频谱解码器把这些干预映射回幅度谱，将潜在操控转换为具有生理可解释性的频率特征，例如病理慢波抑制与 alpha 频段恢复。