ACommunications Biology · 2026

Brain-aligning of semantic vectors improves neural decoding of visual stimuli

Shirin Vafaei, Ryohei Fukuma, Takufumi Yanagisawa, Huixiang Yang 等

Communications Biology · Article · 2026-01-03

fMRI/MEG/ECoG语义空间视觉解码零样本
官方原文 ↗
字号

OVERVIEW

论文概览

把预训练图像和文本语义向量微调到脑表征几何,再跨 fMRI、MEG 与 ECoG 评估零样本视觉刺激解码。

ABSTRACT

中文摘要

通用视觉—语言嵌入包含丰富语义,但其几何结构未必最适合神经解码。作者提出将预训练图像和文本向量对齐到脑活动的表征结构,使语义距离更接近神经响应距离,再用调整后的向量完成视觉刺激识别。方法在 fMRI、MEG 和 ECoG 数据上测试,并覆盖不同记录尺度与解码设置。结果显示,脑对齐后的语义向量能够改善零样本和跨类别解码,说明性能瓶颈不仅来自脑信号到嵌入的映射,也来自目标语义空间本身。跨模态结果还表明,经过神经几何调整的语义结构具有一定可迁移性。

RESEARCH RELEVANCE

与你研究的关系

它直接支持你比较标准 CLIP、鲁棒 CLIP 与脑对齐空间的设想,并提示统一模型应把“目标空间学习”作为独立模块。

LIMITATIONS

局限与核查重点

对齐会把特定数据集和被试结构写入语义向量;需要严格检验未见被试、未见类别及跨数据集条件下的泛化。

SOURCE

来源与原文

Communications Biology · Article · 2026-01-03

Shirin Vafaei, Ryohei Fukuma, Takufumi Yanagisawa, Huixiang Yang 等. Brain-aligning of semantic vectors improves neural decoding of visual stimuli. Communications Biology · Article · 2026-01-03. https://www.nature.com/articles/s42003-025-09482-x