已接收 · ICML 2026无需预定义图谱的基座模型

Omni-fMRI

A Universal Atlas-Free
fMRI Foundation Model

从大脑本身学习,
不止于预设的分区。

直接从体素学习脑表征,保留细粒度空间信息。通过内容自适应 patch,让大规模预训练成为可能。

49,497
次 fMRI 预训练扫描
9
个预训练数据集
11
个评估数据集
体素级
无需预定义 ROI 分区
Omni-fMRI 原文方法图:动态 patch、双路径嵌入、体素编码器与尺度感知重建。
一个编码器,多种空间尺度。 使用论文原文方法图。原论文 ↗

同一种表征,能否服务不同的 fMRI 研究?

一段 fMRI 扫描包含大量位置上的信号。常见做法是先在预定义脑区(ROI)内取平均,把输入压缩成脑区时间序列。但空间边界也因此在学习前就被固定:两个相邻、响应不同的体素可能被合成一个均值,换一种图谱,模型接收到的信息也会改变。

Omni-fMRI 希望先学到可复用的体素表征,再将它适配到人口学预测、疾病相关分类和任务解码等研究中。这样,每个数据集或每种图谱不必从头建立一套特征。难点在于计算量:如果所有位置都切成同样小的 patch,token 序列会非常长。

保留体素信息,让计算量随内容调整

输入是四维 fMRI 体积,而不是 ROI 均值列表。上方原文方法图依次展示三件事:确定 patch 尺度、嵌入不同尺度的 patch、重建被掩蔽的信号。预训练后,再将编码器特征接入对应任务的预测头。

在信号变化较大的位置保留细节

Dynamic patching 先移除非脑背景,再计算局部时空强度方差。低方差区域用较大的 patch 表示,高方差区域继续细分。这样,模型不必在所有位置投入同样多的 token。决定精细程度的是信号变化,而不是预先划定的解剖脑区。

让不同尺度共享一个编码器

双路径嵌入将大 patch 的下采样视图与内部小 patch 的特征结合,再把粗、细 token 映射到同一潜空间,交给 ViT 编码器。不同尺度因此具有统一的特征接口,同时保留位置与尺度信息。

避免大 patch 主导重建目标

Masked autoencoding 根据可见上下文预测被遮挡的 fMRI 信号。不同尺度使用各自的重建头,损失还考虑 patch 体积与 token 数量。否则,大 patch 可能仅因包含更多体素,就在训练目标中占据更大权重。

先换数据集,再冻结编码器,检验表征能否复用

预训练包含 9 个数据集、49,497 次扫描。11 个评估数据集并非都属于外部测试:其中 4 个来自预训练数据源的独立评估划分,另外 7 个未参与预训练,分别是 ADNI、SALD、BHRC、NKI、NSD、HCP task 和 StudyForrest。后者检验模型面对新数据源或不同实验设置时的迁移能力。

为不同任务提供共同起点

同一个预训练编码器被适配到年龄回归、疾病相关预测、视觉图像检索,以及脑状态或情绪预测。目标和数据集同时变化,实验因而能检验特征的可复用性。这些结果来自下游适配,并非未经训练的 zero-shot 预测。

不更新编码器,特征仍然有用吗?

Linear probing 冻结编码器,只训练轻量预测头。在 ADNI 的 AD 分类中,Omni-fMRI 的准确率为 84.26%,NeuroSTORM 冻结编码器的结果为 71.64%。这一设置更直接检验预训练表征中已经包含的信息。整体微调表现较强,但并非每一个指标都排在首位。

选取的外部数据集结果
数据集 / 任务评估方式Omni-fMRI对比结果
ADNI · AD 分类整体微调 · ACC ↑88.77 ± 0.71%NeuroSTORM · 84.26 ± 0.80%
ADNI · AD 分类冻结编码器 · ACC ↑84.26 ± 0.87%NeuroSTORM · 71.64 ± 0.66%
NSD · 100 候选图像检索整体微调 · Top-10 ↑23.08 ± 1.93%NeuroSTORM · 20.83 ± 1.65%
均值 ± 标准差,依次取自原文表 3、表 6 和表 4。每行在同一任务与评估方式下比较,不同任务的数值不宜直接互比。AD:阿尔茨海默病。

原论文 · 表 3、4、6 ↗

共享特征接口,不预先固定 ROI 边界

核心思路是共享表征,同时允许下游目标变化。Dynamic patching 降低体素级学习的成本,未参与预训练的数据集与 linear probing 则从不同角度检验复用价值。这里的 atlas-free 指不依赖预定义 ROI 分区;研究仍在训练前统一空间与时间采样。

从项目主页开始,提取自己的 fMRI 特征

官方项目主页集中展示方法、基准结果和可运行的 quick start。仓库接受整理为 96 × 96 × 96 × 40 的 NPZ 输入,输出全局 cls_token、patch_tokens 与 patch_coords。可以先运行合成数据 smoke test 或 notebook,再按文档准备自己的扫描数据。

A Universal Atlas-Free fMRI Foundation Model

Mo Wang1,2,3*, Wenhao Ye1,4*, Junfeng Xia1, Junxiang Zhang1,5, Xuanye Pan1, Minghao Xu3, Haotian Deng1, Hongkai Wen3, Quanying Liu1,2,5
1Southern University of Science and Technology   2Omni-Intelligence   3University of Warwick   4Shenzhen University   5Shenzhen Loop Area Institute

* 表示共同贡献

ICML 2026 · 已接收
论文版本: · 状态来源: 作者代码仓库

本文由 fMRI Atlas 根据上述原始研究整理。

本文更新:

阅读原文摘要(英文)

Self-supervised fMRI foundation models have shown promising transfer performance, yet most rely on predefined region-level parcellations that discard fine-grained voxel information and introduce atlas-dependent biases. We propose Omni-fMRI, an atlas-free foundation model that operates directly on voxel-level signals. To enable scalable pretraining on 49,497 fMRI sessions across nine datasets, Omni-fMRI introduces a dynamic patching mechanism that substantially reduces computational cost while preserving informative spatial structure. To support reproducibility and fair comparison, we establish a comprehensive benchmark suite spanning 11 datasets and a diverse set of resting-state and task-based fMRI tasks. Experimental results demonstrate that Omni-fMRI consistently outperforms existing foundation models, providing a scalable and reproducible framework for atlas-free brain representation learning.

BibTeX

@article{wang2026omnifmri,
  title={Omni-fMRI: A Universal Atlas-Free fMRI Foundation Model},
  author={Wang, Mo and Ye, Wenhao and Xia, Junfeng and Zhang, Junxiang and Pan, Xuanye and Xu, Minghao and Deng, Haotian and Wen, Hongkai and Liu, Quanying},
  journal={arXiv preprint arXiv:2601.23090},
  year={2026},
  url={https://arxiv.org/abs/2601.23090},
  doi={10.48550/arXiv.2601.23090}
}

继续探索

Brain-DiT

下一个项目