On the Foundations of Earth and Climate Foundation Models

• 论文名称: On the Foundations of Earth and Climate Foundation Models
• Published in: Arxiv 2024
• Type: Other
• 备注: 针对地球和气候科学
• Short Summary: 有一些问题：1. 专注于预训练数据集的策划，往往过度采样城市等人口稠密地区，而在雨林、极地和海洋等人口稀少地区采样不足 2. 预训练数据集往往专注于中高分辨率的RGB和MSI，很少有大规模的数据集用于SAR、HSI或Lidar数据，或用于非常高或低分辨率的图像。像DOFA这样的多传感器模型很少见，大多数模型需要在每次遇到新的成像平台时从头训练 3. 时间序列地球观测建模也处于起步阶段，少有模型能够处理具有不规则间隔的可变长度图像序列。在地球观测中整合不确定性量化和物理一致性仍未得到充分探索。未来的发展：1.具有条件计算的动态编码器 2.多尺度的空间-时间分析 3.多模态学习框架 4.与大型语言模型的对齐 …