method-自监督

• 自监督学习 | (1) Self-supervised Learning 入门_carl 等人[]通过名为拼图的方式来构造辅助任务, 通过预测图像各个图像块的相对位置-CSDN 博客
• AI论文速读 |2024[TPAMI]【综述】自监督学习在时间序列分析的分类、进展与展望 (qq.com)

[[method-自监督-对比学习]]

自监督学习的方法主要可以分为 3 类：

1. 基于上下文（Context based）
2. 基于时序（Temporal Based）
3. 基于对比（Contrastive Based）[[method-自监督-对比学习]]
   • ，一个样本的多个模态为正样本，其他样本的模态为负样本。

• 基于生成的（Generative-based）、基于对比的（Contrastive-based）和基于对抗的（Adversarial-based）。
  通过这些步骤，论文旨在为时间序列数据分析中的自监督学习提供一个全面的框架，并推动该领域的研究进展。

3种生成式自监督

1. 自回归预测（Autoregressive-based forecasting）：使用过去的时间序列数据来预测未来的值。

2. 自编码器重建（Autoencoder-based reconstruction）：通过编码器和解码器重建输入的时间序列数据。

3. 扩散生成（Diffusion-based generation）：使用逐步添加噪声的过程来生成新的数据样本。

5种对比式自监督

1. 采样对比（Sampling contrast）：通过随机采样来构建正负样本对。

2. 预测对比（Prediction contrast）：使用预测任务来构建正负样本对。

3. 增强对比（Augmentation contrast）：通过数据增强技术来生成不同的数据视图。

4. 原型对比（Prototype contrast）：使用原型（如聚类中心）来构建样本对。

5. 专家知识对比（Expert knowledge contrast）：利用领域知识来指导样本对的构建。

3种对抗式自监督

1. 时间序列生成和插补（Time series generation and imputation）：使用GANs生成新的时间序列或填补缺失值。

2. 辅助表示增强（Auxiliary representation enhancement）：将对抗信号作为正则化项，以提高模型的稳健性。