科研生产力
笔记-obsidianMarkDown超级教程 Obsidian版_11.4_obsidian markdown-CSDN博客https://obsidian.md/
在线笔记-石墨文档
文献管理zoterohttps://www.zotero.org/Zotero导入知网文献 - 知乎 (zhihu.com)Zotero:科研小白的第一款文献管理软件 - 知乎 (zhihu.com)插件推荐:
slack步骤 | 注册并通过链接加入已有工作区
注册 apple可以,学校邮箱可以,outlook可以但我的收不到验证码,163不行。注册完他让你选个工作区,一般出现的是些乱七八糟的,就选择自己创建一个。随便命名 进入。
通过链接加入已有工作区时 显示界面为已经关闭新业务我们已不再接受来自您所在国家的新注册用户。解决:fanqiang。先别删除这个邀请链接的页面,在另一个界面注册登录自己创建的工作区后,再跳转回这个页面 发现让你选几个方式登录,我选的是apple,然后显示给你发验证码,这个要等一会儿,然后输入就可以了。(遇到bug说什么未知错误之类,可能是我退出fanqiang了。还有说 ...
科研软件
vs-code
VS Code 中某个特定文件夹不能索引函数 重建 IntelliSense 索引 重建 VS Code 的 IntelliSense 索引:
打开命令面板(使用快捷键 Ctrl+Shift+P)
输入并选择 Developer: Reload Window
再次打开命令面板,输入并选择 Developer: Rebuild IntelliSense Index
mit app inventor数据存储组件 · App Inventor 2 中文网 (fun123.cn)
调参大师
常见error
check‘optimizer = torch.optim.Adam(params’的params的写法,不同模态叠加时候,params不同
当loss震荡,比较锯齿不平滑,设置小一点lr:optimizer = torch.optim.Adam(params, lr=0.00001)【已解决】RuntimeError: CUDA error: device-side assert triggeredCUDA kernel errors might be asynchronous-CSDN博客
wandb
调参
只是把 lr 从 1 e-6 改成 1 e-5,就跑了 80 个 epoch 就开始报 nan 的 loss。 ——方法是把 batch 调大
loss 下降波动比较毛刺的时候,将 lr 调小,也不行,可能下降更慢
可以scheduler = torch.optim.lr_scheduler.ReduceLROnPlateau(optimizer, mode=’min’, factor=0.1, p ...
数据集
手机Smartphones have inherent advantages (such as having various integrated sensors and computing ability, as an essential gadget in a human’s daily life), thus, resulting in smartphones becoming a prominent tool for HAR
Website
Zenodo
时序数据
PAMPA
Opportunity , PAMAP 2, MHEALTH, MoCapac
HHAR, PAMAP 2, MoST, UCI, MotionSense, Shoaib
SignFi, FallDefi
表情Landmarks
【CV数据集总结】face_landmark_dataset总结 - 鹅要长大 - 博客园 (cnblogs.com)
面部表情识别1:表情识别数据集(含下载链接)_affectnet数据集下载-CSDN博客imu
emoset
合集-CVPR2024
amusi/CVPR2024-Papers-with-Code: CVPR 2024 论文和开源项目合集 (github.com)
时序-2024-TSLANET
论文提出的 TSLANet 的结构。将输入时间序列分割成 patches,并添加位置嵌入。接下来,输出嵌入通过 TSLANet 层,其中每层由两个主要组件组成。
第一个是自适应频谱块 ASB,它利用频域表示进行鲁棒特征提取,并采用自适应阈值来减轻噪声。第二个是交互式卷积块 ICB,它通过卷积操作捕获复杂的时间模式。
2.1 Adaptive Spectral Block(ASB)
FFT F = F [ S P E ] ∈ C C × L ′ F=\mathcal{F}[S_{PE}]\in C^{C×L^′}F=F[SPE]∈CC×L′ 对时间序列的每个通道进行独立 FFT 变换,得到一个综合的频域表示 F,它封装了原始时间序列在所有通道上的频谱特征。
高频噪声的自适应去除 高频分量通常代表偏离潜在趋势或信号的快速波动,使它们看起来更加随机且难以解释。因此,提出了一种自适应局部滤波器,允许模型根据数据集特征动态调整滤波水平,并去除这些高频噪声成分。在处理频谱可能随时间变化的非平稳数据时,这一点至关重要。该滤波器自适应地为每个特定的时间序列数据设置合适 ...
数据集-2023emoset
ICCV 2023 | EmoSet:具有丰富属性标注的大规模视觉情感数据集_鲟曦研习社 (kuxai.com)VCC data
通过利用 810 个情感关键词进行检索,该数据集包含 3.3 M 张情感图片,其中 118 K 是经过机器和人工双重标注的,数据规模是现有最大数据集的 5 倍。
该工作提出了一个大规模视觉情感数据集,并首次引入了丰富的情感属性标注,在四个维度超越了现有数据集:数据规模、标注丰富度、数据多样性和数据平衡度。该数据集包含3.3M 张图片,其中118K 张图片是经过机器和人工双重标注的。除愉悦、敬畏、满足、激动、愤怒、厌恶、恐惧和悲伤八分类情感标注外,该数据集还包含:亮度、颜色、场景、物体、人脸表情和人体动作六种情感属性标注,以上属性是基于心理学相关的研究提出的。此外,该数据集包含来自社交媒体和艺术作品的图片,且在八分类情感上分布较为均衡。通过对情感与各属性进行关联分析,该工作揭示了属性对于情感分析的相关性和有效性。此外,该工作还设计了一种属性模块,利用情感属性帮助提升识别任务上的性能,实验结果和可视化实验进一步验证了属性在情感识别和理解任务上的巨大潜能。
...
时序-IEEE SPL-Learning Latent ODEs With Graph RNN for Multi-Channel Time Series Forecasting
Learning Latent ODEs With Graph RNN for Multi-Channel Time Series Forecasting
introduction先介绍任务的重要性,再介绍时空模型的两种架构,再介绍ODE和别的结合,(此前的模型已经将NODE应用于分解神经架构,而我们尝试在耦合神经架构上进行探索)最后说自己把ODE引入耦合神经架构上。
多通道时间序列预测的重要性多通道时间序列预测在现实世界中的各种应用中扮演着关键角色,例如交通流量预测和能源网平衡。最近的研究已经证实了其有效性。多通道时间序列本质上是由传感器捕获的单变量信号的组合,这些信号是相互关联和互相影响的。为了准确预测这些多通道信号,必须精确地建模其中固有的时空模式。
时空模型的主要架构时空模型通常分为两种主要架构:分解神经架构和耦合神经架构。
分解神经架构这种架构独立捕捉非线性时间和空间模式。图神经网络(GNN)被广泛用于捕捉空间特征,而基于卷积神经网络(CNN)的方法如时间卷积网络(TCN)或基于注意力机制的模型则用于建模时间特征。例如:
STGNN 通过一系列包含TCN和GCN层的块来组装 ...
自监督 时序 2022-TFC-Self-Supervised Contrastive Pre-Training For Time Series via Time-Frequency Consistency
NeurIPS | 通过时频一致性对时间序列进行自监督对比预训练 (qq.com)论文笔记:Self-Supervised Contrastive Pre-Training For Time Series via Time-Frequency Consistency-CSDN博客
在时间序列中,之前并没有找到一个在不同数据集上都一致的先验假设——>本文找到了一种不论在什么样的时间序列数据集中都存在的规律,那就是一个时间序列的频域表示和时域表示应该相似——>提出了Time-Frequency Consistency (TF-C)的核心架构,以对比学习为基础,让时域和频域的序列表示尽可能接近
数据增强
在时域上,使用的数据增强手段包括jittering、scaling、time-shifts、neighborhood segments等时间序列对比学习中的经典操作
在频域上,本文是首次研究了如何进行频域中的时间序列数据增强
通过随机抹除或增加frequency components实现频域上的数据增强
为了避免频域上的增强对原始序列过大的变化,导致增强后的序列和原始序列不相 ...
多模态-CVPR2024 -Multimodal PathwayMultimodal Pathway
Multimodal Pathway: Improve Transformers with Irrelevant Data from Other Modalities 多模态路径:利用其他模态的无关数据改进变压器(CVPR 2024)_multimodal pathway: improve transformers with irre-CSDN博客论文地址: https://arxiv.org/abs/2401.14405 项目网页:https://ailab-cvc.github.io/M2PT/开源代码:https://github.com/AILab-CVC/M2PT讲解视频:https://www.bilibili.com/video/BV1Sm41127eW/
其他模态的,任务无关的数据训练辅助 transformer。
目标 transformer 和辅助 transformer 之间构建 pathway,于是目标模态数据可以同时被两个模型评估
A modality-specific tokenizer and task-specific head, 和之前一样
Cro ...