chiblog

PyTorch指定GPU的方法 - 简书 (jianshu.com)RuntimeError: device ＞= 0 && device ＜ num_gpus，但明明device=0且num_gpus＞1_device>=0-CSDN博客vscode连接远程服务器的指定虚拟环境 - 七三七3 - 博客园 (cnblogs.com) git撤回commit git reset –soft HEAD~1撤回 add git reset . 比较不同分支区别 git diff branch1 branch2 --stat 同步main分支的更新到分支： 第一步：切换到本地的仓库，更新为最新的代码。 第二步：切换到要同步的子分支上。 第三步：在子分支上运行 git merge master 就会将主分支的代码同步到子分支上。 删除分支 123456789列出本地git branch删除本地git branch -d local_branch_name删除远程git push remote_name -d rem ...

知识蒸馏（Knowledge Distillation）是一种在计算机视觉领域应用广泛的模型压缩技术，它旨在将一个大型、训练好的复杂模型（称为教师模型）的知识转移至一个更小、更高效的模型（称为学生模型）。通过这种方式，学生模型能够在保持相对较高准确率的同时，减少计算资源的消耗和提高运行效率。这项技术对于在移动设备和边缘计算设备上运行大型深度学习模型尤为重要，广泛应用于图像分类、目标检测和面部识别等计算机视觉任务中。

方差、协方差，一维二维分布函数、宽平稳、独立增量（平稳独立增量，时间变长也增加） 实际上是采用平稳的这个定义想办法将随机过程中的时间这个参量进行了弱化，对于严平稳来说一维特性（一维概率密度、均值、方差）都和时间没有关系，二维特向仅与时间差有关（二维概率密度、相关函数、协方差函数）。对于广义平稳来说，均值与时间无关，相关函数仅与时间差有关。 泊松过程 强度参数 可加性、负值、 （计数过程） 马尔科夫链 极限分布、转移概率、平均时间、哪些状态是⾮常返的？哪些状态是常返的？求常返状态的平均返回时间；求各状态的周期并将状态空间分解 ppt 离散时间、连续时间 马氏性、条件独立性 本章只讨论时齐（齐次）马氏链，并且简称为马氏链 P_ij 代表 i 转移到 j 的概率 时齐马氏性 N 步转移概率 状态的分类 非常返和零常返，平稳分布，极限分布 鞅 鞅停时定理 布朗运动

李沐论文精读系列三：MoCo、对比学习综述（MoCov1/v2/v3、SimCLR v1/v2、DINO等）_moco论文-CSDN博客 MoCo这个词，来自于论文标题的前两个单词动量对比Momentum Contrast 这个式子表示：当前时刻的输出，不仅依赖于当前时刻的输入，还依赖于前一时刻的输出。m越大，当前时刻的输入 对结果​ 就越小。 MoCo利用了动量的这种特性，从而缓慢地更新一个编码器，让中间学习的字典中的特征尽可能地保持一致。 本文是从另外一个角度来看对比学习，即把对比学习看作是一个字典查询任务。 在MoCo这篇论文当中，因为作者已经把所有的对比学习的方法归纳成为了一个动态字典的问题，所以很少使用anchor或者正负样本这些词，用的都是query和key。作者认为，一个好的字典应该有两个特性：字典足够大 字典越大，key越多，所能表示的视觉信息、视觉特征就越丰富 ，这样拿query去做对比学习的时候，才越能学到图片的特征。 反之，如果字典很小，模型很容易通过学习一些捷径来区分正负样本，这样在碰到大量的真实数据时，泛化就 ...

SoftCLT: 时间序列的软对比学习《Soft Contrastive Learning for Time Series》(时间序列、时序分类任务、软对比学习、实例上软赋值距离差异、数据空间非嵌入空间度量相似性) - ZERO- - 博客园 (cnblogs.com) 时间序列中的对比学习。在时间序列分析领域，考虑到时间序列的不变特性，已经提出了几种正对和负对的对比学习设计。表 1 比较了包括我们在内的各种 TS 对比学习方法的若干特性。T-Loss（Franceschi 等人，2019 年）从一个 TS 中随机抽样一个子序列，如果属于该 TS 的子序列，则将其视为正序列；如果属于其他 TS 的子序列，则将其视为负序列。Self-Time（Fan 等人，2020 年）通过将同一 TS 的增强样本定义为正样本和负样本来捕捉 TS 之间的样本间关系，并通过解决分类任务来捕捉 TS 内部的时间关系，其中类标签使用子序列之间的时间距离来定义。TNC（Tonekaboni 等人，2021 年）使用正态分布定义窗口的时间邻域，并将邻域内的样本视为正样本。TS-SD（Shi 等人，2021 ...