与往年相比,ICML 2020的接收率正逐年走低。本文发现基于对比学习(Contrastive Learning)相关的paper也不少,对比学习、自监督学习等等都是今年比较火的topic,受到了很多人的关注。
2021-09-13 14:18:06 11.39MB ICML_2020 对比学习
1
对比学习方法 支持更多内容的对比学习方法的第三方pytorch实现(请参阅“可用内容”部分)。 有什么可用的? 使用SimCLR进行对比学习预训练 通过停止梯度进行在线线性评估 Pytorch闪电登录和默认收益(多GPU训练,混合精度等) 在GPU装置上收集负片以模拟更大的批次大小(尽管梯度不会在GPU上流动) 使用加快数据加载速度(以使用更多GPU内存为代价) SimCLR多分辨率农作物 SimCLR + 预训练后线性评估(通常得出1-1.5%的准确度点) 工作于: 结果 模型 方法 数据集 时代 批 温度 多作 大理 监督下 在线线性评估 预训练后线性评估 Resnet18 SimCLR Imagenet-100 100 256 0.2 70.74 71.02 Resnet18 SimCLR Imagenet-100 100 256 0.2 :check_mark_button:
2021-09-13 14:15:07 27KB pytorch nvidia-dali pytorch-lightning simclr
1
包含ICLR2021、WWW2021、SIGIR2021、AAAI2021、NIPS2020等十一个顶会60多篇论文!
2021-09-10 15:05:19 133.67MB 顶会论文
1
PyTorch SimCLR:视觉表示形式对比学习的简单框架 带有完整文档的博客文章: 另请参见。 安装 $ conda env create --name simclr --file env.yml $ conda activate simclr $ python run.py 配置文件 在运行SimCLR之前,请确保选择正确的运行配置。 您可以通过将关键字参数传递给run.py文件来更改正在运行的配置。 $ python run . py - data . / datasets - - dataset - name stl10 - - log - every - n - steps 100 - - epochs 100 如果要在CPU上运行它(出于调试目的),请使用--disable-cuda选项。 要进行16位精度的GPU培训,请确保安装并使用--fp16_precision标志。 功能评估 使用线性模型协议进行特征评估。 首先,我们在STL10 unsupervised集中使用SimCLR学习了功能。 然后,我们在SimCLR的冻结特征之上训练线性分类器。 根据从STL
1
加入Bert、CRF和对比学习的SlotFilling.zip
2021-08-27 18:07:12 187KB 自然语言处理
1
主要介绍了vue2和vue3的v-if与v-for优先级对比学习,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一起学习学习吧
2021-08-09 14:49:27 73KB v-if v-for优先级 v-if v-for
1
加入对比学习的语义相似度计算Similarity.zip
2021-07-02 12:05:26 2.64MB 对比学习
1
对比学习数据集
2021-06-29 17:43:15 6.06MB 对比学习
1
对比学习代码整理、超参数调优、日志记录结果、新数据集ohsumed
2021-06-25 13:05:21 39.76MB 深度学习 数据集
1
加入对比学习的文本分类trec_v1.py
2021-06-23 15:06:28 16KB 深度学习
1