【VALSE2023】0610 胡瀚《视觉自监督学习年度进展评述》

news2025/11/6 19:07:41

from： https://www.bilibili.com/video/BV1J44y1w79r

文章目录

自监督学习年度进展
- 技术进展趋势一：掩码图像建模的改进
- 技术进展二：发现掩码图像建模对**大模型**比较友好
- 技术进展三：针对**小模型**的掩码图像建模训练
- 技术进展四：挖掘掩码图像建模的性质
- 技术进展五：拓展到其他模态
小结：自监督学习年度进展——掩码图像建模

在这里插入图片描述

自监督学习年度进展

在这里插入图片描述

技术进展趋势一：掩码图像建模的改进

在这里插入图片描述

技术进展二：发现掩码图像建模对大模型比较友好

在这里插入图片描述

技术进展三：针对小模型的掩码图像建模训练

在这里插入图片描述

技术进展四：挖掘掩码图像建模的性质

在这里插入图片描述

技术进展五：拓展到其他模态

在这里插入图片描述

小结：自监督学习年度进展——掩码图像建模

在这里插入图片描述

本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如若转载，请注明出处：http://www.coloradmin.cn/o/843480.html

如若内容造成侵权/违法违规/事实不符，请联系多彩编程网进行投诉反馈，一经查实，立即删除！

51单片机学习--DS18B20温度读取温度报警器

需要先编写OneWire模块，再在DS18B20模块中调用OneWire模块的函数先根据原理图做好端口的声明： sbit OneWire_DQ P3^7;接下来像之前一样把时序结构用代码模拟出来： unsigned char OneWire_Init(void) {unsigned char i;unsigned char Ac…

Android学习之路(1) 文本设置

Android学习之路(1) 文本一、设置文本内容设置文本内容的两种方式： 一种是在XML文件中通过属性android:text设置文本代码如下 <TextViewandroid:id"id/tv_hello"android:layout_width"wrap_content"android:layout_height"wrap_c…

54款宝藏级AIGC工具分享(claude,Midjourney,Stable Diffusion等)

随着ChatGPT的一波又一波高潮，生成式AI逐渐进入人们视野，并开始大行其道，正如人们所说：AI用的好，天天下班早！ 当然，有效的利用AI不但能下班早，还能在上班时间摸鱼，就如潘…

【AI量化模型】跑通baseline

跑通baseline 任务学习内容特征工程模型训练与验证 bug未纠错的结果任务教程部署在百度 AI Studio，可以一键fork运行代码，选择*v100 32g1*的配置，baseline运行大约20分钟，再加上进阶部分大约40分钟学习内容特征工程构建基…

数据结构(c++语言版) 邓俊辉第五章：二叉树学习笔记

5.1二叉树及其表示树是由节点和边组成的。 1.有根树树是由顶点(vertex)和边(edge)组成。树的每个顶点也叫节点(node)。 2.深度与层次由树的连通性，每一节点与根都有一条路径相连：根据树的无环性，由根通往每个节点的路径必然唯一。节点v…

在e2studio中使用DAP进行开发调试（基于DShanMCU-RA6M5开发板）

在e2studio中使用DAP进行开发调试（基于DShanMCU-RA6M5开发板） 百问网瑞萨MCU文档教程在线学习： http://renesas-docs.100ask.net 目录文章目录在e2studio中使用DAP进行开发调试（基于DShanMCU-RA6M5开发板）目录1. 资…

【GPT-3 】创建能写博客的AI工具

一、说明如何使用OpenAI API，GPT-3和Python创建AI博客写作工具。在本教程中，我们将从 OpenAI API 中断的地方继续，并创建我们自己的 AI 版权工具，我们可以使用它使用 GPT-3 人工智能 （AI） API 创建独特的…

【c语言】-- 结构体

📕博主介绍：目前大一正在学习c语言，数据结构，计算机网络。 c语言学习，是为了更好的学习其他的编程语言，C语言是母体语言，是人机交互接近底层的桥梁。本章来学习结构体。让我们开启c语言学习之…

1.思维导图 2.shell函数获取uid和gid，并用变量接 #!/bin/bashfunction fun() {read -p "输入用户名" necho uid:id -u $necho gid:id -g $n } afun echo $a3.冒泡、选择和快排代码整理 /**************************************************************…

MySQL游标(二十九)

二八佳人体似酥，腰悬利剑斩愚夫，虽然不见人头落,暗里教君骨髓枯。上一章简单介绍了MySQL流程控制(二十八) ,如果没有看过,请观看上一章一. 游标一.一什么是游标虽然我们也可以通过筛选条件 WHERE 和 HAVING，或者是限定返回记录的关键…

冒泡排序简单选择排序插入排序快速排序

bubblesort 两个for循环，从最右端开始一个一个逐渐有序 #include <stdio.h> #include <string.h> #include <stdlib.h>void bubble(int *arr, int len); int main(int argc, char *argv[]) {int arr[] {1, 2, 3, 4, 5, 6, 7};int len sizeof(…