1. 新手第一课理解AutoDL的“无卡”与“有卡”模式刚接触AutoDL的朋友看到“无卡模式”和“有卡模式”这两个词是不是有点懵别急这其实是平台为了帮我们省钱设计的一个非常实用的功能。我刚开始用的时候也在这上面浪费了不少钱现在想想都是泪。今天我就把这里面的门道和踩过的坑掰开揉碎了讲给你听。简单来说“无卡模式”就是启动一个没有分配GPU的实例。它本质上就是一个纯粹的云服务器只有CPU和内存。这个模式最大的好处就是便宜开机费用是按CPU和内存算的比带GPU的实例便宜太多了。那它有什么用呢主要就是用来做一些不依赖GPU的准备工作比如上传你的项目文件、安装一些基础的系统依赖、配置Python环境、解压大型数据集等等。你想啊如果你租一个带A100显卡的机器一小时可能十几块钱然后花半小时在那慢悠悠地传文件、装环境这钱不就白白烧掉了吗用无卡模式来做这些事成本可能连一块钱都不到。但是这里有个新手特别容易掉进去的“坑”。当你辛辛苦苦在无卡模式下传完数据、配好环境准备大干一场运行你的深度学习训练脚本时终端可能会给你抛出一个冷冰冰的错误“No CUDA-capable device is detected”或者“RuntimeError: No GPU available”。你一下子就傻眼了钱也花了时间也搭了结果程序跑不起来。这是因为你的环境里虽然安装了PyTorch、TensorFlow这些框架但它们运行在无GPU的模式下。一旦你切换到有卡模式系统环境是新的你之前装的那些依赖可能就“消失”了。那正确的操作姿势是什么呢我的经验是把它看作一个“准备-切换-开跑”的流水线。首先在无卡模式下开机用我后面会讲到的几种高效方法把你的代码、数据都上传到位。然后最关键的一步使用AutoDL的“保存镜像”功能。这个功能会把当前实例的整个系统状态包括你刚装好的所有软件、上传的所有文件打包成一个完整的快照。保存完成后你再关机并重新选择“有卡模式”开机但这次在创建实例时不要选择“基础镜像”而是选择“自定义镜像”找到你刚刚保存的那个镜像。这样一来新开的带GPU的实例就直接继承了你之前配好的完美环境开机即用直接开跑训练一分钱都不浪费。还有一种情况你保存了镜像切换到有卡模式开机时平台可能会提示“该区域暂无可用GPU”。别慌这很正常热门显卡比如4090、A100很抢手。这时候AutoDL的“克隆实例”功能就派上大用场了。你可以在同一地区内寻找其他有可用GPU的机器直接克隆你的镜像过去。这个功能每天有次数限制但确实是救命稻草。我个人的习惯是如果当前机器没卡我会立刻去同一地区的其他机房看看稍微等几分钟刷新一下通常都能找到可用的机器。2. 文件上传告别龟速三大高效方法实战上传文件到远程服务器听起来简单做起来却能让新手抓狂。尤其是当你有个几十GB的数据集压缩包时那种看着进度条像蜗牛一样爬行的感觉简直是在烧钱。我在AutoDL上试遍了各种方法总结下来三个最靠谱的各有优劣你可以根据你的情况来选。方法一JupyterLab直接拖拽最方便但最慢这是平台内置的最直观的方法。进入你的实例控制台打开JupyterLab左边是文件浏览器。你可以直接从本地电脑把文件或文件夹拖拽到浏览器窗口里。或者点击左上角的“上传”按钮。这个方法的好处是零配置打开网页就能用适合传几个小脚本或者配置文件几MB的那种。 但是实测下来它的速度非常不稳定而且对大文件极不友好。因为它是通过网页前端上传受限于你本地网络的上行带宽和浏览器性能。传一个几百MB的文件可能还能忍传几个G的中途还可能因为网络波动失败前功尽弃。所以我的建议是仅用于上传小型、关键的非数据文件。方法二使用SFTP工具如Xftp/WinSCP稳定可靠速度尚可这是专业运维人员常用的方法我们需要两个软件一个SSH连接工具如Xshell、PuTTY和一个SFTP文件传输工具如Xftp、WinSCP。很多工具是集成的比如Xshell和Xftp。 首先你需要从AutoDL控制台获取你的连接信息SSH地址、端口号和登录密码。然后在Xftp中新建一个会话主机填SSH地址端口填那个五位数端口比如region-3.autodl.com:12345用户名填root密码填控制台给的密码。连接成功后界面会分成左右两栏左边是你的本地电脑右边是远程服务器。传文件就是简单的拖拽下面有进度条和速度显示。 这个方法比网页拖拽快得多也更稳定因为它使用的是专用的文件传输协议。速度主要取决于你本地的网络上行带宽。如果你家是百兆或千兆宽带上传速度能达到几MB/s到十几MB/s。对于几个G的数据集勉强可用。但如果你要从本地传一个50GB的ImageNet压缩包用这个方法可能得挂一晚上。方法三通过网盘中转如阿里云盘强烈推荐神速这是我最推荐也是目前最高效的方法彻底解决本地带宽瓶颈。核心思路是先把大文件上传到国内的公有云盘如阿里云盘、百度网盘因为云盘的上传下载服务器之间通常是高速内网互联速度飞快。然后在AutoDL的实例里直接用命令行工具从云盘下载。 具体操作如下假设你用了阿里云盘。先在本地电脑把大文件上传到你的阿里云盘。然后在AutoDL的实例终端里安装一个第三方命令行工具比如aliyundrive-webdav它可以把你云盘里的文件以WebDAV协议的形式挂载到服务器上或者直接生成下载链接。更简单一点你可以在阿里云盘网页版对文件“分享”生成一个分享链接。然后在服务器里使用wget或curl命令配合一些解析工具来下载。# 示例使用一款常见的下载工具假设已安装下载分享的文件 # 具体命令需根据你使用的工具调整 tool_name -c 你的Cookie或刷新令牌 download --url 你的阿里云盘分享链接这个方法的优势是AutoDL的数据中心到国内云盘服务器的速度非常快经常能跑满你的实例带宽达到每秒几十甚至上百MB。我传一个20GB的压缩包用方法二可能要半小时以上用这个方法经常三五分钟就搞定了。这节省的不仅是时间更是真金白银的机时费。当然这个方法需要你稍微折腾一下命令行工具但网上教程很多配置一次终身受益。3. 镜像与克隆你的时间和金钱拯救者如果说AutoDL平台有两个功能让我忍不住想“吹爆”那绝对是“保存镜像”和“克隆实例”。这俩兄弟组合拳是让你从新手进阶为高效使用者的关键真正把云GPU用出性价比。### 3.1 保存镜像打造你的专属开发环境模板镜像到底是什么你可以把它理解为你电脑的“一键Ghost备份”。它捕获的是你当前实例的完整系统状态操作系统、预装的软件、你通过apt或pip安装的所有依赖库、你上传到/root目录下的所有项目代码和数据甚至包括你设置的环境变量。一旦保存成镜像它就变成了一个独立的模板。 保存操作非常简单。在AutoDL实例的控制台页面找到“更多”或“管理”选项里面就有“保存镜像”。点击后给你的镜像起个易懂的名字比如“pytorch1.12-cuda11.3-我的项目环境”然后确认即可。平台会在后台为你打包这个过程可能需要几分钟到十几分钟期间实例可能无法操作建议在完成环境配置、暂时不用机器时进行。 这个镜像的威力在哪里在于“复用”。下次你新建一个实例时在“选择镜像”步骤除了官方提供的基础镜像还会看到“我的镜像”列表。选择你之前保存的镜像新开的机器就是一个和你之前环境一模一样的“克隆体”。你再也无需重复“安装CUDA - 安装PyTorch - 安装各种pip包 - 配置路径”这一系列繁琐且容易出错的步骤了。对于需要频繁开机关机、或者同时进行多个实验的朋友这节省的时间是海量的。### 3.2 克隆实例无缝切换抢占稀缺资源“克隆实例”是“保存镜像”的好搭档但它解决的是另一个痛点GPU资源紧张时的快速迁移。想象一下这个场景你在A机器上配好了完美的环境正在跑一个需要好几天的长周期训练。突然A机器因为硬件调度或其他原因需要被回收或者你想换一个更便宜的显卡型号。如果没有克隆功能你只能干瞪眼或者从头再来一遍。 克隆功能允许你在同一地区内将某个实例的当前状态或者其对应的镜像快速部署到另一台物理机器上。操作同样在控制台进行选择目标实例点击“克隆”然后在新界面里选择目标区域和可用的GPU机型。平台会自动帮你完成镜像传输和新实例的创建。 这里有几个实战技巧和限制需要注意地区限制克隆只能在同一个大区内进行比如“华北-北京”的实例只能克隆到“华北-北京”的其他机器不能克隆到“华南-广州”。所以建立你的常用环境镜像时最好在每个你可能用到的地区都保存一份。次数限制平台通常会对克隆操作有每日次数限制比如每天3次。这要求我们把它用在“刀刃”上不要随意克隆。我的常用策略我一般不会在训练中途直接克隆运行中的实例怕状态不一致。更稳妥的做法是定期比如每天对重要的训练实例“保存镜像”。当需要迁移时用这个最新的镜像去“克隆”一个新实例。这样既能保证环境一致性又避免了直接克隆可能带来的潜在问题。当遇到心仪的显卡没货时我也会用这个方法在不同型号的机器间切换比如从RTX 4090换到A100只要环境镜像兼容工作量几乎为零。4. 离线运行与终端管理后台任务不迷路很多新手会有疑问我在AutoDL上跑一个训练任务必须一直开着浏览器页面吗我关掉网页或者电脑休眠了程序会不会断掉终端不小心关了怎么找回刚才的输出这些问题都涉及到云服务后台任务的管理逻辑。### 4.1 程序离线运行关掉网页也没事首先给你吃个定心丸你的深度学习训练任务一旦在终端里用命令如python train.py启动起来它就是在AutoDL的远程服务器上独立运行的和你本地的浏览器、甚至和你本地电脑的网络连接状态都没有关系。这和你本地用PyCharm跑程序有本质区别。本地跑程序关掉PyCharm或者电脑休眠进程就结束了。但在服务器上你通过SSH终端启动的进程默认会绑定到当前终端会话。一旦你关闭终端比如关闭了Xshell窗口或者网页终端标签页这个会话结束由它启动的所有进程通常会收到终止信号而退出。 那怎么让程序在后台持续运行呢这就需要一点简单的Linux命令技巧。最常用的方法是使用nohup命令配合符号。nohup python train.py train.log 21 我来解释一下这个命令nohup意思是“不挂断”让命令忽略终端的挂断信号。 train.log把程序的标准输出重定向到train.log这个文件里。21把标准错误也重定向到标准输出也就是一起写入train.log。让命令在后台运行。 执行这行命令后终端会返回一个进程IDPID然后你就可以安心地关闭终端窗口了。你的train.py会在服务器后台默默运行所有打印信息都会保存到train.log文件中。之后你可以随时重新连接服务器用tail -f train.log命令来实时查看最新的日志输出。### 4.2 终端页面空白或丢失如何找回有时候我们可能在网页控制台里不小心关掉了正在运行任务的终端标签页或者浏览器崩溃了。重新打开AutoDL控制台点开“JupyterLab”或“终端”发现是一个崭新的、空白的终端刚才跑的程序和输出全不见了。别慌你的程序很可能还在后台跑着如果你没用nohup可能已经挂了所以一定要用。 在JupyterLab界面里找回原有终端会话的地方很隐蔽。请你看向页面左下角那里通常有一个类似[1]或者终端图标的小标志。点击它会弹出一个面板里面列出了当前所有活跃的终端会话。你之前打开的那个终端里面可能还在跑着程序就在这个列表里通常编号是1或者更小。点击它就能重新连接到那个会话看到之前的命令历史和输出。如果找不到那很可能会话真的被终止了这时你就需要去查看你用nohup保存的日志文件了。 所以养成好习惯重要的长时任务一定要用nohup启动并重定向输出到日志文件。这样无论终端界面发生什么你都有迹可循。5. 压缩文件解压实战解决unzip与rar的坑在深度学习中打交道最多的除了代码就是数据。数据通常以巨大的压缩包形式存在在Linux服务器上解压这些包新手经常会遇到两个经典错误“unzip解压出错”和“无法解压rar文件”。这些问题看似小但卡住的时候非常耽误事我来带你一一击破。### 5.1 解决unzip解压大文件出错当你从网上下载了一个好几GB的.zip格式数据集兴冲冲地用unzip dataset.zip命令解压时终端可能会报错“archive requires ZIP64 extensions” 或者直接 “unzip: cannot find zipfile directory”。这不是你的文件坏了而是因为Linux系统自带的unzip工具版本太老不支持解压超过4GB大小的ZIP文件或者不支持ZIP64格式。 解决这个问题我们需要一个更强大的工具7zip。它的命令行版本7z功能强悍兼容性好。安装非常简单# 对于Ubuntu/Debian系统AutoDL常用系统 apt-get update apt-get install p7zip-full -y安装完成后解压命令不再是unzip而是用7z7z x your_large_file.zip -o/path/to/output/directory这里的x是解压参数-o后面接输出路径注意-o和路径之间没有空格。例如7z x dataset.zip -o./data会把压缩包解压到当前目录下的data文件夹里。用7z命令解压大ZIP包速度快而且稳定再也不用担心4GB限制了。### 5.2 解压RAR格式文件另一种常见情况是数据提供者用了.rar格式压缩。Linux系统默认是不支持解压RAR的因为RAR是闭源软件。这时候直接运行unrar命令会提示“command not found”。 我们需要安装unrar工具。在Ubuntu/Debian上安装命令如下# 首先添加multiverse软件源并更新部分系统可能需要 apt-get update # 安装unrar apt-get install unrar -y安装成功后就可以使用unrar命令来解压了。最常用的解压命令是unrar x your_file.rar这个x参数会保持压缩包内的目录结构进行解压。如果你想把所有文件都解压到当前目录忽略内部目录可以用e参数unrar e your_file.rar但通常不推荐用e因为可能会把成千上万文件全堆在一个文件夹里造成混乱。一个实用的技巧是在解压前先查看压缩包内容unrar l your_file.rar这样可以列出包里有啥确认无误后再解压。结合7z和unrar市面上绝大多数压缩包你都能轻松搞定。记得在AutoDL这类按量计费的平台上解压大型数据集尽量在“无卡模式”下进行省下的每一分钟都是钱。6. 环境配置与依赖安装的避坑要点配环境是机器学习项目的老大难问题在本地机器上尚且可能“祖传代码跑不起来”在远程服务器上更是步步惊心。在AutoDL上由于镜像的纯净性和网络环境有些地方需要特别注意。### 6.1 善用镜像源加速安装AutoDL的实例通常位于国内但默认的软件源如Ubuntu的apt源、Python的pip源可能指向海外服务器导致安装速度极慢甚至超时失败。第一步优化就是把源换成国内镜像。 对于系统级的包管理工具apt可以备份并编辑/etc/apt/sources.list文件将里面的archive.ubuntu.com等网址替换为阿里云、腾讯云或清华大学的镜像地址。一个更简单的方法是使用AutoDL平台内置的“镜像加速”功能如果提供或者在JupyterLab的终端里直接运行平台提供的换源脚本。 对于Python包管理pip换源是必操作。你可以为单次安装指定源pip install torch torchvision -i https://pypi.tuna.tsinghua.edu.cn/simple但更推荐的是配置为永久默认。在当前用户目录下创建或修改~/.pip/pip.conf文件写入[global] index-url https://pypi.tuna.tsinghua.edu.cn/simple trusted-host pypi.tuna.tsinghua.edu.cn这样以后所有pip install命令都会默认从清华源下载速度会有质的飞跃。### 6.2 虚拟环境为每个项目安一个家强烈建议不要直接在系统的全局Python环境里安装项目依赖。不同项目可能需要不同版本、甚至互相冲突的库。使用虚拟环境Virtual Environment为每个项目创建独立的Python运行空间是专业且必要的做法。 创建虚拟环境# 安装virtualenv如果未安装 pip install virtualenv # 为你的项目创建一个虚拟环境比如叫 myproject_env virtualenv myproject_env # 激活虚拟环境 source myproject_env/bin/activate激活后你的命令行提示符前会出现(myproject_env)字样表示你已进入该环境。之后所有pip install的操作都只影响这个环境不会干扰系统或其他项目。项目完成后可以deactivate退出。当你保存镜像时这个虚拟环境也会被一并保存。下次通过镜像创建新实例后只需要进入项目目录再次source activate即可恢复工作环境。### 6.3 处理复杂的C依赖有些Python包比如某些版本的PyTorch Geometric、或者需要编译的CUDA扩展在安装时需要系统存在对应的C库或开发工具。如果直接pip install失败报错信息里常常会提到缺少gcc、g、cmake或者像libopenblas-dev这样的库。 这时候需要先用apt安装这些系统依赖。一个比较通用的前置安装命令组合是apt-get update apt-get install build-essential cmake g gcc -y apt-get install libopenblas-dev libnuma-dev libjpeg-dev libpng-dev -y安装完这些基础开发工具和库之后再尝试安装那个复杂的Python包成功率会高很多。记住这个顺序先系统依赖apt再Python包pip。把这些安装步骤写成一个简单的Shell脚本保存在你的项目里下次在新环境配置时一键运行就能搞定非常方便。