在跑ai模型的时候,容易遇到算力不够的情况。此时便需要租用服务器。autodl是个较为便宜的服务器租用平台,h20仅需七点几元每小时。下面是简单的介绍。
打开网站AutoDL算力云 | 弹性、好用、省钱。租GPU就上AutoDL,并登录账号
登录后,点击算力市场
选择合适的卡,点击进入租卡界面。注意专区要选好,一般而言文件只能在一个专区互相传递。如果你组了个显存或性能不够的卡想换服务器,只能选择本地区的更高级的卡,能够很方便的数据转移。
选择镜像。可以先试试社区镜像有没有你需要的模型。如果没有,就用基础镜像,选择你的pytorch版本,或者其他深度学习框架。
点击创建并开机,可以在容器实例中看到自己租用的服务器。
点击快捷工具中的jupyterlab
可以看到如下页面,点击其他,终端
我们的开发主要在终端中完成。
在终端跑ai代码即可
注意:尽量把东西防止在数据盘,因为数据盘可以无限扩充,花钱就行。系统盘是固定死的30gb,不要乱放文件。cd /root/autodl-tmp可以进入数据盘。
同时记住,你的容器实例如果15天没有开机,会自动注销。因此当做一个长期的项目时,最好14天开一次机,防止数据销毁。销毁后没有任何办法恢复。
下次登录,想要再次调出容器,只需要点击右上角控制台,点击容器实例,再点击开机就行了。
下面介绍更多 选项栏里面常用的几个功能:
1.无卡模式开机:在配置环境等等不需要gpu的时候可以用,非常便宜。但是注意可能当你刚配完环境的时候,这张卡就被别人租走了,所以一般配置环境的时候也会开机占个坑。
2.扩容数据盘:默认数据盘是50gb。当你跑ai模型时,产生的数据量大于50gb,就要扩容。注意,扩容后按gb收费,关机的时候也收费。
3.跨实例拷贝数据:可以把当前服务器的数据盘和系统盘迁移到同地区的其他服务器上。所以刚开始选择地区的时候,一定要选好了。