楊凈夢(mèng)晨發(fā)自凹非寺量子位|公眾號(hào)QbitAI在學(xué)校里學(xué)AI最頭疼的是什么？排第一的肯定是組里算力不夠，而且是永遠(yuǎn)不夠，即使春節(jié)都不夠。我一個(gè)師妹最近就向我吐槽：找導(dǎo)師吵了架終于在春節(jié)前回了老家，但過(guò)年時(shí)間也得煉丹！實(shí)驗(yàn)室的顯卡還不夠用，現(xiàn)在

楊凈 夢(mèng)晨 發(fā)自 凹非寺量子位 | 公眾號(hào) QbitAI

在學(xué)校里學(xué)AI最頭疼的是什么？

排第一的肯定是組里算力不夠，而且是永遠(yuǎn)不夠，即使春節(jié)都不夠。

我一個(gè)師妹最近就向我吐槽：

找導(dǎo)師吵了架終于在春節(jié)前回了老家，但過(guò)年時(shí)間也得煉丹！

實(shí)驗(yàn)室的顯卡還不夠用，現(xiàn)在家里只有個(gè)筆記本，根本跑不動(dòng)！

我去問(wèn)了一圈，發(fā)現(xiàn)AI學(xué)子春節(jié)也要煉模型這種事，還挺普遍。

比如投國(guó)際會(huì)議的，ECCV今年截止日期是3月7日，時(shí)間很緊張。

CVPR更要命，Rebuttal截止到2月1日大年初一早上8點(diǎn)，大年三十晚上寫論文，真·難忘今宵。

也是很辛苦了，畢竟到了除夕之夜，連瑯琊榜里的言侯都不煉丹了（狗頭）。

對(duì)大多數(shù)學(xué)校來(lái)說(shuō)算力總是不夠用的。

如果是組里的工作或?qū)熛碌腄eadline，可以直接找導(dǎo)師報(bào)銷。

但也有人是自己要卷，額外投論文、搞比賽的，那就得自掏腰包了。

有一位資深“卷王”，滿世界租GPU已經(jīng)租出了心得。

去大型公有云整租服務(wù)器比較貴，現(xiàn)在有一些面向個(gè)人的云平臺(tái)就便宜多了。

個(gè)人云上可以方便的租單卡，按小時(shí)租，使用起來(lái)比較靈活。

英偉達(dá)RTX系列顯卡可以做到1-2元/小時(shí)，V100大概3-4元/小時(shí)。

而且要找那種主做機(jī)器學(xué)習(xí)市場(chǎng)的，在國(guó)外有vast.ai，國(guó)內(nèi)有矩池云、恒源云、AutoDL等。

這些平臺(tái)會(huì)對(duì)AI模型訓(xùn)練有專門適配，框架依賴、上傳數(shù)據(jù)等方面都考慮到了，不用每次上機(jī)先花半天時(shí)間配置環(huán)境。

其中叫AutoDL這家春節(jié)還準(zhǔn)備搞大促，號(hào)稱限時(shí)免費(fèi)，就很離譜。

但考慮到這個(gè)平臺(tái)不怎么知名，在推薦給師妹刷好感度之前，我還是自己先看看。

驗(yàn)證一下這羊毛到底好不好薅。

ps. 雖是羊毛，下含推薦。先劃個(gè)重點(diǎn)，文末有驚喜！

什么樣的算（yang）力（mao）平臺(tái)？

看了活動(dòng)細(xì)則后我坐不住了：對(duì)新注冊(cè)用戶來(lái)說(shuō)，限時(shí)免費(fèi)居然是真的。

別看這一大段抵扣券啥的說(shuō)了這么多，其實(shí)就是相當(dāng)于春節(jié)7天，每天送80多元余額，7天將近600。

80多元什么概念？

如果用來(lái)租英偉達(dá)RTX 3090，租滿一天24小時(shí)還有富余，再添點(diǎn)可以租兩張。

按天送搞這么復(fù)雜，大概是為了限制每個(gè)用戶的用量，畢竟是拉新的活動(dòng)，不能讓少數(shù)人把資源都占了。

要參加這個(gè)活動(dòng)的門檻也不高，首先需要是新注冊(cè)用戶，然后只需要充值100元即可。

這100元可以配合抵扣券在春節(jié)期間租更好的卡，或在活動(dòng)結(jié)束之后正常使用。

既然真的是羊毛，那我就先薅為敬了，也考察一下這家平臺(tái)還有些什么名堂。

從提供的顯卡種類看，選擇還是很豐富的。

其他平臺(tái)基本上僅涵蓋英偉達(dá)的系列顯卡，從TITAN Xp、K80到3090、A100、V100等。

而AutoDL提供的顯卡，包括更多RTX系列中間型號(hào)，共超過(guò)900張，還有國(guó)產(chǎn)芯片，寒武紀(jì)、華為之類可以選。

這些國(guó)產(chǎn)芯片往往更加火爆，時(shí)常處于已租完的狀態(tài)。

為了避免有同學(xué)不知道該如何選GPU，除了有專門的幫助文檔外，平臺(tái)還將GPU分成通用性、大顯存、高主頻CPU、多核心CPU、1元GPU等類別供其選擇。

價(jià)格上，3090每小時(shí)只需1.99元，最貴的A100 80GB NVlink每小時(shí)也只需7.98元。包月的話也大都在每天十幾二十元不等。

在此，與其他平臺(tái)幾類常見的顯卡價(jià)格來(lái)做個(gè)比較。

（數(shù)據(jù)截止至1月26日上午11：30，圖中價(jià)格顯示平臺(tái)最低價(jià)格，部分廠商還有充值返券機(jī)制）

所以不論種類、還是價(jià)格上，AutoDL都有一定的優(yōu)勢(shì)。

官網(wǎng)還特別強(qiáng)調(diào)：這些價(jià)格在今年只會(huì)降低，不會(huì)提高。

除了硬件層面，AutoDL還為深度學(xué)習(xí)用戶提供配套功能。

比如，內(nèi)置深度學(xué)習(xí)框架及版本的鏡像，除了必備的Pytorch、Tensorflow，還有PaddlePaddle、Miniconda、清華Jittor等。

還有一些常用的開源數(shù)據(jù)和預(yù)訓(xùn)練模型，比如ImageNet、BERT之類，免去下載上傳的煩惱。

除了該有的顯卡、工具，這個(gè)平臺(tái)還有一些別處沒有的功能和服務(wù)。

最有意思是升降配置和實(shí)例遷移。

比如調(diào)試代碼的時(shí)候可以省錢用單卡，想加速訓(xùn)練了隨時(shí)增加。

再狠一點(diǎn)還可以用5毛錢的TITAN Xp調(diào)試，到時(shí)候再把實(shí)例遷移到好卡上去運(yùn)行，肝Paper不浪費(fèi)一分錢。

數(shù)據(jù)上傳方面，一般平臺(tái)就是內(nèi)置JupytorLab工具、支持FileZilla、XShell等軟件之類。

在這基礎(chǔ)上，AutoDL提供了網(wǎng)盤服務(wù)。

可以在實(shí)例間方便的共享數(shù)據(jù)，每個(gè)地區(qū)的網(wǎng)盤免費(fèi)空間大小為20GB。

不過(guò)這一點(diǎn)，也不是AutoDL特有。像矩池云、恒源云也都有免費(fèi)的存儲(chǔ)空間，超出即采取收費(fèi)模式。

實(shí)在不行，平臺(tái)還支持郵寄硬盤。

講道理，一般來(lái)說(shuō)只有像谷歌、亞馬遜這樣的大平臺(tái)才會(huì)提供這個(gè)服務(wù)。

而這樣一個(gè)面向?qū)W生的AutoDL不光提供還免費(fèi)，同學(xué)可直接將訓(xùn)練數(shù)據(jù)存儲(chǔ)在硬盤里，然后郵寄到機(jī)房，由這邊運(yùn)維的同學(xué)幫忙物理掛載。

對(duì)了，內(nèi)蒙A區(qū)還將在明年一季度升級(jí)并接入ipv6教育專網(wǎng)，數(shù)據(jù)上傳的速度將再次提升。

綜上所述，不管在價(jià)格活動(dòng)、顯卡可租的范圍、還在特定功能上，AutoDL確實(shí)有羊毛可薅！

薅羊毛的“最佳實(shí)踐”

基本情況看完了，那這個(gè)羊毛到底怎么薅才最劃算，現(xiàn)在就來(lái)總結(jié)一下。

首先注冊(cè)就送10元券，這個(gè)也相當(dāng)于余額，是無(wú)使用門檻的，可以直接抵扣。

現(xiàn)在注冊(cè)即送1個(gè)月的三級(jí)會(huì)員，可以享受6.5折。

一個(gè)月后記得用教育郵箱認(rèn)證學(xué)生身份就可輕松保持會(huì)員等級(jí)，繼續(xù)享受折扣。

按會(huì)員價(jià)，春節(jié)期間一個(gè)劃算的選擇是英偉達(dá)A40，2.98元*24小時(shí)是71.52元，用完抵扣券還有富余。

另外3090也是不錯(cuò)的選擇，雖然顯存比A系列小，但租兩張的話單精度算力幾乎翻倍，可以根據(jù)任務(wù)需求選擇。

8兩張3090在抵扣券范圍內(nèi)可以用20多小時(shí)～

以上是價(jià)格層面，如果想要薅盡最后一根羊毛，其實(shí)還有一些小技巧。

上傳數(shù)據(jù)、調(diào)試代碼等用不到GPU的階段可以使用無(wú)卡模式開機(jī)。

這樣只會(huì)調(diào)用0.5個(gè)CPU核，2G內(nèi)存，無(wú)GPU，無(wú)論租的哪種配置，無(wú)卡模式價(jià)格都是一毛一小時(shí)。

如果一開始只需要少量算力做調(diào)試，也可以先開1塊GPU，等正式訓(xùn)練需要多卡并行了再隨時(shí)升降配置。

如果是一段時(shí)間內(nèi)集中的需求，可以選擇包天、包周、包月。

這樣比按量計(jì)費(fèi)還要再便宜10%左右，而且不用擔(dān)心關(guān)機(jī)后GPU被其他用戶占用。

嗯，說(shuō)到關(guān)機(jī)的問(wèn)題，別忘了在Python代碼最后加上一句執(zhí)行完成后關(guān)機(jī)，避免浪費(fèi)。

畢竟很多時(shí)候自己也不知道代碼要執(zhí)行多久。

os.system("shutdown")

另外提醒一下，可不要想著把羊毛薅來(lái)挖礦，是會(huì)封號(hào)的。

如果你春節(jié)也有租顯卡的需求，可以點(diǎn)擊閱讀原文去注冊(cè)薅起來(lái)了。

要是你剛好在準(zhǔn)備ECCV和CVPR論文，屆時(shí)文章若被錄用，聯(lián)系A(chǔ)utoDL客服，還會(huì)收到666元無(wú)門檻優(yōu)惠券。

如果你本來(lái)沒什么deadline要完成，要不向卷王同學(xué)一樣報(bào)名個(gè)機(jī)器學(xué)習(xí)比賽去卷一卷？

畢竟優(yōu)惠活動(dòng)是限時(shí)的，過(guò)了春節(jié)就沒了。

最后，再附上一份各GPU型號(hào)簡(jiǎn)介供參考，看看你的模型適合跑在什么卡上。

更詳細(xì)的選卡攻略，可以到幫助文檔查看https://www.autodl.com/docs/gpu/

— 完 —

量子位 QbitAI · 頭條號(hào)簽約

關(guān)注我們，第一時(shí)間獲知前沿科技動(dòng)態(tài)