科技改變生活 · 科技引領(lǐng)未來
科技改變生活 · 科技引領(lǐng)未來
楊凈夢晨發(fā)自凹非寺量子位|公眾號QbitAI在學(xué)校里學(xué)AI最頭疼的是什么？排第一的肯定是組里算力不夠，而且是永遠(yuǎn)不夠，即使春節(jié)都不夠。我一個師妹最近就向我吐槽：找導(dǎo)師吵了架終于在春節(jié)前回了老家，但過年時間也得煉丹！實驗室的顯卡還不夠用，現(xiàn)在
楊凈 夢晨 發(fā)自 凹非寺量子位 | 公眾號 QbitAI
在學(xué)校里學(xué)AI最頭疼的是什么？
排第一的肯定是組里算力不夠，而且是永遠(yuǎn)不夠，即使春節(jié)都不夠。
我一個師妹最近就向我吐槽：
找導(dǎo)師吵了架終于在春節(jié)前回了老家，但過年時間也得煉丹！
實驗室的顯卡還不夠用，現(xiàn)在家里只有個筆記本，根本跑不動！
我去問了一圈，發(fā)現(xiàn)AI學(xué)子春節(jié)也要煉模型這種事，還挺普遍。
比如投國際會議的，ECCV今年截止日期是3月7日，時間很緊張。
CVPR更要命，Rebuttal截止到2月1日大年初一早上8點，大年三十晚上寫論文，真·難忘今宵。
也是很辛苦了，畢竟到了除夕之夜，連瑯琊榜里的言侯都不煉丹了（狗頭）。
對大多數(shù)學(xué)校來說算力總是不夠用的。
如果是組里的工作或?qū)熛碌腄eadline，可以直接找導(dǎo)師報銷。
但也有人是自己要卷，額外投論文、搞比賽的，那就得自掏腰包了。
有一位資深“卷王”，滿世界租GPU已經(jīng)租出了心得。
去大型公有云整租服務(wù)器比較貴，現(xiàn)在有一些面向個人的云平臺就便宜多了。
個人云上可以方便的租單卡，按小時租，使用起來比較靈活。
英偉達(dá)RTX系列顯卡可以做到1-2元/小時，V100大概3-4元/小時。
而且要找那種主做機(jī)器學(xué)習(xí)市場的，在國外有vast.ai，國內(nèi)有矩池云、恒源云、AutoDL等。
這些平臺會對AI模型訓(xùn)練有專門適配，框架依賴、上傳數(shù)據(jù)等方面都考慮到了，不用每次上機(jī)先花半天時間配置環(huán)境。
其中叫AutoDL這家春節(jié)還準(zhǔn)備搞大促，號稱限時免費，就很離譜。
但考慮到這個平臺不怎么知名，在推薦給師妹刷好感度之前，我還是自己先看看。
驗證一下這羊毛到底好不好薅。
ps. 雖是羊毛，下含推薦。先劃個重點，文末有驚喜！
什么樣的算（yang）力（mao）平臺？
看了活動細(xì)則后我坐不住了：對新注冊用戶來說，限時免費居然是真的。
別看這一大段抵扣券啥的說了這么多，其實就是相當(dāng)于春節(jié)7天，每天送80多元余額，7天將近600。
80多元什么概念？
如果用來租英偉達(dá)RTX 3090，租滿一天24小時還有富余，再添點可以租兩張。
按天送搞這么復(fù)雜，大概是為了限制每個用戶的用量，畢竟是拉新的活動，不能讓少數(shù)人把資源都占了。
要參加這個活動的門檻也不高，首先需要是新注冊用戶，然后只需要充值100元即可。
這100元可以配合抵扣券在春節(jié)期間租更好的卡，或在活動結(jié)束之后正常使用。
既然真的是羊毛，那我就先薅為敬了，也考察一下這家平臺還有些什么名堂。
從提供的顯卡種類看，選擇還是很豐富的。
其他平臺基本上僅涵蓋英偉達(dá)的系列顯卡，從TITAN Xp、K80到3090、A100、V100等。
而AutoDL提供的顯卡，包括更多RTX系列中間型號，共超過900張，還有國產(chǎn)芯片，寒武紀(jì)、華為之類可以選。
這些國產(chǎn)芯片往往更加火爆，時常處于已租完的狀態(tài)。
為了避免有同學(xué)不知道該如何選GPU，除了有專門的幫助文檔外，平臺還將GPU分成通用性、大顯存、高主頻CPU、多核心CPU、1元GPU等類別供其選擇。
價格上，3090每小時只需1.99元，最貴的A100 80GB NVlink每小時也只需7.98元。包月的話也大都在每天十幾二十元不等。
在此，與其他平臺幾類常見的顯卡價格來做個比較。
（數(shù)據(jù)截止至1月26日上午11：30，圖中價格顯示平臺最低價格，部分廠商還有充值返券機(jī)制）
所以不論種類、還是價格上，AutoDL都有一定的優(yōu)勢。
官網(wǎng)還特別強(qiáng)調(diào)：這些價格在今年只會降低，不會提高。
除了硬件層面，AutoDL還為深度學(xué)習(xí)用戶提供配套功能。
比如，內(nèi)置深度學(xué)習(xí)框架及版本的鏡像，除了必備的Pytorch、Tensorflow，還有PaddlePaddle、Miniconda、清華Jittor等。
還有一些常用的開源數(shù)據(jù)和預(yù)訓(xùn)練模型，比如ImageNet、BERT之類，免去下載上傳的煩惱。
除了該有的顯卡、工具，這個平臺還有一些別處沒有的功能和服務(wù)。
最有意思是升降配置和實例遷移。
比如調(diào)試代碼的時候可以省錢用單卡，想加速訓(xùn)練了隨時增加。
再狠一點還可以用5毛錢的TITAN Xp調(diào)試，到時候再把實例遷移到好卡上去運行，肝Paper不浪費一分錢。
數(shù)據(jù)上傳方面，一般平臺就是內(nèi)置JupytorLab工具、支持FileZilla、XShell等軟件之類。
在這基礎(chǔ)上，AutoDL提供了網(wǎng)盤服務(wù)。
可以在實例間方便的共享數(shù)據(jù)，每個地區(qū)的網(wǎng)盤免費空間大小為20GB。
不過這一點，也不是AutoDL特有。像矩池云、恒源云也都有免費的存儲空間，超出即采取收費模式。
實在不行，平臺還支持郵寄硬盤。
講道理，一般來說只有像谷歌、亞馬遜這樣的大平臺才會提供這個服務(wù)。
而這樣一個面向?qū)W生的AutoDL不光提供還免費，同學(xué)可直接將訓(xùn)練數(shù)據(jù)存儲在硬盤里，然后郵寄到機(jī)房，由這邊運維的同學(xué)幫忙物理掛載。
對了，內(nèi)蒙A區(qū)還將在明年一季度升級并接入ipv6教育專網(wǎng)，數(shù)據(jù)上傳的速度將再次提升。
綜上所述，不管在價格活動、顯卡可租的范圍、還在特定功能上，AutoDL確實有羊毛可薅！
薅羊毛的“最佳實踐”
基本情況看完了，那這個羊毛到底怎么薅才最劃算，現(xiàn)在就來總結(jié)一下。
首先注冊就送10元券，這個也相當(dāng)于余額，是無使用門檻的，可以直接抵扣。
現(xiàn)在注冊即送1個月的三級會員，可以享受6.5折。
一個月后記得用教育郵箱認(rèn)證學(xué)生身份就可輕松保持會員等級，繼續(xù)享受折扣。
按會員價，春節(jié)期間一個劃算的選擇是英偉達(dá)A40，2.98元*24小時是71.52元，用完抵扣券還有富余。
另外3090也是不錯的選擇，雖然顯存比A系列小，但租兩張的話單精度算力幾乎翻倍，可以根據(jù)任務(wù)需求選擇。
8兩張3090在抵扣券范圍內(nèi)可以用20多小時～
以上是價格層面，如果想要薅盡最后一根羊毛，其實還有一些小技巧。
上傳數(shù)據(jù)、調(diào)試代碼等用不到GPU的階段可以使用無卡模式開機(jī)。
這樣只會調(diào)用0.5個CPU核，2G內(nèi)存，無GPU，無論租的哪種配置，無卡模式價格都是一毛一小時。
如果一開始只需要少量算力做調(diào)試，也可以先開1塊GPU，等正式訓(xùn)練需要多卡并行了再隨時升降配置。
如果是一段時間內(nèi)集中的需求，可以選擇包天、包周、包月。
這樣比按量計費還要再便宜10%左右，而且不用擔(dān)心關(guān)機(jī)后GPU被其他用戶占用。
嗯，說到關(guān)機(jī)的問題，別忘了在Python代碼最后加上一句執(zhí)行完成后關(guān)機(jī)，避免浪費。
畢竟很多時候自己也不知道代碼要執(zhí)行多久。
os.system("shutdown")另外提醒一下，可不要想著把羊毛薅來挖礦，是會封號的。
如果你春節(jié)也有租顯卡的需求，可以點擊閱讀原文去注冊薅起來了。
要是你剛好在準(zhǔn)備ECCV和CVPR論文，屆時文章若被錄用，聯(lián)系A(chǔ)utoDL客服，還會收到666元無門檻優(yōu)惠券。
如果你本來沒什么deadline要完成，要不向卷王同學(xué)一樣報名個機(jī)器學(xué)習(xí)比賽去卷一卷？
畢竟優(yōu)惠活動是限時的，過了春節(jié)就沒了。
最后，再附上一份各GPU型號簡介供參考，看看你的模型適合跑在什么卡上。
更詳細(xì)的選卡攻略，可以到幫助文檔查看https://www.autodl.com/docs/gpu/
— 完 —
量子位 QbitAI · 頭條號簽約
關(guān)注我們，第一時間獲知前沿科技動態(tài)
張熙華