專屬 GPU 分配
GPUtw 以整台工作節點出租容器執行個體。容器會取得該工作節點的 GPU 容量、CPU 核心、可用記憶體,以及扣除主機保留後的執行個體儲存空間。
儲存空間
容器工作區儲存空間綁定於所選工作節點。持久化 Vault 會掛載到運行中 GPU 容器的 /vault。
工作區實際可用空間
/workspace 的容量等於執行個體所租用的磁碟大小。但在容器內執行 df 會顯示另一個數字——機器本身的磁碟——因為底層檔案系統就是它。整台機器都是您的,上面不會有其他客戶的資料;但這個數字包含平台自身的用量(作業系統、容器映像),並不是您的執行個體實際受限的大小。
請以執行個體的資源資訊為準,該端點會同時回傳配置量與即時用量:
GET/api/instances/{id}/resources寫入超過租用容量時,執行個體會被停止,而不是讓該次寫入失敗;因此若工作依賴 df 判斷剩餘空間,可能會在磁碟看起來還很空的情況下被中斷。需要保留的檔案請放在 /vault,它有自己的配額,也會在執行個體結束後保留。
從執行個體內部關機
以 GPUtw 基礎映像建立的執行個體都內建 gputw-shutdown,可在執行個體內的 shell 直接關閉自己。將它接在工作之後,GPU 就會在工作結束的當下釋放,不必等到有人想起來手動停止才停止計費。
python train.py && gputw-shutdown- gputw-shutdown: 停止執行個體——紀錄會保留,/vault 也會保存,之後可再次啟動
- gputw-shutdown --terminate: 直接刪除執行個體
- gputw-shutdown --help: 在容器內顯示同樣的說明
無論選擇哪一種,/workspace 都是暫時性的——關機之前請先把需要保留的檔案複製到 /vault。另外 && 只在工作以 0 結束時才會關機;若希望工作失敗時也關機,請改用 ;。
此指令使用平台注入的執行個體專屬 token 驗證,因此只能關閉它所在的那一個執行個體——不需要 API 金鑰,也無法碰到帳號內其他資源。自訂映像只有在以 GPUtw 基礎映像 FROM 建置時才會內含此指令;但 token 一樣會注入,因此用一行 curl 也能達成相同效果(請參閱 API 章節的「執行個體運行狀態」)。
連接埠
環境範本可預設開放 Web 連接埠。部署後也能從控制台新增 HTTP 連接埠與 raw TCP/UDP 端點。