使用手冊
進階:遠端 GPU 推論伺服器
遠端伺服器同時跑兩個 Tensor Dynamics 服務:
- Tensor Dynamics Vision — 視覺語言模型,看懂畫面、描述場景。埠 8080。
- Tensor Dynamics Detect — 物件偵測,精準數人數。埠 8081。
Tensor Detect 偵測到的人數會塞進給 Tensor Vision 的提示,讓場景判斷更準。
步驟
- SSH 登入伺服器,依說明安裝 Tensor Engine 套件。
- 啟動 Tensor Vision(埠 8080)與 Tensor Detect(埠 8081)。
- 在你的本機建立 SSH 通道:
ssh -L 8080:localhost:8080 -L 8081:localhost:8081 <user>@<server-ip> -p <ssh-port>這個視窗要保持開著。它把遠端的 8080 / 8081 映射到本機。
- 回到 Tensor Dynamics Watch,INFERENCE BACKEND 選 Tensor Engine,Base URL 填
http://127.0.0.1:8080/v1,按 Test Connection。
下一節
常見問題