LingBot-Map:普通相機影片即時 3D 點雲重建的 feed-forward 模型
Ant Group/Robbyant 開源 LingBot-Map:以普通相機影片做 streaming 3D reconstruction,README 稱約 20 FPS、518×378、單 GPU、可跑超過 10,000 frames;核心是 Geometric Context Transformer,透過 anchor context、pose-reference window、trajectory memory 統一座標錨定、局部幾何與長距離漂移修正。GitHub 實查約 11.8K stars、Apache-2.0,模型放 Hugging Face,但落地機器人導航仍需驗證延遲、尺度、鏡面/動態干擾與精度掉落。
Computer Vision / Robotics / 3D Reconstruction
LingBot-Map:普通相機影片即時 3D 點雲重建的 feed-forward 模型
Threads 介紹 Ant Group 旗下 Robbyant 團隊開源的 LingBot-Map:用普通相機影片,就能以 streaming 方式估計相機位置並重建 3D 點雲。它的賣點不是離線把模型做得多漂亮,而是把過去常靠 SLAM / SfM / iterative optimization 的流程,改成 feed-forward 模型近即時吐結果。
GitHub / model 實查
| 項目 | 內容 |
|---|---|
| Repo | Robbyant/lingbot-map |
| 描述 | A feed-forward 3D foundation model for reconstructing scenes from streaming data |
| Stars / forks | 查詢時約 11,877 stars、1,256 forks。 |
| License | Apache-2.0;相對寬鬆,但模型權重/第三方依賴仍需個別核對。 |
| Paper | Geometric Context Transformer for Streaming 3D Reconstruction |
| 模型 | Hugging Face: robbyant/lingbot-map;HF API 顯示約 290 likes。 |
| Runtime | Python;README 建議 Python 3.10、PyTorch 2.8 CUDA 12.8、FlashInfer。 |
核心技術:Geometric Context Transformer
Anchor context
用於座標錨定,避免 streaming 長序列越走越飄。
Pose-reference window
在局部 window 中維持姿態與幾何參照。
Trajectory memory
保留長距離軌跡記憶,用來修正長序列 drift。
Paged KV cache
README 提到 paged KV cache attention;推薦 FlashInfer backend 提高長序列效能。
作者與 README 主張
- 約 20 FPS streaming inference。
- 解析度約 518×378。
- 單 GPU 可跑。
- 可支援超過 10,000 frames 的長序列;README 也有 25,000 frames、13 分鐘室內 walkthrough demo。
- 可跑室內長走廊、戶外開車、空拍等場景。
- benchmark 包含 KITTI、Oxford Spires、VBR、Droid-W、TUM-D、7-scenes、ETH3D、Tanks and Temples、NRGBD 等。