模型

模型目录、CLI 命令、runtime 就绪状态,以及如何为一次运行选择模型。

本页内容

使用本页

当你需要选择模型、确认本机能不能跑,或者理解某个支持状态是什么意思时,先看这一页。下面的 catalog 名称是模型分组,不是单独命令;日常使用优先从 CLI 开始:

目标命令
查看已知模型 id 和 aliasesworldfoundry-eval zoo models --json
查看单个模型 manifestworldfoundry-eval zoo model-show --model-id <model-id> --include-manifest --json
检查本地 checkpoint、凭据和资产 blockerworldfoundry-eval zoo model-download --model-id <model-id> --check-local --json
列出 runtime runnerworldfoundry-eval models runtime-runners --json

跑推理

准备 requests.jsonl 后,用 pipeline runner 生成 artifact:

worldfoundry-eval evaluate \
  --mode model \
  --model-id <model-id> \
  --model-runner worldfoundry:pipeline \
  --model-manifest-dir worldfoundry/data/models/catalog \
  --requests-path tmp/requests.jsonl \
  --output-dir tmp/model_eval \
  --metric artifact_count \
  --required-artifact video \
  --json

完整推理流程(环境、checkpoint、Studio)见 推理指南

输出文件

文件用途
run_manifest.jsonrun id、model、benchmark metadata、时间戳、输出路径
results.jsonl每样本状态、artifact、耗时
metrics/summary.json聚合指标
scorecard.jsonleaderboard eligibility 与 blocking reason

跑失败时

  1. zoo model-show --include-manifest — integration status 与 blocker
  2. zoo model-download --check-local — checkpoint、credential 和 asset readiness
  3. 对照 benchmark 页面确认 dataset、API key 和生成结果目录要求
  4. 对照下方 model registry,确认该 model id 是否已有 runner 证据

选择模型

投入 GPU 时间前,按顺序确认这些问题:

问题检查方式
WorldFoundry 是否认识这个模型?它出现在 worldfoundry-eval zoo models --json 中,并且有稳定的 model_id
这个 repo 能否路由到该模型?Manifest 能解析到 runner 和 pipeline binding。runtime_ported 表示 route 已存在,但真实 checkpoint/API/simulator parity 可能还没完成。
你的环境能否运行它?zoo model-download --check-localmodels assets 和 benchmark 页面会说明需要的 checkpoints、API keys、datasets 或 simulators。
它是否对你的任务 benchmark-ready?需要看该模型是否有对应 benchmark 或 artifact 类型的证据。视频、3D、world-action 和 VLA 任务需要不同证据。

怎么读 catalog 行

含义
Family公开项目或 provider 家族;不同 variant 仍可能有独立 manifest。
Capability模型在 WorldFoundry 语义下能生成或预测什么。
Runtimelocalofficial reposubprocesshosted API 或混合形态。
Evidence target升级公开声明前最有用的下一步证据。

当前覆盖摘要

WorldFoundry 按 manifest、runner 和 benchmark evidence 三层跟踪模型支持状态。先用这个摘要找到合适的模型分组,再用 zoo model-show 查看具体 model id。

Catalog directory条目数覆盖内容代表 id
worldfoundry/data/models/catalog/video/48视频、音频与多模态生成模型 catalog(原 video_openvideo_pipeline_runner 合并)。含开源 provenance 记录与带 pipeline binding 的 runtime 集成。wan2.1hunyuanvideoanimatediffzeroscopestep-video-t2vsanavmemkrea-realtime-video
worldfoundry/data/models/catalog/world_models/69交互式世界模型、simulator、导航与 camera-control 模型 catalog(原 world_modelsworld_pipeline_runner 合并)。matrix-game-2lingbot-worldhunyuanworld-voyagerdiamonddino-wmleworldmodelstarwmirasim
worldfoundry/data/models/catalog/three_d_four_d/473D/4D generation、reconstruction、point-cloud、geometry、scene-representation 和 perception-prior 记录。状态分布:25 integrated、10 runtime_ported、10 blocked、2 planned;多数通过 pipeline binding 解析。flashworldfantasyworlddust3rmonst3rsplatt3rpixelsplatvggt-omegadvlt
worldfoundry/data/models/catalog/vla_va_wam/42VLA、VA、WAM、robot-policy 和 embodied-action 记录。所有条目都有 runner target 和 binding;多数是 runtime_ported,完整 policy/runtime 声明仍受 checkpoint 与 simulator 验证约束。openvlaopenpipi0-fastsmolvlaxvlaeo1tdmpcvqbetwall-ossact

模型来源索引

这个索引结合 worldfoundry/data/models/catalog 的 manifest 与本轮确认到的官方论文、项目页和源码链接。如果没有单独发布 paper、project page 或 code repository,则使用最接近的官方 model card、source page 或 project URL。

开源视频模型

上游视频生成模型族,以及仓内 runtime / metadata 记录。支持层级不一:有的已有本地生成验证路径,有的是 checkpoint-gated wrapper、hosted/API 形态,或仅 provenance。跑之前先看 catalog readiness 和 zoo model-show

Wan2.1 (wan2.1)
Wan2.2 (wan2.2)
HunyuanVideo (hunyuanvideo)
LTX-Video (ltx-video)
LTX-2.x (ltx-2.x)
CogVideoX (cogvideox)
Open-Sora (open-sora)
Open-Sora-Plan (open-sora-plan)
Mochi-1 (mochi-1)
Allegro (allegro)
EasyAnimate (easyanimate)
VideoCrafter (videocrafter)
DynamiCrafter (dynamicrafter)
I2VGen-XL (i2vgen-xl)
ModelScopeT2V (modelscope-t2v)
HunyuanVideo 1.5 (hunyuanvideo-1.5)
SkyReels-V2 (skyreels-v2)
MAGI-1 (magi-1)
FramePack (framepack)
Step-Video-T2V (step-video-t2v)
Open-MAGVIT2 (open-magvit2)
Show-o (show-o)
AnimateDiff (animatediff)
ZeroScope (zeroscope)

世界模型

交互式、相机控制、导航、驾驶与长时程仿真系统,也包括 provenance / metadata-only 条目。能力标签是契约提示:action-controlled 模型应保留 action traces,camera-controlled 模型应暴露 camera metadata,长时程系统需要能保持序列顺序的 artifact 命名。

Cosmos Predict 2.5 (cosmos-predict-2.5)
Cosmos Transfer 2.5 (cosmos-transfer-2.5)
DreamDojo (dreamdojo)
Matrix-Game 1.0 (matrix-game-1)
Matrix-Game 2.0 (matrix-game-2)
Matrix-Game 3.0 (matrix-game-3)
LingBot-World (lingbot-world)
HunyuanWorld 1.0 (hunyuanworld-1)
HunyuanWorld-Voyager (hunyuanworld-voyager)
HY-WorldPlay (hy-worldplay)
HunyuanWorld-Mirror (hunyuanworld-mirror)
HY-World 2.0 (hy-world-2.0)
InSpatio-WorldFM (worldfm)
Infinite-World (infinite-world)
WorldCam (worldcam)
CameraCtrl (cameractrl)
MotionCtrl (motionctrl)
ViewCrafter (viewcrafter)
IRASim (irasim)
Pandora (pandora)

3D 和 4D 模型

3D/4D 生成、重建、点云、几何与 perception-prior 模型,也包括 provenance / metadata-only 条目。需要可度量的 3D 输出时,优先选带显式 geometry、camera 或 asset metadata 的条目;部分行在 WorldFoundry 可跑之前仍需 port plan。

MVDiffusion (mvdiffusion)
4D-GS (4d-gs)
MonST3R (monst3r)
Shape of Motion (shape-of-motion)
FlashWorld (flashworld)
FantasyWorld (fantasyworld)
WonderWorld (wonderworld)
NeoVerse (neoverse)
ReCamMaster (recammaster)
Lyra (lyra)
Stable Virtual Camera (stable-virtual-camera)
Splatt3R (splatt3r)
pixelSplat (pixelsplat)

VLA、VA 和 WAM 模型

这类模型评测的是行为,而不只是图像质量。一次可用 run 需要 observation、语言或任务指令、action output、simulator/dataset context,以及能映射到归一化指标的 success signal。

openvla 是这一组 checkpoint-verified embodied-action baseline。MolmoAct2 也有仓内 WorldFoundry pipeline/runtime surface,用于 DROID 和 bimanual YAM 的 action-trace contract;checkpoint-backed GPU parity 仍待验证。原来的 generic LeRobot policy-zoo surface 已取消;lerobot/src/lerobot/policies 里的 policy 现在按具体算法追踪各自上游来源,例如 ACT、Diffusion Policy、TD-MPC、VQ-BeT、pi0/pi0.5/pi0-FAST、SmolVLA、GR00T、X-VLA、WALL-OSS、EO-1、MolmoAct2、Multi-task DiT、Gaussian Actor 和 RTC。多数 VLA/VA/WAM 行当前是 runtime_ported:它们已有 WorldFoundry route contract,但 task support 仍受 checkpoint、simulator 和真实推理证据约束。

OpenVLA (openvla)
OpenPI (openpi)
MolmoAct2 (molmoact2)
TD-MPC (tdmpc)
VQ-BeT (vqbet)
SmolVLA (smolvla)
X-VLA (xvla)
EO-1 (eo1)
Being-H0.5 (being-h05)
NVIDIA DreamZero (dreamzero)
NVIDIA GR00T (gr00t)
StarVLA (starvla)
LingBot-VA (lingbot-va)
Latent Action Pretraining (lapa)
Octo (octo)
RT-1 (rt-1)
Diffusion Policy (diffusion-policy)
Action Chunking Transformer (act)
RoboFlamingo (roboflamingo)