Loasaster/test_1

ViCo test43：四套基线推理代码与权重

本仓库用于在新机器重建 Avatar Forcing、DyStream、L2L Trevor＋GPAvatar、DualTalk 的 ViCo 推理。当前只准备代码、实际权重和推理设置；没有启动模型推理或产生新分数。Seamless／ResponseNet 不在当前运行范围。

完整状态以 manifests/WEIGHTS_STATUS.json 为准。权重校验通过且依赖安装完成后再执行推理；不得把缺权重、缺输入或仅通过静态检查的状态当作模型验收。

固定范围和推理设置

固定 ViCo 论文 test43，排除 OOD42，16,288帧、30fps。43个ID、原始顺序、完整时间轴、speaker/GT视频哈希、首帧PNG与音频波形哈希已从此前输入审计恢复，见 manifests/vico_test43.jsonl。本仓库提供清单元数据，不包含 ViCo 原始测试媒体。

共同设置：seed137、每条一个候选、不按GT择优；listener首帧作为身份，speaker音频为mono16k；视频评分副本为256×256／30fps／精确源帧数，原生输出独立保留。未来listener画面、音频和动作不作为生成输入。

配置	输入	原生输出	固定设置
Avatar Forcing	speaker音频＋listener首帧	视频512／25fps	NFE10、audioCFG2、userCFG1、KV cache、零user视觉与零avatar音频；绕开30秒截断
DyStream	speaker进入other分支，self为零，listener首帧	视频512／25fps	5步、EMA、crop=False、官方CFG默认、终端1帧零上下文
L2L Trevor＋GPAvatar	speaker音频＋speaker DECA动作；listener首帧供渲染	原生动作30fps，GPAvatar视频512／30fps	仅Trevor配套predictor/VQ/统计，正式运行43条整批、seed137；GPAvatar为额外渲染适配
DualTalk	零self音频＋speaker音频＋speaker动作	原生exp50＋jaw3＋neck3／25fps	完整严格权重加载；RGB为N/A，neck/global-head代理映射单列

完整设置、与旧执行的差异及尚待验收项见 推理对齐说明 和 configs/vico_test43.json。旧ViCo的L2L批次回执及DyStream完整空间导出程序未恢复，因此不能承诺逐像素重现旧分数。ViCo上的GPAvatar RGB仍需新的真实样本验收。

1. 下载仓库和实际权重

pip install -U huggingface_hub
hf download Loasaster/test_1 --repo-type dataset --local-dir listener-baselines
cd listener-baselines
python scripts/install_assets.py --verify-only
python scripts/install_assets.py

install_assets.py 先校验清单里的真实文件大小和SHA256，再解包GPAvatar作者资源并建立原仓库需要的资产路径。它不会下载替代模型或启动推理。Avatar Forcing镜像中的两个文件名与原模型相反，本仓库已按历史SHA256放回正确名称。

DyStream使用经过逐张量核验的推理包：保留原生模型、EMA shadow参数、必要缓冲区及四个渲染模块；移除优化器、判别器、训练损失网络和EMA用于恢复训练的临时副本。没有量化、改dtype或更换EMA。原始来源SHA256与推理包SHA256分别记录，见 权重整理说明。

只复制本仓库代码目录、或只下载 .gitattributes／LFS指针，不足以运行；必须实际取回 weights/ 的文件内容。

2. 安装独立推理环境

以下为Linux／Python3.10的重建安装方案；尚未在目标GPU完整验收。与旧机Torch2.10兼容环境不作数值等同承诺。

conda create -n listener-vico python=3.10 -y
conda activate listener-vico
conda install -c conda-forge ffmpeg -y
pip install torch==2.5.1 torchvision==0.20.1 torchaudio==2.5.1 \
  --index-url https://download.pytorch.org/whl/cu124
pip install -r requirements/core.txt

L2L＋GPAvatar还需要其跟踪和渲染依赖：

pip install -r requirements/gpavatar.txt
# PyTorch3D必须与当前Torch/CUDA一致；有CUDA编译环境时从作者源码安装：
pip install 'git+https://github.com/facebookresearch/pytorch3d.git@v0.7.8'

GPAvatar的作者环境是Python3.9／Torch2.0.1／CUDA11.8，可参考 vendor/GPAvatar/environment.yml。如果选用作者环境，应另建环境并安装本仓库使用的音频依赖；不能混用另一Torch版本的PyTorch3D二进制。四种方法分别启动进程，避免上游同名model／utils包互相覆盖。

3. 准备并核验同一份输入

冻结输入目录：

prepared_vico43/
  ClNUxPsUByg_000210_000221.0/
    first_frame.png   # 历史冻结的512×512 listener首帧
    speaker.wav       # 历史冻结的mono16k speaker波形
  ...其余42个ID...
speaker_deca/
  ClNUxPsUByg_000210_000221.0/
    speaker_motion.npz  # motion: [T,56],30fps,exp50+global-head3+jaw3
  ...

speaker_motion必须来自speaker视频，不得使用listener GT。DECA的原生系数不能替换成BFM73、EMOCA或DualTalk的exp-jaw-neck布局。

# 只检查清单和设置；不读取真实媒体，也不使用GPU：
python scripts/vico_preflight.py --metadata-only

# 检查实际43条媒体、原始视频及speaker动作，并导出只含合法条件的inputs.jsonl：
python scripts/vico_preflight.py \
  --prepared-root /data/prepared_vico43 \
  --data-root /data/ViCo/dataset \
  --speaker-motion-root /data/speaker_deca \
  --output preflight_vico

若只跑音频输入的两个方法，可以不传 --speaker-motion-root。检查会拒绝丢样本、替换ID、重排、不同时间网格、错误首帧及不同音频。metadata-only通过不代表真实数据或GPU验收通过。

4. 推理命令

每次使用新输出目录，GPU编号在目标机器显式指定。入口会核验全部权重内容并检查GPU空闲，保留其他已有任务；没有训练步骤。默认只生成固定清单前两条作为验收，检查通过后加 --all-43 并改用新的输出目录。Trevor验收仅预测及渲染前两条；正式运行另用完整43条整批。两种批次的随机轨迹不同，验收产物标为acceptance_only，不计正式结果。

python inference.py --method avatarforcing \
  --inputs preflight_vico/inputs.jsonl --output outputs/acceptance/avatarforcing --gpu 0

python inference.py --method dystream \
  --inputs preflight_vico/inputs.jsonl --output outputs/acceptance/dystream --gpu 1

python inference.py --method l2l_trevor_gpavatar \
  --inputs preflight_vico/inputs.jsonl --output outputs/acceptance/l2l_trevor_gpavatar --gpu 2

python inference.py --method dualtalk \
  --inputs preflight_vico/inputs.jsonl --output outputs/acceptance/dualtalk --gpu 3

可先加 --check-only 做输入检查，该模式不加载模型、不使用GPU。正式扩到43条前，还需要检查这两条真实输出的帧数、身份和几何。本包当前不自动宣称该验收已完成。验收后在同一命令加 --all-43，将输出改为 outputs/vico43/<method>，不要混用两条验收和43条正式运行目录。

每条保存 complete.json、实际产物哈希和原生输出。视频方法另外保存 listener.mp4（256×256／30fps），L2L保留原生motion。DualTalk的native_motion.npz与带局限说明的DECA transfer proxy单独保存；跟踪未识别出身份时保留该请求并记N/A，不换样本、不用默认示例身份代替。

5. 验证与评分边界

python -m unittest discover -s tests -v

目前通过的是8项CPU协议检查，覆盖完整43、重复／重排／缺失样本、目标条件泄漏及30秒截断导致的时间轴不足；尚未运行新GPU推理或评分。原生模型严格加载、GPAvatar相机几何、CUDA扩展和实际输出仍需目标机器验收。

ViCo的视频指标为PSNR／SSIM／FID／CSIM／CPBD，动作指标按共享DECA或独立文献EMOCA协议报告。完整旧评分器、身份模型及评分权重未全部包含在本推理包中；推理完成不等于评分完成。FID不平均分片分数，不把Seamless／ResponseNet的RGB八项配置直接套到ViCo。

来源与权重记录

• 源码提交：configs/sources.json。原始文件指纹在 provenance/*_SOURCE.json。
• 实际权重清单：manifests/WEIGHTS.json；远端完整性状态：manifests/WEIGHTS_STATUS.json。
• 原始权重来源及历史校验值：configs/weights.json。
• 上游许可证和引用：LICENSES.md。

Token、SSH配置、私钥、旧服务器运行环境和原始测试媒体不包含在仓库中。