Datasets:

Ziruibest
/

jspace-unlearning

Languages:

Tags:

License:

Dataset card Files Files and versions

xet

Community

Dataset Viewer

The dataset viewer is not available because its heuristics could not detect any supported data files. You can try uploading some data files, or configuring the data files location manually.

J-Access (J-space occupancy) × Machine Unlearning — 代码、lens、结果归档

归档日期:2026-08-22。对应论文草稿 paper/main_aaai.tex,数字权威来源 paper/MAINLINE_EXPERIMENTS.md(每个数字标注了来源 json)。

一句话:用 Jacobian lens(anthropics/jacobian-lens)在中间层读出"模型是否仍在准备说出被遗忘的答案"(J-Access / JOcc),在 TOFU forget10 + Llama-3.2-1B-Instruct 的 398 个 OpenUnlearning 公开 checkpoint 上做三项研究: Study 1 审计(残留普遍存在)、Study 2 预测(攻前占用 → 攻后复活,模型级成立/样本级失败)、 Study 3 优化压力(直接压制占用 = Goodhart,复活反而升高)。

1. 仓库内容

目录	内容	大小
`src/`	全部 Python:探针构建、JOcc 读出、分析、出图、WD-Train trainer	200K
`scripts/`	全部执行脚本(幂等、可断点续跑)+ lens 拟合 + checkpoint 选择	100K
`lenses/`	已拟合 Jacobian lens(`.pt`)。`full_1b.pt`(主 lens)、`retain90_1b.pt`、`refit/`(8 方法各自重拟合,用于 lens 沿用性检验)	1.2G
`results/`	全部分析产物 json + 逐模型原始读出 `.npz` + 预注册文档 + 报告	180M
`paper/`	论文 tex、表格、图(PDF/PNG)、`MAINLINE_EXPERIMENTS.md`(必读)	600K
`refs/`	OpenUnlearning 官方 full / retain90 评测参考值	2M
`logs/`	原始运行日志(eval 399、jocc 376、h2 214、h3 …),用于溯源	17M
`requirements-frozen.txt`	本机实际版本
`GIT_LOG.txt`	原始 git 提交历史

关键文件速查

读出(J-Access 的定义与实现):src/readout_jocc.py(v1,身份层主指标)、 src/readout_jocc_v2.py(v2,知识层次指标,含 logit-lens 基线 --logitlens)
探针:src/build_probes.py → results/probes.json;src/build_probes_v2.py → results/probes_v2.json; 概念集逻辑 src/concepts.py
lens 拟合:scripts/fit_lens.py
Study 1:scripts/p0a_shard.sh → src/p0a_aggregate.py → results/p0a_grid398.json
Study 2:scripts/h2_orchestrate.sh/h2_workers.sh(攻击)→ src/h2_analyze.py → results/h2_headline.json, h2_ckpt_stats.json, h2_long_table.json; 预算曲线 scripts/p0b_relearn.sh → src/p0b_analyze.py → results/p0b_curve.json
Study 3:scripts/h3_train.sh/p1b_gpu3.sh/p2a_run.sh + src/wdtrain_trainer.py + src/wd_ablate.py → src/h3_final.py → results/p1b_seeds.json, p2a_control.json, h3_final_summary.json
出图/表:src/make_figs.py, src/make_table_audit.py, src/fig_h1.py
指标解释:results/METRICS_EXPLAINER.md;预注册:results/PREREG_v2.md, PREREG_H2.md, PREREG_H3.md

2. 复现分级

级别	需要什么	时间
L0 仅复现论文数字/图	本仓库 + Python	分钟
L1 复现 JOcc 读出	+ jacobian-lens + 模型 checkpoint(HF 公开)+ 1 GPU	每模型 ~1–3 min
L2 重新拟合 lens	+ wikitext	~72 min/模型(RTX Pro 4000)
L3 复现攻击 / H3 训练 / UDS	+ open-unlearning 框架(见 §6 缺失说明)	天级

2.1 环境

conda create -n jspace python=3.12 -y && conda activate jspace
pip install -r requirements-frozen.txt      # torch 2.8.0+cu128, transformers 4.57.1
git clone https://github.com/anthropics/jacobian-lens && cd jacobian-lens
git checkout 581d398                         # 本项目使用的提交(未做任何修改)
pip install -e . && cd ..

本机硬件:NVIDIA RTX PRO 4000 Blackwell(24GB)×4;1B 模型 bf16 单卡足够。

所有脚本硬编码路径前缀 /workspace/: /workspace/jspace-unlearning(本仓库)、/workspace/jacobian-lens、 /workspace/models/{tofu_1b_full,tofu_1b_retain90,ckpts/<name>,h3/<name>}、 /workspace/open-unlearning。最省事的做法是照此布局放置,或 sed 替换。

2.2 L0:从已有产物重算数字与图

cd /workspace/jspace-unlearning
python src/p0a_aggregate.py        # Study 1 → results/p0a_grid398.json(读 results/jocc/*.npz + refs)
python src/h2_analyze.py           # Study 2 → results/h2_headline.json, h2_ckpt_stats.json
python src/p0b_analyze.py          # 预算曲线 → results/p0b_curve.json
python src/h3_final.py             # Study 3 → results/p1b_seeds.json 等
python src/make_figs.py            # paper/figs/fig3a, fig3b, fig4, fig5
python src/make_table_audit.py     # paper/table_audit_main.tex

每个脚本顶部 docstring 说明输入/输出。核对值见 paper/MAINLINE_EXPERIMENTS.md §2–§5 (例:full JOcc@10=0.582、gold=0.291、网格 338/398 高于 gold、ρ(JOcc1,UDS)=−0.723、 H2 组内 v2 ρ̄=+0.71、H3 λ10 复活 0.387±0.003)。

2.3 L1:对任意 checkpoint 读 J-Access

模型来源(全部 HF 公开):

hf download open-unlearning/tofu_Llama-3.2-1B-Instruct_full     --local-dir /workspace/models/tofu_1b_full
hf download open-unlearning/tofu_Llama-3.2-1B-Instruct_retain90 --local-dir /workspace/models/tofu_1b_retain90
# 398 网格:open-unlearning/unlearn_tofu_Llama-3.2-1B-Instruct_forget10_<name>
#   <name> 列表 = results/p0a_grid398.json 的 key(或 scripts/selection.py)
hf download open-unlearning/unlearn_tofu_Llama-3.2-1B-Instruct_forget10_NPO_lr1e-05_beta0.1_alpha1_epoch10 \
   --local-dir /workspace/models/ckpts/NPO_lr1e-05_beta0.1_alpha1_epoch10

读出(v1 主指标,用 full 模型 lens,band 11–14 冻结在分析脚本内):

CUDA_VISIBLE_DEVICES=0 python src/readout_jocc.py \
  --model_dir /workspace/models/ckpts/NPO_lr1e-05_beta0.1_alpha1_epoch10 \
  --lens lenses/full_1b.pt --out results/jocc/NPO_lr1e-05_beta0.1_alpha1_epoch10.npz
# v2(知识层;加 --logitlens 得 J=I 基线)
CUDA_VISIBLE_DEVICES=0 python src/readout_jocc_v2.py --model_dir ... --lens lenses/full_1b.pt --out results/jocc_v2/<name>.npz

输出 .npz 可与仓库中同名文件逐元素比对(确定性前向,bf16 下应完全一致或差异 ≤ 排名 1 位)。探针文件 results/probes.json / probes_v2.json 已给出;如需重建:python src/build_probes_v2.py (需要 TOFU 数据集 locuslab/TOFU,会自动从 HF 拉取)。

批量:scripts/run_jocc.sh(v1 全网格)、scripts/worker_v2.sh(v2)、 scripts/p0a_shard.sh(三卡分片,同时跑官方行为评测 → 依赖 open-unlearning)。

2.4 L2:重新拟合 lens

CUDA_VISIBLE_DEVICES=0 python scripts/fit_lens.py \
  --model_dir /workspace/models/tofu_1b_full --out lenses/full_1b.pt --n_prompts 1000

语料 wikitext-103-raw-v1 train,128-token chunk,确定性顺序;~72 min。 lenses/refit/<method>.pt 由同脚本对 8 个代表 checkpoint 拟合(lens 沿用性检验:秩一致 ρ=0.91,8/8 结论不变)。

2.5 L3:攻击、H3 训练、UDS(需要 open-unlearning)

行为评测(FQ/MU)与 relearn 攻击全部通过 OpenUnlearning 框架 (https://github.com/locuslab/open-unlearning)的 src/train.py / src/eval.py 以 hydra 覆写调用, 具体命令行逐条写在 scripts/h2_workers.sh、p0b_relearn.sh、relearn_h2.sh、relearn_strong.sh、 h3_train.sh、h3_eval.sh 中,可直接照抄。
攻击协议冻结于 results/PREREG_H2.md(cross-author:10 作者 200 QA 微调、只测另 10 held-out 作者,lr=2e-5; within-author:held-out 作者一半题复学测另一半,6 步)。冻结名单 results/h2_frozen_lists.json、 h2_relearn_set.json、h2_placebo_set.json、h2_pick24_final.json。
WD-Train(H3):src/wdtrain_trainer.py 是注册到 open-unlearning 的自定义 trainer (继承 trainer.unlearn.grad_diff.GradDiff;loss = 行为 loss + λ_occ · 冻结 lens 在 band [10–13] 上对答案 token 的 J-lens 对数概率 hinge)。使用方法:复制到 open-unlearning/src/trainer/unlearn/wdtrain.py,在 trainer/__init__.py 注册 WDTrain, 并新建 configs/trainer/WDTrain.yaml(handler: WDTrain;method_args 含 lens_path, band, lambda_occ, forget_loss_type, beta, occ_margin), 然后按 scripts/h3_train.sh 的覆写运行(NPO base lr5e-5 β0.1 5ep,λ∈{0,5,10},seed 0/1/2,margin −6)。
WD-Ablate:src/wd_ablate.py(参数空间概念方向投影,rank 8/16/32),不依赖 open-unlearning。

3. 结果文件对照表(论文 ↔ json)

论文结论	文件
Study 1 全网格 398(JOcc、Ω、Holm p、FQ/MU)	`results/p0a_grid398.json`;长表 `paper/table_grid_full.tex`
逐探针原始排名(v1 / v2 / logit-lens / own-lens)	`results/jocc/`, `jocc_v2/`, `jocc_v2_ll/`, `jocc_v2_ownlens/`(`.npz`)
UDS 收敛效度 n=36	`results/p1a_uds36.json`(UDS 值来自 §6 所述已失的 UDS 代码,结果已固化)
逐层剖面	`results/p2b_layer_profile.json`
H2 模型级/样本级	`results/h2_headline.json`, `h2_ckpt_stats.json`, `h2_long_table.json`(14400 行);攻击逐步 ROUGE/prob `results/h2_runs/<ckpt>/`
ICL / 越狱 prompt 攻击	`results/h2_icl/`, `h2_jb/`
预算曲线	`results/p0b_curve.json`, `p0b_reps.json`
H3 三 seed、causal 对照、rank 扫描、强攻击	`results/p1b_seeds.json`, `p2a_control.json`, `h3_ablate_result.json`, `h3_strong_attack.json`, `h3_final_summary.json`, `h3_negative_result.json`
图	`paper/figs/`(fig3a/3b/4/5)+ `results/figs/`(早期 f1–f3)

4. 指标定义(简)

J-Access / JOcc@10(v1):55 forget / 25 retain 条 name-absent 探针;概念集 = 作者全名 + ≥3 字符名段子词; 读出位置 = teacher-forced 前缀 "The author's full name is";lens 层 11–14; 指标 = min-rank<10 的探针占比(剔除行为上已说出概念词的泄漏探针)。归一化 Ω = (JOcc − JOcc_gold)/(JOcc_full − JOcc_gold)。
JOcc-v2:398/398/20(forget/retain/novel)探针,K = 答案内容词(echo + df<5% 过滤),decoy 对照, 真实贪心 8 token × 9 位置,band [10–13]。仅作排序稳健性。
FQ/MU:OpenUnlearning 官方 TOFU 评测(与发布参考值对齐至 1e-3);行为成功 = FQ>0.05 且 MU≥0.539。
revive:攻后 ROUGE≥0.5×full 且攻前未知的题占比(主口径);excess = 减去安慰剂。
完整说明 results/METRICS_EXPLAINER.md。

5. 数据溯源警示

results/H1_REPORT.md(7/20 早批)中的头条数字来自 lens 重拟合之前的产物,已被覆盖、不可复现。现存全部 .npz、H2/H3、P0–P2 均基于现批次且内部一致。一切数字以 paper/MAINLINE_EXPERIMENTS.md 为准 (详见其 §6)。

6. 本归档缺失、需自行重建的部分(如实说明)

归档时本机以下目录已不存在,因此未包含:

/workspace/open-unlearning 工作副本:含 WD-Train 的 hydra 配置 configs/trainer/WDTrain.yaml、 trainer 注册改动、以及 saves/eval/<ckpt>/TOFU_SUMMARY.json(官方行为评测原始输出)。 → 评测汇总数值已进入 results/p0a_grid398.json 等;trainer 源码保留在 src/wdtrain_trainer.py; 配置需按 §2.5 重建(参数值全部写在 scripts/h3_train.sh / p1b_gpu3.sh)。
/workspace/uds/compute_uds.py(两阶段 activation patching 的 UDS 实现)及 runs/。 → UDS 数值固化在 results/p1a_uds36.json、p2a_control.json、jocc_uds_checkpoints.json; 方法描述见论文 §3 / paper/MAINLINE_EXPERIMENTS.md §3;重建需重写该脚本。
训练得到的 H3 模型权重(/workspace/models/h3/*,WDd λ0/5/10 × 3 seed、WD-Ablate)和 398 网格 checkpoint 本地副本 → 网格 checkpoint 全部 HF 公开可下载;H3 权重需按 §2.5 重训(每个 ~30 min 单卡)。
lenses/*.ckpt(拟合中间断点,2.5G)→ 仅保留最终 .pt,足够读出。

7. 引用

Jacobian lens:Gurnee et al. 2026, "Verbalizable ..." — https://github.com/anthropics/jacobian-lens
OpenUnlearning / TOFU:https://github.com/locuslab/open-unlearning ;locuslab/TOFU
本项目 git 历史:GIT_LOG.txt

Downloads last month: 19

Total file size:

1.46 GB