Hugging Face's logo

Misakachain
/
Qwen3.6-35B-A3B-PALW-runtime

GGUF
English
Japanese
misaka-palw
misaka
palw
proof-of-compute
deterministic-inference
integer-quantization
conversational
Model card Files
xet
 Community
Qwen3.6-35B-A3B-PALW-runtime / docs /receipt-implementation-qwen36.md
MISAKA-BTC
sync to MisakaLM3-8B a56c808: search replay, worker, and a build that can start
31ad728
preview code
|
Raw
History Blame Contribute Delete
40.8 kB

MISAKA PALW Receipt 実装仕様 — Qwen3.6-35B-A3B (hybrid MoE)

本書は、対象モデルを dense Qwen3-8B から hybrid Qwen3.6-35B-A3B (huihui_ai/Qwen3.6-abliterated:35b-Claude-4.7、abliterated) へ移行した後の ComputeReceiptV1 発行・検証パイプラインの実装仕様である。記述は現行 Rust/C++ ソースを正本とし、実装と本書が一致しない場合は Receipt を発行しない (protocol-v1.md と同じ原則)。本書に無い production 承認・決済連携・ attestation を Receipt から推論してはならない。

対象モデルは linear-attention(state-space / gated-delta-net)層と mixture-of-experts 層を組み合わせた hybrid 構成であり、dense Qwen3-8B 用の厳格な canonical operation mapping では表現できない演算を含む。そのため本移行では (1) pinned llama.cpp への qwen35moe loader/graph 互換修正、**(2)** dense vocabulary に対応の無い演算を output-element 数で committ する generic operation と CU ルールセット v2、**(3)** profile 駆動の hybrid adapter/manifest、を追加した。移行完了後、dense Qwen3-8B 経路（profile / manifest builder / constants / tests）は撤去され、Qwen3.6-35B-A3B が唯一の対象モデルとなった。

行番号 anchor は執筆時点のものであり、正本はソースである。

compute-gate track 更新(2026-07-19、実機検証済み)。 上記 (2) の「generic operation + CU ルールセット v2」は後続の compute-gate track で置換された。現行 receipt は (M1) CU を semantic ルールセット v3 で canonical commit(canonical_compute_units = 41692)、**(M3)** generic 演算を廃止し全 MoE/SSM op を忠実な canonical 演算(ExpertGemm/ExpertRoute/SsmConv/ GatedDeltaNet/L2Norm/Reduction/Elementwise)へ写像、**(M2)** canonical semantic schedule を 再生成・commit、**(M4/#6)** observer が実 MoE routing(ffn_moe_topk)を捕捉し expert_route_root を封緘 bundle へ commit(observer schema v2)、**(M5/#5)** ggml-metal を計装して各 GEMM を実 Metal kernel dispatch + launch geometry へ束縛し trace_evidence=metal_kernel を commit(graph-fallback から昇格、実機で 200/200・411/411 検証)。§0–§2 の一部記述(CU v2 / generic / SCHEMA_VERSION 1 / MUL_MAT_ID=metadata / graph_fallback)は旧版で、現行の正確な値は §10・§11 と receipt-review-remediation.md を参照。6 つの compute gate は 全て実機検証済み。 Metal の kernel-level trace は launch-geometry 束縛であり CUDA V3 相当の intra-kernel accumulator proof ではない(honest labeling、mint は依然不適格)。

0. 全体アーキテクチャとデータフロー

三層構成:

  1. vendor/llama.cpp/(commit 固定 + PALW patch): 推論ランタイムと read-only graph observer llama-palw-observer。
  2. runtime-palw/(Rust): adapter、canonical CU、schedule、commitment、manifest、receipt builder/verifier、verification bundle、schema-v4 SQLite。
  3. config/ / patches/: 固定 artifact pin、model profile pin、llama.cpp patch。

Receipt 発行(palw-metal-receipt)のデータフロー:

prompt(stdin)
  │
  ├─ build_qwen36_35b_metal_manifest ─────────► RuntimeManifest(MoE topology, CU v3 semantic)
  │
  ├─ llama-tokenize ──────────────────────────► prompt_token_ids
  │
  ├─ llama-palw-observer --observer sketch ───► JSONL(header/event*/result)
  │       │(read-only graph callback、sketch)
  │       ▼
  │   qwen_adapter(HybridQwen36A3B)
  │       │  header 検証 + op→ComputeOperation 写像 + GEMM sketch
  │       ▼
  │   RuntimeObserver → ExecutionEvidence(schedule + GEMM trace + CU total, ruleset=v3 semantic)
  │
  ├─ build_signed_receipt ────────────────────► ComputeReceiptV1(署名)
  ├─ verify_stateless(cu_rules=v3) ───────────► 自己検証
  ├─ seal_verification_bundle(XChaCha20) ─────► <id>.palw.bundle
  ├─ StateStore(schema v4).accept ────────────► palw-state.sqlite3
  └─ 書き出し: <id>.palw / <id>.json / <id>.palw.bundle / <id>.complete

別 process 検証(palw-verify-bundle)は artifact set・完了 marker を検査し、bundle を復号・ 再検証(verify_bundle_and_restore)して status=local_restored / trust_scope=embedded_local_snapshot を出力する。

1. 対象モデルと固定 artifact

正本: config/runtime-pins.sh(公開識別子のみ、末尾で全て readonly)。

1.1 推論 GGUF(Ollama registry blob)

変数 値
PALW_GGUF_REGISTRY registry.ollama.ai
PALW_GGUF_REPO_ID huihui_ai/Qwen3.6-abliterated
PALW_GGUF_OLLAMA_TAG 35b-Claude-4.7
PALW_GGUF_REVISION = PALW_GGUF_SHA256 1dc494614bee8a3bc00e79fe5a49da0fc1c36b3b118c4156e223e98e5a0a671b
PALW_GGUF_FILENAME Qwen3.6-abliterated-35b-Claude-4.7-Q4_K_M.gguf
PALW_GGUF_SIZE 23938321728(bytes)

Ollama registry の blob digest は GGUF 本体の SHA-256 に等しいため revision == sha256。 content 検証だけで pin 全体の照合になる。

1.2 base metadata(Hugging Face、7 files)

PALW_BASE_REPO_ID = huihui-ai/Huihui-Qwen3.6-35B-A3B-Claude-4.7-Opus-abliterated、 PALW_BASE_REVISION = ac18882735d037f6074a7630eb68d85db8234c25。 files: README.md、chat_template.jinja、config.json、model.safetensors.index.json、 processor_config.json、tokenizer.json、tokenizer_config.json。 sha256 は config/qwen3.6-35b-a3b-claude-4.7-base-metadata.sha256 および profile pin の base_artifact.files[] と一致する。

1.3 llama.cpp

PALW_LLAMA_COMMIT = 12127defda4f41b7679cb2477a4b0d65ee6a0c8f(build 10015)、 patch = patches/llama.cpp-palw-observer.patch、 PALW_LLAMA_PATCH_SHA256 = d155a88b7c11ee74f48011760cb1a37773a694c8cab28258ee108c85e2f9e02c。 Metal build は -DGGML_METAL=ON -DGGML_CUDA=OFF、arm64、target llama-cli/llama-server/llama-tokenize/llama-palw-observer。

1.4 Ollama download 経路(install.sh :: download_gguf_if_needed)

  1. gguf_content_matches(存在 + size + sha256)が成立すれば再利用。
  2. mismatch する既存 file は上書きせず die。
  3. URL = https://$PALW_GGUF_REGISTRY/v2/$PALW_GGUF_REPO_ID/blobs/sha256:$PALW_GGUF_REVISION (OCI/Docker registry の blob-by-digest endpoint)。
  4. curl -fSL -C -(再開可能)で .partial に取得。
  5. size と sha256 を照合してから mv で atomic に確定。
  6. base metadata は従来通り HF(hf_snapshot_download.py、token を strip し Xet を無効化)。

2. 決定論的実行と native observer

正本: vendor/llama.cpp/tools/palw-observer/palw-observer.cpp(以下 OBS)。単一リクエストの 非対話 runner で、public な llama/ggml API のみ使用。versioned JSONL を stdout に、 llama/ggml のログを stderr に書く。

2.1 強制される決定論的実行ポリシー

n_ctx = PALW_CONTEXT_TOKENS = 4096、n_batch = n_ubatch = 1、n_seq_max = 1、 n_threads = n_threads_batch = 1、greedy sampler、flash_attn = DISABLED、 type_k = type_v = F16、split_mode = NONE、use_mmap = true。context 初期化後に 実 context を読み直し、この不変条件を満たさなければ exit 3。prompt は --prompt-stdin 専用 pipe で渡し(argv に置かない)、prefill/decode とも 1 token ずつ llama_batch_get_one で評価する。prompt_tokens + n_predict > 4096 は context-shift せず失敗。

2.2 model profile gate(validate_qwen36_35b_a3b_profile)

model load 直後に、general.architecture == "qwen35moe"、n_layer == 40、n_embd == 2048、 n_vocab == 248320、decoder-only(encoder 無し)のみ受理。不一致は header/result を一切 emit せず exit 3。

2.3 JSONL プロトコル

SCHEMA_NAME = "misaka.palw.runtime_observer"、SCHEMA_VERSION = 2(route record 追加)。1 実行は header 1 → event 0..N → result 1。各行は個別に flush。

  • header: observer(off/graph/sketch)、trace_variant、cuda_kernel_trace:false、 model{path,description,tensor_size_bytes,parameter_count,file_type,n_ctx_train,n_embd, n_layer,n_head,n_head_kv,n_vocab,rope_type,rope_freq_scale_train,metadata[]}、 runtime{ggml_version,ggml_commit,system_info,supports_gpu_offload,requested_gpu_layers, devices[]}、execution_policy{...上記決定論ポリシー...}、 observation_policy{read_only:true, graph_metadata_stage:"ask", sketch_bits:256, sketch_probe:"gemm_output_contiguous_prefix_64", raw_activation_values_published:false, tile_variant:"graph_fallback_logical_prefix_v1", kernel_trace_claim:"none"}。
  • event: event_seq(単調増加、最終値 = result の event_count)、phase (prefill/decode)、phase_step、stage(ask_metadata / post_compute_sketch)、layer (名前から導出、無ければ null)、categories[]、tensor{name,op,type,shape[4],n_bytes}、 sources[]。MUL_MAT には gemm{variant:"ggml_graph_op_v1",m,n,k,batch_shape}。sketch 時のみ sketch{}/tile{}/kernel_trace{}。
  • result: status、stop_reason(n_predict/eog/…)、prompt_token_ids[]、 generated_token_ids[]、output_bytes[](--emit-output-bytes 時のみ非空)、 output_n_bytes、event_count。

2.4 observer モードと sketch scheme

  • off: callback 無し、event 0。
  • graph: 各非空 valid node に対し ask_metadata を 1 件 emit。tensor data は一切読まない。
  • sketch: 非 MUL_MAT node は ask_metadata。MUL_MAT node のみ post-compute で ggml_backend_tensor_get により先頭最大 64 要素を読み、sign/bucket sketch を採取して post_compute_sketch を emit。

sketch(sign_bucket_256_v1): 各要素を 1 nibble(bit3 = 符号、bit0..2 = 3-bit 絶対値 bucket)にし、64 nibble = 256 bit。bucket 境界は 0, 2⁻⁸, 2⁻⁴, 2⁻², 1, 4, 16, ∞。生の 活性値は決して serialize しない。kernel_trace{available:false, backend:"none", claim:"not_a_cuda_kernel_trace"} を常に付し、graph 観測を CUDA kernel 証拠へ昇格しない。

2.5 observer 側の hybrid 対応(3 点)

  1. is_gemm を GGML_OP_MUL_MAT のみに限定。GGML_OP_MUL_MAT_ID(indirect expert GEMM)は sketch せず通常の metadata node として emit する。
  2. 0-element(recurrent state cache)tensor を skip。gated-delta-net / SSM 層は初期状態が 空の state cache を gather し、合法な 0-element node を生む。これは compute を伴わないため error にせず skip。
  3. validate_tensor が空 tensor を許容(name/type/op の範囲検査後に短絡)。

2.6 qwen35moe.cpp loader/graph 修正(5 点)

pinned commit 12127def の src/models/qwen35moe.cpp は本モデルを load/run できないため、 PALW comment 付きで以下を修正(observer patch に同梱):

  1. 3-section mrope zero-pad: rope.dimension_sections を可変配列として読み、size 3 or 4 を 許容して zero-fill+copy。新しい HF→GGUF 変換の [t,h,w](末尾 0 省略)を受理。
  2. ssm_dt bias の suffix 両対応: blk.N.ssm_dt.bias を TENSOR_NOT_REQUIRED で試し、 無ければ suffix 無し blk.N.ssm_dt を required で load。
  3. KV 射影幅に n_embd_k_gqa_max(): LLAMA_LOAD_LOCALS は layer 0 から n_embd_k/v_gqa を導出するが、layer 0 は linear-attention 層で n_head_kv==0。full-attention trunk 層と MTP 層の tensor 生成で per-layer 最大値を使う。
  4. sibling tensor(v.* / mtp.*)の計上: Ollama 同梱 GGUF は vision tower と(MTP 未 有効時)MTP sub-model を同梱する。text runtime はこれらを構築しないため、該当 prefix の tensor 分だけ n_created/size_data を調整し done_getting_tensors を通す。存在する tensor のみ 1 回ずつ計上するため、text tensor の欠落は依然として検出される。
  5. build_layer_attn の per-layer n_head(il)/n_head_kv(il): graph base は layer 0 から head 数を初期化するため、full-attention の Q/K/V reshape と RoPE を per-layer 値で shadow。

3. Rust adapter — hybrid 経路

正本: runtime-palw/src/qwen_adapter.rs。AdapterProfile { HybridQwen36A3B }(唯一の profile) を NativeParseConfig/NativeRunConfig の profile field で選択し、 parse_native_jsonl_with_stderr が header 検証 / event 変換 / vocab 上限を hybrid 経路で処理する。 旧 dense 経路は撤去済み。

3.1 hybrid 定数と識別子

QWEN36_35B_LAYERS=40、QWEN36_35B_VOCAB=248320、QWEN36_35B_EMBED=2048、 QWEN36_35B_CONTEXT=262144、QWEN36_35B_PARAMETERS=35_951_822_704、 QWEN36_ARCHITECTURE="qwen35moe"、共有の Q4_K_M_FILE_TYPE=15、QWEN_RUNTIME_CONTEXT=4096。

qwen36_adapter_mapping_id_v1() は domain "qwen36-native-observer-mapping/v1" の domain_hash。payload は各 op の写像を列挙し cu-ruleset=v2;graph-fallback-only を含む。dense の "qwen-native-observer-mapping/v1"(soft_max=attention)とは別 hash。

3.2 header 検証(validate_header_hybrid)

deterministic execution policy と observation policy は dense と同一の厳格さで検証する。 model-shape だけを MoE 向けに一般化する:

  • parameter_count == 35_951_822_704、file_type == 15、n_ctx_train == 262144、 n_embd == 2048、n_layer == 40、n_vocab == 248320、rope_freq_scale_train == 1.0。
  • dense と違い n_head/n_head_kv/rope_type は pin しない(MoE は per-layer で可変、 layer-0 KV-head を制約しない)。
  • 必須 metadata: general.architecture=qwen35moe、general.file_type=15、 general.quantization_version=2、qwen35moe.context_length=262144、 qwen35moe.embedding_length=2048、qwen35moe.block_count=40、 qwen35moe.expert_count=256、qwen35moe.expert_used_count=8。dense と逆に expert metadata を要求する(dense は expert metadata を拒否)。
  • graph/sketch 時は supports_gpu_offload && requested_gpu_layers==999 && GPU device 存在。

3.3 op → canonical operation 写像(convert_event_hybrid)

各 ggml op を canonical ComputeOperation へ写像する。dense と異なり、正確な canonical 対応がある演算はそれへ、対応の無い演算は Generic{op_class, elements} へ写す。fail-closed。

ggml op canonical operation
MUL_MAT Gemm(convert_gemm_hybrid、sketch 採取)
RMS_NORM RmsNorm { elements=shape[0], batch=Πshape[1..] }
ROPE Rotary { head_dim=shape[0], heads=shape[1], tokens=Πshape[2..] }
SOFT_MAX Softmax { elements=Πshape }(dense は Attention 再構成)
GLU Silu{elements} + ElementwiseMultiply{elements}
MUL ElementwiseMultiply { elements }
ADD ElementwiseAdd { elements }
GET_ROWS EmbeddingLookup { elements }
SET_ROWS KvCacheWrite { bytes = tensor.n_bytes }
CONT | CPY TensorCopy { bytes = tensor.n_bytes }
VIEW | RESHAPE | PERMUTE | TRANSPOSE layout-only(schedule に載せない)
その他 Generic { op_class=hybrid_generic_op_class(op), elements=Πshape }。未列挙は拒否

hybrid_generic_op_class(不変な op→u32 表): MUL_MAT_ID=1、UNARY=2、SCALE=3、 L2_NORM=4、SUM_ROWS=5、DIV=6、CLAMP=7、ARGSORT=8、SSM_CONV=9、 GATED_DELTA_NET=10、CONCAT=11。これ以外は None → InvalidEvent(fail-closed)。

3.4 GEMM 変換(convert_gemm_hybrid)

gemm{} metadata の相互整合(m==left.shape[1]、n==right.shape[1]、k==left.shape[0]、 left.shape[0]==right.shape[0]、output shape 一致)を検証する。dense と異なり 固定 geometry や dtype allowlist は課さない。quantization は left.kind から q4_K→Q4KM、q6_K→Q6K、 その他→None。sketch 時は validate_graph_fallback_sketch(sketch/tile/kernel_trace の値を 厳格検証)後、64 hex を 4 lane の big-endian i64 へ復元し on_gemm_group で trace に記録。 kernel_id domain は "qwen36-graph-fallback-probe/v1"。

3.5 GPU offload marker とプライバシ

scan_stderr_markers は "offloaded N/N layers to gpu" を N が正で左右一致なら任意の N で 検出する(dense 37/37、hybrid 41/41 を model 非依存で受理)。不一致は IncompleteGpuOffload。prompt は OsStr の stdin のみ、error payload は &'static str/数値 のみ、QwenObserverOutput は Debug 未実装、zeroize_private_material が prompt/生成 token/QA bytes を zeroize。

4. 正準演算語彙と CU ルールセット

正本: runtime-palw/src/compute_units.rs。

4.1 ComputeOperation(canonical serialize discriminant)

0 Gemm(GemmShape)、1 Attention、2 LayerNorm、3 RmsNorm、4 Rotary、5 ExpertRoute、 6 KvCacheRead、7 KvCacheWrite、8 Silu、9 ElementwiseMultiply、10 Softmax、 11 ElementwiseAdd、12 TensorCopy、13 EmbeddingLookup、**14 Generic{op_class:u32, elements:u64}**(本移行で追加)。0..5 は u32 次元、6..13 は単一 u64。追加は additive で 既存 variant の byte は不変。

Generic は「dense に cost 規則の無い演算(gated-delta-net、SSM conv、MoE routing 等)を 意味を歪めず、output 要素数で忠実に committ する」ための variant。op_class は演算種別の 安定 ID、cost は output 要素数のみに依存する。v2 のみが pricing し、v1 は拒否するため 既存 dense receipt と ruleset identity は不変。

4.2 CU ルールセット v1/v2

CU_RULESET_VERSION_V1=1、CU_RULESET_VERSION_V2=2。ruleset_id() は domain_hash("cu-ruleset/vX", X, [payload])。payload の唯一の差分は v2 が ceil;min1 の前に generic=2/4096; を挿入する点(domain も /v2)。よって v1().ruleset_id() != v2().ruleset_id()。matching_ruleset_id(&Hash32) は [v1(),v2()] から 一致する ruleset を返す(本移行で追加、bundle 経路が使用)。

cost 式(cost()、scaled_cost = max(1, ceil(work·units/reference))、全て checked):

op work reference units
Gemm m·n·k·batch 4096³ 120
Attention q·kv·heads·head_dim·batch 4096·4096·32·128 80
LayerNorm/RmsNorm elements·batch 4096 8
Rotary tokens·heads·head_dim 4096 4
ExpertRoute tokens·experts·top_k 4096 16
KvCacheRead/Write/TensorCopy bytes 1 MiB 1
Silu/ElementwiseMultiply/ElementwiseAdd elements 4096 2
Softmax elements 4096 4
EmbeddingLookup elements 4096 1
Generic elements 4096 2 (v2 限定、v1 は UnsupportedOperation)

ComputeUnitCounter.record は cost を checked-add し、overflow 時は state を変えず CostError::Overflow(fail-closed)。

5. Model profile pin と RuntimeManifest 構築

正本: runtime-palw/src/qwen_profile.rs、runtime-palw/src/manifest.rs、 config/qwen3.6-35b-a3b-claude-4.7-profile.json。

5.1 profile pin(schema v2)

schema = "misaka.palw.model-profile-pin.v2"、 profile_name = "Qwen3.6-35B-A3B-Claude-4.7-Opus-abliterated-Q4_K_M-Metal-arm64"。 model{} は MoE の全 shape(architecture Qwen3_5MoeForConditionalGeneration、model_type qwen3_5_moe、gguf_architecture qwen35moe、hidden 2048、heads 16、kv 2、layers 40、 head_dim 256、intermediate 512、expert_count 256、experts_per_token 8、rope_theta 10000000、 vocab 248320、max_pos 262144、bfloat16、Q4_K_M、ほか linear_* 等)を持つ。base_artifact は 7 files(各 sha256)、inference_artifact は Ollama repo/tag/64-hex blob revision/bytes/ sha256、runtime は commit と cmake_cache。deserialize struct は serde deny_unknown_fields (HybridProfilePin/HybridModelPin/HybridInferenceArtifactPin。dense との差は tag field)。

5.2 validate_hybrid_pin

schema/profile_name 一致、model 全 shape 一致、download_scope=="metadata-only"、 supported_profile=="metal-arm64"、targets に llama-palw-observer、commit.len()==40、 base.revision.len()==40、**inference.revision.len()==64**(Ollama blob digest)、 inference.bytes!=0。metadata files は 7 件で各 sha256 を streaming 照合 (verify_base_metadata_hybrid)。

5.3 build_qwen36_35b_metal_manifest

host(arm64、8 field 非空)と environment(LANG/LC_ALL のみ)を検証し、GGUF の size/sha256、 tokenizer(tokenizer.json+tokenizer_config.json の 2 件)を artifact 化する。以下の digest を domain_hash で計算し RuntimeManifest に committ する(dense と domain string が異なる主要点):

  • chat_template_digest(chat-template/v1): chat_template.jinja file bytes (dense は tokenizer_config 内の文字列)。
  • special_tokens_digest(special-token-semantics/v1): tokenizer_config + config.json (generation は Value::Null)。
  • kernel_graph_id(qwen36-35b-llama-graph/v1): commit + qwen36_adapter_mapping_id_v1()
    • ggml_sched_ask_metadata_v1 + prefill/decode 直列。
  • kernel_algorithm_digest(kernel-algorithm-policy/v1): 末尾に ;moe-hybrid;cu-ruleset=v2。
  • ほか loaded_libraries_digest、build_flags_digest、dirty_patch_digest、 environment_allowlist_digest、runtime_device_digest、runtime_program_digest、 build_provenance_digest。

ModelProfile は topology = MixtureOfExperts、kv_heads=2、**head_dim=256(hidden/heads = 2048/16 = 128 とは decouple)**、rope="Qwen3.5-iMRoPE"、native_context_tokens=262144、 vocabulary=248320。RuntimeClass は Q4_K_M、flash-attn off、context_size=4096、batch=1。 RuntimeManifest.cu_ruleset_id = ComputeUnitRules::v2().ruleset_id()。

5.4 manifest validator の緩和(hybrid を受理する 2 点)

  • ModelProfile::validate は旧来の head_dim == hidden/heads 検査を削除した。head_dim を 独立 field として committ し cross-check しないため、head_dim=256 と 2048/16=128 が 共存できる。hidden % heads == 0(2048%16)、heads % kv == 0(16%2)は維持。
  • RuntimeManifest::validate は cu_ruleset_id が v1 または v2 の ruleset_id なら受理する。

6. Receipt body・commitment・署名

正本: runtime-palw/src/receipt.rs、runtime-palw/src/builder.rs、runtime-palw/src/observer.rs。

6.1 ComputeReceiptV1(署名される canonical wire 順)

30 field を固定順で encode し、その byte 列が全 digest(signing_digest/body_id/ receipt_id)の入力になる。主要 field: receipt_version(=1)、network_id、 request_commitment、scheduler_job_id、signed_assignment_id、replica_slot、 model_profile_id、runtime_class_id、runtime_manifest_hash、shape_profile_id、 **cu_ruleset_id = evidence.cu_ruleset_id()**、trace_scheme_id、trace_evidence、 operation_schedule_commitment、schedule_event_count、canonical_compute_units、 prefill_tokens、decode_tokens、output_commitment、gemm_trace_root、trace_event_count、 owner_commitment、worker_credential_id、job_nullifier、execution_nullifier、job_class、 evidence_level、timestamp、issued_epoch、expires_epoch。

validate_structure は署名前後で 17 digest の非零、prefill_tokens!=0、 issued<=expires、job_class ごとの replica_slot 範囲、evidence_level ごとの count 整合 (GemmTraced は schedule/trace/CU が全て非零かつ trace_evidence!=Absent)を検査する。

6.2 build_signed_receipt

manifest.validate、CUDA KernelSketch 拒否、scheduler 署名(request+assignment)検証、worker credential binding、request constraints と manifest ID の一致、evidence↔shape/job binding、 prompt opening と prefill_tokens 一致、output count 一致、を検査後に commitment (commit_prompt_tokens/commit_output/commit_owner/derive_job_nullifier/ derive_execution_nullifier)を計算し、body を Ed25519 署名(signing_digest は network-id salt 付き canonical bytes)。builder は cu_ruleset_id を evidence の値そのまま committ する (独自に ruleset を再導出しない)。

6.3 evidence 生成(RuntimeObserver → ExecutionEvidence)

observer は job_nullifier/shape_profile_id/ComputeUnitRules/EvidenceLevel に束縛される。 schedule = OperationSchedule::new(..., rules.ruleset_id())、trace は GemmTraced 時のみ生成。 状態機械は AwaitingPrefill→Prefill→Decode{step}、decode step は厳密連番、任意の event error で 恒久 poison。finalize_with_generated_tokens は generated == decode_tokens+1(先頭 token は prefill logits から sample)を要求。GemmTraced 不変条件として schedule の GEMM 数 == trace group 数。ExecutionEvidence.cu_ruleset_id = counter.rules().ruleset_id()(本移行では v2)がそのまま receipt へ流れる。

7. Stateless 検証(verify_stateless)

正本: runtime-palw/src/verifier.rs。VerificationContext { network_id, current_epoch, manifest, cu_rules, signer_registry, assignment_authorizations } を取り、順に:

  1. validate_structure、network/epoch。
  2. assignment 解決と全 field binding、assignment policy(required_evidence_level==evidence_level)。
  3. signer 解決、owner/worker commitment、Ed25519 署名(weak-key 拒否 + verify_strict)。
  4. manifest.validate、CUDA KernelSketch 拒否。
  5. model_profile_id/runtime_class_id/runtime_manifest_hash/shape_profile_id を manifest から独立再計算して照合。
  6. CU-ruleset triple-bind: body.cu_ruleset_id == context.cu_rules.ruleset_id() かつ == manifest.cu_ruleset_id(不一致は CuRulesetMismatch)。本移行では三者とも v2。
  7. trace_scheme_id bind、job_nullifier/execution_nullifier の再導出照合、verify_shape。
  8. verify_execution_evidence: evidence metadata・schedule integrity/commitment 照合後、 context.cu_rules で schedule を最初から再 pricing し canonical_compute_units を 照合(claim を信用しない)。per-entry で layer 範囲、dense topology の expert-route 拒否、 decode phase 順序を検査。GemmTraced は verify_trace(trace binding、capability 一致、 GEMM 数 == trace group 数、per-event の schedule 対応)。
  9. output nonce / prompt opening / output opening / output count。

hybrid では topology が MixtureOfExperts のため expert-route の dense 拒否は発火しない(なお 本 adapter は MUL_MAT_ID を Generic に写すので ExpertRoute op 自体を生成しない)。

8. Verification bundle と ruleset 選択の 3 修正

正本: runtime-palw/src/verification_bundle.rs。

8.1 seal_verification_bundle

owner opening を照合し、封印前に receipt を完全に再 stateless 検証する(state-store は 変更しない)。公開部 BundlePublicV1(receipt_binding、receipt_id、verification_epoch、 scheduler-key record、manifest.canonical_bytes()、PortableEvidenceV1)は認証済み cleartext。 秘密部 BundlePrivateV1(署名済み request/assignment、signer record、output opening = output_nonce + prompt/output token IDs、owner salt)は XChaCha20-Poly1305 で AEAD 暗号化 (AAD で receipt_binding/public_digest/nonce/public_bytes を束縛、AEAD 鍵は audit key の domain_hash 派生で raw key を直接使わない)。bundle_id は完全な暗号化 envelope 全体の domain_hash。

8.2 CU ルールセット選択の 3 修正(v2 対応)

# 位置 修正
1 seal 経路 cu_rules = ComputeUnitRules::matching_ruleset_id(&context.manifest.cu_ruleset_id)(旧: v1 固定)
2 verify_bundle_stateless_inner matching_ruleset_id(&bundle.public.manifest.cu_ruleset_id)(旧: v1 固定)
3 PortableEvidenceV1::encode_canonical ruleset version を evidence に合わせて書く(matching_ruleset_id(evidence.cu_ruleset_id()).map_or(0, version)。旧: v1 固定)。decode は for_version で読む

これらが無いと、v2 evidence が bundle 内で v1 として round-trip し CuRulesetMismatch になる。 併せて manifest.rs の validate が v1|v2 を受理し、matching_ruleset_id を追加した。producing CLI は ComputeUnitRules::v2() を bind する。

8.3 portable evidence の round-trip

encode は version・level・prefill/decode・ruleset version・job_nullifier・shape_profile_id・ schedule entries・trace groups・claimed CU・claimed ruleset を書く。decode は RuntimeObserver で schedule/trace/CU を 再導出(serialize 済み total を信用しない)し、再構成 evidence の canonical_compute_units/cu_ruleset_id が claimed と一致することを要求する。bounds: MAX_EVIDENCE_EVENTS=250000、MAX_BUNDLE_BYTES=64MiB。

9. 永続化(SQLite schema v4)と CLI 契約

9.1 StateStore(schema v4)

APPLICATION_ID="PALW"、SCHEMA_VERSION=4。open は parent dir 解決 + SQLITE_OPEN_NOFOLLOW、 foreign_keys=ON、synchronous=FULL、journal_mode=WAL、application/schema 照合、および sqlite_master の DDL fingerprint(SHA3-256 golden 照合)。accept は BEGIN IMMEDIATE で duplicate receipt / duplicate execution_nullifier / job-class 整合 / slot 充填を強制し、 jobs(PK (network_id,job_nullifier)、WITHOUT ROWID)と receipts(PK receipt_id、 execution_nullifier UNIQUE、UNIQUE(network_id,job_nullifier,replica_slot)、FK RESTRICT)へ transaction で insert する。復元経路 restore_accepted は read-only で既存 row を byte 照合する。

9.2 palw-metal-receipt(発行 CLI)

必須: --prompt-stdin、--audit-key-file(exact 32 raw bytes、owner-only single-link 0400/0600、output dir 外)、--output-dir(新規/空、owner-only 0700)。任意: --n-predict (1..=1024、default 2)。prompt は UTF-8 非空 ≤1 MiB。run flow は §0 の通り。canonical_source_patch は tools/CMakeLists.txt と src/models/qwen35moe.cpp の modified、tools/palw-observer/ の untracked のみを許容する(他は拒否 = fail-closed)。出力 artifact:

file mode 内容
<id>.palw 0644 署名済み canonical receipt
<id>.json 0644 公開 metadata(misaka.palw.public-receipt.v2、strict field)
<id>.palw.bundle 0600 XChaCha20 暗号化 bundle
palw-state.sqlite3 0600 schema v4 state
<id>.complete 0644 misaka.palw.receipt-set.v2 完了 marker(最後に fsync 付きで作成)

9.3 palw-verify-bundle(検証 CLI)

必須: --receipt/--bundle/--public-json/--audit-key-file/--state-db。artifact set の mode/owner/single-link/同一 private dir、完了 marker の binding、bounded read、decode_strict、 validate_artifact_names(receipt_id は bundle 由来)、verify_bundle_and_restore(§8 の復号・ 再検証・schema-v4 復元)、verify_public_metadata(公開 JSON を authenticated 値と field 単位で 照合)。正常時 status=local_restored / trust_scope=embedded_local_snapshot。この trust scope は bundle 内 registry snapshot による continuity を示すのみで、network authority の代替ではない。

10. E2E 実測(reference receipt)

Apple M1 Max(macOS Metal 4、arm64)。observer は load 時に qwen35moe/40/2048/248320 を検証し offloaded 41/41 layers to GPU。出力健全性: The capital of France is ([760,6511,314,9338,369])→ Paris, a city renowned for its iconic。

reference artifact は receipts/final-v7/、evidence 詳細は docs/evidence/metal-hybrid-qwen36-2026-07-19.md。 公開 receipt(misaka.palw.public-receipt.v2)の主要値:

field 値
receipt_id 8e2dd34b7609d6d7aeec17bff485eb1ae4db31f66dd899a3c3a3e671656053f9
verification_bundle_id f5b8a2968c4ea266b2cbbabf351a171e0fa2581984eff63362de2640fcdcf9db
cu_ruleset_id(v3 semantic) 43a5feef177b389f976361b22ac9d57da65815261282005bc78d1666a37870ce
job_class / evidence_level / trace_evidence self_local / gemm_traced / metal_kernel
prefill_tokens / decode_tokens 5 / 2
prefill_graph_steps / decode_graph_steps 5 / 1
schedule_event_count(= canonical_operations、commitment-only) 13770
trace_event_count(= gemm_events) 2466
canonical_compute_units(v3 semantic、署名 commit) 41692
semantic_compute_units_v3(= canonical_compute_units) 41692
semantic_schedule.commitment / .expert_route_ops e6fc731e… / 80
expert_route.root / .route_event_count(実捕捉) 5e4ea70b… / 240
mint.eligible / mint.weight / mint.mainnet_ready false / 0 / false
mint.ineligible_reasons Metal kernel-launch-bound / 非 network-anchored / 非 bonded の 3 件(generic+graph-fallback は解消)
model_profile_id b6b83a274a889fc5dfa2044b9158111b3849f880a05eb7ebcf560d036515d472
runtime_class_id 8f6f536118a72be70dab2028535c3bb95e3de9a3bac0e9b81cf78677ae902a9c
artifacts.llama_commit / model_bytes 12127def… / 23938321728

privacy: prompt / prompt token IDs / 生成 token IDs / opening / signing key / owner salt は公開 .palw / .json に含まれない(全 9 flag が非公開/暗号化)。別 process の palw-verify-bundle が status=local_restored、trust_scope=embedded_local_snapshot、receipt_id/bundle_id 一致、 exit 0 で再検証済み。発行は実行ごとに OS CSPRNG で identity を生成するため receipt_id は再現しない。

11. セキュリティ境界・正直な限界

  • この Receipt は mint-grade ではない。 現行の evidence_level=gemm_traced / trace_evidence=graph_fallback は強い計算証明ではない。runtime-palw/src/mint.rs の assess_mint_eligibility が現行 runtime の全 receipt を eligible=false, weight=0, class="local_self_consistent_v0_1" と判定し、公開 JSON の mint ブロックに失格理由と共に 自己申告する(palw-verify-bundle が再構成して照合)。用途は「ローカル自己整合 receipt / testnet 計測 / Self-Local 非報酬」に限られる。mint-grade 化の是正計画は receipt-review-remediation.md を参照。
  • Metal の graph-fallback sketch は CUDA kernel trace ではない。
  • 単独ノードが発行する Receipt は、それだけでゼロ知識の計算証明ではない。PALW の不正耐性は runtime/model digest、署名、k=2 replica、future audit、canary、bond/slashing の組み合わせで 成立する。
  • Generic 演算は廃止済み(M3)。 hybrid の全 MoE/SSM op を忠実な canonical 演算へ写像 (MUL_MAT_ID→ExpertGemm、ARGSORT→ExpertRoute、SSM_CONV→SsmConv、GATED_DELTA_NET→GatedDeltaNet、 L2_NORM→L2Norm、SUM_ROWS→Reduction、CONCAT→TensorCopy、UNARY/SCALE/DIV/CLAMP→Elementwise)。 実機 receipt の schedule は contains_generic_operation()==false。
  • Semantic CU v3 は canonical commitment(M1、mainnet compute measure)。 semantic_cu.rs の qwen36_semantic_compute_units(prefill, generated) は CU を observed graph からではなく pinned model 構造 + token 数から算出(active-parameter FLOPs + causal attention 項、丸めは最後に 1 回)。 現行 receipt の canonical_compute_units は この semantic 値(41692)を cu_ruleset_id=v3 で署名 commit する(v2 の graph 値ではない)。fragmentation-proof / backend 非依存で、verifier は prefill_tokens/decode_tokens から同値を再計算・照合。
  • canonical semantic schedule(M2、#7 構造半分)。 semantic_schedule.rs が pinned architecture + token 数から canonical op schedule と commitment を決定的に再生成し、公開 JSON semantic_schedule に束縛。verifier が独立再生成して照合。
  • 実 MoE routing の捕捉(M4/#6)。 observer が ffn_moe_topk(I32)を post-compute で読み戻し、 per-token 選択 expert を封緘 bundle の expert_route_root へ commit、公開 JSON expert_route として 発行・再構成。実機で 240 route record を捕捉。
  • kernel-level trace(#5、M5、完了・実機検証済み)。 ggml-metal を計装して各 GEMM を実 Metal kernel dispatch + launch geometry へ束縛(200/200・411/411、0 anomaly)。trace_evidence=metal_kernel (graph-fallback から昇格)、TraceEvidenceKind/TraceCapability::MetalKernel を新設し verifier が照合。 launch-geometry 束縛であり CUDA V3 相当の intra-kernel accumulator proof ではないため KernelSketch とは別 kind で commit(over-claim しない)。mint 失格理由は「Metal kernel-launch-bound sketch, not an intra-kernel accumulator proof」に置換(mint 不適格のまま)。accumulator-level は Metal shader 計装が残件。
  • mainnet-readiness。 assess_mainnet_readiness が compute / network / hardware / model-Genesis の 全 gate を列挙し、外部 gate を Met と偽らない。現状 mint.mainnet_ready=false。mainnet 報酬適格性は deployed network authority / global nullifier / epoch beacon / bond authority / 複数世代実機 / 公式モデル Genesis を要し、この repository の完了範囲外である(remediation の外部ブロック項参照)。
  • 未達 gate R13/R21/R23/R24/R26/R27/R32/R35 は requirements.md の通り In progress。本移行はこれらの production 完了を意味しない。

既知の drift とテスト網羅(2026-07-19 時点)

  • hybrid adapter の専用 unit test は fixture test を追加済み(hybrid_generic_op_class 表、 mapping id 識別、MoE/SSM op 写像、unknown op fail-closed、q6_K trace、dense header 拒否)。 CU fragmentation invariant や公式 Transformers との differential 等の残りは receipt-review-remediation.md の follow-up。
  • validate_hybrid_pin は dense と異なり base_artifact/inference_artifact の repository 文字列を pin せず、deserialize する MoE/linear-attention の追加 dim(linear_*、 shared_expert_intermediate_size、full_attention_interval、partial_rotary_factor_millionths) を committ manifest には使わない(deny_unknown_fields 受理のためだけに存在)。

12. 再現手順 

# 1. 導入(GGUF は Ollama registry、base metadata は HF)
./scripts/install.sh

# 2. Rust gate(MSRV 1.85)
cd runtime-palw
cargo +1.85.0 fmt --all -- --check
cargo +1.85.0 clippy --locked --all-targets -- -D warnings
cargo +1.85.0 test --locked --all-targets
cargo +1.85.0 build --release --locked --bin palw-metal-receipt --bin palw-verify-bundle
cd ..

# 3. Receipt 発行(audit key は 32-byte raw、output dir 外に一度だけ作成)
OUT="receipts/manual-$(date +%Y%m%d-%H%M%S)"
AUDIT_KEY="$HOME/.config/misaka-palw/audit-keys/local-audit.key"
install -d -m 700 "$(dirname "$AUDIT_KEY")"; test ! -e "$AUDIT_KEY"
(umask 077 && /usr/bin/openssl rand 32 > "$AUDIT_KEY"); chmod 600 "$AUDIT_KEY"
runtime-palw/target/release/palw-metal-receipt \
  --prompt-stdin --audit-key-file "$AUDIT_KEY" --output-dir "$OUT" --n-predict 2 \
  < /path/to/private-prompt.txt

# 4. 別 process 検証
RECEIPT="$(find "$OUT" -maxdepth 1 -type f -name '*.palw' -print)"; ID="$(basename "$RECEIPT" .palw)"
runtime-palw/target/release/palw-verify-bundle \
  --receipt "$OUT/$ID.palw" --bundle "$OUT/$ID.palw.bundle" \
  --public-json "$OUT/$ID.json" --audit-key-file "$AUDIT_KEY" \
  --state-db "$OUT/palw-state.sqlite3"
# 期待: status=local_restored / trust_scope=embedded_local_snapshot / exit 0

GGUF の SHA-256 を発行前後に 4 回計算するため、1 回の発行は約 5 分要する(24GB × 4)。 これは hang ではない。