Upload README.md with huggingface_hub
Browse files
README.md
ADDED
|
@@ -0,0 +1,55 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
---
|
| 2 |
+
license: other
|
| 3 |
+
tags:
|
| 4 |
+
- anima
|
| 5 |
+
- byte-lm
|
| 6 |
+
- clm
|
| 7 |
+
- base-substrate
|
| 8 |
+
---
|
| 9 |
+
|
| 10 |
+
# anima-base-py303-full
|
| 11 |
+
|
| 12 |
+
**303M byte-level CLM โ anima ์ base substrate.** ์ฌ๋ฌ H ์บ ํ์ธ์ด ๊ณต์ ํ๋ ๊ธฐ๋ฐ ๊ฐ์ค์น์ด๋ฏ๋ก
|
| 13 |
+
ํน์ H ์ด๋ฆ์ ๋ถ์ด์ง ์๋๋ค (`anima-base-*` ๊ท์ฝ ยท ARCHITECTURE gate `hf-artifacts-archival-census`).
|
| 14 |
+
|
| 15 |
+
| | |
|
| 16 |
+
|---|---|
|
| 17 |
+
| ํ์ผ | `py303_full.clm` |
|
| 18 |
+
| sha256 | `013c4574e0ce71ae173287b93bb2c1ab5dd7ee6c3b53429ec898683198cd4e7c` |
|
| 19 |
+
| ํฌ๊ธฐ | 176,584,498 B |
|
| 20 |
+
| ํฌ๋งท | `.clm` (byte V256 ยท tokenizer ์์) |
|
| 21 |
+
| ๋ก๋ | `anima-py evaluate py303_full.clm` (`pip install anima-python`) |
|
| 22 |
+
|
| 23 |
+
## ์ ๋ณด๊ดํ๋๊ฐ
|
| 24 |
+
|
| 25 |
+
anima ๋ ํ์ต bit-determinism ์ ๋ฒ๋ฆฌ๊ณ **eval ๊ฒฐ์ ์ฑ๋ง** ์ฌ์ํ๋ค (`bit-det-drop-fast-train`).
|
| 26 |
+
๋ฐ๋ผ์ ํ์ดํ๋ผ์ธ์ `corpus+seed โ(๋น๊ฒฐ์ )โ ckpt โ(๊ฒฐ์ )โ verdict` ์ด๊ณ ,
|
| 27 |
+
**ckpt ๋ ์บ์๊ฐ ์๋๋ผ ๊ฒฐ์ ์ฑ ์ฌ์ฌ์ anchor** ๋ค โ corpus+seed ๋ก ์ฌ์์ฑํ ์ ์๋ค.
|
| 28 |
+
์ด ํ์ผ์ด ์์ผ๋ฉด ์๋ H ๋ค์ด cement ํ ์ซ์๊ฐ "์ฌ๊ฒ์ฆ ๊ฐ๋ฅ"์์ "๋ฏฟ์ด๋ฌ๋ผ"๋ก ๊ฐ๋ฑ๋๋ค.
|
| 29 |
+
|
| 30 |
+
## ์ด base ์์์ ์ธก์ ๋ H (jsonl ์ธ์ฉ ๊ธฐ์ค)
|
| 31 |
+
|
| 32 |
+
`HYPOTHESES/HYPOTHESES.jsonl` ์ด `py303_full` ์ ๋ช
์์ ์ผ๋ก ์ธ์ฉํ๋ ๋ ์ฝ๋:
|
| 33 |
+
|
| 34 |
+
- **H_9627** โ ๐ข GREEN-WIRED ยท production default = ฮจ=ยฝ dual-ledger (`--g-reach wm-dual`).
|
| 35 |
+
3-seed(7/4302/4303) ยท 60tick ยท T=1.0 ยท ฮป=0.6 ์ emit-rate **0.506 โ ยฝ** ยท lag1-autocov โ0.225.
|
| 36 |
+
anima ์ต์ด์ wired emit gate.
|
| 37 |
+
- **H_9377** ยท **H_9362** ยท **H_9351** ยท **H_9256** โ ๋์ผ base ๋ฅผ ์ธ์ฉํ๋ ์ ํ ์บ ํ์ธ.
|
| 38 |
+
|
| 39 |
+
## ์ด๋ฆ (โ ๏ธ ์ค์)
|
| 40 |
+
|
| 41 |
+
๊ฐ์ ํ์ผ์ด ๋ ์ด๋ฆ์ผ๋ก ์กด์ฌํ๋ค โ ์ด๋ฆ์ผ๋ก ๋ฐฑ์
์ฌ๋ถ๋ฅผ ํ์ ํ์ง ๋ง ๊ฒ:
|
| 42 |
+
|
| 43 |
+
- `summer:/home/summer/py303_full.clm` (H ๊ธฐ๋ก์ด ์ธ์ฉํ๋ ์ด๋ฆ)
|
| 44 |
+
- `mac:~/anima-weights/py303_savant_mitosis.clm` (**byte-identical** ยท sha256 ๋์ผ)
|
| 45 |
+
|
| 46 |
+
๋ฐ๋ ๋ฐฉํฅ ํจ์ ๋ ์๋ค: HF `dancinlab/anima-savant-mitosis-303m-wip/savant_mitosis_303m.clm`
|
| 47 |
+
(`e1ab9fa096d76087โฆ`) ์ **์ด ํ์ผ์ด ์๋๋ค** โ ์ด๋ฆ์ด ๋น์ทํ ๋ฟ ๋ค๋ฅธ ๊ฐ์ค์น๋ค.
|
| 48 |
+
|
| 49 |
+
## ์ ์งํ ๊ณต๋ฐฑ (IRRECOVERABLE-GAP)
|
| 50 |
+
|
| 51 |
+
- ์ด base ๋ฅผ ๋ง๋ **ํ์ต corpusยทseedยท๋ช
๋ นํยทVERSION ์ด jsonl/์นด๋์ ๊ธฐ๋ก๋์ด ์์ง ์๋ค.**
|
| 52 |
+
2026-07-17 census ์์ ์ ๋ก์ปฌยทsummer ์ด๋์๋ ์ manifest ๋ฅผ ๋ณต๊ตฌํ์ง ๋ชปํ๋ค.
|
| 53 |
+
๋ฐ๋ผ์ ๋ณธ repo ๋ **๊ฒ์ฆ ์ฌํ**(์ด ckpt ๋ฅผ ๋ค์ ์ฌ์ ๊ฐ์ ์ซ์๊ฐ ๋์ค๋๊ฐ)๋ง ๋ณด์ฅํ๊ณ ,
|
| 54 |
+
**๋ถํฌ ์ฌํ**(๊ฐ์ ๋ฐฉ๋ฒ์ผ๋ก ๋ค์ ํ์ตํ๋ฉด ๊ฐ์ ๊ฒฐ๋ก ์ธ๊ฐ)์ ๋ณด์ฅํ์ง ๋ชปํ๋ค.
|
| 55 |
+
์ฌ๊ตฌ์ฑํ manifest ๋ฅผ ์๋ณธ์ผ๋ก ๊ฐ์ฅํ์ง ์๊ธฐ ์ํด ๋น์ ๋๋ค.
|