--- language: - ja - zh license: mit tags: - alignment - post-processing - galgame - anime-subtitles - awq - quantization - text-generation-inference base_model: Murasaki-Project/Murasaki-APE-Aligner-2B pipeline_tag: text-generation ---
Murasaki Logo

Murasaki-APE-Aligner-2B-AWQ

[Github](https://github.com/soundstarrain/Murasaki-project) | [Murasaki Translator](https://github.com/soundstarrain/Murasaki-Translator) | [License: MIT](https://opensource.org/licenses/MIT) **Other Versions:** [Base (BF16)](https://huggingface.co/Murasaki-Project/Murasaki-APE-Aligner-2B) | [GGUF](https://huggingface.co/Murasaki-Project/Murasaki-APE-Aligner-2B-GGUF)
--- ## 简介 **Murasaki-APE-Aligner-2B-AWQ** 是格式修复引擎 Murasaki-APE-Aligner-2B 的 **4-bit AWQ 量化版本**(约 2.42 GB)。该版本在极大地降低显存占用并提升生成速度的同时,保持了与原始精度几乎一致的修复能力。完美支持 `vLLM` 等高并发推理框架,是具有显存限制但需要高速批量处理时的首选版本。 **训练数据与核心能力**: 为了应对极其复杂的真实游戏文本环境,本模型使用了涵盖 40 种以上 Galgame 与 RPG 游戏引擎、超过 1000 种不同格式的游戏控制符数据进行针对性训练。模型能够处理绝大多数控制符错位、丢失、冗余或参数被错误翻译的问题,并稳定输出逻辑正确、语法及代码完全正确的文本。 **核心机制**: 读取包含原文与模型初翻的 JSON 格式输入,自动对齐并修复草稿中损坏的控制代码。**模型仅处理代码与格式规范,不会改动任何译文的具体内容**。修复完成后直接输出纯文本字符串。 --- ## 核心 Prompt 与输入输出格式 请使用以下格式激活模型的修复与对齐能力: ### 1. System Prompt ```text 你是一个格式修复引擎。请读取JSON输入的原文和草稿,修复草稿中的控制符和格式,直接输出修复后的字符串,不要输出任何额外的JSON标签或解释。 ``` ### 2. User Input 必须为包含 `ja` (原文) 和 `zh` (译文初翻) 的 JSON 字符串: ```json {"ja": "その意思は[font color=0x64E560]尊重[resetfont]したいが……", "zh": "我很想[font color=0x64E560]尊重[resetfont][resetfont]你的意志……"} ``` ### 3. Model Output 模型将直接返回修复后的纯文本,无任何多余的 JSON 嵌套或解释: ```text 我很想[font color=0x64E560]尊重[resetfont]你的意志…… ``` --- ## 建议超参数 (Recommended Hyperparameters) 推荐参数如下: * **temperature**: `0.0` ~ `0.1` (越低越稳定) * **top_p**: `1.0` * **top_k**: `1` (或禁用) * **repetition_penalty**: `1.0` ~ `1.05`