jamesjje/mistral7b-arc-challenge-lora

Mistral-7B ARC-Challenge LoRA (E6b)

mistralai/Mistral-7B-v0.1을 ARC-Challenge 성능 향상을 위해 QLoRA로 파인튜닝한 LoRA 어댑터.

평가 결과 (lm-evaluation-harness, arc_challenge, 25-shot)

모델	acc	acc_norm
Mistral-7B-v0.1 (base)	-	0.6143
본 어댑터 (E6b)	0.6399	0.6741

base 대비 acc_norm +5.98%p.

학습 데이터

• 공개 과학 QA: ARC-Challenge/Easy(train), OpenBookQA, SciQ
• 합성 데이터: AceMath 레시피 기반으로 생성한 과학 MCQA (삼중 일치 검증 + 디컨태미네이션)
• 난이도 필터 적용, ARC test/validation 대상 디컨태미네이션 수행

사용법

from transformers import AutoModelForCausalLM, AutoTokenizer
from peft import PeftModel

base = AutoModelForCausalLM.from_pretrained("mistralai/Mistral-7B-v0.1", torch_dtype="float16", device_map="auto")
model = PeftModel.from_pretrained(base, "jamesjje/mistral7b-arc-challenge-lora")
tok = AutoTokenizer.from_pretrained("jamesjje/mistral7b-arc-challenge-lora")

참고

병합(merge_and_unload) 후 저장한 모델에서 성능 저하가 관측되어, 본 레포는 어댑터를 배포한다. 평가 시 lm_eval --model hf --model_args pretrained=mistralai/Mistral-7B-v0.1,peft=jamesjje/mistral7b-arc-challenge-lora 형태로 재현할 수 있다.