metadata
language:
- ja
pipeline_tag: text-generation
tags:
- merge
karakuri-MS-01.gguf
以下のモデルを使用させていただいてます。（下２つのモデルの詳細は後日中間モデルアップ後に行います）
- karakuri-ai/karakuri-lm-70b-chat-v0.1(ベース)
- sbtom/karakuri-midrose-CV
- karakuriとSOLARのChatVector
- karakuriとXwinのChatVector
ChatVectorとModel Stockの組み合わせは、相性が良いのではないかと思い、３つのChatVectorモデルをkarakuriをベースにしてModel Stockにてマージしました。
少し検証したところ、各モデルのいいとこどりのような印象を受けました。
モデル概要
これは日本語の特定の能力がmergeにより、どのように向上するかをテストするための実験モデルです。
koboldで検証する際は、Max Ctx. Tokensは4096以下、Amount to Genは512以下で使用することを推奨します。
ライセンス
merge元の各モデルのライセンスに従います。
謝辞
Model Stockという新たな手法に感謝いたします。
マージに使用させていただいた、各モデルの作者様に感謝いたします。