| --- |
| language: |
| - ja |
| pipeline_tag: text-generation |
| tags: |
| - merge |
| --- |
| # karakuri-MS-01.gguf |
| 以下のモデルを使用させていただいてます。（下２つのモデルの詳細は後日中間モデルアップ後に行います） |
| - [karakuri-ai/karakuri-lm-70b-chat-v0.1(ベース)](https://huggingface.co/karakuri-ai/karakuri-lm-70b-chat-v0.1) |
| - [sbtom/karakuri-midrose-CV](https://huggingface.co/sbtom/karakuri-midrose-CV) |
| - karakuriとSOLARのChatVector |
| - karakuriとXwinのChatVector |
|
|
| ChatVectorとModel Stockの組み合わせは、相性が良いのではないかと思い、３つのChatVectorモデルをkarakuriをベースにしてModel Stockにてマージしました。<BR> |
| 少し検証したところ、各モデルのいいとこどりのような印象を受けました。 |
|
|
| ## モデル概要 |
|
|
| これは日本語の特定の能力がmergeにより、どのように向上するかをテストするための実験モデルです。<BR> |
| koboldで検証する際は、Max Ctx. Tokensは4096以下、Amount to Genは512以下で使用することを推奨します。<BR> |
|
|
| ## ライセンス |
| merge元の各モデルのライセンスに従います。 |
|
|
| ## 謝辞 |
| [Model Stock](https://arxiv.org/abs/2403.19522)という新たな手法に感謝いたします。<BR> |
| マージに使用させていただいた、各モデルの作者様に感謝いたします。 |
|
|
