File size: 1,424 Bytes
0d6dfa7 7c321f7 0d6dfa7 | 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 | ---
license: apache-2.0
datasets:
- jpacifico/French-Alpaca-dataset-Instruct-110K
language:
- fr
tags:
- french-alpaca
- french
- 4Q_K_M
- Instruct
---
### French-Alpaca-Instruct Q4
Quantized 4bits Q4_K_M version of jpacifico/French-Alpaca-7B-Instruct-beta
This quantized Q4_K_M GGUF (4bits) version of French-Alpaca-7B-Instruct-beta
can be used on a CPU device incl. Raspberry Pi 5 8gb, and is supported by LLM cpp tools (llama.cpp, Ollama, LM Studio ..)
### Usage
Ollama Modelfile example :
```bash
FROM ./french-alpaca-instruct-Q4.gguf
TEMPLATE """Tu trouveras ci-dessous une instruction qui décrit une tâche. Rédige une réponse qui complète de manière appropriée la demande.
{{ if .System }}### Instruction:
{{ .System }}{{ end }}
{{ if .Prompt }}### Input:
{{ .Prompt }}{{ end }}
### Response:
"""
PARAMETER stop "### Response:"
PARAMETER stop "### Instruction:"
PARAMETER stop "### Input:"
PARAMETER stop "Tu trouveras ci-dessous une instruction qui décrit une tâche. Rédige une réponse qui complète de manière appropriée la demande."
PARAMETER num_predict 300
```
### Limitations
The French-Alpaca model is a quick demonstration that a base 7B model can be easily fine-tuned to specialize in a particular language.
It does not have any moderation mechanisms.
- **Developed by:** Jonathan Pacifico, 2024
- **Model type:** LLM
- **Language(s) (NLP):** French
- **License:** Apache-2.0 |