CyberSec Mistral 7B v4

Modèle Mistral-7B-Instruct fine-tuné pour la cybersécurité offensive et défensive.

Description

Spécialisé pour répondre à des questions techniques sur :

  • Pentest réseau et web
  • Active Directory offensif (Kerberoasting, Pass-the-Hash, BloodHound...)
  • Exploitation binaire et web
  • Cloud security (AWS, Azure, GCP, Kubernetes)
  • Forensics et incident response
  • Outils spécialisés (Metasploit, Impacket, CrackMapExec, Burp Suite...)

Détails de l'entraînement

Paramètre Valeur
Modèle de base mistralai/Mistral-7B-Instruct-v0.3
Technique QLoRA (4-bit quantization)
Framework Unsloth 2026.6.x
Dataset 1545 exemples cybersécurité
Epochs 5
Loss finale 0.3157
GPU NVIDIA RTX 4000 Ada (21GB VRAM)
Durée ~50 minutes
Paramètres entraînés 41.9M / 7.3B (0.58%)
LoRA rank r=16, alpha=32

Utilisation

from unsloth import FastLanguageModel
from unsloth.chat_templates import get_chat_template
from peft import PeftModel
import torch

# Charger le modèle de base
model, tokenizer = FastLanguageModel.from_pretrained(
    model_name="mistralai/Mistral-7B-Instruct-v0.3",
    max_seq_length=2048,
    dtype=None,
    load_in_4bit=True,
)

# Charger les adaptateurs fine-tunés
model = PeftModel.from_pretrained(model, "gabinkebre/cybersec-mistral-7b-v4")
FastLanguageModel.for_inference(model)
tokenizer = get_chat_template(tokenizer, chat_template="mistral")

def ask(question):
    messages = [{"role": "user", "content": question}]
    inputs = tokenizer.apply_chat_template(
        messages, tokenize=True,
        add_generation_prompt=True,
        return_tensors="pt"
    ).to("cuda")
    outputs = model.generate(
        input_ids=inputs,
        max_new_tokens=500,
        temperature=0.7,
        do_sample=True,
        pad_token_id=tokenizer.eos_token_id,
    )
    return tokenizer.decode(outputs[0][inputs.shape[1]:], skip_special_tokens=True)

print(ask("Comment fonctionne le Kerberoasting dans Active Directory ?"))

Exemples de questions

  • "Comment exploiter une SQL injection avec sqlmap ?"
  • "Quelles sont les étapes d'un Kerberoasting attack ?"
  • "Comment utiliser BloodHound pour cartographier Active Directory ?"
  • "Explique le Pass-the-Hash attack avec mimikatz."
  • "Comment bypasser AMSI sous PowerShell ?"
  • "Quelles commandes nmap pour un pentest réseau complet ?"

API

Ce modèle est déployé via une API FastAPI :

curl -X POST https://api.gabinkebre.info/v1/query \
  -H "Authorization: Bearer YOUR_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"question": "Comment exploiter le Kerberoasting ?", "max_tokens": 500}'

Auteur

Gabin Kébré — Étudiant MBA Expert en Cybersécurité (STUDI 2026-2028)

Avertissement

Ce modèle est destiné à des fins éducatives et de recherche en cybersécurité défensive. L'utilisation à des fins malveillantes est strictement interdite.

Downloads last month

-

Downloads are not tracked for this model. How to track
Inference Providers NEW
This model isn't deployed by any Inference Provider. 🙋 Ask for provider support

Model tree for gabinkebre/cybersec-mistral-7b-v4

Finetuned
(529)
this model