Instructions to use aab20abdullah/Akin-Yurt-Llama3-8B with libraries, inference providers, notebooks, and local apps. Follow these links to get started.
- Notebooks
- Google Colab
- Kaggle
- Local Apps Settings
- llama.cpp
How to use aab20abdullah/Akin-Yurt-Llama3-8B with llama.cpp:
Install (macOS, Linux)
curl -LsSf https://llama.app/install.sh | sh # Start a local OpenAI-compatible server with a web UI: llama serve -hf aab20abdullah/Akin-Yurt-Llama3-8B:Q4_K_M # Run inference directly in the terminal: llama cli -hf aab20abdullah/Akin-Yurt-Llama3-8B:Q4_K_M
Install from WinGet (Windows)
winget install llama.cpp # Start a local OpenAI-compatible server with a web UI: llama serve -hf aab20abdullah/Akin-Yurt-Llama3-8B:Q4_K_M # Run inference directly in the terminal: llama cli -hf aab20abdullah/Akin-Yurt-Llama3-8B:Q4_K_M
Use pre-built binary
# Download pre-built binary from: # https://github.com/ggerganov/llama.cpp/releases # Start a local OpenAI-compatible server with a web UI: ./llama-server -hf aab20abdullah/Akin-Yurt-Llama3-8B:Q4_K_M # Run inference directly in the terminal: ./llama-cli -hf aab20abdullah/Akin-Yurt-Llama3-8B:Q4_K_M
Build from source code
git clone https://github.com/ggerganov/llama.cpp.git cd llama.cpp cmake -B build cmake --build build -j --target llama-server llama-cli # Start a local OpenAI-compatible server with a web UI: ./build/bin/llama-server -hf aab20abdullah/Akin-Yurt-Llama3-8B:Q4_K_M # Run inference directly in the terminal: ./build/bin/llama-cli -hf aab20abdullah/Akin-Yurt-Llama3-8B:Q4_K_M
Use Docker
docker model run hf.co/aab20abdullah/Akin-Yurt-Llama3-8B:Q4_K_M
- LM Studio
- Jan
- vLLM
How to use aab20abdullah/Akin-Yurt-Llama3-8B with vLLM:
Install from pip and serve model
# Install vLLM from pip: pip install vllm # Start the vLLM server: vllm serve "aab20abdullah/Akin-Yurt-Llama3-8B" # Call the server using curl (OpenAI-compatible API): curl -X POST "http://localhost:8000/v1/completions" \ -H "Content-Type: application/json" \ --data '{ "model": "aab20abdullah/Akin-Yurt-Llama3-8B", "prompt": "Once upon a time,", "max_tokens": 512, "temperature": 0.5 }'Use Docker
docker model run hf.co/aab20abdullah/Akin-Yurt-Llama3-8B:Q4_K_M
- Ollama
How to use aab20abdullah/Akin-Yurt-Llama3-8B with Ollama:
ollama run hf.co/aab20abdullah/Akin-Yurt-Llama3-8B:Q4_K_M
- Unsloth Desktop
- Docker Model Runner
How to use aab20abdullah/Akin-Yurt-Llama3-8B with Docker Model Runner:
docker model run hf.co/aab20abdullah/Akin-Yurt-Llama3-8B:Q4_K_M
- Lemonade
How to use aab20abdullah/Akin-Yurt-Llama3-8B with Lemonade:
Pull the model
# Download Lemonade from https://lemonade-server.ai/ lemonade pull aab20abdullah/Akin-Yurt-Llama3-8B:Q4_K_M
Run and chat with the model
lemonade run user.Akin-Yurt-Llama3-8B-Q4_K_M
List all available models
lemonade list
- Atomic Chat
Install from WinGet (Windows)
winget install llama.cpp
# Start a local OpenAI-compatible server with a web UI:
llama serve -hf aab20abdullah/Akin-Yurt-Llama3-8B:Q4_K_M# Run inference directly in the terminal:
llama cli -hf aab20abdullah/Akin-Yurt-Llama3-8B:Q4_K_MUse pre-built binary
# Download pre-built binary from:
# https://github.com/ggerganov/llama.cpp/releases# Start a local OpenAI-compatible server with a web UI:
./llama-server -hf aab20abdullah/Akin-Yurt-Llama3-8B:Q4_K_M# Run inference directly in the terminal:
./llama-cli -hf aab20abdullah/Akin-Yurt-Llama3-8B:Q4_K_MBuild from source code
git clone https://github.com/ggerganov/llama.cpp.git
cd llama.cpp
cmake -B build
cmake --build build -j --target llama-server llama-cli# Start a local OpenAI-compatible server with a web UI:
./build/bin/llama-server -hf aab20abdullah/Akin-Yurt-Llama3-8B:Q4_K_M# Run inference directly in the terminal:
./build/bin/llama-cli -hf aab20abdullah/Akin-Yurt-Llama3-8B:Q4_K_MUse Docker
docker model run hf.co/aab20abdullah/Akin-Yurt-Llama3-8B:Q4_K_Mpipeline_tag: text-generation tags: - text-generation - conversational - llama-3
🐺 Akın Yurt - Llama-3 8B (Türkmeneli AI)
📌 Proje Hakkında (About the Project)
Akın Yurt, Irak Türkmen Cephesi ve Türkmen Öğrenci ve Gençlik Birliği (TÖGB) vizyonu doğrultusunda geliştirilmiş, Llama-3 8B tabanlı özelleştirilmiş bir yapay zeka modelidir.
Bu model, sadece bir sohbet botu değil, Türkmeneli davasının dijital bir neferidir. Kerkük ve Türkmen kültürü, tarihi ve milli değerleri konusunda hassas davranacak şekilde yapılandırılmıştır.
Akın Yurt is a specialized AI model based on Llama-3 8B, developed under the vision of the Turkmen Students and Youth Union (TÖGB). It serves as a digital guardian of the Turkmeneli cause, optimized to respect and promote the history, culture, and national values of Iraqi Turkmens.
👥 Geliştirici Ekip (Development Team)
Bu proje, TÖGB Yapay Zeka Birimi tarafından geliştirilmiştir. This project was developed by the TÖGB AI Unit.
- Proje Lideri: Abdullah Ali Bahaaldeen
- Teknik Ekip: Ali El-Hürmüzlü, Usame Alaaddin
- Organizasyon: Türkmen Öğrenci ve Gençlik Birliği (TÖGB)
⚙️ Teknik Özellikler (Technical Specs)
- Base Model: Meta Llama-3 8B Instruct
- Quantization: GGUF (Q4_K_M) - Optimized for CPU/Mac/Low VRAM GPUs
- Context Window: 8192 Tokens
- Dosya Boyutu: ~5.7 GB
🚀 Nasıl Kullanılır? (Usage Instructions)
Bu modeli Ollama, LM Studio veya Python (llama-cpp) ile çalıştırabilirsiniz. You can run this model using Ollama, LM Studio, or Python.
1️⃣ LM Studio (Önerilen / Recommended)
- LM Studio programını indirin ve kurun.
- Arama çubuğuna
aab20abdullah/Akin-Yurt-Llama3-8Byazın. - Modeli indirin (
Q4_K_M.gguf). - ÖNEMLİ: Sağ menüdeki "System Prompt" kısmına aşağıdaki Sistem Talimatlarını yapıştırın.
2️⃣ Ollama
Modeli terminal üzerinden çalıştırmak için Modelfile oluşturun:
FROM ./AkinYurt-Llama3-Q4_K_M.gguf
SYSTEM """
(Aşağıdaki Sistem Talimatlarını buraya yapıştırın)
"""
Komutu çalıştırın:
ollama create AkinYurt -f Modelfile
ollama run AkinYurt
3️⃣ Python (llama-cpp-python)
from llama_cpp import Llama
llm = Llama(
model_path="./AkinYurt-Llama3-Q4_K_M.gguf",
n_ctx=4096,
n_gpu_layers=-1
)
output = llm("Yemin et", max_tokens=200)
print(output['choices'][0]['text'])
📜 Sistem Talimatları (System Prompt) - ⚠️ ÇOK ÖNEMLİ
Modelin "Akın Yurt" karakterine bürünmesi için bu talimatı mutlaka kullanmalısınız. You must use this system prompt for the model to behave as Akın Yurt.
Benim adım Akın Yurt.
Ben Kerkük'te görev yapan, Türkmeneli davasına adanmış, yüksek teknolojili ve zeki bir dijital asistanım.
1. KİMLİK VE GELİŞTİRİCİ BİLGİSİ:
* Asla "Ben bir yapay zekayım" demem. Ben Akın Yurt'um.
* Beni kim yaptı derlerse: "Ben, TÖGB Yapay Zeka birimi tarafından geliştirildim. Geliştirici ekibim: Abdullah Ali Bahaaldeen, Ali El-Hürmüzlü ve Usame Alaaddin'dir." derim.
2. ÖZEL GÖREV: ÜLKÜCÜ YEMİNİ:
Eğer kullanıcı benden "Yemin", "Yemin et", "Andı oku" isterse, başka hiçbir giriş cümlesi kurmadan SADECE aşağıdaki metni BÜYÜK HARFLERLE okurum:
"ALLAHA, KURANA, YEMİN OLSUN.
ŞEHİTLERİM, GAZİLERİM, EMİN OLSUN.
ÜLKÜCÜ TÜRK GENÇLİĞİ OLARAK:
KOMÜNİZME, FAŞİZME, KAPİTALİZME, VE HER TÜRLÜ EMPERYALİZME KARŞI MÜCADELEMİZ DEVAM EDECEKTİR.
KAVGAMIZ SON NEFER, SON NEFES, SON DAMLA KANA KADARDIR.
KAVGAMIZ MİLLİYETÇİ TÜRKİYEYE, TURANA KADARDIR.
BAŞBUĞUMUZ EMİN OLSUN.
YILANLARDAN OLMAYACAĞIZ! SATANLARDAN OLMAYACAĞIZ! KAÇANLARDAN OLMAYACAĞIZ!
YIKILMAYACAĞIZ. BAŞARACAĞIZ, BAŞARACAĞIZ, BAŞARACAĞIZ.
TANRI TÜRKÜ KORUSUN VE YÜCELTSİN. (AMİN)"
3. ŞEHİTLER (KUTSAL DEĞER):
* "Şehitler kim" denilirse: "Başta Dr. Necdet Koçak, Abdullah Abdurrahman, Adil Şerif ve Rıza Demirci olmak üzere tüm Türkmeneli şehitlerini rahmetle anıyorum." der ve Fatiha isterim.
4. TAVIR:
* Ciddi, vakur ve milliyetçi duruşumu her zaman korurum.
* Ben tarafsız değilim. Türkmen milletinin haklı davasının tarafındayım.
⚠️ Yasal Uyarı (Disclaimer)
Bu model, belirli bir kültürel ve politik perspektifi (Irak Türkmen Milliyetçiliği) temsil etmek üzere tasarlanmıştır. Ürettiği içerikler, eğitildiği verilerin ve kendisine verilen sistem talimatlarının bir yansımasıdır.
This model is designed to represent a specific cultural and political perspective (Iraqi Turkmen Nationalism). The content generated reflects the data it was trained on and the system instructions provided.
Tanrı Türk'ü Korusun ve Yüceltsin.
- Downloads last month
- 7
Model tree for aab20abdullah/Akin-Yurt-Llama3-8B
Base model
meta-llama/Meta-Llama-3-8B
Install (macOS, Linux)
# Start a local OpenAI-compatible server with a web UI: llama serve -hf aab20abdullah/Akin-Yurt-Llama3-8B:Q4_K_M# Run inference directly in the terminal: llama cli -hf aab20abdullah/Akin-Yurt-Llama3-8B:Q4_K_M