Upload scripts/oneclick_start.sh with huggingface_hub

scripts/oneclick_start.sh

@@ -0,0 +1,87 @@
+#!/usr/bin/env bash
+# ============================================================================
+# oneclick_start.sh — Spark-X2.5-4B Colab T4 一键启动（实战验证版 v2）
+# 位置: /content/drive/MyDrive/spark-t4/oneclick_start.sh (Drive 持久化)
+#
+# 用法（Colab 任意 cell）:
+#   !bash /content/drive/MyDrive/spark-t4/oneclick_start.sh
+#
+# 默认配置（2026-09-06 第二次实测通过，含 zagent 实战）:
+#   Q8_0 权重 + CTX=500000(500k) + KV q4_0 + fa on + 别名 spark-x2.5-4b
+#   实测显存 11.8GB/15GB，生成 ~50 tok/s，流式/工具调用全通过
+#   zagent 实战: 84 工具调用 12 次、7 次 LLM 调用 240k prompt tokens 全部成功
+#
+# 换配置（示例）:
+#   极限长上下文: QUANT=Q4_K_M CTX=786432 !bash .../oneclick_start.sh (实测14.3GB)
+#   短上下文高质量KV: QUANT=Q8_0 CTX=131072 KVQ=q8_0 !bash .../oneclick_start.sh
+#   （T4 上 1M 上下文物理放不下: 1M KV@q4_0 也需 13GB+，加权重必爆）
+# ============================================================================
+set -euo pipefail
+
+BASE_DIR="/content/drive/MyDrive/spark-t4"
+MODEL_DIR="/content/spark-t4-models"     # 模型永不进 Drive（会话重置后自动重下）
+export BASE_DIR MODEL_DIR
+export QUANT="${QUANT:-Q8_0}"
+export CTX="${CTX:-500000}"
+export PORT="${PORT:-8100}"              # 8080 被 Colab 环境占用
+export NP="${NP:-1}"
+export KVQ="${KVQ:-q4_0}"
+export BATCH="${BATCH:-512}"
+export UBATCH="${UBATCH:-512}"
+export EXTRA_ARGS="${EXTRA_ARGS:--np 1 -b 512 -ub 512 -fa on --alias spark-x2.5-4b}"
+export BUILD_JOBS="${BUILD_JOBS:-2}"
+TUNNEL="${TUNNEL:-1}"                    # 1=自动开公网隧道
+
+GREEN='\033[0;32m'; YELLOW='\033[1;33m'; RED='\033[0;31m'; CYAN='\033[0;36m'; NC='\033[0m'
+info() { echo -e "${GREEN}[一键启动]${NC} $*"; }
+warn() { echo -e "${YELLOW}[等待]${NC} $*"; }
+fail() { echo -e "${RED}[失败]${NC} $*"; exit 1; }
+
+[[ -d /content/drive/MyDrive ]] || fail "Drive 未挂载，请先在 Colab 挂载 Google Drive"
+
+# 1. 编译产物检查（在 Drive，跨会话持久）
+BIN="$BASE_DIR/llama.cpp-spark/build/bin/llama-server"
+if [[ -x "$BIN" ]]; then
+    info "检测到已编译的 llama-server，跳过编译"
+else
+    warn "未检测到编译产物，开始完整编译（首次约 40~60 分钟）..."
+    bash "$BASE_DIR/deploy_spark_t4.sh" build
+fi
+
+# 2. 模型检查（在本地盘，会话重置后自动重下，约 1~3 分钟）
+if [[ -f "$MODEL_DIR/Spark-X2.5-4B-${QUANT}.gguf" ]]; then
+    info "检测到模型: ${QUANT}"
+else
+    warn "模型不在本地盘（新会话正常现象），开始下载 ${QUANT} ..."
+    mkdir -p "$MODEL_DIR"
+    bash "$BASE_DIR/deploy_spark_t4.sh" download
+fi
+
+# 3. 起 API 服务（等待加载完成）
+info "启动 API (ctx=$CTX port=$PORT quant=$QUANT kv=$KVQ)..."
+bash "$BASE_DIR/spark_api.sh" start
+
+# 4. 公网隧道
+if [[ "$TUNNEL" == "1" ]]; then
+    PORT="$PORT" bash "$BASE_DIR/tunnel_api.sh" start
+fi
+
+# 5. 快速自检
+KEY="$(cat "$BASE_DIR/.api_key" 2>/dev/null || echo "")"
+AUTH=(); [[ -n "$KEY" ]] && AUTH=(-H "Authorization: Bearer $KEY")
+if curl -s --max-time 60 "http://127.0.0.1:$PORT/v1/chat/completions" \
+    "${AUTH[@]}" -H "Content-Type: application/json" \
+    -d '{"model":"spark","messages":[{"role":"user","content":"回复:OK"}],"max_tokens":64,"chat_template_kwargs":{"enable_thinking":false}}' \
+    | grep -q '"content"'; then
+    echo -e "${CYAN}════════════════════════════════════════════════${NC}"
+    echo -e "${GREEN}  Spark-X2.5-4B 服务就绪 (E2E 自检通过)${NC}"
+    echo -e "  本机:  http://127.0.0.1:$PORT/v1/chat/completions"
+    [[ -n "$KEY" ]] && echo -e "  Key:   $KEY"
+    echo -e "  上下文: $CTX tokens | 权重: $QUANT | KV: ${KVQ:-f16}"
+    [[ "$TUNNEL" == "1" ]] && echo -e "  公网:  https://aitun.cc/$(grep -oE 'aitun\.cc/[A-Za-z0-9]+' /content/aitun-api-tunnel.log 2>/dev/null | tail -1 | cut -d/ -f2)/v1/chat/completions"
+    echo -e "  流式: 请求体加 \"stream\": true"
+    echo -e "  关思考: 请求体加 \"chat_template_kwargs\":{\"enable_thinking\":false}"
+    echo -e "${CYAN}════════════════════════════════════════════════${NC}"
+else
+    fail "自检未通过，查看: tail -30 $BASE_DIR/api-server.log"
+fi