lastmass commited on
Commit
5532cb9
·
verified ·
1 Parent(s): 8c137b5

Update Dockerfile

Browse files
Files changed (1) hide show
  1. Dockerfile +12 -6
Dockerfile CHANGED
@@ -1,6 +1,10 @@
1
- # Dockerfile - Alpine (musl) runtime, uses local wheel and runtime download in app.py
2
  FROM python:3.11-alpine
3
 
 
 
 
 
4
  # 安装运行时依赖(包含 libgomp 和 libstdc++)
5
  RUN apk add --no-cache \
6
  ca-certificates \
@@ -13,7 +17,7 @@ RUN apk add --no-cache \
13
  # 升级 pip / setuptools / wheel
14
  RUN pip install --no-cache-dir --upgrade pip setuptools wheel
15
 
16
- # 复制本地 wheel 并安装(确保文件名和你 repo 中一致)
17
  COPY llama_cpp_python-0.3.2-cp311-cp311-linux_x86_64.whl /tmp/
18
  RUN pip install --no-cache-dir /tmp/llama_cpp_python-0.3.2-cp311-cp311-linux_x86_64.whl
19
 
@@ -23,18 +27,20 @@ RUN pip install --no-cache-dir gradio huggingface-hub
23
  # 清理 wheel(可选)
24
  RUN rm -f /tmp/llama_cpp_python-0.3.2-cp311-cp311-linux_x86_64.whl
25
 
26
- # 环境变量(可按需覆盖)
27
  ENV MODEL_DIR="/models"
28
  ENV MODEL_FILE="Qwen3_Medical_GRPO.i1-Q4_K_M.gguf"
29
  ENV MODEL_REPO="mradermacher/Qwen3_Medical_GRPO-i1-GGUF"
30
 
31
- # 创建模型目录(app.py 会在运行时写入)
32
- RUN mkdir -p ${MODEL_DIR}
 
 
 
33
 
34
  # 复制你的 app 并设置工作目录
35
  COPY app.py /app/app.py
36
  WORKDIR /app
37
 
38
- # 端口与启动
39
  EXPOSE 7860
40
  CMD ["python", "app.py"]
 
1
+ # Dockerfile - Alpine (musl) runtime, with writable cache/model dirs
2
  FROM python:3.11-alpine
3
 
4
+ # 设置 huggingface 缓存到 /tmp(避免写 /.cache 权限问题)
5
+ ENV HF_HOME=/tmp/.cache
6
+ ENV XDG_CACHE_HOME=/tmp/.cache
7
+
8
  # 安装运行时依赖(包含 libgomp 和 libstdc++)
9
  RUN apk add --no-cache \
10
  ca-certificates \
 
17
  # 升级 pip / setuptools / wheel
18
  RUN pip install --no-cache-dir --upgrade pip setuptools wheel
19
 
20
+ # 复制并安装本地 wheel(确保文件名与 repo 中一致)
21
  COPY llama_cpp_python-0.3.2-cp311-cp311-linux_x86_64.whl /tmp/
22
  RUN pip install --no-cache-dir /tmp/llama_cpp_python-0.3.2-cp311-cp311-linux_x86_64.whl
23
 
 
27
  # 清理 wheel(可选)
28
  RUN rm -f /tmp/llama_cpp_python-0.3.2-cp311-cp311-linux_x86_64.whl
29
 
30
+ # 环境变量(按需覆盖)
31
  ENV MODEL_DIR="/models"
32
  ENV MODEL_FILE="Qwen3_Medical_GRPO.i1-Q4_K_M.gguf"
33
  ENV MODEL_REPO="mradermacher/Qwen3_Medical_GRPO-i1-GGUF"
34
 
35
+ # 创建并设置可写目录(关键)
36
+ # - /models : 存放下载的模型(app 运行时需要写入)
37
+ # - /tmp/.cache : huggingface_hub 的缓存位置(HF_HOME 指向这里)
38
+ RUN mkdir -p ${MODEL_DIR} /tmp/.cache \
39
+ && chmod -R 0777 ${MODEL_DIR} /tmp/.cache
40
 
41
  # 复制你的 app 并设置工作目录
42
  COPY app.py /app/app.py
43
  WORKDIR /app
44
 
 
45
  EXPOSE 7860
46
  CMD ["python", "app.py"]