Tu Nombre commited on
Commit
c21c3bc
1 Parent(s): 2681e2a

Fix Modelfile syntax

Browse files
Files changed (1) hide show
  1. Dockerfile +5 -6
Dockerfile CHANGED
@@ -10,10 +10,8 @@ COPY --chown=user ./requirements.txt requirements.txt
10
  RUN pip install --no-cache-dir --upgrade -r requirements.txt
11
  COPY --chown=user . /app
12
 
13
- # Optimizar Modelfile para menor uso de memoria
14
- RUN printf "FROM llama3
15
-
16
- SYSTEM \"Asistente especializado en Desarrollo Humano basado en Papalia 12va Edici贸n.\"
17
 
18
  PARAMETER temperature 0.7
19
  PARAMETER top_k 40
@@ -21,9 +19,10 @@ PARAMETER top_p 0.7
21
  PARAMETER repeat_penalty 1.1
22
  PARAMETER num_ctx 1024
23
  PARAMETER num_thread 4
24
- PARAMETER num_gpu 0" > /app/Modelfile
 
 
25
 
26
- # Script de inicio optimizado
27
  RUN printf '#!/bin/bash
28
  ulimit -v unlimited
29
  ollama serve --verbose &
 
10
  RUN pip install --no-cache-dir --upgrade -r requirements.txt
11
  COPY --chown=user . /app
12
 
13
+ # Create Modelfile
14
+ RUN echo 'FROM llama3
 
 
15
 
16
  PARAMETER temperature 0.7
17
  PARAMETER top_k 40
 
19
  PARAMETER repeat_penalty 1.1
20
  PARAMETER num_ctx 1024
21
  PARAMETER num_thread 4
22
+ PARAMETER num_gpu 0
23
+
24
+ TEMPLATE "Tu rol es ser un asistente de Desarrollo Humano especializado en la 12va edici贸n del libro de Papalia.\n\n{{ .Prompt }}"' > /app/Modelfile
25
 
 
26
  RUN printf '#!/bin/bash
27
  ulimit -v unlimited
28
  ollama serve --verbose &