AdityaAdaki commited on
Commit
02db1f3
·
1 Parent(s): ad4a184

imrpoved model

Browse files
Modelfile CHANGED
@@ -1,4 +1,4 @@
1
- FROM ./unsloth.F16.gguf
2
 
3
  TEMPLATE """
4
  {{ if .Messages }}
@@ -55,5 +55,7 @@ PARAMETER stop "<|start_header_id|>"
55
  PARAMETER stop "<|end_header_id|>"
56
  PARAMETER stop "<|eot_id|>"
57
  PARAMETER stop "<|eom_id|>"
58
- PARAMETER temperature 1.5
59
- PARAMETER min_p 0.1
 
 
 
1
+ FROM ./agri_llama.Q4_K_M.gguf
2
 
3
  TEMPLATE """
4
  {{ if .Messages }}
 
55
  PARAMETER stop "<|end_header_id|>"
56
  PARAMETER stop "<|eot_id|>"
57
  PARAMETER stop "<|eom_id|>"
58
+ PARAMETER temperature 0.6
59
+ PARAMETER top_k 50
60
+ PARAMETER top_p 0.8
61
+ PARAMETER min_p 0.3
unsloth.Q4_K_M.gguf → agri_llama.Q4_K_M.gguf RENAMED
File without changes