adj ctx sizes
This commit is contained in:
@@ -7,7 +7,7 @@ FROM ./Ministral-3-14B-Instruct-2512-Q5_K_M.gguf
|
||||
PARSER ministral
|
||||
|
||||
# Full context and recommended stability parameters
|
||||
PARAMETER num_ctx 32768
|
||||
PARAMETER num_ctx 43008
|
||||
PARAMETER temperature 0.15
|
||||
PARAMETER top_p 1.0
|
||||
PARAMETER stop "</s>"
|
||||
|
||||
@@ -8,7 +8,7 @@ FROM ./Ministral-3-14B-Reasoning-2512-Q5_K_M.gguf
|
||||
PARSER ministral
|
||||
|
||||
# Parameters tuned for logic/reasoning
|
||||
PARAMETER num_ctx 32768
|
||||
PARAMETER num_ctx 43008
|
||||
PARAMETER temperature 0.7
|
||||
PARAMETER top_p 0.95
|
||||
PARAMETER stop "</s>"
|
||||
|
||||
@@ -7,7 +7,7 @@ FROM ./Ministral-3-8B-Instruct-2512-Q5_K_M.gguf
|
||||
PARSER ministral
|
||||
|
||||
# Full context and recommended stability parameters
|
||||
PARAMETER num_ctx 32768
|
||||
PARAMETER num_ctx 75776
|
||||
PARAMETER temperature 0.15
|
||||
PARAMETER top_p 1.0
|
||||
PARAMETER stop "</s>"
|
||||
|
||||
@@ -8,7 +8,7 @@ FROM ./Ministral-3-8B-Reasoning-2512-Q5_K_M.gguf
|
||||
PARSER ministral
|
||||
|
||||
# Parameters tuned for logic/reasoning
|
||||
PARAMETER num_ctx 32768
|
||||
PARAMETER num_ctx 75776
|
||||
PARAMETER temperature 0.7
|
||||
PARAMETER top_p 0.95
|
||||
PARAMETER stop "</s>"
|
||||
|
||||
Reference in New Issue
Block a user