wps免费模板网站,公司logo需要注册商标吗,简单的企业网站建设教程,豆瓣网网站建设文章目录 Modelfile模板导入到 ollama Modelfile模板
在本地模型目录下创建 Modelfile
FROM ./qwen2.5-7b-instruct-q4_k_m.gguf# 设定温度参数为1 [更高的更具有创新性#xff0c;更低的更富有连贯性]
PARAMETER temperature 1
# 将上下文窗口大小设置为4096#xff0c;这… 文章目录 Modelfile模板导入到 ollama Modelfile模板
在本地模型目录下创建 Modelfile
FROM ./qwen2.5-7b-instruct-q4_k_m.gguf# 设定温度参数为1 [更高的更具有创新性更低的更富有连贯性]
PARAMETER temperature 1
# 将上下文窗口大小设置为4096这控制着LLM能够使用多少个token来生成下一个token。
PARAMETER num_ctx 4096TEMPLATE {{- if .Messages }}
{{- if or .System .Tools }}|im_start|system
{{- if .System }}
{{ .System }}
{{- end }}
{{- if .Tools }}# ToolsYou may call one or more functions to assist with the user query.You are provided with function signatures within tools/tools XML tags:
tools
{{- range .Tools }}
{type: function, function: {{ .Function }}}
{{- end }}
/toolsFor each function call, return a json object with function name and arguments within tool_call/tool_call XML tags:
tool_call
{name: function-name, arguments: args-json-object}
/tool_call
{{- end }}|im_end|
{{ end }}
{{- range $i, $_ : .Messages }}
{{- $last : eq (len (slice $.Messages $i)) 1 -}}
{{- if eq .Role user }}|im_start|user
{{ .Content }}|im_end|
{{ else if eq .Role assistant }}|im_start|assistant
{{ if .Content }}{{ .Content }}
{{- else if .ToolCalls }}tool_call
{{ range .ToolCalls }}{name: {{ .Function.Name }}, arguments: {{ .Function.Arguments }}}
{{ end }}/tool_call
{{- end }}{{ if not $last }}|im_end|
{{ end }}
{{- else if eq .Role tool }}|im_start|user
tool_response
{{ .Content }}
/tool_response|im_end|
{{ end }}
{{- if and (ne .Role assistant) $last }}|im_start|assistant
{{ end }}
{{- end }}
{{- else }}
{{- if .System }}|im_start|system
{{ .System }}|im_end|
{{ end }}{{ if .Prompt }}|im_start|user
{{ .Prompt }}|im_end|
{{ end }}|im_start|assistant
{{ end }}{{ .Response }}{{ if .Response }}|im_end|{{ end }}
PARAMETER stop |im_start|
PARAMETER stop |im_end|导入到 ollama
ollama create qwen2.5:7b -f Modelfile
