在ollama中创建可以本地跑起来的llama-chinese模型
00 分钟
2024-8-7
2024-8-7
Last edited time
Aug 7, 2024 10:21 AM
type
status
date
slug
summary
tags
category
icon
password

下载llama3-chinese

从这个项目中可以找到对应的模型

转化模型到gguf格式

基于llama.cpp这个项目可以做到

量化压缩

基于llama.cpp这个项目可以做到

创建Modelfile

内容如下

创建ollama model

上一篇
Swift的CoreLocation在国内存在定位偏差
下一篇
ComfyUI生图控制——ControlNet篇

评论
Loading...