Lazy loaded image
在ollama中创建可以本地跑起来的llama-chinese模型
字数 128阅读时长 1 分钟
2024-8-7
2024-8-7
Last edited time
Aug 7, 2024 10:21 AM
type
status
date
summary
tags
password
URL
category

下载llama3-chinese

从这个项目中可以找到对应的模型

转化模型到gguf格式

基于llama.cpp这个项目可以做到

量化压缩

基于llama.cpp这个项目可以做到

创建Modelfile

内容如下

创建ollama model

上一篇
Swift的CoreLocation在国内存在定位偏差
下一篇
ComfyUI生图控制——ControlNet篇

评论
Loading...