Windows下通过Ollama部署使用本地模型

Windows下通过Ollama部署使用本地模型 

下载Ollama

安装主程序

Ollama下载exe，直接下一步下一步没有设置可以更改
windows默认安装路径在C盘
安装后会自动将该路径加入环境变量
双击图标运行后状态栏会出现小图标，右键有退出、打开日志文件夹按钮

通过ollama文件夹cmd进入dos窗口

命令行使用ollama 打开终端，输入 ollama -h,查看到所有的命令

输入ollama -v查看当前版本，能输出版本则安装成功

修改模型下载路径

添加系统变量修改模型默认下载路径
变量名：OLLAMA_MODELS

运行模型单行对话

拉取并运行llama2模型
ollama run llama2
直接输入该命令会检查目录下是否有该模型，没有会自动下载，下载好后自动运行该模型
其他模型见library (ollama.com)

https://www.cnblogs.com/WilliamB/p/18069441