可以帮助我们完成中科院的一些日常工作。
先说结论:GPT Academic可以安装,启动服务。但是因为在FreeBSD下pytorch没有装成,所以暂时无法使用本地llama2、chatglm等大模型,而只能先使用Openai 的API调用模式。
git clone https://github.com/binary-husky/gpt_academic
cd gpt_academic
pip install -r requirements.txt
如果swig安装不上,可以参考这篇文档里的解决方法:pip安装swig@FreeBSD-CSDN博客
PyMuPDF安装不上,可以先在requirements.txt文件中屏蔽这个库
ubuntu下安装就比较顺利了,直接pip install -r requirements.txt即可 。
进入gpt_academic目录直接执行python main.py文件即可启动服务,然后用浏览器打开
http://localhost:21989 即可。每次启动的端口号是不一样的,注意提示。
还需要配置openai的key,若有就填,没有就先留空。
没有openai key的,可以选择chatglm3等其它模型,会自动从huggingface下载。注意设置hf的镜像:export HF_ENDPOINT=https://hf-mirror.com
gpt academic是非常好的工作助手,功能较多且实用

目前暂时因为在FreeBSD下pytorch没有装成,所以无法使用本地llama2、chatglm等大模型,而只能先使用Openai 的API调用模式。