安装单机版大语言模型AI,基于LLaMA的斯坦福大学开源Alpaca
个人电脑即可,不需要GPU,但要主要内存最好大于8G。我直接在虚拟机中安装成功,且流程运行。英语场景很流畅,对中文的支持一般,不过这个不重要了。1. 首先使用如下命令下载 alpaca.cpp 项目。如果运行时报错,有可能是内存或CPU性能不足。2.进入项目后,下载模型。
·
个人电脑即可,不需要GPU,但内存最好大于8G。我是在VM虚拟机中安装成功,且流程运行。
1. 首先使用如下命令下载 alpaca.cpp 项目
git clone https://github.com/antimatter15/alpaca.cpp
2.进入项目后,下载模型
cd alpaca.cpp
下载模型到目录中,下载地址
3.然后编译
make chat
4.开始运行
./chat
如果运行时报错,有可能是内存或CPU性能不足。
英语场景很流畅,对中文的支持一般,不过这个不重要了。单机版AI安装成功
更多推荐
已为社区贡献2条内容
所有评论(0)