个人电脑即可,不需要GPU,但内存最好大于8G。我是在VM虚拟机中安装成功,且流程运行。

1. 首先使用如下命令下载 alpaca.cpp 项目

git clone https://github.com/antimatter15/alpaca.cpp

2.进入项目后,下载模型

cd alpaca.cpp

 下载模型到目录中,下载地址

3.然后编译

make chat

4.开始运行

./chat

如果运行时报错,有可能是内存或CPU性能不足。

英语场景很流畅,对中文的支持一般,不过这个不重要了。单机版AI安装成功

Logo

华为开发者空间,是为全球开发者打造的专属开发空间,汇聚了华为优质开发资源及工具,致力于让每一位开发者拥有一台云主机,基于华为根生态开发、创新。

更多推荐