安装单机版大语言模型AI，基于LLaMA的斯坦福大学开源Alpaca

心中带点小风骚 • 2023年12月13日下午6:33 • IT • 阅读 35

个人电脑即可，不需要GPU，但内存最好大于8G。我是在VM虚拟机中安装成功，且流程运行。

1. 首先使用如下命令下载 alpaca.cpp 项目

git clone https://github.com/antimatter15/alpaca.cpp

2.进入项目后，下载模型

cd alpaca.cpp

下载模型到目录中，下载地址

3.然后编译

make chat

4.开始运行

./chat

如果运行时报错，有可能是内存或CPU性能不足。

英语场景很流畅，对中文的支持一般，不过这个不重要了。单机版AI安装成功

文章出处登录后可见！

已经登录？立即刷新