安装单机版大语言模型AI,基于LLaMA的斯坦福大学开源Alpaca

个人电脑即可,不需要GPU,但内存最好大于8G。我是在VM虚拟机中安装成功,且流程运行。

1. 首先使用如下命令下载 alpaca.cpp 项目

git clone https://github.com/antimatter15/alpaca.cpp

2.进入项目后,下载模型

cd alpaca.cpp

 下载模型到目录中,下载地址

3.然后编译

make chat

4.开始运行

./chat

如果运行时报错,有可能是内存或CPU性能不足。

英语场景很流畅,对中文的支持一般,不过这个不重要了。单机版AI安装成功

文章出处登录后可见!

已经登录?立即刷新

共计人评分,平均

到目前为止还没有投票!成为第一位评论此文章。

(0)
心中带点小风骚的头像心中带点小风骚普通用户
上一篇 2023年12月13日
下一篇 2023年12月13日

相关推荐

此站出售,如需请站内私信或者邮箱!