在Ubuntu 22.04 LTS下编译llama.cpp(基于OpenBLAS)

步骤如下:

a. 安装make、C++、pkg-config:

sudo apt install make g++ pkg-config

b. 安装openblas-lapack:

wget https://github.com/xianyi/OpenBLAS/releases/download/v0.3.27/OpenBLAS-0.3.27.tar.gz
tar zxvf OpenBLAS-0.3.27.tar.gz
sudo make && sudo make install

c. 安装llama.cpp:

git clone https://github.com/ggerganov/llama.cpp
make LLAMA_OPENBLAS=1

d. 测试安装是否成功

./main --version

version: 2797 (858f6b73)
built with cc (Ubuntu 11.4.0-1ubuntu1~22.04) 11.4.0 for x86_64-linux-gnu

 

posted @ 2024-05-07 08:22  dax.net  阅读(223)  评论(0编辑  收藏  举报