xinference-安装 :连接
这是最稳妥的方式,适用于大多数 ARM64 环境(包括麒麟 V10 等国产系统)。
拉取代码
git clone https://github.com/xorbitsai/inference.git
cd inference
2构建镜像
在项目根目录下执行构建命令(注意最后的 .):
docker build --progress=plain -t xinference:arm64 -f xinference/deploy/docker/Dockerfile .
CPU 版本可以参考:
docker build --progress=plain -t xinference:amd64 -f xinference/deploy/docker/Dockerfile.cpu .
欢迎来撩 : 汇总all
