ENV_SETUP.md 3 KB

Xinference 环境配置指南

独立的 Conda 环境用于运行 Xinference 客户端和演示脚本。

📋 快速开始

方法1:一键安装和配置(推荐)

cd /data/tw/SearchEngine/third-party/xinference

# 1. 创建环境
bash setup_env.sh

# 2. 设置快捷别名
bash setup_alias.sh

# 3. 使配置生效
source ~/.bashrc  # 或 source ~/.zshrc

# 4. 激活环境
xinference-env

方法2:手动配置

# 1. 创建环境
conda create -n xinference python=3.10 -y

# 2. 激活环境
conda activate xinference

# 3. 安装依赖
pip install xinference-client numpy requests

# 4. 运行演示
python ecommerce_demo.py

🚀 快捷命令

配置别名后,可以使用以下快捷命令:

命令 说明
xinference-env 激活环境并切换到 Xinference 目录
xinference-activate 仅激活 Xinference 环境
xinference-cd 切换到 Xinference 目录

📦 已安装的包

  • xinference-client - Xinference 客户端库
  • numpy - 数值计算库
  • requests - HTTP 请求库

💡 使用示例

激活环境后运行演示

# 方式1: 使用快捷命令
xinference-env
python ecommerce_demo.py

# 方式2: 手动激活
conda activate xinference
python ecommerce_demo.py

# 方式3: 使用激活脚本
source activate.sh
python ecommerce_demo.py

部署模型

# 确保环境已激活
xinference-env

# 运行部署脚本
python deploy_models.py

运行简单测试

xinference-env
python ecommerce_demo.py --simple

🛠️ 脚本说明

脚本 说明
setup_env.sh 创建 Xinference Conda 环境
setup_alias.sh 设置 Shell 快捷别名
activate.sh 快速激活环境的脚本
start.sh 启动 Xinference Docker 服务

🔧 环境管理

更新环境

conda activate xinference
pip install --upgrade xinference-client numpy

删除环境

conda env remove -n xinference -y

查看已安装的包

conda activate xinference
pip list

📝 注意事项

  1. Docker 服务:Xinference 服务本身运行在 Docker 中,不需要 Python 环境
  2. 客户端:Python 环境仅用于运行客户端脚本(如 ecommerce_demo.py
  3. 独立环境:使用独立环境避免与其他项目的依赖冲突

🐛 故障排除

问题:找不到 xinference-client

# 重新安装
conda activate xinference
pip install xinference-client --force-reinstall

问题:环境激活失败

# 初始化 conda
conda init bash
source ~/.bashrc

# 然后再激活
conda activate xinference

问题:快捷命令不生效

# 手动添加别名到 ~/.bashrc
echo 'alias xinference-env="source /data/tw/SearchEngine/third-party/xinference/activate.sh"' >> ~/.bashrc
source ~/.bashrc

📚 相关文档