ENV_SETUP.md
3 KB
Xinference 环境配置指南
独立的 Conda 环境用于运行 Xinference 客户端和演示脚本。
📋 快速开始
方法1:一键安装和配置(推荐)
cd /data/tw/SearchEngine/third-party/xinference
# 1. 创建环境
bash setup_env.sh
# 2. 设置快捷别名
bash setup_alias.sh
# 3. 使配置生效
source ~/.bashrc # 或 source ~/.zshrc
# 4. 激活环境
xinference-env
方法2:手动配置
# 1. 创建环境
conda create -n xinference python=3.10 -y
# 2. 激活环境
conda activate xinference
# 3. 安装依赖
pip install xinference-client numpy requests
# 4. 运行演示
python ecommerce_demo.py
🚀 快捷命令
配置别名后,可以使用以下快捷命令:
| 命令 | 说明 |
|---|---|
xinference-env |
激活环境并切换到 Xinference 目录 |
xinference-activate |
仅激活 Xinference 环境 |
xinference-cd |
切换到 Xinference 目录 |
📦 已安装的包
xinference-client- Xinference 客户端库numpy- 数值计算库requests- HTTP 请求库
💡 使用示例
激活环境后运行演示
# 方式1: 使用快捷命令
xinference-env
python ecommerce_demo.py
# 方式2: 手动激活
conda activate xinference
python ecommerce_demo.py
# 方式3: 使用激活脚本
source activate.sh
python ecommerce_demo.py
部署模型
# 确保环境已激活
xinference-env
# 运行部署脚本
python deploy_models.py
运行简单测试
xinference-env
python ecommerce_demo.py --simple
🛠️ 脚本说明
| 脚本 | 说明 |
|---|---|
setup_env.sh |
创建 Xinference Conda 环境 |
setup_alias.sh |
设置 Shell 快捷别名 |
activate.sh |
快速激活环境的脚本 |
start.sh |
启动 Xinference Docker 服务 |
🔧 环境管理
更新环境
conda activate xinference
pip install --upgrade xinference-client numpy
删除环境
conda env remove -n xinference -y
查看已安装的包
conda activate xinference
pip list
📝 注意事项
- Docker 服务:Xinference 服务本身运行在 Docker 中,不需要 Python 环境
- 客户端:Python 环境仅用于运行客户端脚本(如
ecommerce_demo.py) - 独立环境:使用独立环境避免与其他项目的依赖冲突
🐛 故障排除
问题:找不到 xinference-client
# 重新安装
conda activate xinference
pip install xinference-client --force-reinstall
问题:环境激活失败
# 初始化 conda
conda init bash
source ~/.bashrc
# 然后再激活
conda activate xinference
问题:快捷命令不生效
# 手动添加别名到 ~/.bashrc
echo 'alias xinference-env="source /data/tw/SearchEngine/third-party/xinference/activate.sh"' >> ~/.bashrc
source ~/.bashrc